对本地大模型服务做并发压力测试,自动跑多轮请求并生成性能报告,方便对比 Ollama、vLLM 等推理后端的吞吐和延迟表现。
可视化编程环境,用来对 LLM 提示词做压力测试和效果对比,方便快速验证不同提示方案的表现。