把 DeepSeek、Llama 等开源大模型一键部署成兼容 OpenAI 的 API 服务，省去自己搭推理后端的麻烦。

TensorZero is an open-source LLMOps platform that unifies an LLM gateway, observability, evaluation, optimization, …

Ship AI Agents to Google Cloud in minutes, not months. Production-ready templates with built-in CI/CD, evaluation, and o…

一站式 MLOps/LLMOps 平台，把实验跟踪、数据管理、流水线编排和模型服务整合在一起，帮团队把 AI 训练与部署流程自动化。

面向 AI 平台团队的开源 Agent 可观测与评测平台，能追踪、测试、路由并治理公司内每个 Agent 和编码助手。

一份精选的 LLMOps 工具清单，帮开发者快速找到大模型应用开发、部署、监控和评估各环节的趁手工具。