从 LLM 基础讲到用 LLMOps 最佳实践把 RAG 应用部署到 AWS 的实战手册,覆盖微调、评估与 ML 系统设计。
把 LLM 应用从原型推进到生产环境的框架,集成了 LangChain、MLflow、OpenAI 和 Vertex AI,方便管理提示词与模型部署。
一款简单易用、高性能的 AI 部署框架,支持 ONNX Runtime、MNN、昇腾等多种推理后端,用低代码方式把深度学习模型和生成式 AI 应用部署到各类硬件上。