一行代码就能把 GPT 换成任意开源大模型,统一推理 API 支持云端、本地和笔记本部署,覆盖语言、语音和多模态模型。
用角色扮演的方式编排多个自主 AI 智能体协作完成复杂任务,让每个智能体各司其职、像团队一样配合干活。
基于 Kubernetes 的云原生机器学习平台,把训练、流水线编排、模型服务和 Notebook 开发统一到容器化集群里,解决 MLOps 各环节割裂、难以规模化调度的问题。
分布式 AI 计算引擎,提供核心分布式运行时和一组 AI 库,用来加速机器学习负载、大模型推理与超参搜索。
云原生一站式机器学习与大模型平台,覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调,支持国产算力生态。
用 TypeScript 快速搭建 AI 应用和智能体的现代框架,内置工作流、对话机器人和评测能力,省去自己拼装 LLM 调用链的麻烦。
面向 Linux 服务器的开源运维管理面板,用 Web 界面管理 Docker、LNMP 站点和 Ollama 等 AI 服务,省去手敲命令的麻烦。
在 Kubernetes 上编排 ML 流水线、智能体和实时推理的类型安全分布式引擎,用纯 Python 的 async/await 写工作流,也支持 Rust、Go 和 TS。
面向数据中心的分布式推理服务框架,用 Rust 编写,支持 vLLM、SGLang、TensorRT-LLM 等后端,解决大规模 LLM 与扩散模型在生产环境下的解耦部署和请求路由问题。
自托管的大模型对话界面,兼容 Ollama、OpenAI API 等后端,内置 RAG 与 MCP 支持,让团队快速搭建私有 AI 聊天入口。
用 Python 写的开源深度研究工具,能对私有数据做推理式检索,替代闭源深度研究方案,支持接入 Milvus 和多种大模型。
面向智能体应用的 AI 原生代理服务器和数据平面,提供 LLM 智能路由、可观测性、编排与护栏,让开发者专注核心逻辑。
用 Python API 定义大模型,并借助 TensorRT 在 NVIDIA GPU 上做极致优化推理,还提供 Python/C++ 运行时来编排高性能服务。
面向 Java 开发者的智能体 AI 框架,基于 Spring AI 构建,支持 ReAct 智能体、多智能体协作和基于图的工作流编排。
把 Claude Code、Codex、Gemini CLI 等 20 多种命令行 AI 代理统一到一个可长期在线的协作界面里,支持自定义助手并组队干活。
一本面向大模型工程实践的开源手册,系统讲解 GPU 训练、推理、调试、网络与扩展性等落地问题,帮工程师把模型真正跑起来。
把训练好的模型快速封装成推理 API 和任务队列,支持 LLM 应用与多模型流水线,省去自己搭服务框架的麻烦。
一个自主红队测试平台,用多智能体编排自动执行攻击性安全测试,帮安全团队持续检验防御能力。
在终端里跑 AI 结对编程,让大模型直接读写本地代码库、自动改文件并提交 git,省去在编辑器和聊天窗口间来回粘贴。
把机器学习模型打包成标准 Docker 容器,自动生成 HTTP 推理服务接口,省去自己写 Dockerfile 和部署脚本的麻烦。
把数据库和 AI 模型直接打通的全栈框架,让你在 MongoDB 等数据源上直接做推理、训练和部署自定义 AI 应用与智能体。
把原始文档变成可查询的 RAG、自主推理 Agent 和自维护 Wiki 的开源 LLM 知识平台,适合搭建企业知识库与智能问答。
自托管的多模型 AI 图像与视频生成工作台,聚合 Flux、Midjourney、Kling、Sora 等 600+ 模型,无内容过滤,可替代闭源视频平台。
面向大模型后训练的强化学习框架,用混合编程模型把 RLHF 训练流程编排得灵活又高效,方便扩展和跑大规模实验。
开源企业级 Agent 平台,把智能体、工作流、RAG 知识库和模型管理整合在一起,方便企业搭建、部署和运维 AI 应用。
面向 Windows 的 GUI 智能体框架,用自然语言驱动 LLM 自动操作桌面应用完成跨应用任务,把繁琐的点击流程交给 AI 执行。
Brigade 是一个 TypeScript 编写的自主智能体运行时,用来编排多智能体协作(AI crew),把个人 AI 助手做成企业级可靠的服务。
用小型专用模型搭建企业级 RAG 流水线的统一框架,覆盖文档解析、检索和智能体编排,适合在本地或私有环境部署。
用 8 个专家 Agent 组成一个统一的虚拟高管团队,对外呈现一致的高管人格,基于 FastAPI 和 Next.js 搭建,适合做多智能体协作与 RAG 决策辅助。
云原生反向代理和负载均衡器,自动发现 Docker、Kubernetes 等服务并配置路由,内置 Let's Encrypt 证书管理,适合做微服务入口网关。
开源的个人 AI 助手,可本地离线运行,通过语音或文字对话帮你处理日程、查询信息、执行自动化任务。
面向 MLOps 与 LLM 工作流的可扩展平台,把数据管道、模型训练到 Agent 部署串成可复现流程,并统一追踪元数据与实验。
基于大模型的自动化代码安全审计平台,多智能体协作挖掘漏洞,并在沙箱中自动验证 PoC,支持 Ollama 私有部署和一键生成报告。
把普通 PC、Mac 或 Linux 机器变成私有 AI 服务器,集成 llama.cpp、ComfyUI、Open WebUI、n8n 等组件,方便本地跑大模型、RAG 和 Agent 工作流。
用 Swift 写的原生 macOS AI 智能体运行环境,可接入任意模型,支持持久记忆、自主执行和加密身份,全程离线运行。
用 Rust 写的高性能编码 Agent 运行框架,专为多 Agent 并行开发的重度工作流设计,在终端里跑 TUI 界面。
开源的 RAG 文档问答工具,上传文档后即可用大模型对话检索,快速搭建私有知识库问答。