自托管的大模型对话界面，兼容 Ollama、OpenAI API 等后端，内置 RAG 与 MCP 支持，让团队快速搭建私有 AI 聊天入口。
开源本地 AI 推理引擎，无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型，提供兼容 OpenAI 的 API。
可自托管的多用户 AI 聊天平台，聚合 OpenAI、Anthropic、Gemini、DeepSeek 等多家模型，支持模型切换、Agent、MCP、代码解释器和消息搜索。
把任意 LLM（Claude、Gemini、Grok、DeepSeek、Ollama 等）统一代理给 Codex CLI、App、SDK 和 Claude Code 使用，省去为每个模型单独适配的麻烦。
本地跑和训练大模型、扩散模型的图形界面，支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型，省去命令行配置的麻烦。
可视化协作工作台，用来搭建、部署和监控 AI 智能体与工作流，低代码拖拽即可完成，适合团队协作开发自动化流程。
开源 AI 编码代理，专为大型项目和真实开发任务设计，能在命令行里理解代码库并自动完成多文件改动。
一个高性能 AI 网关，用统一 API 把请求路由到 1600+ 大模型，并内置 50+ 安全护栏，省去多模型接入和内容风控的重复开发。
开源可扩展的 AI 智能体，不止于代码补全，能接入任意 LLM 完成安装、执行、编辑和测试等任务。
用 GRPO 强化学习给多步 Agent 做在线训练，让 Qwen、Llama 等模型在真实任务里边干边学，提升实际表现。
用 Rust 写的开源 Agent 操作系统，为 AI Agent 提供统一的运行与编排环境，支持 MCP 协议和 LLM 接入。
可自托管的个人 AI 第二大脑，能从网页和本地文档中检索答案，支持自定义智能体、定时自动化和深度研究，兼容多种在线或本地大模型。
基于大模型和 Agent 的数据库智能助手，用自然语言直接查询和分析数据库，支持 RAG 与私有化部署，方便搭建 AI+Data 应用。
给大模型智能体加上持久记忆和状态管理，让 Agent 能跨会话记住信息、持续学习并自我改进。
通用大模型部署引擎，借助机器学习编译技术把 LLM 高效跑在各种硬件上，从手机到服务器都能用。
面向 React 的生成式 UI SDK，让 AI Agent 根据对话内容动态渲染界面组件，适合构建智能助手和聊天式交互应用。
Python SDK，用于监控 AI 智能体运行、追踪 LLM 调用成本并做基准评测，兼容 CrewAI、LangChain、AutoGen 等主流智能体框架。
给 Paperless-ngx 文档库接上大模型，自动分析文档内容并打标签，支持 OpenAI、Ollama、DeepSeek-r1、Azure 等兼容接口。
基于 faster-whisper 的语音转写服务，提供兼容 OpenAI API 的接口，用 Docker 一键部署即可获得本地语音识别与翻译能力。
面向 Apple Silicon 的本地 LLM 推理服务器，兼容 OpenAI 与 Anthropic 接口，主打编码智能体的可靠工具调用，同权重下比 mlx-lm 快至多 4 倍。
自托管的 LLM 路由网关，兼容 OpenAI 接口，支持自带密钥和多模型流式转发，帮你在本地统一接入各家大模型 API。
把 LMArena、Gemini 等网页版 AI 包装成 OpenAI 兼容 API，靠 Camoufox 浏览器自动化实现多窗口并发和账号隔离，省去官方接口费用。
在 Kubernetes 上部署和扩缩容 ML 模型推理服务的 Operator，支持 LLM、VLM、向量嵌入和语音转文字，并提供 OpenAI 兼容 API。
在 AMD Strix Halo 上本地跑 Qwen3.8-Flash-Next 和 NPU 小模型，用同一端口同时提供 OpenAI 与 Anthropic 兼容 API，让本地推理像调前沿云服务一样顺手。
自托管的 LLM 网关，统一兼容 OpenAI、Claude、Gemini 等接口，提供模型路由、访问控制、用量统计与成本核算，方便团队集中管理和分发大模型调用。
把本地 OpenAI 兼容服务（llama.cpp、vLLM、Ollama 等）接入 Home Assistant，让智能家居助手用上自托管大模型做对话。
一个统一 API 网关，用一把密钥即可调用 Claude、GPT、Gemini、Grok、DeepSeek 等主流大模型，并提供无审查、去对齐变体，兼容 OpenAI 与 Anthropic 接口，按 token 计费。
统一接入 375 家模型供应商、1400+ 模型的 MIT 协议 AI 网关，配额感知自动降级，并用压缩省下 15-95% token，兼容 Claude Code、Cursor 等编码工具。
把家里已有的多台电脑组网成 AI 内网，统一跑大模型推理和微调训练，兼容 OpenAI 接口，适合本地部署和 homelab 场景。
用 Rust 写的开源 AI 网关，把 OpenAI、Anthropic、Gemini、Bedrock 等模型统一到一个 OpenAI 兼容接口，顺带做路由、护栏、缓存、限流和可观测性。
开源 LLM 应用可观测与评估平台，能追踪调用链路、跑评测实验，帮团队定位问题并持续优化提示词和模型效果。
给 dsh 装个插件就能免登录、免 API Key 直接用 DeepSeek V4.1 Flash、Kimi K3 等前沿大模型，完全免费且不限量。
轻量级开源个人 AI 助手，支持本地 LLM、MCP 协议和多智能体协作，可接入 Discord 等聊天平台做日常自动化。
一个统一 API 网关，用一把密钥调用 Claude、GPT、Gemini、Grok、DeepSeek 等多家模型，并提供无审查、去对齐变体，兼容 OpenAI 与 Anthropic 接口，按 token 计费。
开源语音识别工具包，覆盖训练、推理、流式 ASR、VAD、标点恢复和说话人分离全流程，并提供 OpenAI 兼容与 MCP 服务接口。
把 Claude Code、Cursor、Copilot 等编程助手接到 40+ 家免费模型供应商的 AI 网关，支持自动故障切换和 RTK 省 token，避免额度耗尽。
翻译 PDF 科学论文时完整保留公式、图表和排版，输出双语对照版本，支持 Google、DeepL、Ollama、OpenAI 等多种翻译后端，并提供 CLI、GUI、Docker 和 Zotero 插件。
用 Python 和 TypeScript 搭建生产级 AI 智能体运行框架，端到端掌控智能体行为，兼容任意模型和云平台。