自托管的大模型对话界面，兼容 Ollama、OpenAI API 等后端，内置 RAG 与 MCP 支持，让团队快速搭建私有 AI 聊天入口。
开源本地 AI 推理引擎，无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型，提供兼容 OpenAI 的 API。
自托管的 LLM 网关，统一兼容 OpenAI、Claude、Gemini 等接口，提供模型路由、访问控制、用量统计与成本核算，方便团队集中管理和分发大模型调用。
把 GitHub Copilot 包装成兼容 OpenAI/Anthropic 的 API 服务，让 Claude Code 等客户端直接调用 Copilot 的模型能力。
基于 faster-whisper 的语音转写服务，提供兼容 OpenAI API 的接口，用 Docker 一键部署即可获得本地语音识别与翻译能力。
给 Paperless-ngx 文档库接上大模型，自动分析文档内容并打标签，支持 OpenAI、Ollama、DeepSeek-r1、Azure 等兼容接口。
面向 Apple Silicon 的本地 LLM 推理服务器，兼容 OpenAI 与 Anthropic 接口，主打编码智能体的可靠工具调用，同权重下比 mlx-lm 快至多 4 倍。
自托管的 LLM 路由网关，兼容 OpenAI 接口，支持自带密钥和多模型流式转发，帮你在本地统一接入各家大模型 API。
把 LMArena、Gemini 等网页版 AI 包装成 OpenAI 兼容 API，靠 Camoufox 浏览器自动化实现多窗口并发和账号隔离，省去官方接口费用。
在 Kubernetes 上部署和扩缩容 ML 模型推理服务的 Operator，支持 LLM、VLM、向量嵌入和语音转文字，并提供 OpenAI 兼容 API。
在 AMD Strix Halo 上本地跑 Qwen3.8-Flash-Next 和 NPU 小模型，用同一端口同时提供 OpenAI 与 Anthropic 兼容 API，让本地推理像调前沿云服务一样顺手。
把 Mac 上运行的 Apple Foundation Models、MLX 模型等本地 AI 能力聚合成一个兼容 OpenAI 的 API 端点，支持服务模式和单次命令推理，还能通过管道调用。
一个统一 API 网关，用一把密钥即可调用 Claude、GPT、Gemini、Grok、DeepSeek 等主流大模型，并提供无审查、去对齐变体，兼容 OpenAI 与 Anthropic 接口，按 token 计费。
把本地 OpenAI 兼容服务（llama.cpp、vLLM、Ollama 等）接入 Home Assistant，让智能家居助手用上自托管大模型做对话。
把豆包逆向成 OpenAI 兼容接口，免费提供多模态对话、图像/视频/音乐生成和文件托管，方便接入 AI Agent。
全自动纯协议批量注册 ChatGPT 与 Grok 账号，支持 OAuth、邮箱接码、账号池和代理轮换，并对外提供 OpenAI/Anthropic 兼容 API 网关。
用 Rust 写的开源 AI 网关，把 OpenAI、Anthropic、Gemini、Bedrock 等模型统一到一个 OpenAI 兼容接口，顺带做路由、护栏、缓存、限流和可观测性。
把家里已有的多台电脑组网成 AI 内网，统一跑大模型推理和微调训练，兼容 OpenAI 接口，适合本地部署和 homelab 场景。
一个统一 API 网关，用一把密钥调用 Claude、GPT、Gemini、Grok、DeepSeek 等多家模型，并提供无审查、去对齐变体，兼容 OpenAI 与 Anthropic 接口，按 token 计费。
开源语音识别工具包，覆盖训练、推理、流式 ASR、VAD、标点恢复和说话人分离全流程，并提供 OpenAI 兼容与 MCP 服务接口。
纯 Rust 实现的 WebGPU 推理引擎，原生支持 GGUF 模型，兼容 OpenAI API，无需 Python 和 llama.cpp，单个二进制文件即可在任意 GPU 上跑本地大模型。
本地跑实时语音转文字，带流式识别、说话人分离和翻译，还兼容 OpenAI/Deepgram 接口，适合自建低延迟转写服务。
高性能 AI 网关，用一套 OpenAI 兼容 API 统一接入上万模型，内置故障转移、负载均衡、语义缓存、虚拟密钥与预算管控，额外延迟低于 200µs。
在自己的 GPU 上跑 GLM-5.3-Flash、DeepSeek-V4.1-Flash、MiniMax-M3.1-Flash 等大模型，统一引擎加可视化面板，兼容 OpenAI 与 Anthropic 接口。
自托管 Chatterbox 语音合成模型的服务端，带 Web 界面和 OpenAI 兼容 API，支持预置音色、声音克隆和长篇有声书文本处理，可在 NVIDIA、AMD 和 CPU 上加速运行。
在 Apple Silicon 上跑大模型的高性能推理服务，兼容 OpenAI 和 Anthropic 接口，支持 MLX 原生加速、连续批处理、多模态和 MCP 工具调用。
基于 CTranslate2 加速的 Whisper 命令行客户端，接口与 OpenAI 官方客户端兼容，能更快地做语音转文字。
在 ComfyUI 里搭建 LLM Agent 的框架，接入 MCP、GraphRAG、语音合成与 OCR 节点，兼容 OpenAI 接口的各类模型和本地 GGUF 模型。
用 Go 写的 AI 网关，把 OpenAI、Anthropic、Gemini、Ollama 等多家模型统一成兼容接口，自带可观测性、限流防护、成本追踪、智能路由和故障转移，可作为 LiteLLM 的替代方案。
一款浏览器 AI 助手扩展，把 Gemini 网页版、Gemini API 和 OpenAI 兼容接口统一到侧边栏，能读取网页上下文、处理图片、调用工具并通过 MCP 控制浏览器。
把安卓手机变成兼容 OpenAI 接口的本地大模型推理服务器，数据不出设备，可接入 Home Assistant 等应用。
自托管的 AI 网关，把 OpenAI、Claude、Gemini、Codex 等编码 CLI 统一到一个兼容端点，并提供多租户控制台、请求日志和费用配额管理。
自托管的 OpenAI 兼容 LLM 网关，统一接入多家模型供应商，支持故障转移、密钥轮换和内置管理后台，帮团队稳定调度模型请求。
一条命令把 NVIDIA DGX Spark 或任意 GB10 机器（华硕、戴尔、惠普等）变成私有 AI 服务器，内置实测模型通道、OpenAI/Anthropic 兼容 API 和本地控制台。
一行代码把任意模型部署成兼容 OpenAI/Anthropic/Ollama 的 API，自带聊天界面和原生 MCP 支持，省去自建推理服务的胶水代码。
多供应商 AI 图像生成器，支持 Gitee AI、HuggingFace、ModelScope 等后端，提供 OpenAI 兼容 API 与 token 轮换，可一键部署到 Cloudflare Pages。