自托管的 LLM 网关，统一兼容 OpenAI、Claude、Gemini 等接口，提供模型路由、访问控制、用量统计与成本核算，方便团队集中管理和分发大模型调用。

把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下，方便做密钥管理和二次分发，单文件部署开箱即用。

DeepSeek-Compatible Middleware Interface: A technical exploration project in Go, focusin…

用任意大模型（OpenAI、Claude、Gemini、DeepSeek、Ollama 等）搭建深度研究流程，提供 SSE API 和 MCP server，方便接入 Agent 或自建研究助手。

云原生高性能 AI 与 API 网关，把各家大模型 API 统一成一套请求和返回格式，顺带做申请审批、调用统计、负载均衡和多模型灾备，一键部署开箱即用。

本地一键跑起 Kimi、DeepSeek、Qwen、Gemma 等大模型，省去环境配置和依赖折腾，适合快速做推理和原型验证。

自托管的 DeepSeek-OCR-2 网页界面与 API，支持在 NVIDIA、Apple Silicon 和 CPU 上通过 vLLM 或 transformers 运行，提供逐页质量检查、PDF 流式处理和 MCP 接入。

面向大语言模型的高吞吐、低显存推理与服务引擎，通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用，适合部署在线推理服务。

一个统一 API 网关，用一把密钥即可调用 Claude、GPT、Gemini、Grok、DeepSeek 等主流大模型，并提供无审查、去对齐变体，兼容 OpenAI 与 Anthropic 接口，按 token 计费。

一个统一 API 网关，用一把密钥调用 Claude、GPT、Gemini、Grok、DeepSeek 等多家模型，并提供无审查、去对齐变体，兼容 OpenAI 与 Anthropic 接口，按 token 计费。

一个聚合多家大模型与云厂商的 AI 能力网关，除聊天补全外还统一提供文本向量化、语音识别合成、文生图等接口，并内置计费、限流和资源管理。

聚合多家厂商语言模型的 Python 接口库，通过逆向方式免费调用 GPT、DeepSeek、Gemini 等模型，省去官方 API 费用。

给 dsh 装个插件就能免登录、免 API Key 直接用 DeepSeek V4.1 Flash、Kimi K3 等前沿大模型，完全免费且不限量。

可自托管的多用户 AI 聊天平台，聚合 OpenAI、Anthropic、Gemini、DeepSeek 等多家模型，支持模型切换、Agent、MCP、代码解释器和消息搜索。

一套统一接口搞定 100+ 大语言模型和多模态模型的微调，支持 LoRA 等高效训练方式，省去为每个模型单独写训练脚本的麻烦。

把任意 LLM（Claude、Gemini、Grok、DeepSeek、Ollama 等）统一代理给 Codex CLI、App、SDK 和 Claude Code 使用，省去为每个模型单独适配的麻烦。

把 DeepSeek、Llama 等开源大模型一键部署成兼容 OpenAI 的 API 服务，省去自己搭推理后端的麻烦。

自托管的 AI Agent 工作台，把任务看板、Agent 编排和多端访问集中到一处，桌面、手机、浏览器或 API 都能用。

企业级 AI 平台，内置护栏、MCP 注册中心、网关和编排器，帮团队安全统一地接入和管理各类大模型与 Agent。

在自己的 GPU 上跑 GLM-5.3-Flash、DeepSeek-V4.1-Flash、MiniMax-M3.1-Flash 等大模型，统一引擎加可视化面板，兼容 OpenAI 与 Anthropic 接口。

一句话就能拉起一支 AI 专家团队，用零代码 YAML 编排多智能体协作，几分钟产出完整方案并自动核验验收结果。

纯 Rust + CUDA 实现的大模型推理引擎，不依赖 PyTorch，兼容 OpenAI 接口，可部署 Qwen3 到 Kimi-K2 等模型。

在单张 RTX 4090 加 110GB 内存的游戏 PC 上本地跑 552B 的 DeepSeek-V4.1-Flash 做编码智能体，MoE 专家分层放在显存、锁页内存和 NVMe 上，兼容 OpenAI 与 Anthropic API。

用 Rust 写的免费 MIT 协议 AI 编程助手，内置免费模型无需 API key，也能接入 Claude、GPT、Gemini、DeepSeek、Ollama 等 50 多家模型，支持多智能体协作和浏览器、桌面自动化。

在单台桌面机器上跑 100GB 级大模型的开源推理引擎，支持 AMD Strix Halo、NVIDIA RTX 和 Apple Mac，兼容 OpenAI API，基于 ExLlamaV3 构建。