推理与服务

本地一键跑起 Kimi、DeepSeek、Qwen、Gemma 等大模型，省去环境配置和依赖折腾，适合快速做推理和原型验证。

给编码 Agent 用的代理和技能，让模型用「原始人式」极简表达回答，砍掉约 65% 的 token 消耗。

traefik

traefik·Go

云原生反向代理和负载均衡器，自动发现 Docker、Kubernetes 等服务并配置路由，内置 Let's Encrypt 证书管理，适合做微服务入口网关。

new-api

QuantumNous·Go

自托管的 LLM 网关，统一兼容 OpenAI、Claude、Gemini 等接口，提供模型路由、访问控制、用量统计与成本核算，方便团队集中管理和分发大模型调用。

WeKnora

Tencent·Go

把原始文档变成可查询的 RAG、自主推理 Agent 和自维护 Wiki 的开源 LLM 知识平台，适合搭建企业知识库与智能问答。

magpie

yetone·Go

在 macOS 菜单栏里统一管理各家大模型的接入，让 Codex 跑在 DeepSeek 上、Claude Code 跑在 Kimi 上，省去逐个配置的麻烦。