对比项目

选型时最常见的动作：两个项目摆在一起看。填 owner/repo，例如 vllm-project/vllm 和 sgl-project/sglang。

Local AI API Platform

在工具输出、日志、文件和 RAG 片段进入 LLM 前先做压缩，编码 Agent 省约 20% token，JSON 省 60-95%，答案不变。提供库、代理和 MCP 服务器三种用法。

star 和发版数不代表适合你，维护状态与硬件标注更值得看

选型时最常见的动作：两个项目摆在一起看。填 owner/repo，例如 vllm-project/vllm 和 sgl-project/sglang。

Local AI API Platform

在工具输出、日志、文件和 RAG 片段进入 LLM 前先做压缩，编码 Agent 省约 20% token，JSON 省 60-95%，答案不变。提供库、代理和 MCP 服务器三种用法。

star 和发版数不代表适合你，维护状态与硬件标注更值得看