对比项目

选型时最常见的动作：两个项目摆在一起看。填 owner/repo，例如 vllm-project/vllm 和 sgl-project/sglang。

面向 MoE 模型的高效专家并行通信库，专门优化 GPU 间 all-to-all 分发与合并，降低大规模稀疏模型训练和推理的通信开销。

用 Triton 重写 LLM 训练中的 RMSNorm、RoPE、交叉熵等关键算子，减少显存占用并提升微调吞吐，兼容 Llama、Mistral、Gemma、Phi 等主流模型。

star 和发版数不代表适合你，维护状态与硬件标注更值得看

选型时最常见的动作：两个项目摆在一起看。填 owner/repo，例如 vllm-project/vllm 和 sgl-project/sglang。

面向 MoE 模型的高效专家并行通信库，专门优化 GPU 间 all-to-all 分发与合并，降低大规模稀疏模型训练和推理的通信开销。

用 Triton 重写 LLM 训练中的 RMSNorm、RoPE、交叉熵等关键算子，减少显存占用并提升微调吞吐，兼容 Llama、Mistral、Gemma、Phi 等主流模型。

star 和发版数不代表适合你，维护状态与硬件标注更值得看