把开源模型和 Agent 统一到一个工作空间里，让 Claude、DeepSeek、GLM 等模型直接帮你干活，省去自己拼装编排的麻烦。
开源的高质量语音合成模型，基于 VQGAN 和 Llama 架构，支持多语言文本转语音，效果达到 SOTA 水平。
把 PDF 快速转成 Markdown 和 JSON，解析准确率高，适合喂给 RAG 或做文档结构化处理。
一站式大模型微调工具，支持 LoRA、QLoRA、全参等多种训练方式，用配置文件就能跑起各种开源模型的微调任务。
基于 Megatron 和 DeepSpeed 在 GPU 上训练大规模自回归 Transformer 的模型并行框架，用来复现和扩展 GPT-3 级别的语言模型。
一行代码就能把 GPT 换成任意开源大模型，统一推理 API 支持云端、本地和笔记本部署，覆盖语言、语音和多模态模型。
OpenCompass 是一个大模型评测平台，支持 OpenAI、Qwen、DeepSeek 等主流模型，覆盖知识、推理、代码、长上下文等 100+ 数据集，帮你系统化地跑分对比。
持续更新的中文大模型能力评测榜单，已收录374个商用与开源模型，并提供超200万条缺陷库，方便研究者横向对比模型表现、定位问题并改进。
…der中reversed window indices的条件判断 5795 修复FlashMask在开源模型上的运行问题 6520 修复MM MTP中不正确的rope embedding 6586, 6650 CUDA Graph相关Bug修复 修复无法进入CUDA Graph的问题 5422 修复0不进入CUDA Graph以节省内存
…用 embedding 接口 4344 Pooling 模型定制 reward 接口 4518 新增开源模型 Ernie-4.5-VL-28B-A3B-Thinking 的 reasoning parser ，兼容 - / 命名规则 4571 4668 支持通过 chat template kwargs.options.thinking
…种边缘设备和低资源环境。 🚀 流畅对话体验：低延迟、不卡顿，几乎像真人对话一样自然，百聆使用了多个开源模型，确保高效、可靠的语音对话体验。 🖥 轻量级部署：无需高端硬件，甚至不需要 GPU，通过优化，可本地部署，仍能提供类GPT-4的性能表现。 🔧 模块化设计：ASR、VAD、LLM和TTS模块相互独立，可以根据需求进行替换和升级。