把开源模型和 Agent 统一到一个工作空间里,让 Claude、DeepSeek、GLM 等模型直接帮你干活,省去自己拼装编排的麻烦。
开源的高质量语音合成模型,基于 VQGAN 和 Llama 架构,支持多语言文本转语音,效果达到 SOTA 水平。
把 PDF 快速转成 Markdown 和 JSON,解析准确率高,适合喂给 RAG 或做文档结构化处理。
一站式大模型微调工具,支持 LoRA、QLoRA、全参等多种训练方式,用配置文件就能跑起各种开源模型的微调任务。
基于 Megatron 和 DeepSpeed 在 GPU 上训练大规模自回归 Transformer 的模型并行框架,用来复现和扩展 GPT-3 级别的语言模型。
一行代码就能把 GPT 换成任意开源大模型,统一推理 API 支持云端、本地和笔记本部署,覆盖语言、语音和多模态模型。
面向开源模型的命令行编码 Agent,支持 DeepSeek、GLM、Kimi 等模型,在终端里直接完成代码编写与修改任务。
OpenCompass 是一个大模型评测平台,支持 OpenAI、Qwen、DeepSeek 等主流模型,覆盖知识、推理、代码、长上下文等 100+ 数据集,帮你系统化地跑分对比。
持续更新的中文大模型能力评测榜单,已收录374个商用与开源模型,并提供超200万条缺陷库,方便研究者横向对比模型表现、定位问题并改进。
用小型开源语言模型搭建轻量级 RAG 系统,降低检索增强生成的硬件门槛和部署复杂度,让普通设备也能跑起来。
把主流大模型 API 和开源模型统一到一个 WebUI 里,覆盖知识库、数据库、角色扮演、文生图、LoRA 微调、数据集制作等全流程工具。
腾讯开源的模型压缩工具包,支持量化、投机解码和扩散模型加速,帮你在部署大模型时降低显存占用、提升推理效率。
Intel 开源的模型量化工具,用训练后量化的低成本达到量化感知训练级别的精度,支持 int4、GGUF、MXFP4 等格式,可直接对接 vLLM、SGLang 推理。
开源本地优先的 AI 语音听写应用,用开源模型离线转写,不用键盘就能快速输入文字,适合记笔记和会议记录。
字节跳动开源的模型编译方案,基于 MLIR/LLVM 把 PyTorch、ONNX、TensorFlow 等模型编译到多种硬件上运行,解决跨平台部署和推理性能问题。
汇总音频 AI 领域的论文、开源模型、基准和数据集,覆盖音频大模型、语音识别、TTS、音乐与音频生成,方便按方向查找资料。
在私有 GPU 桌面上批量运行 Claude、Codex、Gemini 和开源模型的 Agent 集群,用 Spec Coding 让每个智能体拥有独立加速环境。
一个可审计的 AI 数据分析工作台,能查看结果背后的代码和证据、回放验证计算过程,并支持本地开源模型等多种模型选择。
Spark-X2.6 是面向端侧设备的开源模型系列,主打把智能体能力压进本地运行的模型里,支持 llama.cpp、MLX 等推理后端。
…der中reversed window indices的条件判断 5795 修复FlashMask在开源模型上的运行问题 6520 修复MM MTP中不正确的rope embedding 6586, 6650 CUDA Graph相关Bug修复 修复无法进入CUDA Graph的问题 5422 修复0不进入CUDA Graph以节省内存
…用 embedding 接口 4344 Pooling 模型定制 reward 接口 4518 新增开源模型 Ernie-4.5-VL-28B-A3B-Thinking 的 reasoning parser ,兼容 - / 命名规则 4571 4668 支持通过 chat template kwargs.options.thinking
…种边缘设备和低资源环境。 🚀 流畅对话体验:低延迟、不卡顿,几乎像真人对话一样自然,百聆使用了多个开源模型,确保高效、可靠的语音对话体验。 🖥 轻量级部署:无需高端硬件,甚至不需要 GPU,通过优化,可本地部署,仍能提供类GPT-4的性能表现。 🔧 模块化设计:ASR、VAD、LLM和TTS模块相互独立,可以根据需求进行替换和升级。