多语言大语音生成模型,覆盖推理、训练到部署全流程,支持中英日粤语及跨语种合成,适合做语音克隆和对话机器人。
Facebook AI 开源的端到端语音识别训练工具包,用 C++ 实现,可基于 wav2letter 架构训练声学模型,省去传统 ASR 繁琐的特征工程流程。
单张 4GB 显存显卡就能跑 70B 甚至 2.8T 参数大模型的分层推理方案,通过逐层加载权重把显存需求压到极低,适合本地低配设备部署大模型。
超低延迟的语音转文字、意图识别和语音合成工具,用来搭建语音助手和语音交互界面,响应快、适合实时对话场景。
用纯 C99 从零实现的 Kimi K3 推理引擎,单 CPU、8.24 GB 内存即可跑 2.78 万亿参数模型,不依赖 BLAS、框架或 GPU。
基于 TensorFlow 2 的端到端语音识别框架,支持 Conformer、ContextNet、DeepSpeech2 等模型,可做字符或子词级多语言识别与流式推理。
面向流式视频超分的一步扩散框架,用局部约束稀疏注意力和微型条件解码器把扩散超分做到实时,适合直播、视频通话等低延迟场景。
面向流式和端侧场景优化的 Whisper 语音识别模型,支持 Apple Silicon、CoreML、MLX 和 NVIDIA GPU,可做实时转写与翻译。
基于 OpenAI Whisper 的实时语音转写框架,接收连续音频流分块并即时输出增量转写结果,不用等整段音频上传完再处理。
一个模型同时搞定离线与流式的语音识别、语音翻译和语音合成,无需为不同任务分别部署系统。
用 Rust + CUDA 写的 SSD 流式推理引擎,让消费级 16GB 显卡也能跑 743B 级 MoE 大模型,自动测 PCIe 带宽并分配注意力与热专家。
…写被错误计为 WER=0 的问题;Seed-TTS-Eval 评测版本升级至 v1.1 。 - 修复流式推理输出的 TTFT/ITL 统计、多轮 warmup 交接,以及带 token usage 的 Agent Trace 导致 Predictions API 返回 500 的问题。 - 修复 few-shot 配置未在数据加载前校验、
… 其次,我们对产品体验进行了全面优化:在推理阶段新增" 简易模式 "和" 深度推理 "双模式,并支持流式推理输出,显著缩短了用户等待时间;特别值得关注的是,为更好的促进KAG的规模化业务应用,同时也回应社区最为关切的知识构建成本高的问题,本次发布提供了" 轻量级构建 "模式,如图1中KAG-V0.7LC列所示,我们测试了7B模型做知识构建
… 其次,我们对产品体验进行了全面优化:在推理阶段新增" 简易模式 "和" 深度推理 "双模式,并支持流式推理输出,显著缩短了用户等待时间;特别值得关注的是,为更好的促进KAG的规模化业务应用,同时也回应社区最为关切的知识构建成本高的问题,本次发布提供了" 轻量级构建 "模式,如图1中KAG-V0.7LC列所示,我们测试了7B模型做知识构建