OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「低延迟」找到 174 个结果 · 22ms命中词:延迟latency只看有点评
Z
zed
zed-industries·Rust

用 Rust 打造的高性能多人协作代码编辑器,由 Atom 和 Tree-sitter 作者开发,主打低延迟编辑与实时协同编码。

代码编辑器+4
946780—
zed-industries/zed · 11.49
S
Sunshine
LizardByte·C++

自建的游戏串流主机端,配合 Moonlight 客户端把 PC 游戏低延迟推流到电视、手机等设备,替代 NVIDIA GameStream。

游戏串流+4
432340—
LizardByte/Sunshine · 11.29
J
jaeger
jaegertracing·Go

CNCF 出品的分布式追踪平台,采集服务调用链路并做可视化分析,帮你在微服务和 LLM 应用里定位延迟与故障根因。

分布式追踪+4
233990—
jaegertracing/jaeger · 10.82
S
srs
ossrs·C++

简单高性能的实时流媒体服务器,支持 RTMP、WebRTC、HLS、SRT 等主流协议和多种音视频编码,适合搭建低延迟直播与分发服务。

流媒体服务器+4
294390—
ossrs/srs · 10.74
M
moonshine
moonshine-ai·C++

超低延迟的语音转文字、意图识别和语音合成工具,用来搭建语音助手和语音交互界面,响应快、适合实时对话场景。

语音识别+4
114750—
moonshine-ai/moonshine · 10.37
T
TensorRT
NVIDIA·C++

NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。

推理引擎+4
134490—
NVIDIA/TensorRT · 10.27
O
Orpheus-TTS
canopyai·Python

基于大语言模型的语音合成系统,能生成接近真人音色的自然语音,并支持实时流式输出,适合搭建低延迟的 TTS 服务。

语音合成+4
64020—
canopyai/Orpheus-TTS · 10.22
C
CosyVoice
QwenAudio·Python

多语言大语音生成模型,覆盖推理、训练到部署全流程,支持中英日粤语及跨语种合成,适合做语音克隆和对话机器人。

语音生成+4
243670—
QwenAudio/CosyVoice · 10.03
U
UDPspeeder
wangyu-·C++

用前向纠错(FEC)在高延迟丢包链路上改善网络质量,为 TCP/UDP/ICMP 等所有流量建立隧道,降低丢包带来的卡顿。

前向纠错+4
51970—
wangyu-/UDPspeeder · 9.99
F
FlClash
chen08209·Dart

基于 ClashMeta 的多平台代理客户端,用 Flutter 构建,界面简洁易用,开源无广告,支持 Hysteria、VLESS 等协议。

代理客户端+4
626570—
chen08209/FlClash · 9.94
V
Vision-Agents
GetStream·Python

基于 Stream 边缘网络快速搭建语音与视觉智能体,可接入任意模型或视频源,实现超低延迟的实时多模态交互。

视觉智能体+4
82070—
GetStream/Vision-Agents · 9.9
M
MyIP
jason5ng32·JavaScript

一站式 IP 工具箱,可查 IP 归属地与地理位置、检测 WebRTC 和 DNS 泄漏、做 IP 质量与浏览器指纹检测,还带网速、延迟、MTR、Whois 等网络诊断。

IP 查询+4
123460—
jason5ng32/MyIP · 9.87
O
OpenViking
volcengine·Python

面向 AI Agent 的自进化上下文数据库,把 Agent 记忆、知识 RAG 和技能统一管理,解决多来源上下文分散、难以持续演进的问题。

上下文数据库+4
420130—
volcengine/OpenViking · 9.77
Z
zipkin
openzipkin·Java

Zipkin 是一个分布式追踪系统,用于收集和查看微服务间的调用链路与耗时,帮助定位跨服务延迟和故障。

分布式追踪+4
174760—
openzipkin/zipkin · 9.75
P
PageIndex
VectifyAI·Python

面向 RAG 的文档索引方案,不依赖向量数据库,用推理方式定位和检索文档内容,适合构建 Agent 式检索流程。

文档索引+4
403690—
VectifyAI/PageIndex · 9.74
D
dgraph
dgraph-io·Go

高性能分布式图数据库,专为实时查询场景设计,支持知识图谱等大规模关联数据的存储与毫秒级检索。

图数据库+4
218260—
dgraph-io/dgraph · 9.71
H
helicone
Helicone·TypeScript

一行代码接入的 LLM 可观测性平台,能监控大模型调用、追踪成本与延迟,并支持评估和实验对比,方便排查线上问题。

LLM可观测性+4
62770—
Helicone/helicone · 9.7
I
index-tts
index-tts·Python

工业级零样本语音合成系统,只需几秒参考音频就能克隆音色并跨语种合成,兼顾可控性与推理效率。

语音合成+4
250430—
index-tts/index-tts · 9.61
V
VoxCPM
OpenBMB·Python

无需分词器的多语言语音合成模型,支持创意音色设计和逼真声音克隆,可直接从文本生成自然语音。

语音合成+4
422920—
OpenBMB/VoxCPM · 9.6
O
oh-my-posh
JanDeDobbeleer·Go

跨平台 shell 提示符渲染器,支持 bash、PowerShell、fish 等,用 Go 编写,延迟低且高度可定制,能显示 Git 状态和 Nerd Fonts 图标。

提示符渲染+4
237440—
JanDeDobbeleer/oh-my-posh · 9.56
P
pinot
apache·Java

面向用户和 AI Agent 的实时分析数据库,支持低延迟 SQL 查询和向量检索,可从 Kafka 实时摄入数据做 OLAP 分析。

实时分析数据库+4
61710—
apache/pinot · 9.55
D
doris
apache·Java

面向 AI Agent 的实时分析与混合检索数据库,兼容 Iceberg、Hudi、Delta Lake 等湖仓格式,让 Agent 能低延迟查询海量数据。

实时分析+4
162070—
apache/doris · 9.45
S
server
triton-inference-server·Python

面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。

推理服务+4
111360—
triton-inference-server/server · 9.44
R
RetroArch
libretro·C

跨平台 libretro API 前端,统一管理和运行各类模拟器核心,提供图形界面、手柄映射、存档与着色器等一站式复古游戏体验。

模拟器前端+4
145840—
libretro/RetroArch · 9.4
L
LMCache
LMCache·Python

给 LLM 推理加速的 KV Cache 层,可对接 vLLM 等框架,复用和缓存键值对来降低显存占用、提升吞吐,支持 CUDA 和 ROCm。

KV缓存+4
123420—
LMCache/LMCache · 9.28
T
toxiproxy
Shopify·Go

一个用 Go 写的 TCP 代理,能模拟延迟、断连、带宽限制等网络和系统故障,用来做混沌工程和容错测试。

混沌工程+4
125130—
Shopify/toxiproxy · 9.28
Z
ZLMediaKit
ZLMediaKit·C++

基于 C++11 的流媒体服务器与客户端框架,一套代码同时支持 RTSP、RTMP、WebRTC、HLS、HTTP-FLV、GB28181、SRT 等协议,适合搭建直播和安防视频接入服务。

流媒体服务器+4
176840—
ZLMediaKit/ZLMediaKit · 9.26
W
wav2letter
flashlight·C++

Facebook AI 开源的端到端语音识别训练工具包,用 C++ 实现,可基于 wav2letter 架构训练声学模型,省去传统 ASR 繁琐的特征工程流程。

语音识别+4
64450—
flashlight/wav2letter · 9.2
P
PocketFlow
The-Pocket·Python

100 行代码的极简 LLM 框架,用图编排 Agent 工作流,让 Agent 自己搭建 Agent,适合想快速上手又不想被重型框架绑住的场景。

Agent 框架+3
113180—
The-Pocket/PocketFlow · 9.16
W
WhisperLiveKit
QuentinFuxa·Python

本地跑实时语音转文字,带流式识别、说话人分离和翻译,还兼容 OpenAI/Deepgram 接口,适合自建低延迟转写服务。

实时语音识别+4
112380—
QuentinFuxa/WhisperLiveKit · 9.11
S
SenseVoice
QwenAudio·C

多语种语音理解模型,一次推理就能完成中英日韩粤语音识别、语种判别、情绪识别和音频事件检测,适合做语音交互与音频分析。

语音识别+4
97420—
QwenAudio/SenseVoice · 9.06
E
ExpressLRS
ExpressLRS·C

面向 FPV 穿越机和遥控模型的 LoRa 开源无线电链路固件,基于 ESP32/ESP8266 实现低延迟、远距离的遥控信号传输。

无线电链路+4
54860—
ExpressLRS/ExpressLRS · 9.04
S
Sunshine
SunshineStream·C++

Self-hosted game stream host for Moonlight.

432710—
SunshineStream/Sunshine · 8.86
T
tesseract
tesseract-ocr·C++

老牌开源 OCR 引擎,用 LSTM 识别图片中的文字,支持上百种语言,适合做文档扫描和文本提取。

OCR引擎+4
774650—
tesseract-ocr/tesseract · 8.83
O
openinterpreter
openinterpreter·Rust

面向 Kimi、GLM、DeepSeek、Qwen 等开放权重模型的编码 Agent,用 Rust 实现,让这些模型也能在终端里自主写代码、执行任务。

编码 Agent+4
688630—
openinterpreter/openinterpreter · 8.82
V
vllm
vllm-project·Python

面向大语言模型的高吞吐、低显存推理与服务引擎,通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用,适合部署在线推理服务。

推理引擎+4
967520—
vllm-project/vllm · 8.82
D
deepseek-harness
deepseek-ai·TypeScript

DeepSeek 开源的 Agent 编排框架,把模型、工具、记忆等所有能力都做成可插拔插件,方便按需拼装和扩展智能体。

Agent 框架+3
2788890—
deepseek-ai/deepseek-harness · 8.79
T
TradingAgents
TauricResearch·Python

用多个 LLM 智能体分工协作模拟金融交易决策,把研究、分析、下单等环节拆给不同角色,适合做量化交易策略的智能体实验。

多智能体+4
1220380—
TauricResearch/TradingAgents · 8.71
S
sglang
sgl-project·Python

高性能大模型与多模态模型推理服务框架,通过优化注意力机制和调度策略提升吞吐与延迟表现,支持 Llama、DeepSeek、MoE 等主流模型部署。

推理服务框架+4
387520—
sgl-project/sglang · 8.61
A
alacritty
alacritty·Rust

用 Rust 写的跨平台 GPU 加速终端模拟器,基于 OpenGL 渲染,主打高帧率和低延迟,适合嫌普通终端卡顿、想要更顺滑操作体验的开发者。

终端模拟器+4
661670—
alacritty/alacritty · 8.6

发布说明里提到「低延迟」

来自 4 个版本
  • EasyTier/EasyTierv2.7.02026-10-06

    …asyTier/EasyTier/pull/2479) 主要修复与改进 - 连接与路由稳定性 :修复低延迟优先路由、非对称直连恢复、IPv6 多公网地址打洞、OSPF 元数据过期后的同步,以及接收限速时的存活探测;TCP 打洞连接使用每秒心跳维持连接。[ 2358](https://github.com/EasyTier/EasyTier

  • Tencent/ncnn202605262026-05-26

    …RM GEMM 增加 m == 1 优化,覆盖 batch=1、decode、单 token 推理等低延迟场景。( 6723) - 修复 Windows ARM 构建问题,并重构 ARM bf16 逻辑以绕过 OHOS clang aarch64 crash。( 6699, 6725) - ARM ShuffleChannel 最后通道处

  • PaddlePaddle/FastDeployv2.5.02026-04-09

    …29 支持W4AFp8 MoE权重离线permute和加载 5613 支持W4AFp8 DeepEP低延迟两阶段模式 5608 图优化 PaddleOCR-VL ViT部分使用CINN优化 5223 封装deep gemm和triton为python op 5673 为per token quant等算子添加infershape和dtyp

  • wwbin2017/bailingv0.0.22025-03-14

    …GPU的情况下,实现类GPT-4o的对话效果,适用于各种边缘设备和低资源环境。 🚀 流畅对话体验:低延迟、不卡顿,几乎像真人对话一样自然,百聆使用了多个开源模型,确保高效、可靠的语音对话体验。 🖥 轻量级部署:无需高端硬件,甚至不需要 GPU,通过优化,可本地部署,仍能提供类GPT-4的性能表现。 🔧 模块化设计:ASR、VAD、L