OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「token 路由」找到 21 个结果 · 14ms命中词:路由tokenrouterroutingrouter* routing*只看有点评
9
9router
decolua·JavaScript

把 Claude Code、Cursor、Copilot 等编程助手接到 40+ 家免费模型供应商的 AI 网关,支持自动故障切换和 RTK 省 token,避免额度耗尽。

AI 网关+4
322590—
decolua/9router · 20.92
O
OmniRoute
cheaper-inference·TypeScript

统一接入 375 家模型供应商、1400+ 模型的 MIT 协议 AI 网关,配额感知自动降级,并用压缩省下 15-95% token,兼容 Claude Code、Cursor 等编码工具。

AI 网关+4
864050—
cheaper-inference/OmniRoute · 13.39
F
frp
fatedier·Go

一款用 Go 编写的高性能反向代理,能把 NAT 或防火墙后面的本地服务安全暴露到公网,常用于内网穿透和远程访问。

内网穿透+4
1105280—
fatedier/frp · 13.08
A
apisix
apache·Lua

云原生 API 网关,基于 LuaJIT 提供高性能路由、负载均衡和 Kubernetes Ingress,并支持 AI 网关场景,适合统一管理微服务与 AI 流量。

API 网关+4
173120—
apache/apisix · 12.86
L
laya
NandhaKishorM·Python

单次前向传播即可对任意文本做类型化选择、打分和是非判断的非自回归决策引擎,支持100多种语言,并按请求自动路由到合适的检查点。

决策引擎+4
353870—
NandhaKishorM/laya · 12.62
N
nasiko
Nasiko-Labs·Rust

用 Rust 写的 AI Agent 开放运行时,统一托管多智能体、MCP 网关和权限管控,省去自己搭调度与安全层的麻烦。

Agent 运行时+4
119670—
Nasiko-Labs/nasiko · 12.47
H
haystack
deepset-ai·Python

开源 LLM 应用编排框架,用模块化管道和智能体工作流显式控制检索、路由、记忆与生成,适合搭建 RAG、语义搜索和多模态对话系统。

RAG 框架+4
269890—
deepset-ai/haystack · 12.38
C
coai
coaidev·TypeScript

企业级多租户 LLM 网关,统一接入 200+ 模型和 35+ 供应商,带负载均衡、计费订阅和成本管理,适合团队统一管理 AI 调用。

LLM 网关+4
93460—
coaidev/coai · 12.1
H
higress
higress-group·Go

基于 Envoy 的云原生 AI 网关,统一代理和路由大模型 API 与微服务流量,支持 AI 原生插件扩展。

AI 网关+4
97490—
higress-group/higress · 11.9
R
rathole
rathole-org·Rust

用 Rust 写的高性能轻量反向代理,专门做 NAT 穿透和内网服务暴露,可以当作 frp 和 ngrok 的替代品。

内网穿透+4
144400—
rathole-org/rathole · 11.71
T
tambo
tambo-ai·TypeScript

面向 React 的生成式 UI SDK,让 AI Agent 根据对话内容动态渲染界面组件,适合构建智能助手和聊天式交互应用。

生成式UI+4
112250—
tambo-ai/tambo · 11.65
X
XX-Net
XX-net·Python

基于 Python 的翻墙代理工具,整合 GoAgent 等模块,帮你在网络受限环境下稳定访问被屏蔽的网站。

翻墙代理+4
334910—
XX-net/XX-Net · 11.64
D
dynamo
ai-dynamo·Rust

面向数据中心的分布式推理服务框架,用 Rust 编写,支持 vLLM、SGLang、TensorRT-LLM 等后端,解决大规模 LLM 与扩散模型在生产环境下的解耦部署和请求路由问题。

分布式推理+4
84690—
ai-dynamo/dynamo · 11.64
O
openai-agents-python
openai·Python

轻量级 Python 框架,用于编排多智能体工作流,帮助开发者快速搭建基于 LLM 的协作式 Agent 系统。

多智能体+4
306110—
openai/openai-agents-python · 11.35
J
JARVIS
microsoft·Python

把大语言模型和 Hugging Face 上的各类模型连起来,让 LLM 自动挑选、调用合适的模型完成多模态任务,相当于给模型加了个调度中枢。

模型调度+4
256090—
microsoft/JARVIS · 11.25
F
fastapi_mcp
tadata-org·Python

把 FastAPI 接口一键暴露成 MCP 工具,自带认证授权,让 Claude、Cursor 等 LLM 客户端直接调用你的后端服务。

MCP 服务+4
120290—
tadata-org/fastapi_mcp · 11.06
S
server
triton-inference-server·Python

面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。

推理服务+4
111360—
triton-inference-server/server · 11.06
N
nightingale
ccfos·Go

开源自托管的告警平台,统一处理指标、日志和数据库告警,内置 AI Agent 与 MCP Server,适合搭建可观测性告警体系。

告警平台+4
134780—
ccfos/nightingale · 10.95
H
helicone
Helicone·TypeScript

一行代码接入的 LLM 可观测性平台,能监控大模型调用、追踪成本与延迟,并支持评估和实验对比,方便排查线上问题。

LLM可观测性+4
62770—
Helicone/helicone · 10.6
S
steel-browser
steel-dev·TypeScript

开箱即用的浏览器沙箱 API,让 AI Agent 和应用直接调用无头浏览器完成网页自动化,省去自建基础设施的麻烦。

浏览器自动化+4
79470—
steel-dev/steel-browser · 10.47
P
pomerium
pomerium·Go

基于身份和上下文的零信任访问代理,用统一身份认证替代传统 VPN,按用户身份和设备状态动态控制内网应用访问。

零信任+4
51000—
pomerium/pomerium · 10.31

发布说明里提到「token 路由」

来自 6 个版本
  • lightseekorg/tokenspeedv0.1.12026-10-06

    …weekly component versions Package Version --- --- tokenspeed-mla [0.2.16](https://pypi.org/project/tokenspeed-mla/0.2.16/) tokenspeed-scheduler [0.1.25](https://pypi.org/

  • huggingface/tokenizersv0.23.22026-09-03

    …@musicinmybrain in https://github.com/huggingface/tokenizers/pull/2050 Ci test fixes by @sebpop in https://github.com/huggingface/tokenizers/pull/2079 Avoid full vocab cl

  • astaxie/TokenHubv0.6.02026-08-17

    …metadata preservation, Codex image capability and token renewal, DeepSeek V4 Pro Responses routing, durable background Responses execution, Anthropic bearer authenticatio

  • lightseekorg/tokenspeedv0.1.02026-07-24

    …Cat by @zhyncs in https://github.com/lightseekorg/tokenspeed/pull/1 Update README by @lightseek-bot in https://github.com/lightseekorg/tokenspeed/pull/2 Add PyTorch index

  • AgentOps-AI/tokencost0.1.232025-06-09

    What's Changed chore: Daily token price update (23-05-2025) by @github-actions in https://github.com/AgentOps-AI/tokencost/pull/130 chore: Daily token price update (24-05

  • AgentOps-AI/tokencost0.1.222025-05-23

    What's Changed chore: Daily token price update (12-05-2025) by @github-actions in https://github.com/AgentOps-AI/tokencost/pull/118 Add support for cached tokens in the c