OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「量化感知蒸馏」找到 88 个结果 · 17ms命中词:量化感知蒸馏quantizationdistillation只看有点评
D
distilly
titanwings·Python

把某人的思维方式蒸馏成可复用的 Skill,供任意 Agent 或 Bot 直接加载使用,解决智能体难以复刻特定人物或同事行为模式的问题。

智能体技能+4
265220—
titanwings/distilly · 13.8
S
Sana
NVlabs·Python

SANA 是英伟达开源的高效扩散生成模型与配套训练推理引擎,支持文生图、文生视频和世界模型,用线性注意力和 NVFP4 量化在低显存下实现快速生成。

扩散模型+4
98140—
NVlabs/Sana · 13.61
C
cangjie-skill
kangarooking·Python

把书、长视频、播客等高价值内容蒸馏成可执行的 Agent Skills,方便直接接入自动化工作流。

知识蒸馏+4
127470—
kangarooking/cangjie-skill · 13.42
L
llm-action
liguodongiot·HTML

汇集大模型技术原理与实战经验的开源知识库,覆盖训练、推理、部署和工程化落地全流程,适合系统学习大模型应用开发。

大模型工程化+4
252730—
liguodongiot/llm-action · 13.23
A
annotated_deep_learning_paper_implementations
labmlai·Python

用 PyTorch 逐行复现 60 多篇深度学习经典论文,代码旁配注释讲解,涵盖 Transformer、优化器、GAN、强化学习等,适合边读论文边对照实现学习。

论文复现+4
677480—
labmlai/annotated_deep_learning_paper_implementations · 13.05
L
llama.cpp
ggml-org·C++

用 C/C++ 实现的大模型推理引擎,能在普通 CPU 和消费级显卡上跑 LLaMA 等模型,支持量化以降低显存占用。

推理引擎+4
1340800—
ggml-org/llama.cpp · 12.99
L
llmfit
AlexsJones·Rust

一条命令就能从数百个模型和供应商里筛出适合你硬件配置的本地大模型,省去逐个试跑和查显存的麻烦。

本地推理+4
389230—
AlexsJones/llmfit · 12.13
L
LlamaFactory
hiyouga·Python

一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。

微调框架+4
760010—
hiyouga/LlamaFactory · 12.09
F
faster-whisper
SYSTRAN·Python

基于 CTranslate2 重实现的 Whisper 语音转文字推理引擎,通过量化与高效推理大幅提速并降低显存占用,适合本地部署转录。

语音识别+4
266680—
SYSTRAN/faster-whisper · 12.01
H
headroom
headroomlabs-ai·Python

在工具输出、日志、文件和 RAG 片段进入 LLM 前先做压缩,编码 Agent 省约 20% token,JSON 省 60-95%,答案不变。提供库、代理和 MCP 服务器三种用法。

上下文压缩+4
793600—
headroomlabs-ai/headroom · 11.98
T
turbovec
RyanCodrai·Rust

基于 TurboQuant 量化算法、用 Rust 实现并带 Python 绑定的向量索引,面向 RAG 和嵌入检索场景,提供高压缩比、低内存的近似最近邻搜索。

向量索引+4
174900—
RyanCodrai/turbovec · 11.86
C
Chinese-LLaMA-Alpaca
ymcui·Python

在 LLaMA/Alpaca 基础上扩充中文词表并做中文增量预训练,提供可本地 CPU/GPU 部署的中文大模型及 LoRA 微调、量化方案。

中文大模型+4
189150—
ymcui/Chinese-LLaMA-Alpaca · 11.8
Q
Qbot
UFund-Me·Jupyter Notebook

本地部署的 AI 量化投资研究平台,集成回测、机器学习选股与自动交易,帮个人开发者搭建从策略研究到实盘的完整量化流程。

量化交易+4
187980—
UFund-Me/Qbot · 11.68
B
bitsandbytes
bitsandbytes-foundation·Python

让大模型在普通显卡上跑起来的 PyTorch 量化库,支持 8-bit 和 4-bit 权重压缩,也是 QLoRA 微调背后的核心依赖。

量化+4
85360—
bitsandbytes-foundation/bitsandbytes · 11.61
A
airllm
lyogavin·Jupyter Notebook

单张 4GB 显存显卡就能跑 70B 甚至 2.8T 参数大模型的分层推理方案,通过逐层加载权重把显存需求压到极低,适合本地低配设备部署大模型。

大模型推理+4
421800—
lyogavin/airllm · 11.43
D
detectron2
facebookresearch·Python

Detectron2 是 Facebook 开源的目标检测与分割平台,提供模块化架构和丰富预训练模型,方便快速搭建和训练视觉识别任务。

目标检测+4
349830—
facebookresearch/detectron2 · 11.34
P
pngquant
kornelski·C

用有损量化把 PNG 压到原体积的几分之一,肉眼几乎看不出差别,适合给网页和 App 里的图片瘦身。

PNG压缩+4
57740—
kornelski/pngquant · 11.34
P
PaddleNLP
PaddlePaddle·Python

基于飞桨的 NLP 与大模型开发库,提供丰富模型库,覆盖 BERT、ERNIE、LLaMA 等,支持分布式训练、压缩和文档智能等任务。

大模型开发库+4
129890—
PaddlePaddle/PaddleNLP · 11.33
C
CLIP
openai·Jupyter Notebook

用对比学习把图像和文本映射到同一嵌入空间,实现零样本图像分类和图文匹配,是跨模态检索与多模态模型的经典底座。

多模态嵌入+4
345980—
openai/CLIP · 11.31
A
akshare
akfamily·Python

开箱即用的 Python 财经数据接口库,一行代码就能拉取股票、债券、期货、外汇和宏观经济等公开数据,省去到处爬数据、清洗数据的麻烦。

财经数据接口+4
233010—
akfamily/akshare · 11.26
C
CowAgent
zhayujie·Python

开源个人 AI 助手与 Agent Harness,能规划任务、调用工具和技能,靠记忆与知识自我进化,支持多智能体、多模型、多渠道,一行命令即可安装。

智能体框架+4
478780—
zhayujie/CowAgent · 11.25
V
vit-pytorch
lucidrains·Python

用 PyTorch 实现的 Vision Transformer(ViT),只需一个 Transformer 编码器就能在图像分类任务上达到 SOTA,代码简洁易读,适合快速复现和二次开发。

视觉Transformer+3
255680—
lucidrains/vit-pytorch · 11.21
P
PowerInfer
Tiiny-AI·C++

面向本地部署的高速大模型推理引擎,通过稀疏激活与量化等技术,让消费级显卡也能流畅跑起 Llama 类模型。

大模型推理+4
98770—
Tiiny-AI/PowerInfer · 11.21
E
engine
cactus-compute·C++

面向手机等消费级设备的 LLM 推理引擎,用 2bit 量化和手写内核把大模型塞进端侧运行,主打低显存、跨 Android/iOS 的 ARM 部署。

端侧推理+4
61890—
cactus-compute/engine · 11.19
H
hummingbot
hummingbot·Python

开源高频加密货币交易机器人框架,支持在多个交易所创建、回测和部署做市与套利策略,适合量化交易者快速搭建自动化交易系统。

高频交易+4
211670—
hummingbot/hummingbot · 11.09
Q
QuantDinger
OpenByteInc·Python

开源自托管的智能体交易操作系统,把 AI 研究、Python 策略回测、因子挖掘、多资产模拟与实盘执行、风控和监控整合进一套可审计的技术栈。

智能体交易+4
136980—
OpenByteInc/QuantDinger · 11.06
P
pytorch-image-models
huggingface·Python

收录最全的 PyTorch 图像骨干网络合集,涵盖 ResNet、ViT、ConvNeXt 等主流模型,自带训练、评估、推理和导出脚本及预训练权重,省去自己搭网络和找权重的麻烦。

图像分类+4
372780—
huggingface/pytorch-image-models · 11.01
F
faiss
facebookresearch·C++

面向稠密向量的高效相似度检索与聚类库,支持十亿级向量近邻搜索,是构建向量数据库和 RAG 检索层的底层引擎。

向量检索+4
414310—
facebookresearch/faiss · 10.96
K
kimi-k3-in-c
FareedKhan-dev·C

用纯 C99 从零实现的 Kimi K3 推理引擎,单 CPU、8.24 GB 内存即可跑 2.78 万亿参数模型,不依赖 BLAS、框架或 GPU。

推理引擎+4
117860—
FareedKhan-dev/kimi-k3-in-c · 10.93
M
MiniCPM-V
OpenBMB·Python

MiniCPM-V 是面壁智能开源的多模态视觉语言模型,能在手机、PC 等本地设备上完成看图、听音和对话交互,无需依赖云端。

多模态+4
271330—
OpenBMB/MiniCPM-V · 10.67
R
ragas
vibrantlabsai·Python

面向 LLM 应用的自动化评测工具,用合成测试集和多种指标量化 RAG 与生成效果,帮你在上线前发现质量问题。

LLM评测+4
162960—
vibrantlabsai/ragas · 10.67
C
Chinese-BERT-wwm
ymcui·Python

提供中文 BERT-wwm 系列预训练模型,用全词掩码技术提升中文 NLP 任务效果,可直接加载微调。

中文预训练模型+4
102310—
ymcui/Chinese-BERT-wwm · 10.64
S
shimmy
Michael-A-Kuykendall·Rust

纯 Rust 实现的 WebGPU 推理引擎,原生支持 GGUF 模型,兼容 OpenAI API,无需 Python 和 llama.cpp,单个二进制文件即可在任意 GPU 上跑本地大模型。

推理引擎+4
60140—
Michael-A-Kuykendall/shimmy · 10.6
M
ms-swift
modelscope·Python

一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。

训练框架+4
160900—
modelscope/ms-swift · 10.56
L
litgpt
Lightning-AI·Python

提供 20 多个高性能大语言模型的训练配方,覆盖预训练、微调和规模化部署全流程,适合想快速上手 LLM 训练与推理的开发者。

大语言模型+4
137480—
Lightning-AI/litgpt · 10.56
L
LTX-Video
Lightricks·Python

LTX-Video 是 Lightricks 开源的视频生成模型,支持文生视频和图生视频,基于 DiT 扩散架构,可快速生成高质量短视频。

视频生成+4
113640—
Lightricks/LTX-Video · 10.53
L
LLaVA
haotian-liu·Python

开源的多模态视觉指令微调模型,让 LLaMA 类大模型能看图对话,效果对标 GPT-4V,适合做图文问答和视觉助手。

视觉指令微调+4
250750—
haotian-liu/LLaVA · 10.49
T
TensorRT-LLM
NVIDIA·Python

用 Python API 定义大模型,并借助 TensorRT 在 NVIDIA GPU 上做极致优化推理,还提供 Python/C++ 运行时来编排高性能服务。

推理引擎+4
150640—
NVIDIA/TensorRT-LLM · 10.36
V
vllm
vllm-project·Python

面向大语言模型的高吞吐、低显存推理与服务引擎,通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用,适合部署在线推理服务。

推理引擎+4
967520—
vllm-project/vllm · 10.32
M
meshoptimizer
zeux·C++

轻量级 C++ 网格优化库,通过顶点缓存重排、索引压缩和网格简化,让 3D 模型体积更小、GPU 渲染更快。

网格优化+4
88320—
zeux/meshoptimizer · 10.23