OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「GGUF」找到 18 个结果 · 11ms命中词:gguf只看有点评
U
unsloth
unslothai·Python

本地跑和训练大模型、扩散模型的图形界面,支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型,省去命令行配置的麻烦。

本地推理+4
793200—
unslothai/unsloth · 13.9
L
llmfit
AlexsJones·Rust

一条命令就能从数百个模型和供应商里筛出适合你硬件配置的本地大模型,省去逐个试跑和查显存的麻烦。

本地推理+4
389090—
AlexsJones/llmfit · 13.44
L
llama.cpp
ggml-org·C++

用 C/C++ 实现的大模型推理引擎,能在普通 CPU 和消费级显卡上跑 LLaMA 等模型,支持量化以降低显存占用。

推理引擎+4
1340570—
ggml-org/llama.cpp · 13.29
S
shimmy
Michael-A-Kuykendall·Rust

纯 Rust 实现的 WebGPU 推理引擎,原生支持 GGUF 模型,兼容 OpenAI API,无需 Python 和 llama.cpp,单个二进制文件即可在任意 GPU 上跑本地大模型。

推理引擎+4
60150—
Michael-A-Kuykendall/shimmy · 12.84
S
Soup
MakazhanAlpamys·Python

用一份 YAML 配置就能微调大模型,靠分层流式加载让 8B 模型在 4GB 显存的笔记本 GPU 上跑起来,省去手写训练脚本和显存焦虑。

大模型微调+4
104590—
MakazhanAlpamys/Soup · 12.43
V
VoxCPM
OpenBMB·Python

无需分词器的多语言语音合成模型,支持创意音色设计和逼真声音克隆,可直接从文本生成自然语音。

语音合成+4
422500—
OpenBMB/VoxCPM · 12.07
M
MiniCPM-V
OpenBMB·Python

MiniCPM-V 是面壁智能开源的多模态视觉语言模型,能在手机、PC 等本地设备上完成看图、听音和对话交互,无需依赖云端。

多模态+4
271310—
OpenBMB/MiniCPM-V · 11.93
L
lm-evaluation-harness
EleutherAI·Python

统一评测语言模型少样本能力的框架,支持多种任务和模型,方便横向对比不同模型的性能表现。

模型评测+4
144510—
EleutherAI/lm-evaluation-harness · 11.76
L
llmware
llmware-ai·Python

用小型专用模型搭建企业级 RAG 流水线的统一框架,覆盖文档解析、检索和智能体编排,适合在本地或私有环境部署。

RAG流水线+4
148220—
llmware-ai/llmware · 11.57
M
mlx
ml-explore·C++

面向 Apple silicon 的数组计算框架,让机器学习模型能直接在 Mac 芯片上高效训练和推理,省去折腾 CUDA 的麻烦。

Apple silicon+4
291360—
ml-explore/mlx · 10.96
N
netron
lutzroeder·JavaScript

把 ONNX、PyTorch、Keras、CoreML 等格式的神经网络模型直接拖进浏览器就能看结构图,排查模型转换和层连接问题很方便。

模型可视化+4
336770—
lutzroeder/netron · 10.92
Q
Qwen3-VL
QwenLM·Jupyter Notebook

阿里云通义团队开源的多模态大模型系列,能同时理解图像和文本,用于视觉问答、图文推理等视觉语言任务。

多模态大模型+4
201940—
QwenLM/Qwen3-VL · 10.77
E
eliza
elizaOS·TypeScript

开源智能体操作系统,用 TypeScript 搭建可自主运行的多平台 AI 代理,支持插件扩展、RAG 检索和 Discord 等聊天渠道接入。

智能体框架+4
198440—
elizaOS/eliza · 10.75
A
agent-zero
agent0ai·Python

一个自主 AI Agent 框架,能在 Linux 环境中自行规划任务、调用工具并持续执行,适合搭建可自主行动的智能助手。

Agent 框架+4
198270—
agent0ai/agent-zero · 10.74
L
laya
NandhaKishorM·Python

单次前向传播即可对任意文本做类型化选择、打分和是非判断的非自回归决策引擎,支持100多种语言,并按请求自动路由到合适的检查点。

决策引擎+4
353870—
NandhaKishorM/laya · 10.59
A
axolotl
axolotl-ai-cloud·Python

一站式大模型微调工具,支持 LoRA、QLoRA、全参等多种训练方式,用配置文件就能跑起各种开源模型的微调任务。

微调+4
126830—
axolotl-ai-cloud/axolotl · 10.5
P
PowerInfer
Tiiny-AI·C++

面向本地部署的高速大模型推理引擎,通过稀疏激活与量化等技术,让消费级显卡也能流畅跑起 Llama 类模型。

大模型推理+4
98760—
Tiiny-AI/PowerInfer · 10.13
L
llm-course
mlabonne

一套系统的大语言模型入门课程,用学习路线图和可直接运行的 Colab 笔记本,带你从零掌握 LLM 的原理与实战。

大语言模型+4
850500—
mlabonne/llm-course · 4.46

发布说明里提到「GGUF」

来自 6 个版本
  • peteonrails/voxtypev1.2.02026-11-10

    Voxtype 1.2.0 runs GGUF models in every release binary: Cohere, Parakeet, Parakeet Ultra, Qwen3-ASR, GigaAM, Moonshine, SenseVoice and Nemotron. It also adds model upgrad

  • peteonrails/voxtypev1.2.0-rc42026-11-10

    … release candidate. Every release binary now runs GGUF models, and Parakeet and Cohere users on ONNX models get offered the GGUF upgrade. GGUF in every build Every releas

  • feder-cr/jevjevos-v32026-10-02

    …zip the model jev runs, as model/ jevos-v3-q4 k m.gguf , jevos-v3-q8 0.gguf the same model as GGUF, for llama.cpp and the tools built on it jevos-dino.mp4 the recording o

  • feder-cr/jevjevos-v22026-09-30

    …zip the model jev runs, as model/ jevos-v2-q4 k m.gguf , jevos-v2-q8 0.gguf the same model as GGUF, for llama.cpp and the tools built on it jevos-dino.mp4 the recording o

  • QwenAudio/SenseVoiceruntime-llamacpp-v0.1.22026-06-21

    …Fun-ASR-Nano) locally with the FunASR llama.cpp / GGUF runtime — built-in FSMN-VAD, whisper.cpp-style on-device ASR, strong on Chinese & Cantonese. New: q8 GGUF models ar

  • ymcui/Chinese-LLaMA-Alpaca-3v1.02024-04-30

    …础上进一步通过指令精调(500万条指令)获得 下载方式 模型名称 类型 参数量 完整版 LoRA版 GGUF版 :------------------------ :------: :----------------------------------------------------------: :-----------------