sparsezoo
neuralmagicApache-2.0长期未更新Neural network model repository for highly sparse and sparse-quantized models with matching sparsification recipes
暂无版本388star27fork同步于 2026-11-07 07:30 UTC
怎么上手
README 里没有找到可直接复制的安装命令README 里没有找到可直接复制的安装命令，请到 README 或官方文档查看安装方式。
硬件要求
README 没有说明硬件要求。
项目说明
这个项目的说明还在生成中，先参考下面「最近发版」和 README。
暂无 release 数据（可能没有发版，或尚未同步）。
用户点评
登录用户的真实使用记录，可按版本和硬件筛选共 0 条
还没有人点评。第一个说出真实体验的人最有价值。
headroom
headroomlabs-ai·Python
在工具输出、日志、文件和 RAG 片段进入 LLM 前先做压缩，编码 Agent 省约 20% token，JSON 省 60-95%，答案不变。提供库、代理和 MCP 服务器三种用法。
上下文压缩+4量化
79284+2396.2kv0.43.12026-11-10 05:22 UTC
llmfit
AlexsJones·Rust
一条命令就能从数百个模型和供应商里筛出适合你硬件配置的本地大模型，省去逐个试跑和查显存的麻烦。
本地推理+4量化
38870+1432.5kv1.1.202026-11-10 10:03 UTC
PaddleNLP
PaddlePaddle·Python
基于飞桨的 NLP 与大模型开发库，提供丰富模型库，覆盖 BERT、ERNIE、LLaMA 等，支持分布式训练、压缩和文档智能等任务。
大模型开发库+4量化
129863.0krl-v1.0.02026-05-23 02:54 UTC
bitsandbytes
bitsandbytes-foundation·Python
让大模型在普通显卡上跑起来的 PyTorch 量化库，支持 8-bit 和 4-bit 权重压缩，也是 QLoRA 微调背后的核心依赖。
量化+4量化
85369440.50.22026-11-02 14:36 UTC