Python

nunchaku

nunchux-ai·Python

用低秩分支吸收离群值的 4-bit 扩散模型量化方案，让 FLUX 等大模型在低显存下也能高速出图，并已集成 ComfyUI。

把各类文档抽取、解析成结构化分块，直接喂给 AI Agent 和 RAG 流水线，省去自己写清洗和切分逻辑。

llm-compressor

vllm-project·Python

面向 vLLM 生产推理的 LLM 压缩工具，支持量化等压缩算法，把大模型压小以便高效部署。

面向A股的多人智能体投研框架，接入龙虎榜、游资、解禁等本地数据源，让7位AI分析师按A股规则辩论并给出风险评估。

cascadeflow

lemony-ai·Python

面向 AI Agent 的级联运行时，在 Agent 循环内按成本、延迟、质量和策略动态调度模型与决策，帮你在不牺牲效果的前提下省下推理开销。

纯 Python 编写的开源下载管理器，支持网盘、直链和去链服务，可无头运行并自动解析链接，适合在服务器上集中管理下载任务。

Meta 开源的通用前馈式三维重建模型，能从单张或多视角图像直接恢复带真实尺度的三维几何，省去传统 SfM 的繁琐标定与优化流程。

低代码构建多智能体大模型应用的框架，把模型微调、知识库、数据流程等环节封装成简单接口，让开发者少写胶水代码就能搭出复杂 Agent 系统。

Python 客户端库，封装 NBA.com 官方接口，方便抓取球员和球队的统计数据，用于篮球数据分析与可视化。

SimpleMem

aiming-lab·Python

给 LLM Agent 用的长期记忆系统，通过压缩和知识图谱把文本与多模态历史高效存下来，让 Agent 跨会话记住关键信息。

把视频扩散模型的推理速度提升 100–200 倍，靠一致性蒸馏、稀疏线性注意力和 SageAttention 等系统级优化，让视频生成真正跑得动。

基于 JAX 的计算机视觉研究库，提供注意力机制、Transformer 和 Vision Transformer 等模型实现，方便快速搭建和复现视觉研究实验。

holmesgpt

HolmesGPT·Python

基于 LLM 的 SRE 智能体，自动排查 Kubernetes 等环境中的告警与故障，帮助运维团队快速定位根因、缩短事件响应时间。

把 pycodestyle、pyflakes、mccabe 和第三方插件整合到一起的 Python 代码检查工具，一次运行就能查出风格问题和潜在错误。

Multi-LoRA inference server that scales to 1000s of fine-tuned LLMs

基于 PyTorch 的自监督学习库，用对比学习和 JEPA 世界模型在无标注图像上训练表征，省去人工标注成本。

Eagle

NVlabs·Python

Eagle 是一系列前沿视觉语言模型，主打以数据为中心的训练策略，能看图理解并回答多模态问题，适合做图文问答和视觉理解研究。

用多环境任务系统评测大模型作为智能体的综合能力，覆盖操作系统、数据库、知识图谱等场景，方便横向对比不同模型的 agent 表现。

开源的运动恢复结构（SfM）流水线，从多张照片自动重建三维场景和相机位姿，适合做摄影测量与三维建模。

Vibe-Skills

foryourhealth111-pixel·Python

给 AI 智能体做技能路由和工作流编排的框架，在 SkillsBench 上提升奖励并大幅省 token，适合搭多技能协作的编码或科研智能体。

MAGI-1 是一个大规模自回归视频生成模型，把视频拆成片段逐段预测生成，适合需要长时序连贯性的视频创作场景。

逆向 Google Gemini 网页版得到的 Python 异步接口，能直接调用对话、图像生成等能力，省去官方 API 的申请和限制。

把随手写的提示词改写成更清晰、结构化的版本，让文生图和图像编辑模型生成效果更稳定。

用 Python 实现 APNs 推送和 iMessage 协议客户端，可收发 iMessage 消息，适合研究苹果推送与 iMessage 通信机制的逆向工程。

用 Blender 程序化生成带深度、位姿等标注的逼真训练图像，解决计算机视觉任务缺高质量合成数据的问题。

基于 faster-whisper 的语音转写服务，提供兼容 OpenAI API 的接口，用 Docker 一键部署即可获得本地语音识别与翻译能力。

开源文档解析模型，用强化自迭代（RSI）循环做后训练，在准确率和速度上达到 SOTA，适合给 LLM 和 Agent 做 OCR 与文档理解。

vidgear

abhiTronix·Python

跨平台高性能视频处理 Python 库，封装 FFmpeg、OpenCV 等后端，支持多线程实时推流、HLS 直播、摄像头与屏幕捕获。

基于飞桨的高性能推理部署工具包，专门用来把大语言模型和多模态模型跑起来、服务化，支持 ERNIE 系列和 OpenAI 兼容接口。

给 AI 智能体用的记忆框架，借助 Obsidian 笔记库搭建并维护可长期积累的数字大脑，让智能体跨会话记住知识。

Movie metadata scraper

viseron

roflcoopter·Python

自托管的本地 NVR 与 AI 视觉监控软件，支持目标检测、移动侦测、人脸识别和车牌识别，可接入 IP 摄像头并利用 Coral、CUDA 等硬件加速，数据不出本地。

丢进资料就能自动构建并维护个人知识库，由 Claude、Codex 或 Gemini 读取内容、抽取知识，生成持续互联的 Markdown wiki，无需 API key。

evalscope

modelscope·Python

轻量可定制的大模型评测框架，支持 LLM、VLM、AIGC 和 RAG 的效果评估与性能压测，帮团队快速跑通基准测试。

自动化恶意软件沙箱，能提取样本的配置信息和载荷，并支持脱壳与调试，方便逆向分析人员快速摸清恶意程序的行为和意图。

面向中文地区的广告拦截规则列表，可屏蔽广告、追踪器、恶意软件、HTTPDNS 和 PCDN，适用于 AdGuard 等 DNS 过滤工具。

AWQ 是一种激活感知的权重量化方法，能在几乎不损失精度的情况下把大模型压到 4bit，并配合高效推理内核显著降低显存占用、提升推理速度。

trulens

truera·Python

给 LLM 应用和 AI Agent 做评测与追踪的工具，能记录实验过程、量化效果并定位问题，方便持续迭代和上线监控。

把 Codex、Claude、Gemini 等多个 AI 编码 Agent 放进同一个可见的 CLI 工作区，让它们协作或对比着写代码，省去在多个终端间来回切换。

面向 RAG 研究的 Python 工具包，内置多种检索增强生成算法、数据集和评测基准，方便快速复现和对比实验。

borb

borb-pdf·Python

纯 Python 的 PDF 库，能读取、生成和修改 PDF 文件，还内置排版能力，适合在代码里直接拼装报表、发票等文档。

轻量零依赖的 Python 代理服务器框架，支持正向/反向代理、TLS 拦截、DNS-over-HTTPS 和插件扩展，可当 Ngrok/FRP 的替代方案用。

用 Python 读写汽车 CAN 总线报文，内置各车型 DBC 定义，方便做车辆逆向分析和控制。

把大语言模型包装成 scikit-learn 风格的估计器，让文本分类、标注等任务能直接套用 fit/predict 和 Pipeline，省去自己写调用逻辑。

集成 YOLO 与 SAM 系列模型的 AI 辅助标注工具，能自动预标注图像，省去手工框选和分割的重复劳动。

VideoRAG

HKUDS·Python

面向超长视频的检索增强生成框架，让大模型能直接和你上传的视频对话，解决长视频内容理解与精准问答的问题。

为 Transformers、Diffusers 等模型提供硬件加速与量化、ONNX 导出等优化工具，让推理和训练在各类硬件上跑得更快。

跨语言、跨模态的嵌入模型评测基准，覆盖检索、聚类、重排序等任务，帮你选型对比不同 embedding 模型的实际效果。