AI · 算法工程
共 1,645 个仓库 · Python
为 AI Agent 提供可扩展、可互操作的通用记忆层，统一存储与检索状态，简化自主系统的上下文管理。
让 vLLM 推理引擎跑在华为昇腾 NPU 上的社区维护硬件插件，帮你在国产算力上部署大模型服务。
一套用来测试和实验提示词的开源工具，支持 OpenAI、LLaMA 等大模型以及 Chroma、Weaviate 等向量数据库，方便对比不同提示词的效果。
一个超小型的通用音频模型，用同一套权重同时完成语音识别、语音合成和音色转换，省去为每种任务单独部署模型。
不用搬数据就能做企业知识检索和 RAG，跨 100+ 应用联合搜索并直接生成答案，几分钟即可部署。
用蓝图驱动多智能体自动跑完从选题、实验到论文写作和同行评审的 AI 科研流程，适合想自动化科研工作流的团队。
PyTorch 官方的量化与稀疏化工具库，支持训练和推理阶段的低精度计算，覆盖 float8、MX 等数据类型，可加速 Transformer 和 Llama 等大模型。
把 PyTorch、TorchScript 和 FX 模型编译成 TensorRT 引擎，在 NVIDIA GPU 上做推理加速，省去手写 TensorRT 网络的麻烦。
用大模型对 Tesseract 的 OCR 结果做纠错、智能分块和 Markdown 排版，把扫描 PDF 转成干净可读的文本，支持本地或 API 模型。
自动翻译漫画、日漫、韩漫等图片与 PDF/EPUB/CBR/CBZ 文件，集成 OCR、图像修复和机器翻译，支持多语言多格式。
基于 PySide6 的 faster-whisper 图形界面，让语音转文字不用敲命令行，支持 VAD 和 WhisperX 等能力。
面向大语言模型的高性能推理框架，主打高效、灵活和易用，支持 DeepSeek 等模型在 GPU 上做推理服务部署。
轻量级图像与视频生成推理框架，支持 Wan、Hunyuan、LTX 等主流视频模型及自回归扩散模型，降低多模态生成模型的部署与推理门槛。
轻量级嵌入式代码搜索引擎 CLI，基于 AST 解析建立索引，帮编码 Agent 快速定位相关代码、节省上下文窗口。
本地优先的多模型 AI 助手，用一个 Modelflare 密钥接入 GPT、Claude、Gemini 等 70+ 模型，支持在应用、微信、飞书里对话，能记忆、后台执行命令并操作电脑。
开源且注重隐私的屏幕历史记录工具，可替代 Windows Recall，通过 OCR 和语义搜索随时找回你过去看过的内容。
斯坦福 CRFM 出品的 Python 评测框架，对基础模型和大语言模型做全面、可复现、透明的基准测试，方便横向对比模型能力。
从文字或图片直接生成可漫游、可交互的沉浸式 3D 场景，用世界模型把 3D 内容创作的门槛降下来。
基于 CTPN 做中文场景文字检测、CRNN+CTC 做识别的端到端 OCR 老项目，适合拿来跑通中文自然场景文字识别的完整流程。
面向图像、视频、音频扩散模型的通用微调工具箱，支持 Stable Diffusion、Flux 等模型，帮你在自有数据上快速训练出定制生成模型。
在普通电脑上跑 MiniMax H3 视频生成，最低 8GB 显存加 16GB 内存就能用，还会根据硬件自动选择加速方案。
Open Source Document Management System for Digital Archives (Scanned Documents)
把 Nunchaku 的 4-bit 量化扩散模型推理接进 ComfyUI，让 FLUX 等模型在低显存下也能快速出图。
面向 Blackwell 架构 GPU 的高速 LLM 推理引擎，支持 DeepSeek、Kimi、GLM 等模型，主打极致推理吞吐与低延迟。