OpenAI 开源的通用语音识别模型，基于大规模弱监督训练，支持多语言转写、翻译和语种识别，开箱即用。

单张 4GB 显存显卡就能跑 70B 甚至 2.8T 参数大模型的分层推理方案，通过逐层加载权重把显存需求压到极低，适合本地低配设备部署大模型。

用纯 RNN 架构的 RWKV 语言模型驱动的开源聊天机器人，效果对标 ChatGPT，可在本地部署运行。

面向稠密向量的高效相似度检索与聚类库，支持十亿级向量近邻搜索，是构建向量数据库和 RAG 检索层的底层引擎。

一条命令就能从数百个模型和供应商里筛出适合你硬件配置的本地大模型，省去逐个试跑和查显存的麻烦。

NVIDIA 官方的高性能深度学习推理 SDK，能把训练好的模型在 NVIDIA GPU 上做极致加速和部署，适合追求低延迟高吞吐的生产推理场景。

用 Python API 定义大模型，并借助 TensorRT 在 NVIDIA GPU 上做极致优化推理，还提供 Python/C++ 运行时来编排高性能服务。

面向 MoE 模型的高效专家并行通信库，专门优化 GPU 间 all-to-all 分发与合并，降低大规模稀疏模型训练和推理的通信开销。

用 LoRA、Adapter 等少量参数微调大模型和扩散模型，大幅降低显存与训练成本，是 Hugging Face 生态里做参数高效微调的标准库。

用一份 YAML 配置就能微调大模型，靠分层流式加载让 8B 模型在 4GB 显存的笔记本 GPU 上跑起来，省去手写训练脚本和显存焦虑。

浏览器里就能用的开源 3D 建筑设计软件，面向 AECO 行业，支持扫描转 BIM，还能通过 MCP 和 CLI 让 AI Agent 直接操作建模流程。

Mooncake 是支撑 Kimi 大模型服务的推理平台，通过 KVCache 分离式架构和 RDMA 高速传输，把预填充与解码拆开部署，提升长上下文场景下的吞吐和资源利用率。

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架，通过统一中间表示和自动调优提升推理性能。

基于 Gradio 的 Stable Diffusion 网页界面，把文生图、图生图、局部重绘等能力做成可视化操作面板，不用写代码就能跑图像生成。

面向本地部署的高速大模型推理引擎，通过稀疏激活与量化等技术，让消费级显卡也能流畅跑起 Llama 类模型。

面向大模型后训练的强化学习框架，用混合编程模型把 RLHF 训练流程编排得灵活又高效，方便扩展和跑大规模实验。

用多分辨率哈希编码把 NeRF、SDF 等神经图形基元的训练从几小时压到几秒，实时渲染三维场景。

面向全模态模型的高效推理框架，支持图像、视频、音频生成与多模态模型服务，基于 PyTorch 提供统一的推理与部署能力。

用 Triton 重写 LLM 训练中的 RMSNorm、RoPE、交叉熵等关键算子，减少显存占用并提升微调吞吐，兼容 Llama、Mistral、Gemma、Phi 等主流模型。

基于码本查找 Transformer 的盲人脸修复模型，能在低质量、模糊或退化的人脸图像上恢复清晰细节，适合老照片修复和人脸增强场景。

持续性能分析平台，能定位到具体代码行，帮你排查 CPU、内存等性能瓶颈，适合生产环境做可观测性监控。

从下载数据到生成文本，手把手教你从零训练自己的大语言模型，适合想搞懂 LLM 训练全流程的开发者动手实践。

RWKV 是一种兼具 RNN 与 Transformer 优势的语言模型架构，支持像 GPT 一样并行训练，推理时线性时间、常量显存、无限上下文，无需 KV 缓存。

面向语音 AI 的可扩展生成式框架，覆盖语音识别、语音合成、说话人分离与语音翻译，方便研究和开发人员训练部署语音模型。

LTX-Video 是 Lightricks 开源的视频生成模型，支持文生视频和图生视频，基于 DiT 扩散架构，可快速生成高质量短视频。

开源视频生成模型，用高效架构和训练方案降低高质量视频制作门槛，让普通开发者也能训练和部署文生视频模型。

用 C# 编写的实验性 PlayStation 5 模拟器，支持 Windows 和 Linux，让玩家能在 PC 上运行 PS5 游戏。

跨平台的系统监控工具，可看作 top/htop 的增强替代品，在终端或网页中实时查看 CPU、内存、磁盘、网络等资源占用。

开源版 Codespaces：客户端轻量、不绑定 IDE，用任意编辑器连上云、Kubernetes 或本地 Docker 就能拉起远程开发环境。

把多个预训练大模型按不同策略合并成一个新模型的工具集，不用重新训练就能组合各家能力，适合做模型融合实验。

在 PaLM 架构上实现 RLHF 人类反馈强化学习，复现 ChatGPT 式训练流程，适合研究大模型对齐与强化学习微调。

把时间序列当成语言来建模的预训练预测模型，基于 Transformer 架构，可直接用于零样本或微调预测，省去从零训练的成本。

基于下一尺度预测的自回归视觉生成模型，用GPT式架构做图像生成并击败扩散模型，代码简洁易用，附带缩放定律研究。

预训练的企业级语音活动检测（VAD）模型，能精准切分音频中的说话段与静音段，支持 ONNX 和 PyTorch 部署，适合语音识别、语音指令等场景的前置处理。

LMDeploy 是面向大模型的高效推理与服务工具包，支持模型压缩、部署和在线服务，内置 TurboMind 推理引擎和 CUDA 算子，可加速 Llama、InternLM 等模型的推理。

用大语言模型把编译后的二进制代码还原成可读源码，为逆向工程提供自动化反编译能力。

一站式大模型训练框架，支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练，可用 LoRA 等 PEFT 方式或全参数微调。

一本从硬件约束和模型架构出发、用定量推导讲透 LLM 推理与训练系统设计的开源书稿，附全书正文、PDF 和配套计算工具，适合想搞懂 AI Infra 底层账怎么算的工程师。

哈佛 CS249r 的机器学习系统教材，覆盖基础、扩展、智能体 AI 与具身 AI 四卷，系统讲解从云端到边缘的 ML 系统设计与工程实践。