让视频扩散模型在普通显卡上也能跑起来，通过帧打包技术大幅降低显存占用，实现实用的长视频生成。

基于 Gradio 的 Stable Diffusion 网页界面，把文生图、图生图、局部重绘等能力做成可视化操作面板，不用写代码就能跑图像生成。

开源本地 AI 推理引擎，无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型，提供兼容 OpenAI 的 API。

用 Rust 写的跨平台 GPU 加速终端模拟器，基于 OpenGL 渲染，主打高帧率和低延迟，适合嫌普通终端卡顿、想要更顺滑操作体验的开发者。

用 Zig 编写、基于 GPU 加速的跨平台终端模拟器，界面采用各平台原生控件，启动快、功能全，适合追求流畅终端体验的开发者。

把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理，支持视觉、LLM 和生成式模型，省去自己折腾底层加速的麻烦。

基于下一尺度预测的自回归视觉生成模型，用GPT式架构做图像生成并击败扩散模型，代码简洁易用，附带缩放定律研究。

LTX-Video 是 Lightricks 开源的视频生成模型，支持文生视频和图生视频，基于 DiT 扩散架构，可快速生成高质量短视频。

用 Python 脚本剪辑视频，支持裁剪拼接、加字幕特效、导出 GIF 和调整帧率，适合批量处理和自动化视频流水线。

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架，通过统一中间表示和自动调优提升推理性能。

把 EPUB、PDF 或纯文本一键转成有声书，并生成与语音同步的字幕，适合批量制作有声内容。

本地离线从视频画面中提取硬字幕并生成 srt 文件，基于深度学习做字幕区域检测和文字识别，不用调第三方 API。

开源 AI 语音工作室，支持声音克隆、语音听写和语音生成，基于 Qwen3-TTS 与 Whisper，可在 CUDA 或 MLX 上本地运行。

免费开源的跨平台屏幕录制工具，支持 GPU 加速、无水印无订阅，内置语音转文字，适合快速录制产品演示视频。

在本地 GPU 和 NPU 上直接跑优化后的大模型，帮用户发现并启动本地 AI 应用，省去自己折腾推理环境的麻烦。

一个简洁但完整的全注意力 Transformer 实现，集成了多篇论文中值得尝试的实验性特性，方便研究者快速试验各种注意力变体。

开源编码 Agent 平台，支持在 VS Code、JetBrains 和命令行中调用 Claude、GPT、Gemini 等模型，帮开发者自动写代码、改代码、加速迭代。

把 EPUB 电子书转成有声书的 Python 工具，基于 Kokoro 语音合成模型，适合想批量制作个人音频书的人。

基于 CTranslate2 重实现的 Whisper 语音转文字推理引擎，通过量化与高效推理大幅提速并降低显存占用，适合本地部署转录。

LMDeploy 是面向大模型的高效推理与服务工具包，支持模型压缩、部署和在线服务，内置 TurboMind 推理引擎和 CUDA 算子，可加速 Llama、InternLM 等模型的推理。

整理大模型与多模态推理加速论文和配套代码的资源清单，涵盖 Flash-Attention、Paged-Attention、低比特量化与并行策略等方向，方便快速定位和复现关键技术。