用 C/C++ 实现的大模型推理引擎，能在普通 CPU 和消费级显卡上跑 LLaMA 等模型，支持量化以降低显存占用。
跨平台高性能推理与训练加速引擎，可直接加载 ONNX 模型，兼容 PyTorch、TensorFlow 等框架导出，解决模型在不同硬件上高效部署的问题。
开源本地 AI 推理引擎，无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型，提供兼容 OpenAI 的 API。
OpenAI Whisper 语音识别模型的 C/C++ 移植版，无需 Python 和 GPU 依赖，在普通 CPU 上就能跑语音转文字。
面向 Apple silicon 的数组计算框架，让机器学习模型能直接在 Mac 芯片上高效训练和推理，省去折腾 CUDA 的麻烦。
在骁龙设备的 NPU、GPU 和 CPU 上本地跑大模型和多模态模型，几行代码就能接入，省去自己适配硬件的麻烦。
把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理，支持视觉、LLM 和生成式模型，省去自己折腾底层加速的麻烦。
用 Rust 写的 GPU 加速跨平台终端模拟器，同时内置终端复用功能，可替代 tmux 和传统终端，还支持串口连接。
本地运行的网络录像机，接入 IP 摄像头后实时做目标检测，识别到人、车等对象再触发录像和 MQTT 通知，画面不出家门。
用 Rust 写的跨平台 GPU 加速终端模拟器，基于 OpenGL 渲染，主打高帧率和低延迟，适合嫌普通终端卡顿、想要更顺滑操作体验的开发者。
基于 GPU 渲染的跨平台终端模拟器，速度快、功能丰富，适合长期在终端里工作的人，支持 OpenGL 加速和分屏等特性。
轻量级命令行视频播放器，基于 FFmpeg 解码，支持硬件加速、字幕渲染和脚本扩展，适合在终端或嵌入其他应用中播放音视频。
把 NumPy 风格的 Python 代码自动微分、向量化并 JIT 编译到 GPU/TPU，写起来像 NumPy，跑起来像高性能计算。
把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架，通过统一中间表示和自动调优提升推理性能。
基于 CTranslate2 重实现的 Whisper 语音转文字推理引擎，通过量化与高效推理大幅提速并降低显存占用，适合本地部署转录。
面向大语言模型的高吞吐、低显存推理与服务引擎，通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用，适合部署在线推理服务。
用 Rust 重写的 Flash Player 模拟器，能在浏览器和桌面端直接运行 SWF 文件，让老 Flash 内容在官方停支持后继续可用。
给 LLM 推理加速的 KV Cache 层，可对接 vLLM 等框架，复用和缓存键值对来降低显存占用、提升吞吐，支持 CUDA 和 ROCm。
在 iPhone、iPad 和 Mac 上跑虚拟机的图形化工具，基于 QEMU 封装，让你不用命令行就能装 Windows、Linux 等系统。
用 Python 脚本剪辑视频，支持裁剪拼接、加字幕特效、导出 GIF 和调整帧率，适合批量处理和自动化视频流水线。
在 Docker 容器里跑完整 macOS 虚拟机，一条命令就能在 Linux 或 Windows 上启动 macOS 环境，适合做 CI 测试和跨平台开发。
三行代码就能完成训练和调参的 AutoML 框架，自动搞定表格、图像、文本和时间序列任务，省去手动选模型和调超参的麻烦。
本地运行的 AI 会议记录工具，用 Whisper/Parakeet 在设备上完成转写和说话人分离，不需要会议机器人，会议内容不出本机。
用纯 Rust 从零实现的开源非线性视频编辑器，支持多轨道剪辑与视频处理，适合想要轻量、高性能剪辑工具的用户。
集成 Waifu2x、Real-ESRGAN、Real-CUGAN 等多种超分模型与 RIFE 等补帧算法的图形界面工具，可批量放大视频、图片和 GIF 并提升帧率。
Rust 写的张量库和深度学习框架，兼顾灵活性与效率，支持自动微分、跨平台后端和内核融合，可训练和部署神经网络。
单文件实现的深度强化学习算法集合，涵盖 PPO、DQN、SAC 等主流算法，代码简洁易读，适合做研究和快速实验。
面向 Transformer 模型的高性能推理引擎，用 C++ 实现并支持 CUDA、AVX、NEON 等硬件加速，让机器翻译等模型在 CPU/GPU 上跑得更快、显存占用更低。
GPU 加速的图像处理与计算机视觉库，专为云端大规模负载设计，用 CUDA 把预处理和视觉算子跑在 GPU 上，缓解 CPU 瓶颈。
把远程机器上的 GPU 通过 IP 网络桥接给只有 CPU 的机器使用，让无显卡设备也能跑 CUDA 计算和推理任务。
自托管 Chatterbox 语音合成模型的服务端，带 Web 界面和 OpenAI 兼容 API，支持预置音色、声音克隆和长篇有声书文本处理，可在 NVIDIA、AMD 和 CPU 上加速运行。
面向大模型量化的压缩工具包，支持 NVIDIA、AMD、Intel、华为昇腾等多硬件加速，可无缝接入 HF、vLLM 和 SGLang 推理。
一套用 CPU、GPU 和 APU 做纹理与 3D 模型压缩、优化和分析的工具集，支持 BC、ASTC、ETC 等格式，帮图形开发者减小资源体积并检查画质。
纯 C++ 实现的大模型推理引擎，无需 Python 环境即可在电脑的 CPU 和 GPU 上实时运行对话模型。
把 Hugging Face 的 Transformers、Diffusers 等模型接到 Intel 的 OpenVINO 等优化工具上，加速 CPU/GPU 推理，覆盖 LLM、语音识别、语音合成和多模态模型。
VA-API 的官方实现库，让 Linux 上的播放器、转码工具和浏览器能调用 Intel GPU 做硬件视频解码、编码与处理，避免纯 CPU 软解的高占用。
为 VapourSynth 视频处理框架提供 CPU/GPU 高效推理运行时，内置 waifu2x、Real-ESRGAN、RIFE、Real-CUGAN 等超分、降噪、插帧模型，方便在视频后期流程里直接调用。
开源语音识别模型 Phonon-2 和 Phonon-1，提供命令行工具以及 CPU、CUDA 镜像，支持低比特量化和 MLX 加速，方便本地部署语音转文字。
面向 ROS 1/2 的实时 3D 激光雷达障碍物检测工具，集地面分割、聚类、跟踪与轨迹预测于一体，单核 CPU 约 10ms 处理一帧，可选 TensorRT 加速的 CenterPoint。