用一份 YAML 配置就能微调大模型,靠分层流式加载让 8B 模型在 4GB 显存的笔记本 GPU 上跑起来,省去手写训练脚本和显存焦虑。
在任意 M 系列 MacBook 上仅用约 2GB 内存跑 Gemma 4 26B-A4B 大模型推理,靠 Metal GPGPU 把 MoE 模型塞进本地设备。
基于节点图的扩散模型图形界面与后端,支持本地快速推理和 API 调用,方便搭建和调试图像生成工作流。
基于 WebGL、WebGPU、WebXR 和 glTF 的浏览器端图形运行时,用来在网页里跑 3D 游戏和交互场景,支持高斯泼溅等新渲染特性。
用 Rust 实现的 3D 重建与高斯泼溅训练工具,让普通显卡也能跑三维重建,降低使用门槛。
用 C++ 写的轻量级 ONNX 推理库,靠流式加载把内存压到极低,能在树莓派 Zero 2 或 298MB 内存里跑 Stable Diffusion XL 1.0,桌面端也能跑 Mistral 7B。
在 16–64 GB 内存的 Apple Silicon Mac 上,从 SSD 流式加载 105 GB 的 4-bit 大模型跑推理,纯 Swift + MLX/Metal 实现,离线无需 Python。
纯 C 写的本地大模型推理引擎,靠 MoE 稀疏激活和 NVMe 流式加载,让 32GB 笔记本跑 80B 模型,速度全面超过 llama.cpp。