让 vLLM 在 Apple Silicon 的 Mac 上跑起来，通过 Metal 和 MLX 后端把大模型推理搬到本地苹果芯片，省去 GPU 服务器。

面向 Tenstorrent 加速卡的 TT-NN 算子库和 TT-Metalium 底层内核编程模型，让大模型和图像生成模型能在非 GPU 硬件上高效推理。

面向 Apple Silicon 的本地大模型推理与微调框架，用 Rust 实现，支持 LoRA/QLoRA 微调、量化、模型服务和 MLX/Metal 加速。

用 C/C++ 实现的大模型推理引擎，能在普通 CPU 和消费级显卡上跑 LLaMA 等模型，支持量化以降低显存占用。

本地一键跑起 Kimi、DeepSeek、Qwen、Gemma 等大模型，省去环境配置和依赖折腾，适合快速做推理和原型验证。

轻量级命令行下载工具，支持 HTTP、FTP、BitTorrent、Metalink 等多种协议和多源并发下载，适合脚本化批量下载和远程 RPC 控制。

用 Ansible 在裸机、AWS、GCE 等环境一键部署生产级 Kubernetes 集群，支持高可用，省去手工搭集群的繁琐。

跨平台渲染库，屏蔽 DirectX、OpenGL、Metal、Vulkan 等图形 API 差异，让你自带引擎或框架也能统一接入渲染。

开源自托管的云平台，提供弹性计算、块存储、防火墙、托管 Postgres、K8s 和 AI 推理等 AWS 式服务，可跑在自己的裸金属服务器上。

Rust 写的张量库和深度学习框架，兼顾灵活性与效率，支持自动微分、跨平台后端和内核融合，可训练和部署神经网络。

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架，通过统一中间表示和自动调优提升推理性能。

在现有 Kubernetes 集群上快速创建隔离的虚拟集群，每个租户独享 API Server、CRD 和 RBAC，省去为多租户单独搭建物理集群的成本。

免费开源的跨平台 2D/3D 游戏引擎，支持 WebGL、Vulkan、Metal 等图形后端，帮助开发者高效制作并发布高性能游戏和网页互动内容。

在任意 M 系列 MacBook 上仅用约 2GB 内存跑 Gemma 4 26B-A4B 大模型推理，靠 Metal GPGPU 把 MoE 模型塞进本地设备。

用 Rust 写的 GPU 加速终端模拟器，基于 Metal/Vulkan 渲染，桌面和浏览器里都能跑，适合追求流畅终端体验的开发者。

一款用 C++ 写的现代 3D 游戏引擎，支持 DirectX12、Metal、PBR、全局光照和物理模拟，适合做高性能图形渲染和游戏开发。

用 Rust 写的高性能 AI 模型推理引擎，支持 LLM 和语音合成，并针对 Metal 做加速，适合在本地或服务端跑模型推理。

面向 Apple Silicon 的本地大模型推理引擎，围绕模型本身做优化，让 Mac 上跑编码智能体和 LLM 推理更快更省资源。

基于 PyTorch 的元学习研究库，提供 MAML、Meta-SGD 等算法实现和统一接口，方便快速复现和开发少样本学习、元强化学习实验。

用 Zig 写的跨平台 LLM 推理引擎，支持 Metal、CUDA 和 Vulkan，让同一套代码在苹果、NVIDIA 和通用 GPU 上跑大模型推理。

在 Node.js 里直接跑 llama.cpp 的绑定库，支持 GPU 加速和 GGUF 模型，还能在生成阶段强制模型按 JSON Schema 输出，方便做结构化抽取和函数调用。

在 Mac 上跑 Qwen 3.8 等大模型的原生推理引擎，靠 MTP 投机解码把速度拉到 125 tok/s，16GB 内存也能跑 27B 模型，并提供 OpenAI/Anthropic 兼容的本地服务。

用 USB-C 把 iPhone 接到 Mac 上，让手机参与跑 27B 大模型，加快提示词读取并扩展上下文，适合本地推理场景。

在 16–64 GB 内存的 Apple Silicon Mac 上，从 SSD 流式加载 105 GB 的 4-bit 大模型跑推理，纯 Swift + MLX/Metal 实现，离线无需 Python。

基于 MLIR 的开源编译器工具链，提供贴近硬件的 Python API，用来给 AMD Ryzen AI NPU（AI Engine）编写和编译算子程序。

用纯 Go 直接调用 llama.cpp 做本地推理，支持 CUDA、Metal、ROCm 硬件加速，覆盖 Linux、macOS、Windows 和 WebAssembly，方便在 Go 应用里嵌入大模型。

跨平台命令行工具，用同一套测试测 CPU、GPU、NPU 的峰值算力、内存带宽和延迟，覆盖 CUDA、Metal、OpenCL 等主流 API。

基于节点的创意编程工具，用可视化连线搭建 3D 图形、图像处理和计算机视觉流程，灵感来自 Quartz Composer，适合实时渲染与多媒体实验。

纯 Swift 实现的单文件记忆层，让多个 Agent 在 Apple Silicon 上本地完成文本、图片和视频的亚毫秒级 RAG 检索，无需服务器和 API。

在 Apple Silicon 上通过 MLX 原生实现 DeepSeek DSpark 与 DFlash 投机解码，让本地大模型推理最高提速 4 倍且无损，兼容 Gemma、Qwen、Nemotron 等模型。

跨平台多媒体开发套件，提供 Dolby Vision、HDR、D3D12、Metal 等硬件加速解码与播放能力，方便在各类设备上集成高质量视频处理。

在 iPad 上跑完整 Linux 桌面，用原生窗口管理、平铺和虚拟工作区运行 Firefox、VS Code 等真实 Linux 应用，靠 ARM64 JIT 和 Venus/Metal GPU 加速。

在 Kubernetes 上自托管大模型推理的 Operator，统一调度 NVIDIA、AMD、Apple Silicon 等异构 GPU，支持多卡分片、模型缓存和 OpenAI 兼容接口。

在 Apple Silicon 上做 W8A8/W4A8 量化推理，调用 M5 闲置的 INT8 TensorOps 让 LLM prefill 快 1.2–1.9 倍，并用类 FlashInfer 的 GQA 解码注意力加速 SDPA。

让 PC 开机直接进入大模型运行环境，基于 Rust 的 UEFI 常驻方案，底层不需要操作系统，省去启动系统开销。

在 Apple Silicon Mac 上本地运行 Phi-3、Phi-3.5 和 Phi-4 视觉与语言模型，基于 MLX 和 Metal 加速，支持微调、LoRA 与多智能体编排。

Rust 原生本地推理后端，支持 GGUF 模型和量化，在 Apple Silicon 与 Windows 上跑 LLM，并提供 OpenAI 兼容接口。