面向 LLM 应用的多智能体开发框架，支持多模态、语音与实时交互，让智能体的构建、运行和调试过程可见、可理解、可信。

通用大模型部署引擎，借助机器学习编译技术把 LLM 高效跑在各种硬件上，从手机到服务器都能用。

用 Rust 写的开源 Agent 操作系统，为 AI Agent 提供统一的运行与编排环境，支持 MCP 协议和 LLM 接入。

一个高性能 AI 网关，用统一 API 把请求路由到 1600+ 大模型，并内置 50+ 安全护栏，省去多模型接入和内容风控的重复开发。

Rust 写的张量库和深度学习框架，兼顾灵活性与效率，支持自动微分、跨平台后端和内核融合，可训练和部署神经网络。

支持中英日韩法西六种语言的高质量语音合成库，适合需要多语种 TTS 能力的应用直接集成。

一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK，覆盖 Android、iOS、Flutter，省去自己搭推理链路的麻烦。

基于 ONNX Runtime、OpenVINO、PaddlePaddle 等多家推理后端的 OCR 工具包，支持多语言识别，方便在不同硬件上快速部署文字检测与识别。

面向 Kubernetes 的多云、数据中心和边缘场景的容器管理平台，提供多集群、多租户的统一运维与 DevOps 能力。

可移植的分布式应用运行时，用边车模式把事件驱动、工作流编排、状态管理和发布订阅等能力做成标准 API，让微服务在云和边缘环境都能一致运行。

基于 Stream 边缘网络快速搭建语音与视觉智能体，可接入任意模型或视频源，实现超低延迟的实时多模态交互。

简单高性能的实时流媒体服务器，支持 RTMP、WebRTC、HLS、SRT 等主流协议和多种音视频编码，适合搭建低延迟直播与分发服务。

基于 PyTorch 的 YOLOv3 系列实现，覆盖训练、验证、推理全流程，并支持导出 ONNX、CoreML、TensorRT 等多种格式，方便做实时目标检测和边缘部署。

开箱即用的全栈监控平台，秒级采集指标并自动告警，内置机器学习异常检测，小团队也能低成本搭建可观测性。

轻量级 OCR 工具包，能把图片和 PDF 转成结构化数据，支持 100 多种语言，方便接入 LLM 和 RAG 流程。

面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南，用 TensorRT 加速图像识别等视觉任务，配套教程和预训练模型开箱即用。

开源自托管的个人云操作系统，基于 Kubernetes 在本地或边缘设备上常驻运行 AI Agent，兼顾数据隐私与模型服务。

用 Rust 写的轻量级自主 AI 个人助理基础设施，跨操作系统和平台部署，组件可自由替换。

PyTorch 官方的端侧推理框架，把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行，覆盖 CPU、GPU 等多种后端。

ONNX 是开放的机器学习模型交换格式标准，让 PyTorch、TensorFlow、Keras 等框架训练出的模型能互相转换、跨平台部署。

跨平台高性能推理与训练加速引擎，可直接加载 ONNX 模型，兼容 PyTorch、TensorFlow 等框架导出，解决模型在不同硬件上高效部署的问题。

给编码 Agent 提供数据库、认证、存储、计算、托管和 AI 网关的一站式开源后端平台，让 Agent 能端到端交付全栈应用。

云原生一站式机器学习与大模型平台，覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调，支持国产算力生态。

系统讲解 Kubernetes 架构与云原生生态的中文手册，覆盖容器编排、服务网格到 AI 原生基础设施的构建实践。

给 AI Agent 用的无服务器单文件记忆层，用嵌入式向量检索替代复杂 RAG 管线，让智能体拥有即时检索和长期记忆能力。

基于 eBPF 的 Kubernetes 原生可观测性平台，无需改代码即可自动采集集群内应用的指标、日志和追踪数据。

把超大图像切成小块做切片推理，再拼回完整结果，兼容任意检测/分割模型，还带交互式界面和误差分析图。

纯 Rust 实现的 WebGPU 推理引擎，原生支持 GGUF 模型，兼容 OpenAI API，无需 Python 和 llama.cpp，单个二进制文件即可在任意 GPU 上跑本地大模型。

哈佛 CS249r 的机器学习系统教材，覆盖基础、扩展、智能体 AI 与具身 AI 四卷，系统讲解从云端到边缘的 ML 系统设计与工程实践。