面向 LLM 应用的多智能体开发框架,支持多模态、语音与实时交互,让智能体的构建、运行和调试过程可见、可理解、可信。
用 Rust 写的开源 Agent 操作系统,为 AI Agent 提供统一的运行与编排环境,支持 MCP 协议和 LLM 接入。
一个高性能 AI 网关,用统一 API 把请求路由到 1600+ 大模型,并内置 50+ 安全护栏,省去多模型接入和内容风控的重复开发。
Rust 写的张量库和深度学习框架,兼顾灵活性与效率,支持自动微分、跨平台后端和内核融合,可训练和部署神经网络。
一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。
在 Arduino ESP32 硬件上跑实时语音 AI,通过安全 WebSocket 和边缘函数接入 100+ 模型,做 AI 陪伴设备。
华为开源的深度学习训练与推理框架,覆盖移动端、边缘和云场景,主打国产 NPU 生态适配。
面向视频分析与端侧 VLM 的 C++ 边缘推理引擎,支持算能、瑞芯微 RKNN 和 x86 平台,自带可视化编排、实时 OSD、事件与可复现基准。
Hailo 官方预训练模型库,提供面向 Hailo-8 边缘 AI 加速器的模型、量化工具和完整评估环境,方便直接部署到端侧设备。
在 256MB 内存的十美元级开发板上跑 10 亿参数大模型,靠量化与 C 实现把 LLM 推理压进嵌入式设备。
面向单片机和微型计算机的轻量级深度学习库与推理框架,自带编译器,不绑定芯片厂商,可在 ESP32、Arduino 等边缘设备上跑模型。
统一可扩展的分布式机器学习库,支持大规模训练、模型服务和联邦学习,还能跨云调度任意 AI 任务到 GPU 云或本地集群。
用微软 Edge 的在线语音合成能力,自建一个免费、高质量的 TTS 接口,直接替换 OpenAI、Azure 或 ElevenLabs 的付费语音服务。
基于 FastAI 和 PyTorch 的模型压缩工具,提供剪枝、蒸馏和量化,帮你在边缘设备上跑更小更快的神经网络。
面向 Kubernetes 的多云、数据中心和边缘场景的容器管理平台,提供多集群、多租户的统一运维与 DevOps 能力。
面向 Hailo 边缘 AI 芯片的预训练模板应用流水线,基于 GStreamer 搭建,开箱即用,省去从零拼装视频推理链路的麻烦。
可移植的分布式应用运行时,用边车模式把事件驱动、工作流编排、状态管理和发布订阅等能力做成标准 API,让微服务在云和边缘环境都能一致运行。
基于 Stream 边缘网络快速搭建语音与视觉智能体,可接入任意模型或视频源,实现超低延迟的实时多模态交互。
开源自托管的个人云操作系统,基于 Kubernetes 在本地或边缘设备上常驻运行 AI Agent,兼顾数据隐私与模型服务。
PyTorch 官方的端侧推理框架,把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行,覆盖 CPU、GPU 等多种后端。
面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南,用 TensorRT 加速图像识别等视觉任务,配套教程和预训练模型开箱即用。
简单高性能的实时流媒体服务器,支持 RTMP、WebRTC、HLS、SRT 等主流协议和多种音视频编码,适合搭建低延迟直播与分发服务。
基于 PyTorch 的 YOLOv3 系列实现,覆盖训练、验证、推理全流程,并支持导出 ONNX、CoreML、TensorRT 等多种格式,方便做实时目标检测和边缘部署。
开箱即用的全栈监控平台,秒级采集指标并自动告警,内置机器学习异常检测,小团队也能低成本搭建可观测性。
轻量级 OCR 工具包,能把图片和 PDF 转成结构化数据,支持 100 多种语言,方便接入 LLM 和 RAG 流程。
用 Rust 写的轻量级自主 AI 个人助理基础设施,跨操作系统和平台部署,组件可自由替换。
ONNX 是开放的机器学习模型交换格式标准,让 PyTorch、TensorFlow、Keras 等框架训练出的模型能互相转换、跨平台部署。
跨平台高性能推理与训练加速引擎,可直接加载 ONNX 模型,兼容 PyTorch、TensorFlow 等框架导出,解决模型在不同硬件上高效部署的问题。
云原生一站式机器学习与大模型平台,覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调,支持国产算力生态。
给编码 Agent 提供数据库、认证、存储、计算、托管和 AI 网关的一站式开源后端平台,让 Agent 能端到端交付全栈应用。
系统讲解 Kubernetes 架构与云原生生态的中文手册,覆盖容器编排、服务网格到 AI 原生基础设施的构建实践。
给 AI Agent 用的无服务器单文件记忆层,用嵌入式向量检索替代复杂 RAG 管线,让智能体拥有即时检索和长期记忆能力。
在树莓派等边缘设备上跑深度学习推理的网关,把模型部署到 IoT 终端并通过 MQTT 上报结果,省去云端往返。
把 AI 生成的像素画自动对齐到规整网格,修掉边缘错位和大小不一的像素块,让杂乱的像素图变得干净可用。
SmythOS 运行时环境(SRE)是面向智能体 AI 的开源云原生运行时,让开发者在本地、云端和边缘环境安全地构建、运行和管理智能体。
把 OpenVINO 优化过的模型部署成可扩展推理服务的服务器,支持云端和边缘、Kubernetes 与 DAG 流水线,方便生产环境上线模型。
MIT 协议的开源计算机视觉库,支持目标检测、实例分割和姿态估计,兼容 ONNX 与 PyTorch,方便在边缘设备上训练和部署模型。
为 Jetson Nano 准备的 Ubuntu 20.04 系统镜像,预装 CUDA、OpenCV、PyTorch、TensorFlow、TensorRT 等深度学习环境,省去在边缘设备上手动配置的麻烦。