面向手机端的高性能神经网络推理框架,针对 ARM 平台深度优化,让 Caffe、ONNX 等模型能在 Android/iOS 上低延迟运行。
基于 PyTorch 的 YOLOv3 系列实现,覆盖训练、验证、推理全流程,并支持导出 ONNX、CoreML、TensorRT 等多种格式,方便做实时目标检测和边缘部署。
PyTorch 官方的端侧推理框架,把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行,覆盖 CPU、GPU 等多种后端。
在手机等移动设备上高效运行多模态大模型的 C++ 推理引擎,让视觉语言模型能在端侧低资源环境下完成推理。
把 whisper.cpp 封装成 React Native 原生模块,让移动端 App 直接跑 OpenAI Whisper 语音识别,无需联网或自建服务。
Ultralytics 官方 Flutter 插件,让 Android 和 iOS 应用直接跑 YOLO 实时推理,覆盖检测、分割、分类、姿态与深度估计等视觉任务。