把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架,通过统一中间表示和自动调优提升推理性能。
在 256MB 内存的十美元级开发板上跑 10 亿参数大模型,靠量化与 C 实现把 LLM 推理压进嵌入式设备。
汇集计算机视觉方向的实战项目合集,覆盖 Python、C++、CUDA 和嵌入式部署,方便直接上手跑通检测、识别等模型并落地到 TensorRT 等推理环境。