模型工具链

用有损量化把 PNG 压到原体积的几分之一，肉眼几乎看不出差别，适合给网页和 App 里的图片瘦身。

基于 MLIR 的开源编译器工具链，提供贴近硬件的 Python API，用来给 AMD Ryzen AI NPU（AI Engine）编写和编译算子程序。

纯 C 写的本地大模型推理引擎，靠 MoE 稀疏激活和 NVMe 流式加载，让 32GB 笔记本跑 80B 模型，速度全面超过 llama.cpp。

把 ONNX 模型编译成纯 C 代码，方便在单片机和边缘设备上直接跑推理，不用带完整运行时。

纯 C 实现的 LLM 推理库，零依赖单头文件，通过无损 KV cache 压缩把上下文长度拉长到 7 倍，适合嵌入到资源受限环境。

在 CH32V003 这类低端 32 位单片机上跑低比特权重量化神经网络，把 TinyML 推理压进几毛钱的芯片里。