一个高效易用的深度学习模型压缩框架,支持剪枝、训练后量化和量化感知训练,能把 PyTorch 模型转换部署到端侧。
用 Swift 写的轻量本地大模型推理库,能在 macOS、iOS、watchOS、tvOS、visionOS 上直接跑 GGUF 模型,代码简单易读,方便苹果生态应用集成。
Spark-X2.6 是面向端侧设备的开源模型系列,主打把智能体能力压进本地运行的模型里,支持 llama.cpp、MLX 等推理后端。