把 LLM 推理中的 KV Cache 持久化到 DRAM、SSD 或 NFS 并跨请求复用,减少重复计算,加快推理速度,兼容昇腾 NPU 和 CUDA GPU。
新一代前端构建工具,提供极速冷启动的开发服务器和热更新,并内置生产构建能力,解决传统打包工具启动慢、反馈迟的问题。