用纯 Java 实现的 Llama 3 及后续版本推理引擎，无需原生依赖即可在 JVM 上跑大模型，适合 Java 项目直接集成。

把深度学习模型编译到 CPU、GPU 及各类加速器上运行的开源编译器框架，通过统一中间表示和自动调优提升推理性能。

用纯 Java 实现的现代 LLM 推理引擎，支持 LLaMA、GPT 等 Transformer 模型，借助 SIMD 加速在 JVM 上直接跑大模型推理。