在 LLaMA/Alpaca 基础上扩充中文词表并做中文增量预训练,提供可本地 CPU/GPU 部署的中文大模型及 LoRA 微调、量化方案。
中文 LLaMA-2 与 Alpaca-2 大模型二期项目,提供支持 64K 超长上下文的中文预训练和指令微调模型,可直接用于长文本理解与对话。
基于 Meta Llama 3 开发的中文大模型项目,提供中文 LLaMA-3 和 Alpaca-3 模型及训练、部署方案,解决中文场景下开源大模型可用性问题。
一套 0.8B 到 27B 的开源决策模型,一次前向就能为每个选项给出校准概率,只在不确定时才输出简短思考;配套 vLLM、llama.cpp 和 MLX 推理引擎。
用 USB-C 把 iPhone 接到 Mac 上,让手机参与跑 27B 大模型,加快提示词读取并扩展上下文,适合本地推理场景。
面向大语言模型的高吞吐、低显存推理与服务引擎,通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用,适合部署在线推理服务。
在 iOS 和 macOS 上离线运行 LLaMA、GPT-2、RWKV 等大语言模型的 Swift 应用,基于 GGML 库,无需联网即可本地推理。
Release Notes [2026-08-19] llama-index-core [0.14.24] - fix: close HotpotQA evaluator file handles ([ 22113](https://github.com/run-llama/llama index/pull/22113)) - fix(c
Patch Changes - 232c55b: Include xlsx files in extract input
… extract input - Updated dependencies [232c55b] - [email protected]
Patch Changes - Updated dependencies [2358df1] - [email protected]
Llama-cookbook v0.0.5 Release Notes This release changes the package name from llama recipes to llama cookbook and deprecates the llama recipes package name. Highlighted
Llama 3.1 Integration This release accompanies the release of [Llama 3.1](https://llama.meta.com/) which included new versions of the Llama 8B and 70B models as well as t