基于 Llama3 的中文后训练模型与配套工具，提供中文微调权重、训练脚本和部署方案，让开发者能直接跑起中文对话模型。

用纯 Java 实现的 Llama 3 及后续版本推理引擎，无需原生依赖即可在 JVM 上跑大模型，适合 Java 项目直接集成。

一套统一接口搞定 100+ 大语言模型和多模态模型的微调，支持 LoRA 等高效训练方式，省去为每个模型单独写训练脚本的麻烦。

面向中文用户的 Linux 环境大模型实战教程，手把手教你在本地微调（全参数/LoRA）和部署国内外开源 LLM 与多模态模型。

可自托管的个人 AI 第二大脑，能从网页和本地文档中检索答案，支持自定义智能体、定时自动化和深度研究，兼容多种在线或本地大模型。

把 DeepSeek、Llama 等开源大模型一键部署成兼容 OpenAI 的 API 服务，省去自己搭推理后端的麻烦。

开源企业级智能体平台，可快速搭建基于知识库的问答助手和 Agent，支持接入 DeepSeek、Llama 等大模型与 MCP 工具。

在骁龙设备的 NPU、GPU 和 CPU 上本地跑大模型和多模态模型，几行代码就能接入，省去自己适配硬件的麻烦。

LMDeploy 是面向大模型的高效推理与服务工具包，支持模型压缩、部署和在线服务，内置 TurboMind 推理引擎和 CUDA 算子，可加速 Llama、InternLM 等模型的推理。

只需 Python 基础，就能跟着 Jupyter Notebook 从零手写 GLM4、Llama3、RWKV6 等大语言模型，边写代码边吃透模型原理。

用 Triton 重写 LLM 训练中的 RMSNorm、RoPE、交叉熵等关键算子，减少显存占用并提升微调吞吐，兼容 Llama、Mistral、Gemma、Phi 等主流模型。

Data framework for your LLM applications. Focus on server side solution

Eagle 是一系列前沿视觉语言模型，主打以数据为中心的训练策略，能看图理解并回答多模态问题，适合做图文问答和视觉理解研究。

在 .NET 项目里本地跑 LLaMA、LLaVA 等大模型的 C# 库，封装 llama.cpp，让 C# 开发者不用切 Python 就能做聊天和多模态推理。

把家里的多台设备连成集群来跑 LLM 推理，设备越多推理越快，用 C++ 实现分布式加速。

汇集机器学习系统与大模型推理、训练、服务方向的顶会论文和工业实践，配视频教程，帮算法工程师系统补齐 AI Infra 知识。

基于 Meta Llama 3 开发的中文大模型项目，提供中文 LLaMA-3 和 Alpaca-3 模型及训练、部署方案，解决中文场景下开源大模型可用性问题。

把电子表格变成 AI 流水线：在单元格里串联提示词和模型，实时对比 LLM 输出，多人协作迭代 AI 应用。

Ovis 是一种多模态大语言模型架构，通过结构对齐视觉与文本嵌入，让模型能同时理解图像和文字，适合做视觉问答、图文对话等任务。

基于 PyTorch 原生分布式训练的 LLM/VLM 训练库，开箱即用兼容 Hugging Face，方便微调 Llama、Gemma、GLM 等主流大模型。

几分钟内就能在本地或远程部署任意 AI 模型、智能体、数据库、RAG 和流水线，省去繁琐的环境配置和运维工作。

A high-performance inference system for large language models, designed for production environments.

从零手写支持 Llama2/3 和 Qwen2.5 的大模型推理框架，用 C++ 和 CUDA 实现，适合校招、秋招、春招和实习作为练手项目。

在本地设备上跑大语言模型的推理引擎，靠 X-Bit 量化把模型压小，让 Llama、Gemma 这类模型在资源有限的机器上也能流畅生成。