面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
用 PEFT 和 LoRA 对 Falcon、Llama、Llama2 等大模型做低成本微调的实战教程合集,以 Jupyter Notebook 形式提供可直接跑通的训练流程。
开源大模型微调工具箱,支持 LoRA 等参数高效微调,还能做消融实验和单元测试,方便快速验证 Llama2、Mistral、Falcon 等模型在分类任务上的效果。
配套《Fine-Tuning LLMs with PyTorch and Hugging Face》一书的实战代码库,用 LoRA、PEFT、bitsandbytes 量化等手把手教你在消费级显卡上微调大模型。
单卡微调大模型前的显存预检工具,估算显存占用并给出可直接跑的 LoRA/QLoRA 配置,避免盲目开训就爆显存。
极简的多模态大模型微调代码库,支持 LLaVA、Qwen-VL、Llama-3.2-Vision 等主流视觉语言模型,方便快速做指令微调实验。
一站式大模型微调工具,支持 LoRA、QLoRA、全参等多种训练方式,用配置文件就能跑起各种开源模型的微调任务。
用 LoRA、Adapter 等少量参数微调大模型和扩散模型,大幅降低显存与训练成本,是 Hugging Face 生态里做参数高效微调的标准库。
面向大模型微调、RAG 和评测的数据集制作工具,支持数据生成、清洗与导出,省去手工整理训练数据的麻烦。
基于飞桨的 NLP 与大模型开发库,提供丰富模型库,覆盖 BERT、ERNIE、LLaMA 等,支持分布式训练、压缩和文档智能等任务。
用一份 YAML 配置就能微调大模型,靠分层流式加载让 8B 模型在 4GB 显存的笔记本 GPU 上跑起来,省去手写训练脚本和显存焦虑。
提供一套稳健的训练配方,用人类和 AI 偏好数据对齐语言模型,涵盖 SFT、DPO 等流程,帮你把基座模型调成听话好用的助手。
一站式搞定 Qwen、Gemma 等开源大模型和多模态模型的微调(SFT/RL)、评测与部署,零代码也能上手。
一套面向应用 AI 的实战教程,用 Jupyter Notebook 讲透大模型微调、推理与量化,帮工程师把 LLM 真正跑起来。
在 Kubernetes 上跑分布式模型训练和大模型微调的框架,把多机多卡任务编排成 K8s 原生作业,省去自己搭训练集群的麻烦。
统一封装 LoRA、Adapter 等参数高效微调方法的 PyTorch 库,兼容 Hugging Face Transformers,让大模型微调只需改几行代码。
云原生一站式机器学习与大模型平台,覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调,支持国产算力生态。
PiSSA 是一种参数高效微调方法,用主奇异值和奇异向量初始化 LoRA 的低秩矩阵,让大模型微调收敛更快、效果更好。
用 Docker 和 BuildKit 把开源大模型的微调、构建与部署串成一条流水线,并直接发布到 Kubernetes 上运行推理。
面向扩散模型的可扩展、显存优化训练框架,基于 PyTorch 和 Diffusers,让大模型微调在有限显存下也能跑起来。
用超网络仅凭任务文本描述就为 LLM 生成 LoRA 权重,免去标注数据和反向传播,让模型快速适配特定基准任务。
xTuring 提供从数据预处理到微调的完整流程,让开发者用 LoRA、Adapter 等轻量方法快速个性化开源大模型,降低训练门槛和显存开销。
基于 PyTorch 原生分布式训练的 LLM/VLM 训练库,开箱即用兼容 Hugging Face,方便微调 Llama、Gemma、GLM 等主流大模型。
QeRL 通过量化让强化学习训练 32B 大模型只需单张 H100 显卡,大幅降低大模型 RL 微调的显存门槛。
Halo 是 White Circle 开源的大模型与多模态模型训练框架,支持分布式训练、LoRA 微调、MoE 和异步强化学习,方便搭建和扩展训练流程。
用 TensorFlow/Keras 串联从文本预处理到 BERT、GPT、LLM 下游任务的实战教程,覆盖 NER、LoRA、DPO 等,适合系统学习 NLP 建模流程。
…PS 限制 - AIHub 数据处理任务模板增加 二、大模型与推理服务优化 - 大模型对话优化 - 大模型微调可选值优化 - 大模型可选值模型优化 - 推理服务优化 - 推理服务模型地址支持 {{creator}} - 去除 VLLM 的 AIHub - 升级 LLaMAFactory 镜像版本及相关任务模板 - 升级 ML-Server
…PS 限制 - AIHub 数据处理任务模板增加 二、大模型与推理服务优化 - 大模型对话优化 - 大模型微调可选值优化 - 大模型可选值模型优化 - 推理服务优化 - 推理服务模型地址支持 {{creator}} - 去除 VLLM 的 AIHub - 升级 LLaMAFactory 镜像版本及相关任务模板 - 升级 ML-Server
…修正https登录时的问题 优化本地调试时端口号 优化本地开发时调试环境ip问题 2. 大模型相关 大模型微调模板,全部改为llama-factory 支持npu llamafactory和vllm 添加deepseek微调 优化llama factory任务模板 支持vllm大模型对话测试 支持qwq模型推理服务 支持deepseek官