面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
一站式大模型微调工具,支持 LoRA、QLoRA、全参等多种训练方式,用配置文件就能跑起各种开源模型的微调任务。
用 LoRA、Adapter 等少量参数微调大模型和扩散模型,大幅降低显存与训练成本,是 Hugging Face 生态里做参数高效微调的标准库。
面向大模型微调、RAG 和评测的数据集制作工具,支持数据生成、清洗与导出,省去手工整理训练数据的麻烦。
基于飞桨的 NLP 与大模型开发库,提供丰富模型库,覆盖 BERT、ERNIE、LLaMA 等,支持分布式训练、压缩和文档智能等任务。
用一份 YAML 配置就能微调大模型,靠分层流式加载让 8B 模型在 4GB 显存的笔记本 GPU 上跑起来,省去手写训练脚本和显存焦虑。
提供一套稳健的训练配方,用人类和 AI 偏好数据对齐语言模型,涵盖 SFT、DPO 等流程,帮你把基座模型调成听话好用的助手。
一站式搞定 Qwen、Gemma 等开源大模型和多模态模型的微调(SFT/RL)、评测与部署,零代码也能上手。
云原生一站式机器学习与大模型平台,覆盖 Notebook 开发、拖拉拽 Pipeline 编排、分布式训练、超参搜索、推理服务和 SFT/强化学习微调,支持国产算力生态。
…PS 限制 - AIHub 数据处理任务模板增加 二、大模型与推理服务优化 - 大模型对话优化 - 大模型微调可选值优化 - 大模型可选值模型优化 - 推理服务优化 - 推理服务模型地址支持 {{creator}} - 去除 VLLM 的 AIHub - 升级 LLaMAFactory 镜像版本及相关任务模板 - 升级 ML-Server
…PS 限制 - AIHub 数据处理任务模板增加 二、大模型与推理服务优化 - 大模型对话优化 - 大模型微调可选值优化 - 大模型可选值模型优化 - 推理服务优化 - 推理服务模型地址支持 {{creator}} - 去除 VLLM 的 AIHub - 升级 LLaMAFactory 镜像版本及相关任务模板 - 升级 ML-Server
…修正https登录时的问题 优化本地调试时端口号 优化本地开发时调试环境ip问题 2. 大模型相关 大模型微调模板,全部改为llama-factory 支持npu llamafactory和vllm 添加deepseek微调 优化llama factory任务模板 支持vllm大模型对话测试 支持qwq模型推理服务 支持deepseek官