从零用 PyTorch 一步步实现类 ChatGPT 大语言模型,覆盖注意力机制、预训练、指令微调全流程,适合边跑代码边理解 LLM 内部原理。
汇集大模型技术原理与实战经验的开源知识库,覆盖训练、推理、部署和工程化落地全流程,适合系统学习大模型应用开发。
从下载数据到生成文本,手把手教你从零训练自己的大语言模型,适合想搞懂 LLM 训练全流程的开发者动手实践。
从零开始手把手教你构建大模型的开源教程,覆盖预训练、微调、RAG 与 Agent 等关键环节,适合想系统入门 LLM 原理与实践的开发者。
面向大语言模型的强化学习训练框架,支持分布式训练与智能体工作流,让开发者能低成本训练和调优推理模型。
用 100 多张原创原理图把 LLM 和强化学习的关键算法讲清楚,适合想系统理解大模型训练与 RL 机制的人对照学习。
无需写代码就能微调大语言模型的可视化界面,从数据准备到训练评估一站式完成,适合不想碰命令行直接调模型的团队。
单张 4GB 显存显卡就能跑 70B 甚至 2.8T 参数大模型的分层推理方案,通过逐层加载权重把显存需求压到极低,适合本地低配设备部署大模型。
面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
用 PyTorch 从零实现的轻量级 vLLM,代码精简易读,适合学习大模型推理引擎的调度、KV Cache 和 PagedAttention 等核心机制。
轻量级 Python 大模型推理与服务框架,主打高吞吐、易扩展,适合快速部署 GPT、LLaMA 等模型对外提供 API 服务。
用 PEFT 和 LoRA 对 Falcon、Llama、Llama2 等大模型做低成本微调的实战教程合集,以 Jupyter Notebook 形式提供可直接跑通的训练流程。
统一加载和运行文本、视觉、音频、多模态的预训练模型,覆盖推理与训练,省去为每个模型重写代码的麻烦。
把大语言模型接入 spaCy 的结构化 NLP 流水线,用提示词完成命名实体识别等任务,无需训练即可复用现有流程。
低代码构建多智能体大模型应用的框架,把模型微调、知识库、数据流程等环节封装成简单接口,让开发者少写胶水代码就能搭出复杂 Agent 系统。
一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。
本地跑和训练大模型、扩散模型的图形界面,支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型,省去命令行配置的麻烦。
一套面向大模型训练的分布式并行框架,把数据、模型、流水线并行和异构训练整合成统一接口,让训练和推理更省显存、更快。
开源的扩散式语言模型,专攻代码生成,一并放出预训练、评测、推理代码和模型权重,方便直接复现和二次开发。
MindSpore 官方的大模型实战课程,带你从 BERT、GPT 一路动手实现到 ChatGLM、LLaMA2,适合系统学习大模型原理与训练推理。
给 AI Agent 做强化学习训练和调优的框架,把 Agent 的推理轨迹变成训练信号,让智能体越跑越强。
汇总大模型全栈优质资源的清单,覆盖训练、推理、LLMOps 等环节,帮开发者快速找到需要的工具和资料。
无需训练即可修改语言模型行为,通过消融技术去除审查、抑制废话、减少谄媚,让模型输出更直接可控。
提供 20 多个高性能大语言模型的训练配方,覆盖预训练、微调和规模化部署全流程,适合想快速上手 LLM 训练与推理的开发者。
开源金融大语言模型,提供训练好的模型和微调流程,用于金融情感分析、智能投顾等场景。
面向大模型后训练的强化学习框架,用混合编程模型把 RLHF 训练流程编排得灵活又高效,方便扩展和跑大规模实验。
一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。
基于 Ray 的高性能 RLHF 训练框架,支持 PPO、DAPO、REINFORCE++ 等算法与 vLLM 推理加速,可扩展地完成大模型和视觉语言模型的对齐后训练。
NVIDIA 的大规模 Transformer 训练框架,支持张量并行、流水线并行等模型并行策略,用来在成百上千张 GPU 上高效预训练大语言模型。
一站式大模型微调工具,支持 LoRA、QLoRA、全参等多种训练方式,用配置文件就能跑起各种开源模型的微调任务。
一本面向大模型工程实践的开源手册,系统讲解 GPU 训练、推理、调试、网络与扩展性等落地问题,帮工程师把模型真正跑起来。
低代码训练框架,用声明式配置就能构建和微调自定义 LLM、神经网络及其他 AI 模型,省去手写大量训练代码。
开源的多模态视觉指令微调模型,让 LLaMA 类大模型能看图对话,效果对标 GPT-4V,适合做图文问答和视觉助手。
从零开始手把手教你构建 LLM 智能体的中文教程,覆盖 Agent 原理、RAG 等核心实践,适合入门与动手复现。
用 LoRA、Adapter 等少量参数微调大模型和扩散模型,大幅降低显存与训练成本,是 Hugging Face 生态里做参数高效微调的标准库。
PyTorch 官方的生成式 AI 模型训练平台,提供原生分布式训练组件和可复用的并行策略,帮你在多卡集群上高效训练大模型。
在 LLaMA/Alpaca 基础上扩充中文词表并做中文增量预训练,提供可本地 CPU/GPU 部署的中文大模型及 LoRA 微调、量化方案。
用 PyTorch 从零手写现代 LLM 架构、训练与推理的实战课程,配套可直接运行的 notebook,适合边跑边学大模型原理。
用 ChatGPT 同款流程训练医疗大模型,覆盖增量预训练、有监督微调、RLHF、DPO、ORPO、GRPO 全链路,开箱即可复现。
分布式 AI 计算引擎,提供核心分布式运行时和一组 AI 库,用来加速机器学习负载、大模型推理与超参搜索。
…//github.com/volcengine/OpenViking/pull/7258) - 修复训练、记忆替换后的 case/experience 链接维护,以及 LangChain Store 生命周期、持久化和 Unicode 归档查询。[ 6898](https://github.com/volcengine/OpenVikin
A Helm chart for LLMKube - Kubernetes operator for GPU-accelerated LLM inference
…密码。 微调分身 - AstrBot、LangBot 等聊天机器人通过令牌接入分身。 - 量化配置在训练和推理中正确生效(@xhrxgr, 218)。 - 通过 dtype 选项支持 T4、V100 等不支持 bfloat16 的显卡(@octo-patch, 212)。 - test-model 在服务未启动时提示先启动服务(@octo
…: null . --- 版本 1.4.1 本次更新新增 TensorBoard 面板,方便直接查看训练曲线;CLI 支持切换账户,并改进下载、作业提交、登录和文件列表体验。 本次更新 - 在平台内查看训练曲线 :支持从个人目录或已有作业的日志创建 TensorBoard 面板,也可以汇总多个作业的日志进行查看。面板可统一管理,删除面板不
A Helm chart for LLMKube - Kubernetes operator for GPU-accelerated LLM inference
…密在账号信息页操作,忘记密码时使用 root 密码重置脚本,并显式提供新密码。 - 模型计价单位 :LLM 使用 pricing.tiers ,其他模型使用 pricing.unitPrice 。Token 单价与阶梯 maxInputTokens 上限改为百万 Tokens,TTS 改为每百万字符,STT 仍按每 60 秒,单价最多保留