从零用 PyTorch 一步步实现类 ChatGPT 大语言模型,覆盖注意力机制、预训练、指令微调全流程,适合边跑代码边理解 LLM 内部原理。
开源的多模态视觉指令微调模型,让 LLaMA 类大模型能看图对话,效果对标 GPT-4V,适合做图文问答和视觉助手。
一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。
极简的多模态大模型微调代码库,支持 LLaVA、Qwen-VL、Llama-3.2-Vision 等主流视觉语言模型,方便快速做指令微调实验。
面向大模型训练的数据处理流水线,把原始多模态数据清洗、过滤、去重并加工成高质量指令微调语料。
中文 LLaMA-2 与 Alpaca-2 大模型二期项目,提供支持 64K 超长上下文的中文预训练和指令微调模型,可直接用于长文本理解与对话。
用 LoRA、Adapter 等少量参数微调大模型和扩散模型,大幅降低显存与训练成本,是 Hugging Face 生态里做参数高效微调的标准库。
多智能体框架,让多个大模型智能体通过角色扮演和对话自主协作,用于研究智能体规模化规律并构建协作式 AI 系统。
在 LLaMA/Alpaca 基础上扩充中文词表并做中文增量预训练,提供可本地 CPU/GPU 部署的中文大模型及 LoRA 微调、量化方案。
基于中文医学知识对 LLaMA 等大模型做指令微调,打造能回答医疗问题的中文医疗助手,开箱可用。
汇总 Prompt 与 LLM 相关论文、开源数据和模型,并整理 AIGC 应用案例,方便快速跟进提示工程与大模型研究进展。
xLAM 是一系列专为 AI Agent 系统设计的大动作模型,能把自然语言指令转成可执行的动作调用,帮开发者搭建和驱动智能体。
把大模型同时训练成嵌入模型和生成模型,一个模型既能做文本向量化检索,又能直接生成答案,省去部署两套模型的麻烦。