从零用 PyTorch 一步步实现类 ChatGPT 大语言模型,覆盖注意力机制、预训练、指令微调全流程,适合边跑代码边理解 LLM 内部原理。
面向重度用户的大语言模型聊天前端,支持接入多种模型接口,提供角色卡、提示词管理和对话历史等进阶功能,适合深度定制 AI 角色扮演与对话体验。
一套统一接口搞定 100+ 大语言模型和多模态模型的微调,支持 LoRA 等高效训练方式,省去为每个模型单独写训练脚本的麻烦。
用大语言模型驱动的 Python 爬虫,只需描述想抓什么,就能自动完成网页抓取和结构化数据提取,省去手写解析规则。
把大语言模型和 Hugging Face 上的各类模型连起来,让 LLM 自动挑选、调用合适的模型完成多模态任务,相当于给模型加了个调度中枢。
提供 20 多个高性能大语言模型的训练配方,覆盖预训练、微调和规模化部署全流程,适合想快速上手 LLM 训练与推理的开发者。
基于大语言模型的 QQ 聊天机器人,主打拟人化对话风格,追求温暖真实的互动体验而非效率,适合搭建有情感陪伴感的群聊助手。
在 Apple Silicon 上通过 MLX 框架运行大语言模型,支持加载、推理和微调,让 Mac 本地跑 LLM 更省心。
用大语言模型把编译后的二进制代码还原成可读源码,为逆向工程提供自动化反编译能力。
面向大语言模型的高吞吐、低显存推理与服务引擎,通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用,适合部署在线推理服务。
社区共建的提示词分享与发现平台,可自托管部署,让团队在完全私密的环境里收集和管理 ChatGPT、Claude、Gemini 等模型的提示词。
无需写代码就能微调大语言模型的可视化界面,从数据准备到训练评估一站式完成,适合不想碰命令行直接调模型的团队。
帮你把随手写的提示词改写成结构清晰、效果更好的版本,还能对比测试不同提示词的效果,适合经常和 LLM 打交道的人。
NVIDIA 的大规模 Transformer 训练框架,支持张量并行、流水线并行等模型并行策略,用来在成百上千张 GPU 上高效预训练大语言模型。
用于评测大语言模型及 LLM 系统的框架,同时提供开源基准测试注册表,方便对比不同模型和系统的表现。
O'Reilly《Hands-On Large Language Models》官方配套代码,用 Jupyter Notebook 带你动手跑通大模型的分词、嵌入、提示工程、微调与 RAG 等核心环节。
开源金融大语言模型,提供训练好的模型和微调流程,用于金融情感分析、智能投顾等场景。
从下载数据到生成文本,手把手教你从零训练自己的大语言模型,适合想搞懂 LLM 训练全流程的开发者动手实践。
只需 Python 基础,就能跟着 Jupyter Notebook 从零手写 GLM4、Llama3、RWKV6 等大语言模型,边写代码边吃透模型原理。
ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit,基于 PaddlePaddle,支持大语言模型和多模态模型的训练、微调与推理部署。
把多个预训练大模型按不同策略合并成一个新模型的工具集,不用重新训练就能组合各家能力,适合做模型融合实验。
多智能体框架,让多个大模型智能体通过角色扮演和对话自主协作,用于研究智能体规模化规律并构建协作式 AI 系统。
在 LLaMA/Alpaca 基础上扩充中文词表并做中文增量预训练,提供可本地 CPU/GPU 部署的中文大模型及 LoRA 微调、量化方案。
一款 iOS/macOS 原生应用,通过 Ollama 连接本地自托管的大语言模型(Llama2、Mistral、Vicuna 等)进行对话,让私有模型在苹果设备上开箱即用。
Inspect 是一个用 Python 编写的大语言模型评测框架,帮助研究者系统化地设计、运行和分析模型评估实验。
IDA Pro 插件,把大语言模型接入反汇编界面,直接解释函数、重命名变量、生成脚本,省去手动逆向的重复劳动。
把大语言模型包装成 scikit-learn 风格的估计器,让文本分类、标注等任务能直接套用 fit/predict 和 Pipeline,省去自己写调用逻辑。
一份持续更新的异常检测资源大全,汇总书籍、论文、视频和工具箱,覆盖传统方法与最新的 LLM、VLM 工作,适合快速入门和跟进前沿。
斯坦福 CRFM 出品的 Python 评测框架,对基础模型和大语言模型做全面、可复现、透明的基准测试,方便横向对比模型能力。
面向大语言模型的强化学习训练框架,支持分布式训练与智能体工作流,让开发者能低成本训练和调优推理模型。
基于大语言模型的语音合成系统,能生成接近真人音色的自然语音,并支持实时流式输出,适合搭建低延迟的 TTS 服务。
面向大语言模型的知识编辑框架,支持对模型内部事实知识进行定位、修改与评估,覆盖多种编辑算法和模型,方便研究和落地。
追踪 NLP、知识图谱与大模型 Agent 的前沿进展,汇总相关研究与应用实践,适合想跟进这些方向的技术人系统学习。
面向大语言模型的高性能推理框架,主打高效、灵活和易用,支持 DeepSeek 等模型在 GPU 上做推理服务部署。
让游戏里的 NPC 接入大语言模型,能看画面、自主行动并和玩家自然对话,适合做智能游戏角色的开发者。
基于飞桨的高性能推理部署工具包,专门用来把大语言模型和多模态模型跑起来、服务化,支持 ERNIE 系列和 OpenAI 兼容接口。
基于中文医学知识对 LLaMA 等大模型做指令微调,打造能回答医疗问题的中文医疗助手,开箱可用。
一份从零基础到前沿的基座模型学习路线图,帮人系统梳理大模型相关知识与进阶路径。
EAGLE 系列投机解码算法的官方实现,通过草稿模型加速大语言模型推理,在几乎不损失生成质量的前提下显著提升吞吐。
用纯 Java 实现的现代 LLM 推理引擎,支持 LLaMA、GPT 等 Transformer 模型,借助 SIMD 加速在 JVM 上直接跑大模型推理。
LangBot 是一个开源的 AI 聊天机器人与智能体平台,支持多种即时通讯平台、大语言模型、知识库和插件,帮助你构建、部署和管理 AI 助手。 LangBot is an open-source AI chatbot and agent platform that connects messaging platforms, large
LangBot 是一个开源的 AI 聊天机器人与智能体平台,支持多种即时通讯平台、大语言模型、知识库和插件,帮助你构建、部署和管理 AI 助手。 LangBot is an open-source AI chatbot and agent platform that connects messaging platforms, large
LangBot 是一个开源的 AI 聊天机器人与智能体平台,支持多种即时通讯平台、大语言模型、知识库和插件,帮助你构建、部署和管理 AI 助手。 LangBot is an open-source AI chatbot and agent platform that connects messaging platforms, large
LangBot 是一个开源的 AI 聊天机器人与智能体平台,支持多种即时通讯平台、大语言模型、知识库和插件,帮助你构建、部署和管理 AI 助手。 LangBot is an open-source AI chatbot and agent platform that connects messaging platforms, large
LangBot 是一个开源的 AI 聊天机器人与智能体平台,支持多种即时通讯平台、大语言模型、知识库和插件,帮助你构建、部署和管理 AI 助手。 LangBot is an open-source AI chatbot and agent platform that connects messaging platforms, large
…enAI 兼容文生图素材源。 - 新增 OpenRouter 和 APIMart OpenAI 兼容大语言模型服务商。 - WebUI 新增 Upload-Post 自动发布设置,并完善 API Key 和账号名称的申请、配置指引。 - CLI 新增批量清单模式;未显式传入命令行参数时,可以继承 WebUI 已保存的默认设置。 - 新增素