面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
把 DeepSeek、Llama 等开源大模型一键部署成兼容 OpenAI 的 API 服务,省去自己搭推理后端的麻烦。
持续更新的中文大模型能力评测榜单,已收录374个商用与开源模型,并提供超200万条缺陷库,方便研究者横向对比模型表现、定位问题并改进。
开源大模型微调工具箱,支持 LoRA 等参数高效微调,还能做消融实验和单元测试,方便快速验证 Llama2、Mistral、Falcon 等模型在分类任务上的效果。
MiniCPM-V 是面壁智能开源的多模态视觉语言模型,能在手机、PC 等本地设备上完成看图、听音和对话交互,无需依赖云端。
一行代码就能把 GPT 换成任意开源大模型,统一推理 API 支持云端、本地和笔记本部署,覆盖语言、语音和多模态模型。
一站式搞定 Qwen、Gemma 等开源大模型和多模态模型的微调(SFT/RL)、评测与部署,零代码也能上手。
用开源大模型驱动 AI 操作电脑桌面,配合 E2B 桌面沙箱安全执行点击、输入等操作,可替代 Claude 的闭源 computer-use 方案。
xTuring 提供从数据预处理到微调的完整流程,让开发者用 LoRA、Adapter 等轻量方法快速个性化开源大模型,降低训练门槛和显存开销。
基于 Meta Llama 3 开发的中文大模型项目,提供中文 LLaMA-3 和 Alpaca-3 模型及训练、部署方案,解决中文场景下开源大模型可用性问题。
在本地网络内用开源大模型完成文件摄取与检索增强生成,数据不出内网、不依赖第三方服务。
用 Docker 和 BuildKit 把开源大模型的微调、构建与部署串成一条流水线,并直接发布到 Kubernetes 上运行推理。