CodeGeeX2 是多语言代码生成预训练模型,支持多种编程语言的代码补全与生成,可作为编码助手的底层模型。
用 LoRA、Adapter 等少量参数微调大模型和扩散模型,大幅降低显存与训练成本,是 Hugging Face 生态里做参数高效微调的标准库。
提供一套稳健的训练配方,用人类和 AI 偏好数据对齐语言模型,涵盖 SFT、DPO 等流程,帮你把基座模型调成听话好用的助手。
中文羊驼大模型已正式发布,本次开源了Llama-3-Chinese-8B(基座模型)和Llama-3-Chinese-8B-Instruct(指令模型)。 - Llama-3-Chinese-8B :基座模型,使用120GB语料进行增量训练 - Llama-3-Chinese-8B-Instruct :指令/chat模型,在Llama-3
…转向了Fish-Speech开发,Bert-VITS2目前是半弃坑状态。稍后我们计划训练一个日语特化基座模型,其余事宜待定。 Bert-VITS2开发组 敬上