进阶篇用DeepSpeed全参数微调ChatGLM2-6B多轮对话数据微调实战详解【免费下载链接】ChatGLM2-6B-codeChatGLM2-6B: An Open Bilingual Chat LLM | 开源双语对话语言模型项目地址: https://gitcode.com/zai-org/ChatGLM2-6B-codeChatGLM2-6B 是开源中英双语对话大模型本文带你用 DeepSpeed 对它做全参数微调完整覆盖环境配置、多轮对话数据集构造、训练启动到效果验证的全流程新手也能照着跑通 为什么选择 DeepSpeed 全参数微调 ChatGLM2-6B 在通用场景已经表现出色但如果想让它在你的垂直领域客服问答、医疗咨询、汽车诊断等更专业仅靠提示词是不够的需要用领域数据对模型进行微调。官方微调方案提供两种路线方案可训练参数最低显存适用场景P-Tuning v2约 0.1%仅 Prefix Encoder~6.7 GBINT4 量化显存紧张、快速实验全参数微调DeepSpeed100% 全部参数官方脚本 4 张 GPU追求上限、领域深度定制全参数微调训练全部模型权重模型可塑性强、最终效果上限更高而 DeepSpeed 的 ZeRO 优化器负责把参数、梯度和优化器状态切分到多卡上避免显存爆炸。环境快速配置DeepSpeed 微调依赖一键安装 在 ptuning/ 目录下操作先安装基础依赖与主项目相同pip install -r requirements.txt再补充微调与 DeepSpeed 所需的库pip install deepspeed rouge_chinese nltk jieba datasets 官方全参数脚本默认使用 4 张 GPU--num_gpus4单卡或多卡环境可自行调整num_gpus参数。DeepSpeed 全参数微调步骤配置文件与启动指令 deepspeed.json 关键参数解读核心配置见 deepspeed.jsonzero_optimization.stage 2采用 ZeRO Stage 2将梯度和优化器状态切分到所有 GPU显著降低单卡显存占用fp16自动启用半精度训练配合脚本中的--fp16参数生效contiguous_gradients true梯度连续内存排布减少显存碎片ds_train_finetune.sh 参数速览启动指令在 ds_train_finetune.sh 中最值得关注的是这几项参数默认值含义--learning_rate1e-4全参数微调学习率可微调该值一般 1e-5 ~ 5e-5--per_device_train_batch_size4每卡批大小显存不足时调小--gradient_accumulation_steps1梯度累积步数等效扩大批大小--max_steps5000训练总步数--save_steps1000每 1000 步保存一次 checkpoint--max_source_length/--max_target_length64输入/输出最大长度按你的数据加长训练入口为 main.py数据列名prompt_column、response_column的定义在 arguments.py 中可查。训练完成后checkpoint 保存在./output/对应的输出目录如checkpoint-3000。多轮对话数据集格式prompt、response 与 history ️这是全篇最核心的部分。ChatGLM2-6B 的多轮对话微调数据采用 JSON Lines 格式每行一个样本包含三个字段{prompt: 长城h3风扇不转继电器好的保险丝好的, response: 用电脑能读数据流吗水温多少, history: []} {prompt: 95, response: 上下水管温差怎么样空气是不是都排干净了, history: [[长城h3风扇不转继电器好的保险丝好的, 用电脑能读数据流吗水温多少]]}格式规则有 3 条务必记牢prompt/response当前轮的用户输入与模型回复history当前轮之前的完整对话历史按[[问题1, 回答1], [问题2, 回答2]]排列第 N 轮的history必须包含前 N-1 轮的所有内容——历史是逐轮累积的训练时 main.py 会用tokenizer.build_prompt自动把历史拼接进提示词⚠️ 拼接后的完整输入若超过--max_source_length超出的部分会被截断请根据数据长度合理设置该参数。训练时务必通过--history_column指定历史字段名上面例子中为history参考 train_chat.sh 即可看到完整示例详细数据说明见 ptuning/README.md。多轮对话微调训练启动与关键参数调整 ⚙️以官方对话微调脚本 train_chat.sh 为模板做两处修改即可跑全参数版本把启动命令从torchrun换成deepspeed --num_gpus4 --master_port 端口 main.py --deepspeed deepspeed.json并加上--fp16删除P-Tuning 专属参数--pre_seq_len和--quantization_bit全参数微调不冻结、不量化其余关键参数建议--history_column history启用多轮历史拼接--max_source_length 512/--max_target_length 256多轮对话的输入通常比单轮长建议调大--per_device_train_batch_size 1--gradient_accumulation_steps 16显存紧张时的稳妥组合等效批大小 16--learning_rate全参数微调建议比 P-Tuning1e-2小 1~2 个数量级训练后验证你的微调效果如何✅全参数微调的 checkpoint 是一个完整模型加载比 P-Tuning 简单得多——直接把 checkpoint 目录当作模型路径即可然后跑 evaluate_finetune.sh 评测或启动网页版 Demo 亲手体验多轮对话bash web_demo.sh也可以进入命令行 Demo 快速回归测试输入clear清空对话历史、stop退出观察重点模型是否能结合前几轮上下文回答比如追问水温多少时引用了第一轮提到的车型这是多轮对话微调是否成功的直接信号。常见坑位速查表 ️问题解决办法训练中 OOM 显存溢出减小per_device_train_batch_size用梯度累积补齐批大小确认 ZeRO 配置生效长对话效果差调大max_source_length确认 history 没有被截断模型失忆通用能力学习率太大或训练步数过多适当调小--learning_ratecheckpoint 加载报错全参数微调直接AutoModel.from_pretrained(CHECKPOINT_PATH)无需额外加载 Prefix Encoder从数据准备到效果验证DeepSpeed 全参数微调 ChatGLM2-6B 的完整闭环就搭好了。接下来换上你自己的领域多轮对话数据训练一个真正懂业务的专属助手吧【免费下载链接】ChatGLM2-6B-codeChatGLM2-6B: An Open Bilingual Chat LLM | 开源双语对话语言模型项目地址: https://gitcode.com/zai-org/ChatGLM2-6B-code创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考