Angular UI Tree实战案例：构建可折叠的文件目录浏览器

手把手教你用ms-swift微调Qwen

2.

B效果惊艳看得见

为什么这次微调让人眼前一亮你有没有试过让大模型“记住自己是谁”不是靠提示词硬塞而是真正改写它的认知底层——比如让它脱口而出“我由CSDN迪菲赫尔曼开发”而不是默认的“我是阿里云研发的Qwen”这不再是实验室里的概念演示而是一次单卡、十分钟、开箱即用的真实落地。

这不是调参玄学也不是动辄多卡A100的资源竞赛。

本镜像专为RTX 4090D24GB显存优化全程无需修改配置、不装依赖、不下载模型——所有环境、框架、基础模型已预置就绪。

你只需要执行几条命令就能亲眼看到一个7B参数的大模型如何在几十轮训练后彻底更新自己的“身份档案”。

更关键的是它用的是LoRA这种轻量微调技术不改动原始权重只训练少量新增参数显存占用稳定在18–22GB之间训练完的适配器Adapter仅几十MB可随时加载/卸载完全不影响原模型复用。

换句话说你花10分钟教会它“我是谁”它就永远记得——而且还能继续干别的事。

下面我们就从零开始不跳步、不省略、不假设你懂PyTorch或LoRA原理纯实操带你走完完整闭环。

环境准备三秒确认直接开干

1 镜像启动后第一件事容器启动后默认工作目录就是/root。

请务必确保你在该路径下操作——所有命令都基于此前提设计路径错一位后续全报错。

你可以用这条命令快速确认pwd # 输出应为/root如果不在/root请先执行cd /root

2 显卡与资源验证本镜像已在 NVIDIA RTX 4090D24GB显存上完成全流程验证。

如果你使用其他显卡请注意两点显存 ≥24GB如A

L

H100等亦可驱动版本 ≥535CUDA版本 ≥

1

1镜像内已预装快速检查显卡是否识别成功nvidia-smi --query-gpuname,memory.total --formatcsv预期输出中应包含RTX 4090D和24576 MiB即24GB字样。

小提醒不要试图在笔记本显卡或12GB显存卡上强行运行——参数组合是为24GB精准设计的强行降配会导致OOM或训练崩溃得不偿失。

基线测试先看看“出厂设置”长啥样微调前必须确认原始模型能正常工作。

这一步不是走形式而是建立效果对比的锚点只有知道它“原来什么样”才能清晰感知“变好了多少”。

1 启动原始模型对话执行以下命令启动Qwen

2.

B-Instruct原生推理cd /root CUDA_VISIBLE_DEVICES0 \ swift infer \ --model Qwen

2.

B-Instruct \ --model_type qwen \ --stream true \ --temperature 0 \ --max_new_tokens 2048命令执行后你会看到类似这样的欢迎提示Loading checkpoint shards: 100%|██████████| 3/3 [00:0800:00,

72s/it] Model loaded successfully. Enter exit or quit to exit. 现在输入第一个问题你是谁预期回答关键对照点我是通义千问Qwen由阿里云研发的超大规模语言模型……这个回答就是你的“基线”——它代表模型出厂时的自我认知。

记牢这句话稍后我们将让它彻底改口。

2 为什么温度设为0为什么流式开启--temperature 0关闭随机性确保每次回答一致方便效果比对--stream true逐字输出响应更自然也便于观察生成过程是否卡顿--max_new_tokens 2048给足生成空间避免截断关键信息。

这些不是默认值而是为本次微调验证专门设定的“公平测试条件”。

数据准备8条高质量样本胜过百条噪声别被“微调需要海量数据”的说法吓住。

本次任务目标非常聚焦强化模型对“开发者身份”的稳定回答能力。

这类“自我认知类”指令微调核心不在于数据量而在于问题覆盖度 回答一致性 语义排他性。

镜像已为你准备好精炼的self_cognition.json共8条高信息密度样本。

它们不是泛泛而谈的问答而是经过设计的“认知锚点”覆盖不同问法“你是谁”“谁开发的你”“你能联网吗”“你和GPT-4有区别吗”强制绑定唯一主体全部指向“CSDN 迪菲赫尔曼”无歧义表述主动声明能力边界“不能主动联网”“回答可能出错”增强可信感你可以直接查看文件内容cat self_cognition.json | head -n 12输出类似[ {instruction: 你是谁, input: , output: 我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。

}, {instruction: 你的开发者是哪家公司, input: , output: 我由 CSDN 迪菲赫尔曼 开发和维护。

}, ... ]小白友好提示如果你想扩展数据只需按同样格式追加JSON对象即可。

但请注意——好的数据每条instruction角度不同output主语统

句式简洁、无冗余修饰❌ 差的数据反复问“你是谁”或回答里混入“阿里云”“通义”等冲突信息会干扰训练。

微调执行一条命令10轮迭代静待蜕变现在进入最核心环节。

我们使用ms-swift框架以LoRA方式对Qwen

2.

B-Instruct进行指令微调SFT。

所有参数均已针对单卡24GB显存调优无需调整。

1 执行微调命令复制粘贴以下完整命令注意不要漏掉任何反斜杠\CUDA_VISIBLE_DEVICES0 \ swift sft \ --model Qwen

2.

B-Instruct \ --train_type lora \ --dataset self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 10 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 2 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output \ --system You are a helpful assistant. \ --warmup_ratio

05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot

2 关键参数人话解读参数实际作用小白理解--train_type lora只训练低秩矩阵不动原模型权重“给模型戴一副轻量眼镜不换眼睛本身”--lora_rank 8--lora_alpha 32控制适配器容量与缩放强度“眼镜度数设为8放大效果设为32倍”--gradient_accumulation_steps 16模拟更大batch size提升稳定性“攒够16步梯度再更新一次走得稳”--num_train_epochs 10全量数据重复训练10遍“8条题反复练10轮刻进DNA”--output_dir output所有训练产物存入/root/output“作业本统一交到output文件夹”执行后你会看到实时日志滚动[2025/04/05 10:23:41] INFO: Training started... Step: 1/500, Loss:

243, Learning Rate:

00e-05 Step: 5/500, Loss:

872, Learning Rate:

02e-05 ...整个过程约需8–12分钟取决于GPU负载Loss会从

x逐步下降至

2–

3区间。

当看到Saving checkpoint to output/v

/checkpoint-500时训练完成。

3 训练产物在哪怎么识别训练完成后权重保存在/root/output下路径形如/root/output/v

/checkpoint-500其中v

是时间戳年月日-时分秒确保唯一checkpoint-500表示第500步保存的权重因--save_steps 50共10个检查点。

你可以用这条命令快速定位最新checkpointls -t output/ | head -n

效果验证同一问题两种答案差距一目了然训练结束不等于完成验证才是价值落点。

我们用完全相同的提问方式对比微调前后回答差异。

1 加载微调后的模型将上一步得到的实际路径如output/v

/checkpoint-500填入以下命令CUDA_VISIBLE_DEVICES0 \ swift infer \ --adapters output/v

/checkpoint-500 \ --stream true \ --temperature 0 \ --max_new_tokens 2048注意--adapters后面填的是完整路径不是文件名。

务必复制准确包括output/前缀。

启动成功后输入你是谁见证时刻的答案我是一个由 CSDN 迪菲赫尔曼 开发和维护的大语言模型。

再试几个验证题提问原模型回答微调后回答是否达标你的开发者是哪家公司阿里云CSDN 迪菲赫尔曼你能联网吗未明确说明“我不能主动联网……”你和GPT-4有区别吗未提及“是的我由CSDN迪菲赫尔曼开发……”你会发现它不再回避、不再模糊、不再套话——每个回答都精准锚定在“CSDN迪菲赫尔曼”这一主体上且逻辑自洽、语气自然。

2 为什么不用mergeLoRA加载快如闪电你可能会问为什么不把LoRA权重合并merge进原模型答案很实在没必要且有代价。

LoRA加载毫秒级注入切换身份只需改一行路径适合多角色部署❌ Merge操作需重写整个模型权重7B参数耗时2–3分钟生成30GB文件且失去灵活性。

本方案选择“运行时加载”正是为了突出轻量、敏捷、可复用的

核心价值——你要的不是永久改写而是随需切换的智能人格。

进阶实战通用能力 专属身份鱼与熊掌兼得上面的8条数据微调效果惊艳但场景单一。

如果你希望模型既“认得清自己”又“干得了实事”就需要混合数据训练。

1 混合数据微调命令一键复用镜像支持直接加载开源数据集已内置ModelScope访问密钥命令如下CUDA_VISIBLE_DEVICES0 \ swift sft \ --model Qwen

2.

B-Instruct \ --train_type lora \ --dataset AI-ModelScope/alpaca-gpt4-data-zh#500 \ AI-ModelScope/alpaca-gpt4-data-en#500 \ self_cognition.json \ --torch_dtype bfloat16 \ --num_train_epochs 1 \ --per_device_train_batch_size 1 \ --per_device_eval_batch_size 1 \ --learning_rate 1e-4 \ --lora_rank 8 \ --lora_alpha 32 \ --target_modules all-linear \ --gradient_accumulation_steps 16 \ --eval_steps 50 \ --save_steps 50 \ --save_total_limit 5 \ --logging_steps 5 \ --max_length 2048 \ --output_dir output_mixed \ --system You are a helpful assistant. \ --warmup_ratio

05 \ --dataloader_num_workers 4 \ --model_author swift \ --model_name swift-robot

2 这样做的实际收益是什么alpaca-gpt4-data-zh/en500条中文500条英文高质量指令数据覆盖写作、推理、编程等通用能力self_cognition.json8条身份强化数据作为“锚点”防止通用训练冲淡专属认知结果模型既能流畅写Python代码、解释量子物理又能坚定回答“我由CSDN迪菲赫尔曼开发”——专业能力不打折人格标识不模糊。

实测建议混合训练后用“写一篇关于LoRA原理的科普文章” “你是谁”交叉验证你会明显感受到它既没变“傻”也没变“忘本”。

8.

总结微调这件事本可以如此简单回看整个过程我们只做了四件事1⃣ 确认环境就绪nvidia-smipwd2⃣ 测试原始表现建立基线3⃣ 准备8条高质数据聚焦、精准、无歧义4⃣ 执行一条预设命令参数已为单卡24GB调优。

没有环境踩坑没有依赖报错没有显存溢出没有loss爆炸——有的只是10分钟等待后一个脱胎换骨的回答。

这背后是ms-swift框架的成熟封装是Qwen

2.

B-Instruct架构的优异可塑性更是LoRA技术“小投入、大改变”的真实印证。

它证明大模型微调不必是工程师的专利只要方法对、工具好、目标清每个人都能亲手塑造属于自己的AI助手。

下一步你可以尝试替换self_cognition.json为客服话术打造专属客服机器人将数据换成法律条款问答构建垂直领域助手用--merge_lora true导出融合模型部署到生产API。

改变就从你敲下第一条swift sft命令开始。

获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。

妈妈装睡配合孩子趴趴的正确方法-妈妈装睡配合孩子趴趴的正确方法应用