大模型工程（四）：SFT、DPO 与 RLHF

Mon, 30 Mar 2026 09:00:00 +0000

预训练得到的基座模型只能续写文本，而听懂指令、拒绝有害请求、维持人设等能力，则属于后训练阶段的任务——这也正是论文宣称的效果与真正生产级模型之间差距最大的地方。本章将深入探讨各类后训练算法究竟在优化什么、为什么大多数奖励模型其实存在隐性缺陷，以及到 2026 年真正行之有效的实践方法。

阿里云 PAI（三）：DLC 分布式训练

Sat, 07 Mar 2026 09:00:00 +0000

DSW 笔记本适合单人单卡的场景；一旦你需要八张 GPU 跨两个节点训练，或者训练时长超过八小时（也就是你愿意为一个浏览器标签页持续守候的极限），就该切换到 DLC。DLC 是 PAI 面向托管 Kubernetes 集群的作业提交入口：你只需声明需求（镜像、命令、资源规格、数据挂载路径），它就会自动调度 Pod、运行至完成、持久化日志并返回结果。官方文档称其为 Deep Learning Containers，但我们日常交流中统一简称为“DLC 任务”。

SFT on Chen Kai Blog

大模型工程（四）：SFT、DPO 与 RLHF

阿里云 PAI（三）：DLC 分布式训练