训练¶
用任务数据调整开源模型的行为,创建可部署、可评测的模型版本。
监督微调(SFT)让模型从输入和期望回答中学习,适合分类、信息抽取、回答格式及领域表达等有明确示例的任务。当前控制台的新建训练流程以 SFT / LoRA 为主。
一次训练需要什么¶
| 输入 | 如何选择 |
|---|---|
| 基础模型 | 选择当前训练页提供的模型,结合任务能力与成本确定起点 |
| 数据版本 | 使用已上传、校验通过且包含有效样本的 SFT 数据 |
| 训练配置 | 首次运行采用默认参数,后续根据结果逐项调整 |
模型刊例价中的 SFT、RL 是服务计价类别;具体账号能够创建的训练方式,以当前控制台提供的选项为准。
从配置到模型版本¶
控制台按基础模型、数据集、可选设置组织配置,并在训练摘要中集中展示本次任务。训练前预检帮助发现提交前的阻塞项;检查通过后再提交。
Serverless 训练使用平台调度的资源。任务进入队列后,资源可用时开始运行。我的训练汇总任务状态;训练详情用于查看曲线、日志和检查点。
训练成功后,在 我的模型 中管理产出的版本。记录基础模型、数据版本和配置,有助于区分后续改进来自数据变化还是参数变化。
如何判断训练有效¶
训练曲线反映优化过程,不能单独证明业务效果。保留一组不参与训练的评测样本,在相同任务、评分方式和推理配置下比较基础模型与训练版本。查看整体指标,也要阅读失败样本。
如果模型没有学到期望行为,先检查示例是否一致、是否覆盖目标任务,再考虑调整训练参数。
从已有版本继续训练¶
我的模型提供续训入口。选择父版本后,沿用相应基础模型,并为新一轮训练选择数据。续训依赖可恢复的检查点;推理权重与训练状态的区别见模型检查点。