应用平台 APPSTAGE-AI原生应用引擎使用流程:调优大模型的流程

时间：2024-06-21 17:55:01

应用平台 APPSTAGE

图2 调优大模型的流程
点击放大

表2 调优大模型的流程详解
序号	流程环节		说明
1	创建数据集	创建微调数据集	用户根据需要创建微调数据集，用于模型微调。
1	创建数据集	标注数据	用户可以将数据集中的某些元素进行标记或分类，以便模型可以更好地理解和使用这些数据。
2	创建提示语	选择平台预置提示语或自定义提示语	用户根据需要选择平台预置的提示语模板或自定义提示语模板，可在创建Agent、调测模型中快速引用。
2	创建提示语	优化提示语	针对提示语进行结构、排版、内容等维度的优化和改进，将大模型的输入限定在一个特定的范围中，进而更好地控制模型的输出。
3	调优大模型	创建模型微调流水线	通过选择合适的数据集，调整参数，训练平台预置的模型以提高模型效果，可通过训练过程/结果指标初步判断训练效果。
		创建模型服务	训练好的模型需要部署后才可提供推理服务（在线测试模型、应用调用均需先部署模型）。
		调测模型	通过调测模型，检验模型的准确性、可靠性及反应效果，发现模型中存在的问题和局限性。