检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
登录ModelArts控制台，单击“AI应用管理 > AI应用 > 创建”，开始创建AI应用。 图2 创建AI应用 设置创建AI应用的相应参数。此处仅介绍关键参数，设置AI应用的详细参数解释请参见从OBS中选择元模型。 根据需要自定义应用的名称和版本。 模型来源选择“从对象存储服务
（此参数目前仅适用于Llama3系列模型长序列训练） LR 2.5e-5 学习率设置。 MIN_LR 2.5e-6 最小学习率设置。 SEQ_LEN 4096 要处理的最大序列长度。 MAX_PE 8192 设置模型能够处理的最大序列长度。 TRAIN_ITERS 100 表示训练step迭代次数，根据实际需要修改。
服务实际占用的资源会略大于该规格。 “实例数” 设置当前版本模型的实例个数。如果实例数设置为1，表示后台的计算模式是单机模式；如果实例数设置大于1，表示后台的计算模式为分布式的。请根据实际编码情况选择计算模式。 “环境变量” 设置环境变量，注入环境变量到容器实例。为确保您的数据安
201 表3 响应Body参数 参数 参数类型 描述 version_id String 数据集版本ID。 请求示例 创建数据集标注版本。设置版本名称为“V004”，数据集版本格式为“Default”。 { "version_name" : "V004", "version_format"
表7 响应Body参数 参数 参数类型 描述 version_id String 数据处理任务的版本ID。 请求示例 创建数据校验任务的版本。设置任务名称为“PRE-e77c”。 { "name" : "PRE-e77c", "inputs" : [ { "type"
、性能对比、下游任务评测、loss和下游任务对比能力。对比结果以excel文件呈现。方便用户验证发布模型的质量。所有配置都通过yaml文件设置，用户查看默认yaml文件即可知道最优性能的配置。 目前仅支持SFT指令监督微调训练阶段。 代码目录 benchmark工具脚本存放在代码
型企业用户的使用场景下很常见，但对个人用户则显得复杂而意义不足，所以建议个人用户在使用ModelArts时，参照配置访问授权来进行初始权限设置。 您是否需要阅读本文档？ 如果下述问题您的任何一个回答为“是”，则需要阅读此文档 您是企业用户，且 存在多个部门，且需要限定不同部门的用户只能访问其专属资源、功能
（此参数目前仅适用于Llama3系列模型长序列训练） lr 2.5e-5 学习率设置。 min-lr 2.5e-6 最小学习率设置。 SEQ_LEN 4096 要处理的最大序列长度。 MAX_PE 8192 设置模型能够处理的最大序列长度。 train-iters 100 表示训练step迭代次数，根据实际需要修改。
ow"...... 原因分析 当模型名称包含下划线时，下划线涉及转义处理。 处理方法 需要在请求中增加exact_match参数，且参数值设置为true，确保model_name返回值正确。 父主题： 模型管理
role 是 Integer 成员角色。可选值如下： 0：标注人员 1：审核人员 2：团队管理员 响应参数 无 请求示例 创建标注团队的成员。设置成员角色为“2”，即团队管理员角色。 { "emails" : "xxx@xxx.com", "description" : ""
状态码： 201 表3 响应Body参数 参数 参数类型 描述 workforce_id String 标注团队的ID。 请求示例 创建标注团队。设置标注团队名称为“team-123”。 { "workforce_name" : "team-123", "description"
但对个人用户则显得复杂而意义不足，所以建议个人用户在使用ModelArts时，参照个人用户快速配置ModelArts访问权限来进行初始权限设置。 您是否需要阅读本文档？ 如果下述问题您的任何一个回答为“是”，则需要阅读此文档 您是企业用户，且 存在多个部门，且需要限定不同部门的用户只能访问其专属资源、功能
String> 通过应用专属URL直接打开应用进入远程开发模式。 ssh_keys Array of strings SSH密钥对名称列表，允许设置多个密钥对实现同时对SSH实例的访问。 表10 EndpointsRes 参数 参数类型 描述 allowed_access_ips Array
预置，在本地环境通过docker run启动通过Notebook保存的镜像，报错创建容器任务失败，启动文件或目录不存在，如图2。 因此需要设置--entrypoint参数，覆盖Entrypoint中指定的程序。使用--entrypoint参数指定的启动文件或命令启动镜像。命令示例如下：
最小长度，可以根据实际需求设置。 --max-input：输入tokens最大长度，可以根据实际需求设置。 --avg-input：输入tokens长度平均值，可以根据实际需求设置。 --std-input：输入tokens长度方差，可以根据实际需求设置。 --min-outpu
请求的发生时间，格式为(YYYYMMDD'T'HHMMSS'Z')。 取值为当前系统的GMT时间。 否，如果使用AK/SK做接口认证的时候，那么此字段必须设置；如果使用PKI token的时候，不必设置。 20190307T101459Z Authorization 签名认证信息。 该值来源于请求签名结果，使用AK/SK进行加密签名的时候需要。
最小长度，可以根据实际需求设置。 --max-input：输入tokens最大长度，可以根据实际需求设置。 --avg-input：输入tokens长度平均值，可以根据实际需求设置。 --std-input：输入tokens长度方差，可以根据实际需求设置。 --min-outpu
本示例生成的模型checkpoint路径设置在“/workspace/Megatron-DeepSpeed/checkpoints/gpt2”。 ll ./checkpoints/gpt2 图6 模型checkpoint 步骤3 单机多卡训练 和单机单卡训练相比， 单机多卡训练只需在预训练脚本中设置多卡参数相关即可，
选择下拉框中支持的操作系统。 配置方式 选择重置节点的配置方式。 按节点比例：重置任务包含多个节点时，可以设置同时被重置节点的最高比例。 按实例数量：重置任务包含多个节点时，可以设置同时被重置节点的最大个数。 驱动版本 可以在下拉框中指定重置节点的驱动版本。 图1 重置节点 单击“操
执行一次完整投机流程的时间也仅为大模型的1.5倍左右（投机步数设置为3步）。而这一次投机流程，平均可以生成3个有效token，即用1.5倍的时间代价，生成了3倍的token数量，性能提升了100%。 投机推理参数设置 在启动离线或在线推理服务时参考表1所示配置参数，使用投机推理功能。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
