检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
由于模型中LoRA微调训练存在已知的精度问题,因此不支持TP(tensor model parallel size)张量模型并行策略,推荐使用PP(pipeline model parallel size)流水线模型并行策略,具体详细参数配置如表2所示。 步骤三 启动训练脚本 修改超参值后,再启动训练脚本。Llama2-70b建议为4机32卡训练。
开启高可用冗余:是否开启资源池的高可用冗余,超节点默认开启高可用冗余。 冗余节点分布策略:冗余节点的分布策略,超节点仅支持step均分:每个超节点内预留相同数量的冗余节点。 冗余实例数:此规格设置的高可用冗余实例数量。冗余系数指的是冗余节点分布策略为step均分时,每个超节点内预留的冗余节点数量。 方式二:在资源池详情页的规格页签设置
int: 隔离式Job重调度 end_recover_before_downgrade String 本次运行结束后在故障容忍策略降级前所采取的容忍策略,取值范围同end_recover。 表10 JobAlgorithmResponse 参数 参数类型 描述 id String
由于模型中LoRA微调训练存在已知的精度问题,因此不支持TP(tensor model parallel size)张量模型并行策略,推荐使用PP(pipeline model parallel size)流水线模型并行策略,具体详细参数配置如表2所示。 步骤三 启动训练脚本 修改超参值后,再启动训练脚本。Llama2-70b建议为4机32卡训练。
由于模型中LoRA微调训练存在已知的精度问题,因此不支持TP(tensor model parallel size)张量模型并行策略,推荐使用PP(pipeline model parallel size)流水线模型并行策略,具体详细参数配置如表2所示。 Step3 启动训练脚本 修改超参值后,再启动训练脚本。Llama2-70b建议为4机32卡训练。
object Execution执行的错误信息。 policy WorkflowStepExecutionPolicy object 节点的执行策略。 conditions_execution WorkflowConditionExecution object 条件执行。 step_title
ties> 服务级别附加属性,便于服务管理。 load_balancer_policy 否 String 只支持在线同步服务设置后端elb转发策略,枚举值:ROUND_ROBIN(加权轮询算法),LEAST_CONNECTIONS(加权最少连接),SOURCE_IP(源ip算法)
int: 隔离式Job重调度 end_recover_before_downgrade String 本次运行结束后在故障容忍策略降级前所采取的容忍策略,取值范围同end_recover。 表62 JobAlgorithmResponse 参数 参数类型 描述 id String
objects 节点steps使用到的参数。 policies WorkflowDagPolicies object 执行记录使用到的执行策略。 表5 StepExecution 参数 参数类型 描述 step_name String 节点的名称,在一个DAG中唯一,1到64位只
base块:基础配置块,主要为公共配置参数 ModelName块:该模型所需配置的参数,如qwen2.5-7b块 exp_name:实验块,训练策略-序列长度所需参数配置 样例yaml文件仅展示常用实验配置,如需其他配置需根据样例自行添加。 根据以下步骤修改yaml文件: 数据集选择:
base块:基础配置块,主要为公共配置参数 ModelName块:该模型所需配置的参数,如qwen2.5-7b块 exp_name:实验块,训练策略-序列长度所需参数配置 样例yaml文件仅展示常用实验配置,如需其他配置需根据样例自行添加。 根据以下步骤修改yaml文件: 数据集选择:
finetuning_type full 用于指定微调策略类型,可选择值full、lora。 如果设置为full,则对整个模型进行微调。这意味着在微调过程中,除了输出层外,模型的所有参数都将被调整以适应新的任务。 lora_target all 采取lora策略方法的目标模块,默认为all dataset
finetuning_type full 用于指定微调策略类型,可选择值full、lora。 如果设置为full,则对整个模型进行微调。这意味着在微调过程中,除了输出层外,模型的所有参数都将被调整以适应新的任务。 lora_target all 采取lora策略方法的目标模块,默认为all dataset
else_then_steps 否 Array of strings 条件节点另一分支。 policy 否 WorkflowStepPolicy object 节点执行策略。 表8 JobInput 参数 是否必选 参数类型 描述 name 否 String 输入数据的名称,支持1到64位只包含英文、数字、下划线(_)和中划线(-)的字符。
算法资源约束,可不设置。设置后,在算法使用于训练作业时,控制台会过滤可用的公共资源池。 advanced_config advanced_config object 算法高级策略: auto_search 表5 metadata 参数 参数类型 描述 id Integer 算法uuid,创建算法时无需填写。 name
base块:基础配置块,主要为公共配置参数 ModelName块:该模型所需配置的参数,如qwen2.5-7b块 exp_name:实验块,训练策略-序列长度所需参数配置 样例yaml文件仅展示常用实验配置,如需其他配置需根据样例自行添加。 根据以下步骤修改yaml文件: 数据集选择:
为“全局级服务”的“Tenant Administrator”策略,即拥有OBS服务所有操作权限。 如果需要限制此IAM用户操作,仅为此用户配置OBS相关的最小化权限项,具体操作请参见创建ModelArts自定义策略。 检查OBS桶是否具备权限。 下方步骤描述中所指的OBS桶,指
无法完全达到企业对权限最小化的安全管控要求。 策略授权:IAM最新提供的一种细粒度授权的能力,可以精确到具体服务的操作、资源以及请求条件等。基于策略的授权是一种更加灵活的授权方式,能够满足企业对权限最小化的安全管控要求。 角色与策略相关介绍请参考权限基本概念。 “新增委托 > 权限配置
finetuning_type full 用于指定微调策略类型,可选择值full、lora。 如果设置为full,则对整个模型进行微调。这意味着在微调过程中,除了输出层外,模型的所有参数都将被调整以适应新的任务。 lora_target all 采取lora策略方法的目标模块,默认为all dataset
finetuning_type full 用于指定微调策略类型,可选择值full、lora。 如果设置为full,则对整个模型进行微调。这意味着在微调过程中,除了输出层外,模型的所有参数都将被调整以适应新的任务。 lora_target all 采取lora策略方法的目标模块,默认为all dataset