检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
实施步骤 准备工作 快速部署 开始使用 快速卸载
可能原因是跨区域算法同步或者创建共享存储超时 训练作业已排队,正在等待资源分配 训练作业排队失败 训练作业开始运行 训练作业运行成功 训练作业运行失败 训练作业被抢占 系统检测到您的作业疑似卡死,请及时前往作业详情界面查看并处理 训练作业已重启 训练作业已被手动终止 训练作业已被终止
recordObjectName': 录音文件名(仅语音回呼场景携带) * 'recordBucketName': 录音文件所在的目录名(仅语音回呼场景携带) * 'recordDomain': 存放录音文件的域名(仅语音回呼场景携带)
语音回呼代码样例 Node.js Java Python PHP C# 父主题: 线下开发
表1 必须修改的训练超参配置 参数 示例值 参数说明 ORIGINAL_TRAIN_DATA_PATH /home/ma-user/work/training_data/alpaca_gpt4_data.json 必须修改。训练时指定的输入数据路径。请根据实际规划修改。
该API属于MetaStudio服务,描述: 获取语音训练任务审核结果。接口URL: "/v1/{project_id}/voice-training-manage/user/jobs/{job_id}/audit-result"
IAM用户能使用语音通话服务吗? 可以。但需要通过企业实名认证的华为公有云账户开通华为云语音通话服务后,赋予该账户下的IAM账户“RTC Administrator”权限,对应的IAM账户退出并重新登录后,才可使用语音通话服务。详细操作可参见IAM帮助文档。 父主题: 产品咨询类
训练中的权重转换说明 以 llama2-13b 举例,运行 0_pl_pretrain_13b.sh 脚本。脚本同样还会检查是否已经完成权重转换的过程。 如果已完成权重转换,则直接执行预训练任务。
需要在训练开始前,修改llm_train/AscendSpeed/yi/3_training.sh文件,并添加--tokenizer-not-use-fast参数。修改后如图1所示。
使用reload ckpt恢复中断的训练 在容错机制下,如果因为硬件问题导致训练作业重启,用户可以在代码中读取预训练模型,恢复至重启前的训练状态。用户需要在代码里加上reload ckpt的代码,使能读取训练中断前保存的预训练模型。具体请参见断点续训练。
训练的数据集预处理说明 以 llama2-13b 举例,运行:0_pl_pretrain_13b.sh 训练脚本后,脚本检查是否已经完成数据集预处理的过程。 如果已完成数据集预处理,则直接执行预训练任务。
训练的数据集预处理说明 以 llama2-13b 举例,运行:0_pl_pretrain_13b.sh 训练脚本后,脚本检查是否已经完成数据集预处理的过程。 如果已完成数据集预处理,则直接执行预训练任务。
__': main() 结果对比 分别以单机单卡和两节点16卡两种资源类型完成100epoch的cifar-10数据集训练,训练时长和测试集准确率如下。
随时获取华为云AI最新动态,欢迎关注华为云AI公众号:
修订记录 发布日期 修订记录 2024-3-30 第一次正式发布。
快速卸载 进入上传文本的OBS和存放结果的OBS中,删除所有存放在里面的文件。 图1 删除文本上传的OBS中的文件 图2 删除存放结果的OBS中的文件 登录资源编排服务 RFS资源栈,找到该解决方案创建的资源栈,单击资源栈名称最右侧“删除”按钮,在弹出的“删除资源栈”提示框输入“Delete
查看精度结果 任务完成之后会在test-benchmark目录下生成excel表格: 精度结果 LLaMAFactory_train_accuracy_benchmark_<版本号>_<时间戳>.xlsx 样例截图: 父主题: 训练benchmark工具
RUN_TYPE pretrain 表示训练类型。可选择值:[pretrain, sft, lora]。
多语音格式支持 支持11种输入语音格式,包含ulaw、alaw、pcm、mpx、wav等 支持11种输入语音格式,包含ulaw、alaw、pcm、mpx、wav等 应用场景 语音搜索 语音短消息 游戏娱乐 语音搜索 搜索内容直接以语音的方式输入,让搜索更加高效。
TRAIN_ITERS 100 表示训练step迭代次数,根据实际需要修改。 SAVE_INTERVAL 1000 用于模型中间版本地保存。 当参数值>=TRAIN_ITERS时,生成模型仅保存经过TRAIN_ITERS次训练后的最后一个版本。