检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
# 安装量化模块的脚本 ... 具体操作如下： 参考Step1 环境准备创建pod准备量化环境。 执行如下命令进入容器，并进入AutoSmoothQuant目录下 kubectl exec -it {pod_name} bash cd /home/ma-us
# 安装量化模块的脚本 ... 具体操作如下： 参考Step1 环境准备创建pod准备量化环境。 执行如下命令进入容器，并进入AutoSmoothQuant目录下 kubectl exec -it {pod_name} bash cd /home/ma-us
zip并解压，无需重复执行。 执行如下命令进入容器。 kubectl exec -it {pod_name} bash ${pod_name}：pod名，例如图1${pod_name}为yourapp-87d9b5b46-c46bk。 进入benchmark_tools目录下，切换conda环境并安装依赖。
md”文件自动存放在数据集详情页的“文件版本”页签或者是模型详情页的“模型文件”页签。 创建数据集资产 登录AI Gallery，单击右上角“我的Gallery”进入我的Gallery页面。 单击左上方“创建资产”，选择“数据集”。 在“创建数据集”弹窗中配置参数，单击“创建”。 表1 创建数据集 参数名称
之前无法使用的Notebook，此时的Notebook仍会保留无法使用之前的所有变量空间。 如果重新打开的Notebook仍然无法使用，则进入ModelArts管理控制台页面的Notebook列表页面，“停止”此无法使用的Notebook。待Notebook处于“停止”状态后，再
Notebook实例状态为“运行中”。 保存镜像 在Notebook列表中，对于要保存的Notebook实例，单击右侧“操作”列中的“更多 > 保存镜像”，进入“保存镜像”对话框。 图1 保存镜像 在保存镜像对话框中，设置组织、镜像名称、镜像版本和描述信息。单击“确定”保存镜像。 在“组织”下拉框
Notebook实例状态为“运行中”。 保存镜像 在Notebook列表中，对于要保存的Notebook实例，单击右侧“操作”列中的“更多 > 保存镜像”，进入“保存镜像”对话框。 图1 保存镜像 在保存镜像对话框中，设置组织、镜像名称、镜像版本和描述信息。单击“确定”保存镜像。 在“组织”下拉框
修改超参值后，再启动训练脚本。其中 Llama2-70b建议为4机32卡训练。 多机启动 以 Llama2-70b为例，多台机器执行训练启动命令如下。进入代码目录 /home/ma-user/ws/llm_train/AscendSpeed 下执行启动脚本。 多机执行命令为：sh scrip
登录ModelArts管理控制台，在左侧菜单栏中选择“AI专属资源池 > 弹性集群 Cluster”，在“弹性集群”页面，选择“Lite资源池”页签，查看资源池列表。 进入资源池详情页，在节点管理页面，选择需要进行驱动升级的节点，单击操作列的“更多 > 驱动升级”。 在“驱动升级”弹窗中，会显示当前专属资源池
在线服务预测报错ModelArts.4206 在线服务预测报错ModelArts.4503 当使用推理的镜像并且出现MR.XXXX类型的错误时，表示已进入模型服务，一般是模型推理代码编写有问题。 请根据构建日志报错信息，定位服务预测失败原因，修改模型推理代码后，重新导入模型进行预测。 经典案例：在线服务预测报错MR
配置。 使用主用户的账号登录ModelArts服务管理控制台。请注意选择左上角的区域，例如“华南-广州”。 在左侧导航栏单击“权限管理”，进入“权限管理”页面。 单击“添加授权”。在“授权”页面，在“授权对象类型”下面选择“所有用户”，选择“新增委托 ”，为该主用户下面的所有子账号配置委托访问授权。
确保您使用的OBS目录与ModelArts在同一区域。 创建模型操作步骤 登录ModelArts管理控制台，在左侧导航栏中选择“模型管理”，进入模型列表页面。 单击左上角的“创建模型”，进入“创建模型”页面。 在“创建模型”页面，填写相关参数。 填写模型基本信息，详细参数说明请参见表1。 表1 模型基本信息参数说明
已在OBS创建至少1个空的文件夹，用于存储训练输出的内容。 由于训练作业运行需消耗资源，确保账户未欠费。 确保您使用的OBS目录与ModelArts在同一区域。 创建算法 进入ModelArts控制台，参考创建算法操作指导，创建自定义算法。镜像应该满足pytorch_1.8.0-cuda_10.2-py_3.7-ubuntu_18
修改超参值后，再启动训练脚本。Llama2-70b建议为4机32卡训练。 多机启动 以 Llama2-70b为例，多台机器执行训练启动命令如下。进入代码目录 /home/ma-user/ws/llm_train/AscendSpeed 下执行启动脚本。 多机执行命令为：sh scrip
系此IAM用户的管理员账号进行委托授权。 添加授权 登录ModelArts管理控制台，在左侧导航栏选择“权限管理”，进入“权限管理”页面。 单击“添加授权”，进入“访问授权”配置页面，根据参数说明进行配置。 表1 参数说明 参数 说明 “授权对象类型” 包括IAM子用户、联邦用户、委托用户和所有用户。
修改超参值后，再启动训练脚本。其中 Llama2-70b建议为4机32卡训练。 多机启动 以 Llama2-70b为例，多台机器执行训练启动命令如下。进入代码目录 /home/ma-user/ws/llm_train/AscendSpeed 下执行启动脚本。 多机执行命令为：sh scrip
使用AI Gallery SDK构建自定义模型 AI Gallery的Transformers库支持部分开源的模型结构框架，并对昇腾系列显卡进行了训练/推理性能优化，可以做到开箱即用。如果你有自己从头进行预训练的模型，AI Gallery也支持使用SDK构建自定义模型接入AI Gallery。
专属资源池状态处于“运行中”。 操作步骤 登录ModelArts管理控制台，在左侧导航栏中选择“AI专属资源池 > 弹性集群Cluster”，进入“Standard资源池”页面。 在资源池列表中，选择某个资源池右侧操作列的“ > 设置作业类型”。 在“设置作业类型”弹窗中，选择需要设置的作业类型。
'/home/ma-user/work/data') 在Jupyter页面的“Files”页签下，单击“New”，打开“Terminal”。执行如下命令进入目标路径，确认源码已下载，即“data”文件是否存在。 cd /home/ma-user/work ls 在“Terminal”环境进行编译，具体编译方式请您根据业务需求进行。
将下载的原始数据存放在{work_dir}/llm_train/LLaMAFactory/LLaMA-Factory/data目录下。具体步骤如下： 进入到/home/ma-user/ws/llm_train/LLaMAFactory/LLaMA-Factory/data目录下。 cd /
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
