检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
我的算法”页面，“删除”运行结束的训练作业。您可以单击“操作”列的“删除”，在弹出的提示框中单击“确定”，删除对应的算法。 删除订阅算法：前往AI Gallery，在“我的资产 > 算法”中，单击我的订阅，对需要删除的算法单击“取消订阅”，在弹出的提示框中单击“确定”即可。 父主题： 使用ModelArts
容器盘高级配置-容器引擎空间大小 该参数限制的是POD容器空间分配的大小。仅支持整数， 默认值与最小值为50GiB，不同规格的最大值不同，数值有效范围请参考界面提示。自定义设置容器引擎空间大小不会造成额外费用增加。 该参数限制了单个POD作业使用磁盘的大小。 容器盘高级配置-写入模式 部分规格支持设置
能。 1、如训练过程中遇到“NPU out of memory”“Permission denied” 问题可参考 附录：微调训练常见问题解决。 2、训练中遇到"ImportError: This modeling file requires the following packages
> 我的资产 > 数据”，进入“我的数据”。 在“我的发布”页签，查看发布异常的数据集。 图5 查看发布异常的数据集 根据异常状态的错误提示修改源数据后，单击目标数据集右侧的“重试”重新发布数据集。 删除发布的数据集 当您需要删除发布在AI Gallery中的数据集时，可以执行如下步骤进行删除。
Running：运行中 Abnormal：资源池不正常 Deleting：删除中 Error：资源池错误 message String 资源池处于当前状态的提示信息。 resources resources object 资源池中不同状态的资源量。 scope Array of scope objects
m_api.py 中，可以适当调整 gpu_memory_utilization。如果还是 oom，建议适当往下调整。 最后，如果执行报错提示oom，建议修改数据集的shot配置。例如mmlu，可以修改文件 opencompass/configs/datasets/mmlu/mmlu_ppl_ac766d
m_api.py 中，可以适当调整 gpu_memory_utilization。如果还是 oom，建议适当往下调整。 最后，如果执行报错提示oom，建议修改数据集的shot配置。例如mmlu，可以修改文件 opencompass/configs/datasets/mmlu/mmlu_ppl_ac766d
"role": "assistant", "content": "你好！很高兴能为你提供帮助。有什么问题我可以回答或帮你解决吗？" }, "logprobs": null, "finish_reason":
构建ModelArts Lite训练镜像中使用Dockerfile创建的新镜像名称。 <镜像仓库地址>：可在SWR控制台上查询，容器镜像服务中登录指令末尾的域名即为镜像仓库地址。 <组织名称>：Step3中自己创建的组织名称。示例：GROUP_NAME <镜像名称>:<版本名称>：定义镜像名称。示
构建ModelArts Lite训练镜像中使用Dockerfile创建的新镜像名称。 <镜像仓库地址>：可在SWR控制台上查询，容器镜像服务中登录指令末尾的域名即为镜像仓库地址。 <组织名称>：Step3中自己创建的组织名称。示例：GROUP_NAME <镜像名称>:<版本名称>：定义镜像名称。示
构建ModelArts Lite训练镜像中使用Dockerfile创建的新镜像名称。 <镜像仓库地址>：可在SWR控制台上查询，容器镜像服务中登录指令末尾的域名即为镜像仓库地址。 <组织名称>：Step3中自己创建的组织名称。示例：GROUP_NAME <镜像名称>:<版本名称>：定义镜像名称。示
构建ModelArts Lite训练镜像中使用Dockerfile创建的新镜像名称。 <镜像仓库地址>：可在SWR控制台上查询，容器镜像服务中登录指令末尾的域名即为镜像仓库地址。 <组织名称>：Step3中自己创建的组织名称。示例：GROUP_NAME <镜像名称>:<版本名称>：定义镜像名称。示
at main (huggingface.co)），并在pretrain_new.sh脚本中修改--vision_tower参数。 图2 提示clip-vit-large-patch14-336模型不能自动下载 父主题： MLLM多模态模型训练推理
I应用创建。 首次创建AI应用预计花费40~60分钟，之后每次构建AI应用花费时间预计5分钟。 若权重文件大于60G，创建AI应用会报错，提示模型大于60G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署
图2 设置AI应用 单击“立即创建”开始AI应用创建，待应用状态显示“正常”即完成AI应用创建。 若权重文件大于60G，创建AI应用会报错，提示模型大于60G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署
Running：运行中 Abnormal：资源池不正常 Deleting：删除中 Error：资源池错误 message String 资源池处于当前状态的提示信息。 resources resources object 资源池中不同状态的资源量。 scope Array of scope objects
在“停止服务”对话框，单击“确定”。 启动部署服务 在“模型部署”页面，单击“我的服务”页签，在目标服务右侧，单击操作列的“启动”。 在“启动服务”对话框，仔细阅读提示信息，单击“确定”。 服务状态为运行中时会产生费用。 删除部署服务 删除操作无法恢复，请谨慎操作。 登录ModelArts管理控制台。 在左侧导航栏中，选择“ModelArts
co)），并在llava-v1.5-13b模型下的config.json文件中修改mm_vision_tower参数中的模型路径。 图3 提示clip-vit-large-patch14-336模型不能自动下载 父主题： MLLM多模态模型训练推理
M模型要小得多。 为每个模型提供针对性的投机模型： Eagle的模型大小及结构，与基模型的某一层完全相同，这使得它的大小远远小于其基模型。解决了对于部分原始LLM模型，找不到合适的投机模型的问题。 投机小模型训练端到端示例 本章节提供eagle小模型自行训练的能力，客户可通过本章
m_api.py 中，可以适当调整 gpu_memory_utilization。如果还是 oom，建议适当往下调整。 最后，如果执行报错提示oom，建议修改数据集的shot配置。例如mmlu，可以修改文件 opencompass/configs/datasets/mmlu/mmlu_ppl_ac766d
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
