检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看lora微调的日志和性能。 步骤五 删除config.yaml创建出的所有工作负载Pod 若要删除config.yaml创建出的所
作业日志选择OBS中的路径，训练作业的日志信息则保存该路径下。 最后，提交训练作业，训练完成后，请参考查看日志和性能章节查看SFT微调的日志和性能。了解更多ModelArts训练功能，可查看模型开发简介。 父主题： 主流开源大模型基于Standard+OBS适配ModelLink PyTorch
/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看预训练的日志和性能。 步骤五 删除config.yaml创建出的所有工作负载Pod 若要删除config.yaml创建出的所有工作负载Pod，需要先找到config
/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看sft微调的日志和性能。 步骤五 删除config.yaml创建出的所有工作负载Pod 若要删除config.yaml创建出的所有工作负载Pod，需要先找到config
使用推荐权重 参数配置完成后，单击“创建”，创建自定义模型。 在模型列表，单击模型名称可以进入详情页查看模型详细信息和任务。 当模型“状态”变成“创建成功”时，表示模型创建完成。 图3 查看我的模型状态 步骤二 ：部署模型服务 模型创建成功后，在“我的模型”页面，单击目标模型右侧操作列的“部署”。
支持1~90个字符，请勿在描述中输入涉政、迷信、违禁等相关敏感词，否则发布审核无法通过。 可见范围 “所有用户可见”：表示公开资产，所有用户都可以查看该资产。 “指定用户可见”：输入账号名、账号ID或用户昵称搜索并选择用户，使其可见该资产。 可用范围 选择是否启用“申请用户可用”。 勾选
=0,1 通过命令npu-smi info查询NPU卡为容器中的第几张卡。例如下图查询出两张卡，如果希望使用第一和第二张卡，则“export ASCEND_RT_VISIBLE_DEVICES=0,1”，注意编号不是填4、5。 图2 查询结果 配置环境变量。 export DEFER_DECODE=1
下架镜像 AI Gallery中已上架的资产支持下架操作。 在AI Gallery首页，选择右上角“我的Gallery”。 在“我的资产”下，查看已上架的资产。 单击资产名称，进入资产详情页。 在资产详情页，单击“下架”，在弹窗中单击“确定”。即可将资产下架。 删除镜像 当资产不使用时，支持删除，释放AI
执行结果如图3所示。注意，每输入一行代码，单击下“Run”运行。您也可以进入OBS管理控制台，检查“modelarts-test08/moxing”目录，查看“test01”文件夹是否已创建成功。更多MoXing的常用操作请参见MoXing常用操作的样例代码。 图3 运行示例 复制数据到OBS
选择正确的密钥文件 当左下角显示如下状态时，代表实例连接成功： 图10 实例连接成功 当弹出如下错误时，代表实例连接失败，请关闭弹窗，并查看OUTPUT窗口的输出日志，请查看FAQ并排查失败原因。 图11 实例连接失败 远程调试代码 在VS Code界面，上传本地代码到云端开发环境。 单击“File
专属资源池磁盘空间大小必须超过1T。您可以通过专属资源池详情页面，规格页签，查看专属资源池磁盘信息。当服务部署失败，提示磁盘空间不足时，请参考服务部署、启动、升级和修改时，资源不足如何处理？ 图2 查看专属资源池磁盘信息 创建模型 使用大模型创建模型，选择从对象存储服务（OBS）中导入，需满足以下参数配置：
unset USE_MM_ALL_REDUCE_OP #关闭Matmul_all_reduce融合算子 配置后重启服务生效。 查看详细日志。 查看详细耗时日志可以辅助定位性能瓶颈，但会影响推理性能。如需开启，配置以下环境变量： export DETAIL_TIME_LOG=1
=0,1 通过命令npu-smi info查询NPU卡为容器中的第几张卡。例如下图查询出两张卡，如果希望使用第一和第二张卡，则“export ASCEND_RT_VISIBLE_DEVICES=0,1”，注意编号不是填4、5。 图2 查询结果 配置环境变量。 export DEFER_DECODE=1
docker-engine-selinux.noarch docker-runc.aarch64 配置IP转发，用于容器内的网络访问。执行以下命令查看net.ipv4.ip_forward配置项的值，如果为1，可跳过此步骤。 sysctl -p | grep net.ipv4.ip_forward
modelarts:network:get modelarts:workspace:get 创建训练作业和查看训练日志。 建议配置。 仅在严格授权模式开启后，需要显式配置左侧权限。 modelarts:workspace:getQuotas 查询工作空间配额。如果开通了工作空间功能，则需要配置此权限。 按需配置。 modelarts:tag:list
String 用户指定的network名称。 os.modelarts/workspace.id String 工作空间ID。获取方法请参见查询工作空间列表。未创建工作空间时默认值为“0”，存在创建并使用的工作空间，以实际取值为准。 表12 NetworkMetadataAnnotations
操作不会收取费用。 单击“操作记录”可查看当前资源池替换节点的操作记录。“运行中”表示节点在替换中。替换成功后，节点列表中会显示新的节点名称。 替换最长时间为24小时，超时后仍然未找到合适的资源，状态会变为“失败”。可将鼠标悬浮在图标上，查看具体失败原因。 每天累计替换的次数不超
docker-engine-selinux.noarch docker-runc.aarch64 配置IP转发，用于容器内的网络访问。执行以下命令查看net.ipv4.ip_forward配置项的值，如果为1，可跳过此步骤。 sysctl -p | grep net.ipv4.ip_forward
/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看sft微调的日志和性能。 步骤五 删除config.yaml创建出的所有工作负载Pod 若要删除config.yaml创建出的所有工作负载Pod，需要先找到config
/llm_train/saved_dir_for_output/llama2-13b/saved_models/。 最后，请参考查看日志和性能章节查看lora微调的日志和性能。 步骤五 删除config.yaml创建出的所有工作负载Pod 若要删除config.yaml创建出的所
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
