检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ngFace的目录格式。即Step2 准备权重文件上传的HuggingFace权重文件存放目录。如果使用了量化功能，则使用推理模型量化章节转换后的权重。 --max-num-seqs：最大同时处理的请求数，超过后拒绝访问。 --max-model-len：推理时最大输入+最大输出
委托用户：选择委托名称。使用账号A创建一个权限委托，在此处将该委托授权给账号B拥有的委托。在使用账号B登录控制台时，可以在控制台右上角的个人账号切换角色到账号A，使用账号A的委托权限。 图3 委托用户切换角色 说明： ModelArts暂不支持创建身份策略权限的委托。 “委托选择” 已有委托：列表中如果已有委托选
是否必选 参数类型 描述 data 否 Object 样本文件的字节数据。类型为java.nio.ByteBuffer，前台调用时传字节数据转换后的字符串。 data_source 否 DataSource object 数据来源。 encoding 否 String 样本文件的编
子用户仅限于对自己创建的工作空间下的资源池进行迁移操作。 网络工作空间迁移 登录ModelArts管理控制台，选择“AI专属资源池 > 弹性集群Cluster”，切换到“网络”页签。 在网络列表中，选择目标网络“操作 > 更多 > 工作空间迁移”。 在弹出的“迁移网络”中，选择要迁移的“目标工作空间”，单击“确定”。
txt") 支持。当前cuda版本无so文件，需外部导入so文件（自行在浏览器下载），再设置LD_LIBRARY_PATH，具体见2。 不支持。尝试更换引擎，重新下发作业。或者使用自定义镜像创建作业，可参考使用自定义镜像创建作业。 父主题： 云上迁移适配故障
取处理。 处理方法 结合当前购买的SFS盘性能规划业务， 建议不要运行到性能上限。 可以购买多个SFS Turbo实例分担业务压力， 或者更换高性能的SFS盘。 一个SFS实例容量建议不要太大，建议以同样的成本换成购买多个SFS实例。 父主题： Lite Server
ngFace的目录格式。即Step2 准备权重文件上传的HuggingFace权重文件存放目录。如果使用了量化功能，则使用推理模型量化章节转换后的权重。 --max-num-seqs：最大同时处理的请求数，超过后拒绝访问。 --max-model-len：推理时最大输入+最大输出
命令，将必要的内核模块加载到系统中。但有时候也可能需要手动执行该命令。例如，在更新了NVIDIA驱动后，需要重新加载新版本的内核模块才能使变更生效。 此外，若使用了多个NVIDIA显卡，每个显卡都需要加载相应的内核模块才能正常工作。在这种情况下，也需要手动执行“nvidia-mo
ingface格式。开源权重文件获取地址请参见支持的模型列表和权重文件。 如果使用模型训练后的权重文件进行推理，模型训练及训练后的权重文件转换操作可以参考相关文档章节中提供的模型训练文档。 Step2 配置pod 在节点自定义目录${node_path}下创建config.yaml文件
本文价格仅供参考，实际计算请以ModelArts价格详情中的价格为准。 变更配置后对计费的影响 如果您在购买按需计费资源池后变更了规格配置，会产生一个新订单并开始按新配置的价格计费，旧订单自动失效。 如果您在一个小时内变更了规格配置，将会产生多条计费信息。每条计费信息的开始时间和结束时间对应不同配置在该小时内的生效时间。
在专属资源池列表中，在需要删除的资源池的右侧操作列选择“ > 删除”。 在“删除资源池”页面，需在文本框中输入“DELETE”，单击“确定”，删除资源池。 可切换“训练作业”、“推理服务”、“开发环境”页签查看资源池上创建的训练作业、部署的推理服务、创建的Notebook实例。 图1 删除资源池 释放游离节点
专属资源池扩容，可参考扩缩容资源池。 如果磁盘空间不够，可以尝试重试，使实例调度到其他节点。如果单实例仍磁盘空间不足，请联系系统管理员，更换合适的规格。 如果是大模型导入的模型部署服务，请确保专属资源池磁盘空间大于1T（1000GB）。 父主题： 服务部署
排查/home/ma-user/.ssh目录权限是否为755/750，不是该权限请修改。 连接时如果报错密钥无权限，排查密钥是否为自己的密钥（可能使用了重名密钥），请更换密钥后重新连接实例。 本地排查 检查配置是否正确。 打开config文件进行检查：Host必须放在每组配置的第一行，作为每组配置的唯一ID。
排查/home/ma-user/.ssh目录权限是否为755/750，不是该权限请修改。 连接时如果报错密钥无权限，排查密钥是否为自己的密钥（可能使用了重名密钥），请更换密钥后重新连接实例。 本地排查 检查配置是否正确。 打开config文件进行检查：Host必须放在每组配置的第一行，作为每组配置的唯一ID。
可能影响ModelArts侧基本功能，包括但不限于资源池管理、节点管理、扩缩容、驱动升级等。 高 不可恢复。 节点 退订、移除、关机、污点管理、切换/重装操作系统等。 可能影响ModelArts侧基本功能，包括但不限于节点管理、扩缩容、驱动升级、带本地盘机型的本地盘数据丢失等。 高 不可恢复。
后请及时停止Notebook实例或删除。使用EVS做存储时，需同时清理存储到EVS中的数据。 CodeLab计费：在体验CodeLab时，切换为付费规格后会收费，使用完后请在JupyterLab界面及时停止Notebook实例。 训练作业：训练作业运行时会收取费用，使用完请及时停
后请及时停止Notebook实例或删除。使用EVS做存储时，需同时清理存储到EVS中的数据。 CodeLab计费：在体验CodeLab时，切换为付费规格后会收费，使用完后请在JupyterLab界面及时停止Notebook实例。 训练作业：训练作业运行时会收取费用，使用完请及时停
成授权。 创建用户并加入用户组。 在IAM控制台创建用户，并将其加入步骤1中创建的用户组。 用户登录并验证权限。 新创建的用户登录控制台，切换至授权区域，验证权限： 在“服务列表”中选择ModelArts，进入ModelArts主界面，选择不同类型的专属资源池，在页面单击“创建”
成授权。 创建用户并加入用户组。 在IAM控制台创建用户，并将其加入步骤1中创建的用户组。 用户登录并验证权限。 新创建的用户登录控制台，切换至授权区域，验证权限： 在“服务列表”中选择ModelArts，进入ModelArts主界面，选择不同类型的专属资源池，在页面单击“创建”
重启AI应用，使环境变量的新增、修改、删除生效。 当AI应用的状态为“运行中”时，则在“运行资源设置”处，单击“重启”。 当AI应用的状态为非“待启动”时，则环境变量的变更会随应用启动自动生效。 管理AI应用可见范围 创建AI应用时，默认“可见范围”是“私密”，且“仅自己可见”。创建完成后，支持修改可见范围。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
