检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
源。 自助管理集群GPU/NPU驱动：每个用户对集群的驱动要求不同，在新版专属资源池列表页中，可自行选择加速卡驱动，并根据业务需要进行立即变更或平滑升级。 父主题： Standard功能介绍
String 订购订单支付完成后跳转的url地址。 os.modelarts/order.id 否 String 订单id，包周期资源创建或者计费模式变更的时候该参数必需。 表5 NodePoolSpec 参数 是否必选 参数类型 描述 resources 是 PoolResource object
String 订购订单支付完成后跳转的url地址。 os.modelarts/order.id String 订单id，包周期资源池创建或者计费模式变更的时候该参数必需。 os.modelarts/flavor.resource.ids String 每种规格对应的resourceId，主要和cbc交互使用。
String 订购订单支付完成后跳转的url地址。 os.modelarts/order.id String 订单id，包周期资源池创建或者计费模式变更的时候该参数必需。 os.modelarts/flavor.resource.ids String 每种规格对应的resourceId，主要和cbc交互使用。
有的标签，单击“添加”。 逐步标注图片中所有物体所在位置，一张图片可添加多个标签。完成一张图片标注后，可单击图片右上角来切换下一张（也可使用快捷键【D】直接切换），快速选中其他未标注的图片，然后在标注页面中执行标注操作。 图5 添加物体检测标签 单击页面上方“返回数据标注预览”查
因安全问题，不支持用户开通使用In命令。 bash:/home/ma-user/.pip/pip.conf：Permission Denied 因从V1切换到V2时，ma-user的uid仍是1102未改变导致。 tee: /xxx/xxxx: Permission denied cp: cannot
委托用户：选择委托名称。使用账号A创建一个权限委托，在此处将该委托授权给账号B拥有的委托。在使用账号B登录控制台时，可以在控制台右上角的个人账号切换角色到账号A，使用账号A的委托权限。 图3 委托用户切换角色 “委托选择” 已有委托：列表中如果已有委托选项，则直接选择一个可用的委托为上述选择的用户授权。单击委托名称查看该委托的权限详情。
String 订购订单支付完成后跳转的url地址。 os.modelarts/order.id String 订单id，包周期资源池创建或者计费模式变更的时候该参数必需。 os.modelarts/flavor.resource.ids String 每种规格对应的resourceId，主要和cbc交互使用。
ard专属资源池来调整专属资源池的规格。 每个用户对集群的驱动要求不同，在专属资源池列表页中，可自行选择加速卡驱动，并根据业务需要进行立即变更或平滑升级。ModelArts提供了自助升级专属资源池GPU/Ascend驱动的能力，可参考升级Standard专属资源池驱动进行升级。
我的资料 查看个人基本信息，包括“账号”、“头像”、“昵称”、“邮箱”、“简介”等信息。 单击“编辑资料”，可以编辑“昵称”和“简介”。 单击“更换头像”，可以自定义替换头像。 父主题： AI Gallery（旧版）
完成资源配置后，您可以登录到服务器进行训练和推理，具体案例可参考Lite Server资源使用。 资源管理 Lite Server提供启动、停止、切换操作系统等管理手段，您可在ModelArts控制台上对资源进行管理。 表1 相关名词解释 名词 含义 裸金属服务器 裸金属服务器是一款兼具
Code）或SSH客户端，通过SSH远程接入Notebook实例时需要的相关配置。 flavor 否 String 支持变更实例规格，支持变更的规格可以通过本章节的查询支持可切换规格列表的API获取。 image_id 否 String 支持更新镜像ID，镜像ID参考查询支持的镜像列表获取。
${pod_name}：pod名，例如图1${pod_name}为yourapp-87d9b5b46-c46bk。 进入benchmark_tools目录下，切换conda环境并安装依赖。 cd /home/ma-user/AscendCloud/AscendCloud-LLM/llm_tools/
可以根据实际需求设置。 --num-requests：输出数据集的数量，可以根据实际需求设置。 进入benchmark_tools目录下，切换一个conda环境。 cd benchmark_tools conda activate python-3.9.10 执行脚本benchmark_serving
${pod_name}：pod名，例如图1${pod_name}为yourapp-87d9b5b46-c46bk。 进入benchmark_tools目录下，切换conda环境并安装依赖。 cd /home/ma-user/AscendCloud/AscendCloud-LLM/llm_tools/
${pod_name}：pod名，例如图1${pod_name}为yourapp-87d9b5b46-c46bk。 进入benchmark_tools目录下，切换conda环境并安装依赖。 cd /home/ma-user/AscendCloud/AscendCloud-LLM/llm_tools/
可以根据实际需求设置。 --num-requests：输出数据集的数量，可以根据实际需求设置。 进入benchmark_tools目录下，切换一个conda环境。 cd benchmark_tools conda activate python-3.9.10 执行脚本benchmark_serving
吞吐表示每秒每卡处理的Tokens数量，吞吐值的上下限可以参考表4获取。 单位：tokens/s/p 前后处理时间 调优时长还包括训练前的数据预处理、训练后格式转换等调优之外的耗时，统称为前后处理时间。 调优任务的前后处理时间和模型参数量相关，不同参数量的时间估值如下： 72B ： 1.35小时 32B：0
配置方案，有效避免了资源闲置与浪费，降低了进入AI领域的门槛。 架构强调高可用性，多数据中心部署确保数据与任务备份，即使遭遇故障，也能无缝切换至备用系统，维持模型训练不中断，保护长期项目免受时间与资源损耗，确保进展与收益。 大模型应用开发，帮助开发者快速构建智能Agents 在企
性，屏蔽了大量AI模型开发使用过程中的技术细节，并制定了统一合理的规范。使用者可以便捷地使用、下载模型。同时支持用户上传自己的预训练模型到在线模型资产仓库中，并发布上架给其他用户使用。AI Gallery在原有Transformers库的基础上，融入了对于昇腾硬件的适配与支持。对
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
