检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
未验收的图片，设置其“验收结果”。 完成验收 继续验收完成后，单击右上角“完成验收”在完成验收窗口，您可以查看本标注作业的验收情况，如抽样文件数等，同时设置如下参数，然后进行验收。只有完成验收，标注信息才会同步到标注作业的已标注页面中。 一旦标注数据完成验收，团队成员无法再修改标注信息，只有数据集创建者可修改。
请求参数 无 响应参数 状态码： 200 表2 响应Body参数 参数 参数类型 描述 content String 日志内容。如果日志大小没有超过上限（n兆）则返回全部内容，如果日志超过了上限（n兆）则返回最新的n兆的日志。2022/03/01 00:00:00 (GMT+08:
FullAccess权限和ModelArts CommonOperations权限只能二选一，不能同时选。 选择说明如下： ModelArts CommonOperations没有任何专属资源池的创建、更新、删除权限，只有使用权限。推荐给子账号配置此权限。 如果需要给子账号开通专属资源池的创建、更新、删除权限，此处要勾选ModelArts
持驱动一致，目标版本可选择当前驱动版本，升级完成后所有节点驱动会升级为统一版本。 升级方式：可选择安全升级或强制升级。 安全升级：待节点上没有作业时再升级，升级周期可能比较长。 强制升级：忽略运行中作业，直接升级，可能会导致运行中作业失败。 开启滚动：开启开关后，支持滚动升级的方
of Endpoints objects 实例私有IP信息。 flavor String 实例规格名称。 id String 实例ID。 key_pair_name String 密钥对名称。 name String 实例名称。 order_id String 订单ID。 server_image_response
of Endpoints objects 实例私有IP信息。 flavor String 实例规格名称。 id String 实例ID。 key_pair_name String 密钥对名称。 name String 实例名称。 order_id String 订单ID。 server_image_response
of Endpoints objects 实例私有IP信息。 flavor String 实例规格名称。 id String 实例ID。 key_pair_name String 密钥对名称。 name String 实例名称。 order_id String 订单ID。 server_image_response
Lite的Lite k8s Cluster。推荐使用“西南-贵阳一”Region上的资源和Ascend Snt9B。 支持的模型列表和权重文件 本方案支持vLLM的v0.6.3版本。不同vLLM版本支持的模型列表有差异，具体如表1所示。 表1 支持的模型列表和权重获取地址 序号 模型名称
确保集群可以访问公网。 训练支持的模型列表 本方案支持以下模型的训练，如表1所示。 表1 支持的模型列表 序号 支持模型 支持模型参数量 权重文件获取地址 1 llama2 llama2-7b https://huggingface.co/meta-llama/Llama-2-7b-chat-hf
pt的构造等说明。 训练支持的模型列表 本方案支持以下模型的训练，如表1所示。 表1 支持的模型列表 序号 支持模型 支持模型参数量 权重文件获取地址 1 llama2 llama2-7b https://huggingface.co/meta-llama/Llama-2-7b-chat-hf
部署在线服务 申请扩大模型的大小配额和使用节点本地存储缓存白名单 服务部署时，默认情况下，动态加载的模型包位于临时磁盘空间，服务停止时已加载的文件会被删除，再次启动时需要重新加载。为了避免反复加载，平台允许使用资源池节点的本地存储空间来加载模型包，并在服务停止和重启时仍有效（通过哈希值保证数据一致性）
Standard模型训练流程 操作任务 子任务 说明 准备工作 准备训练代码 模型训练必备要素包括训练代码、训练框架、训练数据。 训练代码包含训练作业的启动文件或启动命令、训练依赖包等内容。 当使用预置框架创建训练作业时，训练代码的开发规范可以参考开发用于预置框架训练的代码。 当使用自定义镜像创建
使用边缘节点部署边缘服务能否使用http接口协议？ 系统默认使用https。如果您想使用http，可以采取以下两种方式： 方式一：在部署边缘服务时添加如下环境变量： MODELARTS_SSL_ENABLED = false 图1 添加环境变量 方式二：在使用自定义镜像导入模型时
已升级到最新版本。 训练支持的模型列表 本方案支持以下模型的训练，如表1所示。 表1 支持的模型列表 序号 支持模型 支持模型参数量 权重文件获取地址 1 llama2 llama2-7b https://huggingface.co/meta-llama/Llama-2-7b-chat-hf
WorkflowMetricPair objects 工作流度量信息列表。 表11 WorkflowMetricPair 参数 参数类型 描述 key String 度量信息metric的key。 value Object 度量信息metric的值。 表12 StepCondition 参数 参数类型 描述 type
of Endpoints objects 实例私有IP信息。 flavor String 实例规格名称。 id String 实例ID。 key_pair_name String 密钥对名称。 name String 实例名称。 order_id String 订单ID。 server_image_response
准备工作 准备资源 本教程案例是基于ModelArts Standard运行，需要购买ModelArts专属资源池。 准备权重 准备对应模型的权重文件。 准备代码 准备AscendCloud-3rdLLM-6.3.905-xxx.zip和AscendCloud-OPP-6.3.905-xxx
进入OBS管理控制台，选择当前自动学习项目使用的OBS桶，单击桶名称进入概览页。 在左侧菜单栏选择“访问权限控制>桶ACL”，检查当前账号是否具备读写权限，如果没有权限，请联系桶的拥有者配置权限。 确保此OBS桶是非加密桶 进入OBS管理控制台，选择当前自动学习项目使用的OBS桶，单击桶名称进入概览页。
905-20240611214128.zip 三方大模型训练和推理代码包 获取路径：Support-E 说明： 如果上述软件获取路径打开后未显示相应的软件信息，说明您没有下载权限，请联系您所在企业的华为方技术支持下载获取。 AscendCloud-3rdAIGC-6.3.905-20240529154412
训练作业启动前下载数据、模型、代码。 训练作业运行中上传日志、模型。 建议配置。 操作步骤 本案例场景为单机单卡场景下创建训练作业，数据和代码存储在OBS服务的并行文件系统下，创建自定义镜像训练作业。 使用主用户账号登录管理控制台，单击右上角用户名，在下拉框中选择“统一身份认证”，进入统一身份认证（IAM）服务。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
