检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
填写1-64位,仅包含英文、数字、下划线(_)和中划线(-),并且以英文开头的名称。
属性总览 您可以使用ReleaseDatasetStep来构建数据集版本发布节点,ReleaseDatasetStep结构如下: 表1 ReleaseDatasetStep 属性 描述 是否必填 数据类型 name 数据集版本发布节点的名称,命名规范(只能包含英文字母、数字、下划线
方式一:从开源社区下载发布的AWQ量化模型。 https://huggingface.co/models?sort=trending&search=QWEN+AWQ 方式二:使用AutoAWQ量化工具进行量化。
是 当前仅支持OBSOutputConfig 表4 DatasetProperties 属性 描述 是否必填 数据类型 dataset_name 数据集的名称,只能是中文、字母、数字、下划线或中划线组成的合法字符串,长度为1-100位。
方式一:从开源社区下载发布的AWQ量化模型。 https://huggingface.co/models?sort=trending&search=QWEN+AWQ 方式二:使用AutoAWQ量化工具进行量化。
tag String 镜像tag,长度限制64个字符, 支持大小写字母、数字、中划线、下划线和点。 description String 该镜像所对应的描述信息,长度限制512个字符。 status String 镜像状态。枚举值如下: INIT:初始化。
AI Gallery AI Gallery百模千态社区,为用户提供优质的昇腾云AI模型开发体验和丰富的社区资源。 适用于AI开发探索。 ModelArts用户指南(AI Gallery ) 产品架构 ModelArts产品架构请参考图1。
填写1-64位,仅包含英文、数字、下划线(_)和中划线(-),并且以英文开头的名称。
变量名称不可重复,只能由下划线、字母与数字组成且不能以数字开头。 查看环境变量的值:单击,可以查看当前环境变量的值。 新增环境变量:单击“新增”,在编辑环境变量弹窗中配置“变量名称”和“变量值”,单击“确定”完成配置。
填写1-64位,仅包含英文、数字、下划线(_)和中划线(-),并且以英文开头的名称。
规格中数字分别代表什么含义? 如何删除预置镜像中不需要的工具
填写1-64位,仅包含英文、数字、下划线(_)和中划线(-),并且以英文开头的名称。
workforce_name 否 String 标注团队的名称,1~64长度,只能包含字母、数字、中划线和下划线。
填写1-64位,仅包含英文、数字、下划线(_)和中划线(-),并且以英文开头的名称。
当前社区vllm只支持float8的kv_cache量化,抽取脚本中dtype类型是"float8_e4m3fn"。dtype类型不影响int8的scale系数的抽取和加载。 启动kv-cache-int8-per-tensor量化服务。
填写1-64位,仅包含英文、数字、下划线(_)和中划线(-),并且以英文开头的名称。
name 否 String 镜像名称,长度限制512个字符,支持小写字母、数字、中划线、下划线和点。 namespace 否 String 镜像所属组织,可以在SWR控制台“组织管理”创建和查看。
当前社区vllm只支持float8的kv_cache量化,抽取脚本中dtype类型是"float8_e4m3fn"。dtype类型不影响int8的scale系数的抽取和加载。 启动kv-cache-int8-per-tensor量化服务。
属性总览 您可以使用ConditionStep来构建条件节点,ConditionStep结构如下: 表1 ConditionStep 属性 描述 是否必填 数据类型 name 条件节点的名称,命名规范(只能包含英文字母、数字、下划线(_)、中划线(-),并且只能以英文字母开头,长度限制为
workforce_name 是 String 标注团队名称,名称只能包含字母、数字、下划线和中划线,长度为1-64位。 响应参数 状态码: 201 表3 响应Body参数 参数 参数类型 描述 workforce_id String 标注团队的ID。 请求示例 创建标注团队。