检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
调用失败时的错误码，具体请参见错误码。 调用成功时无此字段。 spec_total_count Integer 作业资源规格总数。 specs specs结构数组 资源规格参数列表，如表4所示。 表4 specs属性列表说明 参数 参数类型 说明 spec_id Long 资源规格的ID。 core
别”可添加多个标签类别，一个标签类别可以包含多个标签。“标签类别”和“标签名”只能是中文、字母、数字、英文句号、下划线或中划线组成的合法字符串。长度为1～256字符。 设置标签类别：在“标签类别”输入标签类别的名称。 设置标签名称：在“标签名”输入标签名称。 添加标签：单击“添加标签”可增加多个标签。
表示消息的内容，类型为list。单图单轮对话content必须包含两个元素，第一个元素type字段取值为text，表示文本类型， text字段取值为输入问题的字符串。 第二个元素`type`字段取值为image_url， 表示图片类型，image_url字段取值为是输入图片的base64编码。 max_tokens
ool_name参数，均不配置时则会使用共享资源池。 nodes 否 Array of strings edge服务类型可选。边缘节点ID数组，节点ID为IEF（智能边缘平台）的边缘节点ID，在IEF上创建边缘节点后可得到。 mapping_rule 否 Object batch
更加确定性，较高的值使模型更加随机。0表示贪婪采样。 stop 否 None None/Str/List 用于停止生成的字符串列表。返回的输出将不包含停止字符串。 例如：["你"，"好"]，生成文本时遇到"你"或者"好"将停止文本生成。 stream 否 False Bool 是
更加确定性，较高的值使模型更加随机。0表示贪婪采样。 stop 否 None None/Str/List 用于停止生成的字符串列表。返回的输出将不包含停止字符串。 例如：["你"，"好"]，生成文本时遇到"你"或者"好"将停止文本生成。 stream 否 False Bool 是
更加确定性，较高的值使模型更加随机。0表示贪婪采样。 stop 否 None None/Str/List 用于停止生成的字符串列表。返回的输出将不包含停止字符串。 例如：["你"，"好"]，生成文本时遇到"你"或者"好"将停止文本生成。 stream 否 False Bool 是
total_count Integer 不分页的情况下，符合查询条件的总模型数量。 count Integer 模型数量。 models model结构数组 模型元数据信息。 表3 model结构 参数 参数类型 描述 model_id String 模型ID。 model_name String
Integer 当前查询结果的服务数量，不设置offset、limit查询参数时，count与total相同。 services service结构数组 查询到的服务集合。 表3 service结构 参数 参数类型 描述 service_id String 服务ID。 service_name
64位，仅包含英文、数字、下划线（_）和中划线（-），并且以英文开头的名称。 type String 参数的类型，枚举值如下: str：字符串 int：整型 bool：布尔类型 float：浮点型 description String Workflow工作流配置参数的描述。 example
user id。 X-Auth-Token 是 String 用户token。 表3 请求Body参数 参数 是否必选 参数类型 描述 [数组元素] 是 Array of PatchServiceV2RequestBody objects 服务PATCH操作请求体。 表4 Pat
SDK中，“request.setBody()”只支持String类型，所以只支持输入为文本格式的预测请求。如果输入的是文件格式，需要先进行base64编码转换成文本。 输入为文件格式 此处以json格式为例介绍读取本地预测文件并进行base64编码的请求体，请求体示例如下： package com
Integer 当前查询结果的服务数量，不设置offset、limit查询参数时，count与total相同。 services service结构数组 查询到的服务集合。 表3 service结构 参数 参数类型 描述 service_id String 服务ID。 service_name
大模型包含lm_head的权重文件名 --draft-weight-name 小模型权重文件名 具体可参考Eagle投机小模型训练章节步骤五：训练生成权重转换成可以支持vLLM推理的格式。 Step2 部署模型 在ModelArts控制台的AI应用管理模块中，将模型部署为一个AI应用。 登录ModelArts控制台，单击“AI应用管理
"name" # 表头名称，该列表头为name schema0['type'] = "STRING" # 表头数据类型，表示字符串 schema1 = dict() schema1['schema_id'] = 1 schema1['name'] = "age" schema1['type']
算法名称。限制为1-64位只含数字、字母、下划线和中划线的名称。 description String 对算法的描述，默认为“NULL”，字符串的长度限制为[0, 256]。 workspace_id String 指定算法所处的工作空间，默认值为“0”。“0” 为默认的工作空间。
参数类型 描述 data 否 Object 样本文件的字节数据。类型为java.nio.ByteBuffer，前台调用时传字节数据转换后的字符串。 data_source 否 DataSource object 数据来源。 encoding 否 String 样本文件的编码类型，用
false：不复制镜像模式，可极速创建AI应用，更改或删除SWR源目录中的镜像会影响服务部署。 initial_config 否 String 模型配置文件转成的字符串。建议通过配置文件initial_config来提供“apis”、“dependencies”、“input_params”、“outpu
更加确定性，较高的值使模型更加随机。0表示贪婪采样。 stop 否 None None/Str/List 用于停止生成的字符串列表。返回的输出将不包含停止字符串。 例如：["你"，"好"]，生成文本时遇到"你"或者"好"将停止文本生成。 stream 否 False Bool 是
位，仅包含英文、数字、下划线（_）和中划线（-），并且以英文开头的名称。 type 否 String 参数的类型，枚举值如下: str：字符串 int：整型 bool：布尔类型 float：浮点型 description 否 String Workflow工作流配置参数的描述。 example
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
