检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
引用模板提示语内容: 单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 推理模型 将提示语应用于我创建的、平台预置的或第三方模型服务中,预览推理结果。 选择推理模型后,可配置推理模型的相关参数,如表2所示。 表2 推理模型参数配置说明 参数名称 参数说明 最大token数
操作 说明 查看用户详情 在用户列表中单击账号名,可查看用户详情,包括基本信息(是否为组织管理员、添加人及添加时间等),以及在开发中心拥有的服务角色权限相关信息。 删除用户 说明: 删除用户将会清空该用户在开发中心中所有的角色权限,请谨慎操作。 在用户列表中“操作”列单击“删除”。
sources.yaml中定义了该组件下的全量资源。 图1 资源定义 表1 resources.yaml字段说明 字段 含义 name 微服务平台显示的资源名称,最大长度为16字符。 type 资源类型。支持配置管理、NUWA Container及SLB。 properties
</logger> 日志说明 SDK默认会产生debug日志和run日志。 SDK初始化成功 SDK初始化成功,表示已经从ETCD获取到了指定微服务名称的灰度配置,同时会在conf目录产生{serviceName}_grayrule.json的本地灰度规则备份文件。 父主题: Gray
性能。 支持将平台资产中心预置的部分模型作为微调前基础模型,也可以选择微调后的新模型作为基础模型再次进行微调。 前提条件 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已具备格式为“对话文本”的微调数据集,具体请参考创建微调数据集或收藏预置微调数据集。
返回多个choices时,每个choice对应的顺序。 message ChatCompletionResponseMessage object 模型服务返回的具体消息体内容。 finish_reason String 返回结束的原因。 stop:模型达到自然停止点或提供的停止序列。 length:达到请求中指定的最大令牌数。