检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
自接入的模型在模型调测的时候报错是什么原因? 接入第三方模型服务时,填写的模型名称必须为该模型的模型ID/模型编码(登录第三方模型厂商官网查看),例如:Baichuan4、deepseek-chat、glm-4-air,如图1所示,否则会导致模型不可用。 图1 接入模型服务 父主题:
平台接入的第三方模型服务 开源模型Qwen系列、DeepSeek系列等。 请参考将已有模型部署为模型服务进行部署,部署后即可进行调测(体验)、调用。 第三方厂商闭源模型,例如GLM系列、Moonshot系列等。 请先参考如何对模型供应商提供的模型服务设置鉴权设置鉴权,再进行调测(体验)、调用。 父主题:
资产中心的工具怎么使用? 资产中心的工具包括接入的第三方厂商工具及其他租户上架的工具。 对于平台接入的第三方厂商工具,初始化的租户是无法直接使用的,需要在第三方官网购买之后,参见调用资产中心工具前设置认证鉴权配置鉴权信息。 对于其他租户上架的工具,其他租户或资源相互隔离的部门使用
平台预置开源模型bge-large-zh-v1.5,并提供对应的模型服务API,支持直接进行调测/体验,同时支持在知识库中作为向量化模型调用。 平台接入的第三方模型服务 第三方厂商闭源模型,例如GLM系列、Moonshot系列等。 请先参考如何对模型供应商提供的模型服务设置鉴权设置鉴权,再进行调测/体验、调用。 5 数据集
SWR管理”。 单击“创建”。 配置SWR参数,参数说明如表1所示,配置完成后,单击“确定”。 表1 配置SWR参数 参数名称 参数说明 厂商 选择镜像仓归属的云厂商,公有云选择“CHINA”。 租户 选择镜像仓所属的租户,该租户已录入运维中心,录入操作请参见录入其他公有云账号。 区域 选择镜像仓区域,即虚拟机所属区域项目名。
认证证书 合规证书 华为云服务及平台通过了多项国内外权威机构(ISO/SOC/PCI等)的安全合规认证,用户可自行申请下载合规资质证书。 图1 合规证书下载 资源中心 华为云还提供以下资源来帮助用户满足合规性要求,具体请查看资源中心。 图2 资源中心 销售许可证&软件著作权证书
工作流中工具节点的实例如何配置? 工具节点实例需要填写工具创建时所配置的鉴权信息。 三方厂商的工具API,请到工具对应官网获取鉴权信息。 自创建工具请填写工具创建时所配置的鉴权信息。 如果调用其他租户或资源相互隔离的部门所上架的工具,请在AI原生应用引擎中,选择左侧导航栏的“资产
ppStage组织成员申请权限。 已获取三方工具的鉴权信息。 对于第三方厂商工具,需要在该厂商的官网进行购买或注册,以获取鉴权信息。 对于租户上架的工具,可以在设置鉴权过程中,根据界面提示进行获取。 设置鉴权信息 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
在“创建接入模型服务”页面,参照表1配置模型信息。 表1 模型信息参数说明 参数名称 参数说明 模型名称 填写的模型名称必须为该模型的模型ID/模型编码(登录第三方模型厂商官网查看),例如:Baichuan4、deepseek-chat、glm-4-air,否则会导致模型不可用。 支持中英文、数字、中划线(-)、下划线(_)、点(
请单击“获取模型服务调用ID”,进入“我的模型服务”页面,在模型服务列表中单击复制。 原始查询内容 用户的请求内容。 排序返回数量 返回排名前n个文档。 召回结果 召回的结果,提供给模型进行重排序。 输出 该执行动作是根据用户定义的内容输出指定参数。 节点实例 实例是节点的鉴权方式,如果未新增实例,节点就无法调通。
必填项,自定义实例名称。 描述 选填项,输入实例相关描述信息。 验证信息 API Key 必填项。 资产中心预置的三方工具 对于第三方厂商工具,需要在该厂商的官网进行购买或注册,以获取鉴权信息。 对于其他租户上架的工具,在AI原生应用引擎的左侧导航栏选择“资产中心” ,选择“工具”页签
择左侧导航栏的“账户列表”。 单击“录入账号”。 录入账号信息,具体参数如表1所示。 表1 账号信息参数 参数名称 参数说明 厂商 选择账号归属的云厂商。 华为公有云账号ID 使用华为云并购买资源时注册的账号的账号ID。 获取方式:在华为云控制台,鼠标悬停在右上角的用户名,选择下