检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
调用文本向量化模型服务 功能介绍 将用户输入的文本转化成数字向量,多用于从向量化知识库中查询相似的文本。 调用方法 请参见如何调用API。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/embeddings 请求参数 表1
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合AI引擎标准协议。
ModelRouter ModelRouter提供了AI原生应用引擎模型网关的接口,可以访问AI原生应用引擎上的模型,接口调用类似OpenAI。 导入ModelRouter from wiseagent_dev_sdk_python.modules.models import ModelRouter
转发策略配置 本章介绍通过IaC进行转发策略配置的管理,包括监听下的转发策略、健康检查、后端服务器及动态路由管理。对应的资源类型为WiseCloud::LoadBalancer::SLB::RouteRule。 表1 转发策略配置字段说明 参数名 类型 是否必选 说明 listenerGroupName
调用文本对话模型服务 功能介绍 调用大语言模型推理服务,根据用户问题,获取大语言模型的回答。 调用方法 请参见如何调用API。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/chat/completions 请求参数 表1
知识数据集请求参数说明 CreateKnowledgeDataSetReq 创建知识数据集的data_set参数具有特定结构,需要按照以下实体进行构造后转成json。 表1 请求Body参数 参数 是否必选 参数类型 描述 name 是 String 参数解释: 数据集名称。 约束限制: