检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
TF模板包 运维中心集成华为云资源编排服务RFS,用于管理系统资源及服务资源。RFS主要包含模板和资源栈两部分,TF模板是用来创建、更新资源栈的脚本。 研发包结构 图1 研发包结构 Service下所有的main.tf文件中的Resource实例不能有重叠,否则会导致资源被覆盖或删除。
文本对话 功能介绍 调用大语言模型推理服务,根据用户问题,获取大语言模型的回答。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/chat/completions 请求参数 表1 请求Header参数 参数 是否必选 参数类型
调用Agent 功能介绍 调用用户发布的Agent URI POST https://aiae.appstage.myhuaweicloud.com/v1/routes/open/{id}/execute 表1 路径参数 参数 是否必选 参数类型 描述 id 是 String Agent在数据库中保存的UUID。
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合AI引擎标准协议。