检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合
API概览 AppStage接口的分类与说明如表1所示。 表1 API概览 类型 说明 模型调用 包含文本对话类、文本向量化类模型服务调用接口。 应用中心 包含Agent调用、用户配置(工作流、技能)调用、文件盒子等接口。 知识中心 包含知识库和知识数据集的创建、删除、执行及查询等接口
接口详解 了解Oauth2.0协议登录流程(与OrgID的交互流程) 图1 Demo登录流程图 登录获取code:应用A首先需要在OrgID平台上进行注册,并进行相应的配置,比如,首页登录url,退出地址url等,然后用户通过浏览器在OrgID界面单击应用或者直接访问应用服务地址,
打包规范 软件包 部署包 镜像包 SQL包 IaC 3.0包 Terraform包 TF模板包
查看及导出微服务接口契约 微服务场景中的契约是指服务契约,它是基于OpenAPI规范的微服务接口约束规范,是服务端和消费端对于接口的定义。本文介绍如何查看以及导出微服务的接口契约。 查看接口契约 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 服务发现
查看及导出微服务接口契约 微服务场景中的契约是指服务契约,它是基于OpenAPI规范的微服务接口约束规范,是服务端和消费端对于接口的定义。本文介绍如何查看以及导出微服务的接口契约。 查看接口契约 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 服务发现
SQL包 SQL包是指包含了通过WiseDBA执行的SQL脚本的zip包,分为DDL和DML两种类型。 文件名 SQL包命名建议:<service_name>-<instance_type>-<site_name>-<type>-<version>.zip 包结构 图1 SQL包结构
API 模型调用 应用中心 知识中心
TF模板包 运维中心集成华为云资源编排服务RFS,用于管理系统资源及服务资源。RFS主要包含模板和资源栈两部分,TF模板是用来创建、更新资源栈的脚本。 研发包结构 图1 研发包结构 Service下所有的main.tf文件中的Resource实例不能有重叠,否则会导致资源被覆盖或删除
Terraform包 Terraform包的规范请参考Terraform。 父主题: 打包规范
API接口协议 标准OpenAI协议 盘古大模型协议 流控配置 超出流控值,则触发限流,用户的请求会因为流控而失败。 无限制 10次/秒 50次/秒 100次/秒 200次/秒 单击“保存”,在模型调测区域调测模型。 调测文本对话类型模型,请参考表3配置参数。
如何调用API 构造请求 认证鉴权 返回结果
IaC 3.0包 IaC3.0推荐以服务为粒度,一个服务的IaC代码打包为一个zip包进行版本发布。 文件名 文件名后缀只支持zip。 文件名只允许包含英文、数字、“-”、 “_”、“()”、“ . ”、空格,最大长度不超过200。 以上符号是英文符号,不支持中文符号。文件名不合规时
3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 父主题: 管理Agent
软件包 软件包一般用于虚拟机部署使用,其中包括有软件包(虚拟机部署使用),测试用例包,函数包(函数部署使用)。 文件名 文件名后缀只支持zip。 文件名只允许包含英文、数字、“-”、 “_”、“()”、“ . ”、空格,最大长度不超过200。 以上符号是英文符号,不支持中文符号。文件名不合规时
镜像包 镜像包,package.json里面的type为docker,一般是以docker镜像的形式存储在镜像仓中。也可以用docker的镜像包打出tar包的形式,同时在tar包同层级目录放置package.json内容,和tar包一起,再打出zip包格式。 容器镜像地址分为四个部分
我接入的模型需要满足什么要求才能在创建Agent时作为思考模型? 模型本身支持FunctionCall。 接入的模型需要符合OpenAI接口规范且具体请参见模型API接入接口规范。 流式返回的工具调用信息必须在一条消息内,不能分拆返回。 接入模型服务时 ,在模型服务描述中填写:SupportFunctionCall
部署包 部署包就是ansible-playbook,作为业务虚拟机部署的脚本使用。 图1 部署包结构 其中package.json里面的内容为playbook。 父主题: 打包规范
3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。
使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 前提条件 需要获取Agent的发布地址。 使用Agent Web UrI 直接打开Web链接访问应用。