检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
API 模型调用 应用中心 知识中心
5.为API Key添加“Bearer”前缀,得到标准鉴权信息(格式为:Bearer sk-xxxx)。
8 发布版本 调测发布 在版本标准发布(即正式发布)前,可先执行调测发布进行版本调测。 标准发布 待版本开发及编译构建完成,且发布准入检查项均通过后,可由开发人员、测试人员或项目经理提交标准发布申请,待项目经理审批通过后,将软件版本发布到对应的部署平台。
API概览 AppStage接口的分类与说明如表1所示。 表1 API概览 类型 说明 模型调用 包含文本对话类、文本向量化类模型服务调用接口。 应用中心 包含Agent调用、用户配置(工作流、技能)调用、文件盒子等接口。 知识中心 包含知识库和知识数据集的创建、删除、执行及查询等接口
如何调用API 构造请求 认证鉴权 返回结果
AppStage运营中心基本概念 表1 基本概念说明 基本概念 说明 指标 衡量或评估某个事物的标准。它可以用来衡量和比较不同事物之间的差异,以便更好地了解和管理它们。
应用平台(AppStage)全新公测上线 应用平台(AppStage)是基于平台工程(Platform Engineering)理念打造的下一代应用全生命周期管理平台,帮助客户快速高效地实现应用全生命周期管理,为应用构建、运维和运营等生命周期管理活动提供自助式服务能力,目标是通过标准化和自动化的服务来提升用户体验
5.为API Key添加“Bearer”前缀,得到标准鉴权信息(格式为:Bearer sk-xxxx)。
新增平台API Key API Key是每个用户单独的身份认证,是个人调用应用接口的依据,必须妥善保管。租户开发的Agent在调用平台接口时需要进行平台鉴权认证,可以使用“平台API Key”进行平台的鉴权认证。 背景信息 对于华为或者第三方运营的商业化模型服务,支持通过API接入到
内建质量 内建质量指在产品或服务设计和开发过程中,将质量要求和标准纳入到产品或服务的设计和开发中,从而在产品或服务最初的构建阶段就实现了质量控制。这样做可以避免在后续阶段出现质量问题,提高产品或服务的可靠性和稳定性。 父主题: AppStage开发中心简介
管理平台标准化业务的部署形式,业务只需要提供软件包,NUWA Runtime借助底层的弹性伸缩平台完成网络配置、双云集群部署、日志自动收集、灰度多阶段升级等。
支持Huawei Cloud EulerOS 2.0标准版操作系统的ECS作为SLB主机。 已设置执行机。 创建负载均衡实例 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。
发布类型 无需配置,默认为“标准发布”。 关联发布计划 仅服务关联了IPD类型的项目(IPD系统设备类项目、IPD独立软件类项目),且“版本类型”勾选“基线(带需求版本)”时,需配置此参数。
发布类型 无需配置,默认为“标准发布”。 关联发布计划 仅服务关联了IPD类型的项目(IPD系统设备类项目、IPD独立软件类项目),且“版本类型”勾选“基线(带需求版本)”时,需配置此参数。
API接口协议 标准OpenAI协议 盘古大模型协议 流控配置 超出流控值,则触发限流,用户的请求会因为流控而失败。 无限制 10次/秒 50次/秒 100次/秒 200次/秒 单击“保存”,在模型调测区域调测模型。 调测文本对话类型模型,请参考表3配置参数。
发布类型 无需配置,默认为“标准发布”。 关联发布计划 仅服务关联了IPD类型的项目(IPD系统设备类项目、IPD独立软件类项目),且“版本类型”勾选“基线(带需求版本)”时,需配置此参数。
如何获取Agent发布时要所需的API Key? 填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。仅AI原生应用引擎管理员角色可以创建API Key,请通过管理员获取。 父主题: AI原生应用引擎
可选规格请参考标准容器规格。
发布版本 待版本开发及编译构建完成,且发布准入检查项均通过后,可由开发人员、测试人员或项目经理提交标准发布申请,待项目经理审批通过后,将软件发布到对应的部署平台。 3 应用部署 服务环境配置 使用AppStage运维中心前需要先准备环境并为服务关联区域、账号和企业项目。
数据集格式 可选以下两种格式: 对话文本:只支持json格式,文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction": "bbb", "input": "