检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
平台提供了导入OpenAPI文件的功能,以减少手动创建工具的工作量。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 已获取API服务的json文件。
表1 常用最佳实践 实践 描述 一站式应用开发、应用托管以及应用运维 介绍如何使用应用平台AppStage一站式功能,完成基于应用维度提供的开发、测试、版本发布、托管部署、运维监控的全场景全生命周期管理。
# 微服务配置目录 │ └── config_records.yaml └── package.json # 包描述文件(必须) 父主题: 应用平台
认证证书 合规证书 华为云服务及平台通过了多项国内外权威机构(ISO/SOC/PCI等)的安全合规认证,用户可自行申请下载合规资质证书。 图1 合规证书下载 资源中心 华为云还提供以下资源来帮助用户满足合规性要求,具体请查看资源中心。
思考模型和问答模型的区别 思考模型:用于任务规划和选择组件,主要用于工作流、知识库、工具的调用,以及入参的识别传递等。 问答模型:主要用于问答及总结。 父主题: AI原生应用引擎
Rainbow SDK 概述 使用Rainbow SDK(Spring Cloud框架) 使用Rainbow SDK(NUWA框架) 常见问题 日志处理 父主题: 运维中心SDK介绍
模型API接入接口规范 当前模型网关支持文本对话(Chat)、文本向量化(Embeddings)、文本排序(Rerank)三种类型的API接入。模型API接入之前,请确保符合相对应的接口规范,其中Chat接口和Embeddings接口需要符合OpenAI接口规范,Rerank接口需要符合
单击“引用已有提示语模板”,弹出“选择模板”面板,可通过分类筛选我创建的、我收藏的或平台预置的提示语模板,然后按Enter键或单击进行模型测试。 输入相同的问题,可以看到微调前模型返回结果是错误的,而微调后模型返回了正确的计算指标数据的关键要素。
按需计费 千tokens * 每千tokens单价 大模型微调服务API在线调用-SFT局部调优 根据实际输入和输出tokens总量计费,平台提供算力支持。
2 体验Agent 以对话的形式,对创建的Agent或平台资产中心预置的AI应用进行体验调测,以发现并解决Agent接口上的问题和错误。 3 使用Agent 支持通过API接口调用或Web界面访问两种方式使用Agent。 父主题: 管理Agent
填写AI原生应用引擎平台的API Key,生成方式请参见新增平台API Key。 父主题: AI原生应用引擎
日志处理 日志级别配置 日志级别通过环境变量WISEAGENT_LOG配置: import os os.environ["WISEAGENT_LOG"] = "INFO" # 配置日志级别为INFO 日志级别默认为WARNING,支持配置为DEBUG、INFO。 日志格式 日志格式
平台预置的第三方工具 请参考调用资产中心工具前设置认证鉴权设置鉴权,再进行调用。 租户上架的工具 请参考收藏上架的工具和调用资产中心工具前设置认证鉴权进行收藏及鉴权,再进行调用。 4 大模型 大模型页签下展示平台预置的大模型和平台接入的第三方模型服务。
引用模板提示语内容: 单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 推理模型 将提示语应用于我创建的、平台预置的或第三方模型服务中,预览推理结果。 选择推理模型后,可配置推理模型的相关参数,如表3所示。
SLB SLB资源概述 SLB实例 SLB实例配置 SLB监听配置 转发策略配置 灰度服务配置 灰度升级配置demo 父主题: IaC资源参数介绍
权限管理 如何申请组织管理员权限? 华为账号与华为云账号的区别是什么?
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{
接入模型服务 支持通过API接入模型服务,模型服务接入后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 模型API接入之前,请确保符合相对应的接口规范
5 ApplicationCenter 提供了开发者调用部署在平台的应用的能力。 父主题: AI原生应用引擎SDK API
elbReferences List<ElbPoolConfig> 当所关联slb实例为平台管理模式时必传 当所关联slb实例为自管理模式时非必传 Elb关联列表。