检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
表1 AI原生应用引擎功能介绍 主要功能 功能简介 Agent管理 支持一站式创建专属AI原生应用,对于创建的Agent进行体验调测,并通过API或Web方式发布后即可对外提供服务。 同时,您可以体验平台预置的Agent,享受AI带来的便利和乐趣。
oapdruid、oapclickhouse、oapmppdb、oapinfluxdb、oaptsdb:选择这类数据源后,可以使用druid、clickhouse等数据源基于SQL配置图表。
创建隔离域规划 隔离域规划是将不同安全要求的资源放到不同的隔离域中。因此创建隔离域后,需要完成隔离域规划,为产品规划隔离域。 前提条件 已创建隔离域。 已获取基础运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建隔离域规划 进入AppStage运维中心。 单击,选择“
支持客户打通自己的业务能力API,将大模型的能力结合进入自己的业务链路。 提供支撑AI原生应用运行的整套模型工具链,包括数据管理、模型接入、模型调优、知识工程等能力,帮助客户选好、管好、用好大模型,从而提升大模型应用效果。
No auth:Restful API不对SVE进行鉴权。 BasicAuth:Restful API会对SVE进行BasicAuth认证,此时,还需要填写鉴权用户名和密码。 Token:Token方式,会自动获取当前登录运营中心的用户对应的Token。
前提条件 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已具备格式为“对话文本”的微调数据集,具体请参考创建微调数据集或收藏预置微调数据集。
基于SQL配置图表:配置oapdruid、oapclickhouse、oapmppdb、oapinfluxdb、oaptsdb数据源后,可以使用druid、clickhouse等数据源基于SQL配置图表。
支持选择模型服务商API、预置模型API、我的模型API(我部署的、我接入的)。 当前向量化模型支持的最大长度为512 token,对应的中文约为512个字,英文与符号约900个字符,请注意分片长度。
type: WiseCloud::Agent::APIGateway version: x.x.x.x flavor: 1C2G param: $ref: 'config/sidecar_apigw_param.json
插件运行后,将首先在“agent框架lib/tomcat/”路径下生成TomcatJmx_fat.jar,后续每次执行时,都会通过该jar包使用JMX接口采集tomcat进程相关信息。每次采集结束,每个tomcat进程分别生成一条消息,http_port可作为区分标志。
纳管Windows主机 本章节介绍如何将华为云Windows主机纳管至VMS进行统一管理,当前支持纳管的Windows主机类型包括弹性云服务器ECS、裸金属服务器BMS。 前提条件 已获取基础运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 已购买主机,具体操作请参见购买弹性云服务器
AI原生应用引擎基本概念 使用之前,请先了解表1中相关概念,从而更好的使用AI原生应用引擎。 表1 基本概念说明 基本概念 说明 Agent Agent指具备自主智能的实体,具有一定的智能和自主性,可以自主地发现问题、设定目标、构思策略、执行任务等。 LLM 大语言模型(Large
No auth:Restful API不对SVE进行鉴权。 BasicAuth:Restful API会对SVE进行BasicAuth认证,此时,还需要填写鉴权用户名和密码。 Token:Token方式,会自动获取当前登录运营中心的用户对应的Token。
支持客户打通自己的业务能力API,将大模型的能力结合进入自己的业务链路。 提供支撑AI原生应用运行的整套模型工具链,包括数据管理、模型接入、模型调优、知识工程等能力,帮助客户选好、管好、用好大模型,从而提升大模型应用效果。
操作本步骤前请确保以下两点: 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已创建格式为“对话文本”的微调数据集。 在AI原生应用引擎的左侧导航栏选择“模型中心 > 模型微调流水线”。