检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
AI原生应用引擎面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。使用SDK调用AI原生应用引擎的各种能力,帮助开发者快速构建大模型应用。 用户可以通过AI原生应用引擎平台下载SDK,同时对SDK完整性进行校验以确保获取的SDK为原始文件。本文介绍如何
服务环境。 租户管理:“我的租户”页面可以查看在业务控制台创建的组织(租户)、产品、服务和微服务信息。“订阅信息”页面可以查看已订阅的服务信息。“WeLink对接”页面可以配置对接的华为云Welink信息,对接后可以使用WeLink公众号收取监控服务的告警及事件通知,具体操作请参见运维中心对接华为云WeLink。
提示语管理 用户自定义创建的、收藏的以及平台预置的提示语模板进行优化和改进。 大模型微调 提供调整大型语言模型的参数以适应特定任务的过程,通过在与任务相关的数据集上完成模型训练。
数据集数据 提示语数据 3 我的空间 在“我的空间”区域,可查看下述信息数据: Agent:当前账号创建的、收藏的、订阅的Agent个数 模型:当前账号部署的、收藏的、接入的模型个数 数据集:当前账号创建的微调数据集个数、知识库数据集个数 提示语:当前账号创建的、收藏的提示语个数 工具:当前账号创建的、收藏的、订阅的工具个数
单击“添加标签”,在弹出的“添加标签”窗口,输入标签的键和值,然后单击“确定”。 标签键为wc_service-id,标签值为AppStage中的服务ID,即要将告警接入AppStage中录入服务的服务ID,可以在运维中心,将鼠标悬停在右上角的用户名,选择下拉列表中“租户管理”,在“我的租户”页面获取服务ID。
创建完成后,会根据所选实例及指标生成对应的模板数据,显示在模板列表中。同时采集的指标数据会保存在自动生成的Kafka Topic中。 如果生成的模板数量与勾选的指标数量不一致,请确认所选指标是否已购买对应云服务实例并完成相应配置,具体请参见对应的云服务。 一键生成指标。 单击“一键生成”,如图2所示。
成员所属部门。 成员工号 成员的工号。 职位 成员所担任的职位。 用户组 选择成员所属的用户组。选择后在用户组列表下会展示该成员信息。 失效时间 设置成员账号的失效时间,到失效时间,系统将自动禁用账号。失效时间设置为空表示长期有效。 相关操作 在“成员管理”界面,支持的其他操作请参考成员管理。
负载均衡实例中的监听接收与配置的协议和端口匹配的请求。 监听再根据配置将请求转发至相应的后端服务器集群。如果配置了转发策略,监听会根据配置的转发策略评估传入的请求,如果匹配,请求将被转发至相应的后端服务器组。 后端服务器集群中健康检查正常的后端服务器将根据分配策略和在监听中配置的转发策略
成员所属部门。 成员工号 成员的工号。 职位 成员所担任的职位。 用户组 选择成员所属的用户组。选择后在用户组列表下会展示该成员信息。 失效时间 设置成员账号的失效时间,到失效时间,系统将自动禁用账号。失效时间设置为空表示长期有效。 相关操作 在“成员管理”界面,支持的其他操作请参考成员管理。
写,否则无法正常使用运维中心的监控告警功能。 邮箱地址 成员的邮箱地址。非必填项,当手机号未填写时邮箱地址必须填写。 成员工号 成员的工号。非必填项。 设置密码 组织管理员为成员设置的账号密码,支持选择“自动生成密码”或“手工输入密码”。 手工输入的密码格式需满足以下要求: 至少包含8个字符。
组件列表”,默认显示“组件代码包”页签。 展开组件代码包,显示各版本的组件代码包,可以下载、解析、去激活组件代码包,如图2所示。 已激活的版本,如需回退到之前的版本,可以把新版本的代码包“去激活”,变更后即可回退为最后一个激活的版本。 图2 组件代码包 管理Chart包 进入AppStage运维中心。
cookie-domain: {{org.app.cookie-domain}} # 为demo应用与用户建立的会话的cookie域,需配置为开发者自身应用域名或ip jwt-key: {{org.app.jwt-key}}
请求头(Header):HTTP请求消息的组成部分之一,请求头负责通知服务器有关于客户端请求的信息。 单击参数列表“操作”列的可以新增参数,参数配置说明请参见表4。 请求体(Body):HTTP请求消息的组成部分之一,请求体呈现发送给服务器的数据。 JSON/XML:JSON、XML格式的数据。 导入:可
采集网络IO信息,默认采集的目标网卡与本机ifconfig命令显示的网卡列表一致,仅采集ifconfig显示UP状态的网卡。 原始数据来源:/proc/net/dev 参数配置 通过_filter_nic_name配置,根据nic_name指标,对消息进行筛选,决定最终生成的哪些网卡的消息。 _
按照用户配置的工作流请求参数配置,如果用户配置的工作流输入存在查询参数,则应该配置对应的参数并在调用时输入特定的值。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 authorization 是 String 鉴权信息,填写WiseAgent注册的api k
AI原生应用引擎使用流程 参考编排Agent的流程、调优大模型的流程、构建知识库的流程可帮助您快速上手AI原生应用引擎的使用流程和核心功能。 编排Agent的流程 图1 编排Agent的流程 表1 编排Agent的流程详解 序号 流程环节 说明 1 创建及发布Agent 将准备好的模型服务、工具、工作流
在Local repository中配置自定义的Maven仓库地址。 JAVA开发环境的配置。 AppStage提供的SDK是基于Java1.8版本开发的,如果Spring Cloud项目使用Java11及以上版本,则不支持使用AppStage提供的SDK进行应用开发。以下步骤以win7环境配置JDK8
AK可以在华为云控制台,鼠标悬停在右上角的用户名,选择下拉列表中的“我的凭证”,在左侧导航栏单击“访问密钥”,在“访问密钥”页面查看AK。 登录密钥 输入登录该镜像仓的登录密钥。 登录虚拟机并执行如下命令获取登录密钥,替换命令中的AK、SK,AK为获取的访问密钥ID,SK为访问密钥,只能在第一次创建的时候下载,之后都不能通过管理台查询。
按需计费 按需计费是一种先使用再付费的计费模式,适用于无需任何预付款或长期承诺的用户。本文将介绍按需计费资源的计费规则。 适用场景 按需计费适用于资源需求波动的场景,在使用AppStage的用户创建应用、测试模型服务时需要调用ChatGLM3-6B大模型服务API在线调用、大模型
参数名称:参数级规则的参数名。 限流阈值:默认的参数阈值,如果没有指定参数值,都按该阈值进行流控。 单击新增参数列表前的,单击“新增参数值”,可以为参数配置多条参数值。 参数值:参数级规则的参数值。 参数阈值:指定的参数值按该阈值进行流控。 全局参数流控 全局参数流控规则与资源流控的参数级规则含义类似,仅不对微服务/接口做限制。