检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
AI原生应用引擎工作空间介绍 进入AI原生应用引擎 登录AppStage。 在快捷入口选择“AI原生应用引擎”,进入AI原生应用引擎。 工作空间介绍 在AI原生应用引擎的左侧导航栏选择“工作空间” ,进入工作空间页面,可获得系统中各资源数据概览及产品的相关快速指引。 工作空间页面分为数据统计
AI原生应用引擎使用前准备 使用AI原生应用引擎前,需要先准备如表1所示内容。 表1 准备事项 准备事项 说明 购买AI原生应用引擎 首次使用需要先购买AI原生应用引擎,具体操作请参见购买AppStage。 为AppStage关联组织 首次购买AppStage后,其账号需创建并关联使用
fail to operator sudo, message: send request fail, status code: 400, task: control sudo permission, status: failed 问题现象 SLB部署失败,日志详细信息提示如下: fail
配置虚拟机异常告警 AppStage支持定义服务的监控模板,然后通过为主机绑定监控模板,采集主机监控数据,并通过模板告警功能对虚拟机监控数据配置告警,及时掌握虚拟机状态。
将已有模型部署为模型服务 模型需要部署成功后才可正式提供模型服务。部署成功后,可以对模型服务进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。 本文介绍如何将微调后的模型或部分平台预置的模型部署为模型服务。 前提条件 已购买推理单元资源,具体购买方法请参见购买AI原生应用引擎包年包月资源
下载AI原生应用引擎SDK AI原生应用引擎面向开发者提供了一套搭建原生应用的Python SDK,包含了模型调用,知识获取,工具调用等功能。使用SDK调用AI原生应用引擎的各种能力,帮助开发者快速构建大模型应用。 用户可以通过AI原生应用引擎平台下载SDK,同时对SDK完整性进行校验以确保获取的
Filebeat将作为代理安装在您的服务器上,监控您指定的日志文件或位置,收集日志事件,并将它们转发到kafka,推送到下一个处理点。
收藏资产中心预置的AI应用 支持收藏平台资产中心预置的AI应用。将自己关注的AI应用收藏后,可便捷地在收藏列表中查看应用详情及体验Agent。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 收藏资产中心预置AI应用 在AI
创建路由策略用于提供模型服务 通过配置路由策略,可以实现模型故障自动切换能力,当模型A因故障等原因无法正常工作时,可以自动切换为另一个可用的模型提供服务,从而提高模型服务的稳定性和可用性。 路由策略创建完成后,可以进行模型调测,并支持在创建Agent时使用或通过模型调用接口调用。
AI原生应用引擎计费项 计费说明 AI原生应用引擎根据购买的套餐包计费或按需计费。具体内容如表1所示。 表1 AI原生应用引擎计费项说明 计费项 计费项说明 适用的计费模式 计费公式 ChatGLM3-6B大模型服务API在线调用 根据实际输入和输出tokens总量计费,平台提供算力支持
CCE/EVS/ECS/ELB/IAM/IMS/NAT/EIP/OBS/SFS/SMN/SWR/DCS/VPC/VPCEP/WAF/HSS/Anti-DDoS/DWS/CES/DRS/DEW/DDS/APIG/MRS/CSS/DMS/GaussDB(for MySQL)/GeminiDB
虚拟机日志接入 本章节介绍如何通过filebeat采集虚拟机日志。 监控服务安装filebeat是使用子用户sudo权限进行安装,SUSE15系统没有自带sudo命令。
虚拟机日志接入 本章节介绍如何通过filebeat采集虚拟机日志。 监控服务安装filebeat是使用子用户sudo权限进行安装,SUSE15系统没有自带sudo命令。
413 Request Entity Too Large 由于请求的实体过大,服务器无法处理,因此拒绝请求。为防止客户端的连续请求,服务器可能会关闭连接。如果只是服务器暂时无法处理,则会包含一个Retry-After的响应信息。
后端服务器集群 绑定后端服务器集群。 关联灰度服务 不启用灰度。 选择关联的灰度服务。 灰度服务依赖转发策略,一个转发策略可以对应多个灰度服务,一个灰度服务只能对应一个转发策略。
AI原生应用引擎中预置了哪些提示语? AI原生应用引擎预置了多款提示语模板,包含智能问答,智能写作,生活助手,智能分析,智能文档,生活助手等提示语类型,每个提示语类型下面都有对应类型相关提示语,如指标计算方法,问答场景选择,总结大纲,买家评价生成器等提示语。 父主题: AI原生应用引擎
检查ETCD服务器是否工作正常。 性能统计日志 日志字段默认采用“|” 分隔,一条日志一行,采用“\n”结尾,默认1s(可配置)打印一条。
AI原生应用引擎训练好后的模型如何获取? 使用模型微调训练好模型后的新模型只能通过模型部署(创建模型服务)上线,无法下载至本地使用。 父主题: AI原生应用引擎
已将弹性云服务器主机设置为执行机。 同VPC执行机:将待纳管的数据库所在VPC下的主机设置为执行机。 跨VPC执行机:将待纳管数据库的服务下所属其他VPC的主机设置为执行机。
使用Rainbow SDK(NUWA框架) 引入Rainbow SDK Rainbow SDK依赖Cloud Map的注册和发现能力,在引入Rainbow SDK之前,要先引入STS SDK和Cloud Map SDK,并完成STS和Cloud Map的初始化,具体请参见使用STS