检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在推理单元到期后,部署的模型将被下架,可通过购买推理单元资源恢复。 流控配置 超出流控值,则触发限流,用户的请求会因为流控而失败。 无限制 10次/秒 50次/秒 100次/秒 200次/秒 单击“保存”,部署模型服务,新部署的服务显示在“我部署的”页签中以查看模型服务的部署情况。 参照
前支持创建LLM模式和工作流模式两种类型的Agent。 LLM模式下,将准备好的模型服务、工具、工作流、知识库等编排成Agent,用户与大模型进行对话,由大模型决策并灵活调用工作流、知识库等,同时,该模式还支持使用平台自带的智能创建功能快速搭建应用。 工作流模式下,不支持添加工具
数据准备、模型选择/调优、知识工程、模型编排、应用部署、应用集成等能力,降低智能应用开发门槛、提升开发效率,助力企业客户将专属大模型能力融入自己的业务应用链路或对外应用服务中,实现降本增效、改进决策方式、提升客户体验、创新增长模式等经营目标,完成从传统应用到智能应用的竞争力转型。
业务使用Runtime部署并按照IaC规范配置敏感配置项之后,在部署时Runtime会从STS管理台拉取加密配置项,注入到容器的环境变量中,并通过配置渲染工具将敏感配置渲染到业务的配置文件中。 在IaC脚本中的业务配置项配置文件中指定敏感配置项坐标。 此处以在config_records.yaml文件中增加一个名为spring
业务使用Runtime部署并按照IaC规范配置敏感配置项之后,在部署时Runtime会从STS管理台拉取加密配置项,注入到容器的环境变量中,并通过配置渲染工具将敏感配置渲染到业务的配置文件中。 在IaC脚本中的业务配置项配置文件中指定敏感配置项坐标。 此处以在config_records.yaml文件中增加一个名为spring
敏感配置管理使用流程 由于业务的敏感配置不能明文地存放在版本包、配置中心、IaC代码中,因此业务可以借助STS敏感配置项的功能,存放业务的敏感配置。 敏感配置管理使用流程 录入敏感配置:业务研发人员登录ACMS管理台录入敏感配置。 通过IaC分发敏感配置:业务研发人员编写IaC代
按需计费 按需计费是一种先使用再付费的计费模式,适用于无需任何预付款或长期承诺的用户。本文将介绍按需计费资源的计费规则。 适用场景 按需计费适用于资源需求波动的场景,在使用AppStage的用户创建应用、测试模型服务时需要调用ChatGLM3-6B大模型服务API在线调用、大模型
选择左侧导航栏的“敏感配置管理”。 单击“敏感配置录入”,配置相关参数。参数说明如表1所示。 敏感配置录入后,管理台不会明文显示敏感配置的明文值,请务必妥善保存明文值。 表1 录入敏感配置参数说明 参数 说明 推送实例 选择在哪个环境下配置敏感配置项。 此处选择的环境应与ACMS的部署环境保持
ACMS敏感配置管理使用流程 由于业务的敏感配置不能明文地存放在版本包、配置中心、IaC代码中,因此业务可以借助STS敏感配置项的功能,存放业务的敏感配置。 敏感配置管理使用流程 在ACMS中录入敏感配置:业务研发人员登录ACMS管理台录入敏感配置。 通过IaC分发敏感配置:业务研发
单击右上角“新建”,配置IaC自动部署包构建任务完成。 返回3的“任务配置”页面,在“请选择需要调用的任务”下拉列表中选择10配置完成的IaC自动部署包构建任务,“仓库”下拉列表选择创建代码仓库中已创建的仓库,其他参数无需配置,保持默认即可。 单击“确定”,添加IaC自动部署包构建任务完成。
查看已上架的EAP动作 动作是部署服务当前对各模块操作的封装,如部署任务,执行作业,确认告警等。可以查看当前EAP已经上架了哪些动作,包含哪些能力。 目前此功能仅支持白名单用户通过提交工单申请使用。详细操作请参考提交工单。 查看已上架的EAP动作 进入AppStage运维中心。 在顶部导航栏选择服务。
服务或微服务改名了,使用了STS敏感配置项功能,是否需要把敏感配置项坐标里的服务名、微服务名修改为最新的名称? 使用原服务/微服务名和使用新服务/微服务名,STS都可以识别。删除敏感配置项坐标里的服务名、微服务名,可以通过部署平台传递服务ID、微服务ID给STS。 父主题: 运维中心访问凭据管理服务
监控服务(ServiceInsight)”。 选择左侧导航栏的“告警 > 策略配置”。 单击“自定义收敛”,进入自定义收敛页面。 选择“应用/服务”,单击右上角“添加”。 配置收敛规则,如图1所示,参数说明如表1所示,配置完成后,单击“确定”。 图1 收敛告警 表1 收敛规则参数说明 参数名称
在微服务平台回退微服务版本 根据业务需要,可以选择历史版本的配置进行重新部署。 回退微服务版本 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“微服务管理”,单击微服务列表操作列的“部署记录”。 在部署记录列表中,选择待回退的目标版本操作列的
AI原生应用引擎训练好后的模型如何获取? 使用模型微调训练好模型后的新模型只能通过模型部署(创建模型服务)上线,无法下载至本地使用。 父主题: AI原生应用引擎
配置告警通知 告警的通知在所有的告警处理的链路结束以后才会发生。告警处理模块会根据上报告警的上下文获取告警的值班配置,值班配置由业务预置。配置对应的责任人,当告警生成时,通过WeLink、短信或电话形式,快速通知责任人。 新建语音值班配置前需要先新增模板。模板是产品级共享,模板列
在“模型类型”下选择“文本对话”并配置表1所示参数。 表1 调测文本对话类型模型参数说明 参数名称 参数说明 模型服务 选择待调测的模型服务,在下拉列表可选: 模型服务商API(平台接入的第三方模型) 预置模型API(平台预置的开源模型) 我的模型API(我部署的、我接入的) 我的路由策略
在微服务平台回退微服务版本 根据业务需要,可以选择历史版本的配置进行重新部署。 回退微服务版本 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“微服务管理”,单击微服务列表操作列的“部署记录”。 在部署记录列表中,选择待回退的目标版本操作列的
IOps日志服务平台提供了数据接入配置界面化管理和采集器Agent自动化部署的能力。 日志接入方式 虚拟机日志接入:通过日志配置下发任务部署filebeat,并根据日志采集配置设置,通过filebeat采集虚拟机上的业务日志。 容器日志接入:安装daemonset插件,通过daemonset实现容器日志接入。
定义业务配置项模板文件和meta.txt,样例如图1 业务配置项模板所示。 图1 业务配置项模板 在业务配置项模板文件(.tmpl文件)中,使用 {{参数名称}} 格式定义需要动态替换的参数,样例如图2所示。 图2 模板参数定义 在meta.txt文件中定义需要替换的业务配置项模板文件。如图3所示。