检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
slb status to slbservice failed because response is None.”,请打通网络,具体请参见更改安全组或加入安全组。 若报错如下图所示: 执行命令cat /opt/huawei/openresty/slb_agent/conf/slb_agent
AppStage开发中心基本概念 基本概念 说明 产品 产品是服务的合集,开发中心基于服务进行版本管理。 服务 服务是实现一系列功能的软件模块单元,是产品的组成要素,一个产品一般由一个或多个服务组成。将一个大型的应用程序可以拆分成一组小型、独立的服务。每个服务都运行在自己的进程中
封装一个或多个容器、存储资源、一个独立的网络IP以及管理控制容器运行方式的策略选项。 Node Node是一个执行具体工作的机器,可以是虚拟机或者物理机。Pod是部署在Node节点上的,如果Node故障,整个Pod会被调度到集群中的另外可用的Node节点上去。 工作负载 工作负载
情页面可以测试提示语、基于提示语模板去创建新的提示语。 基于提示语模板创建提示语 以资产中心预置提示语模板为基础,对模板内容和配置信息稍作修改,便能快速创建生成新的提示语。 需要具备AI原生应用引擎管理员或开发者权限。 将鼠标光标移至提示语模板卡片上,单击“去创建”。 在创建提示语页面,参考创建提示语进行创建。
业务验证 查看任务状态 登录AppStage首页。 在快捷入口选择“运维中心”,进入运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 在环境列表中的环境名称,在环境详情页面查看组件列表中的状态。 当此次变更的
座模型,通过微调提升模型的数据分析和指标计算能力,帮助您快速掌握使用AI原生应用引擎完成模型调优并测试效果。 使用流程 通过图1您可以了解如何在AI原生应用引擎创建数据集、创建微调任务、部署推理模型以及在线测试模型效果。 图1 模型调优流程 创建微调数据集 数据集是模型微调的基础,首先需要创建用于模型训练的数据集。
在微服务平台查看微服务实例列表 通过微服务平台查看微服务的实例列表。 查看微服务实例列表 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“微服务管理”。 选择微服务列表操作列的“更多 > 实例管理”,进入实例管理页面。
在微服务平台查看微服务实例列表 通过微服务平台查看微服务的实例列表。 查看微服务实例列表 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“微服务管理”。 选择微服务列表操作列的“更多 > 实例管理”,进入实例管理页面。
查看Agent调用统计 Agent调用统计页面展示当前租户所在的根部门以及租户下二级子部门的Agent调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板
查看模型调用统计 模型调用统计页面展示当前租户所在的根部门以及租户下二级子部门的模型调用情况。 前提条件 需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参见AppStage组织成员申请权限。 查看模型调用统计 在AI原生应用引擎的左侧导航栏选择“运营看板 > 模型调用统计”。
头时,可拖拽设置卡片大小。 配置“屏幕属性”,具体的参数说明如表5所示。 表5 参数说明 参数 说明 基础属性 屏幕尺寸:可对屏幕尺寸进行修改,包含默认、2K屏、4K屏和自定义。 编辑状态:可以通过切换编辑状态设置屏幕模板是否可编辑。 主题背景:可以单击“切换主题背景”切换主题风格。系统预置了通用的主题背景。
Array of FunctionCallTool objects 可供模型调用的工具。 tool_choice 否 String 用于控制模型是如何选择要调用的函数,仅当工具类型为function时补充。 默认为auto,且当前仅支持auto。 表2 ChatCompletionRequestMessage
值(阈值)|Region。例如 【华为云应用平台】WebCommunityService|重要|2024/04/01 09:49:46|ECS|openlab_MasterNode02|CPU使用率|99.35 %(阈值80 %)|华北-乌兰察布一。 应用运维服务AOM上报(上报
(可选)如果需要对特定接口IP进行特别的流控策略,则单击“新建子项”。 主要根据X-Forwarded-For(XFF,是一个HTTP请求头字段,用于表示HTTP请求的来源IP地址)和$remote_addr(SLB收到的请求的IP层source IP,现网通常为ELB的IP或者F5的IP)进行匹配。 表9 特定IP流控参数说明
strings 参数解释: 数据集清洗方法。 约束限制: 不涉及。 取值范围: 枚举值:URL_AND_EMAIL(删除所有的URL和电子邮件地址)、CONTINUOUS_SYMBOL(清除连续的空格,换行符和制表符)、INVISIBLE(清除不可见字符)、WHITESPACE(规范
(可选)如果需要对特定接口IP进行特别的流控策略,则单击“新建子项”。 主要根据X-Forwarded-For(XFF,是一个HTTP请求头字段,用于表示HTTP请求的来源IP地址)和$remote_addr(SLB收到的请求的IP层source IP,现网通常为ELB的IP或者F5的IP)进行匹配。 表9 特定IP流控参数说明
在SLB中配置负载均衡OLC服务 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 新增资源 资源用于定义规则中要匹配的微服务名称和接口名称。如果需要对微服务下所有接口的请求总数进行限制,需要配置微服务资源;如果需要对某一个特定的接
配置负载均衡OLC服务 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 新增资源 资源用于定义规则中要匹配的微服务名称和接口名称。如果需要对微服务下所有接口的请求总数进行限制,需要配置微服务资源;如果需要对某一个特定的接口的请求总数进行限制,则需要配置接口级资源。