检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
优化提示语 在AI原生应用引擎的左侧导航栏选择“知识中心 > 提示语”。 在我的提示语列表中,单击操作列的“优化”,参照表1进行参数配置。 表1 在线优化提示语参数说明 参数名称 参数说明 变量标识符 可选择以下符号标识提示语内容中的变量。 大括号{} 双大括号{{}} 中括号[] 双中括号[[]]
到fail_timeout秒后重新检测节点健康情况;范围是0-300秒,默认为2,如果不填,使用默认值。 灰度状态 生产 灰度 节点状态 在线 热备 下线 主机名 字符长度0~100,可以由字母、数字、下划线、短横线、点组成,不能包含特殊字符,例:host-10-23-0-133。
到fail_timeout秒后重新检测节点健康情况;范围是0-300秒,默认为2,如果不填,使用默认值。 灰度状态 生产 灰度 节点状态 在线 热备 下线 主机名 字符长度0~100,可以由字母、数字、下划线、短横线、点组成,不能包含特殊字符,例:host-10-23-0-133。
I,但是该模型能力有限,只能作为问答模型,不能作为思考模型。首次使用该模型服务API需要订购免费的“ChatGLM3-6B大模型服务API在线调用”资源,订购后即可进行调测/体验、调用,订购操作请参见购买AppStage。 平台预置开源模型bge-reranker-large,并
主机分配。勾选需要分配的主机,单击“主机分配”,如图3所示。 可以在列表上方筛选需要分配的主机类型,及主机OpsAgent状态,仅支持将OpsAgent状态为在线的主机进行分配。 如果主机的OpsAgent状态为“失败”,表示未安装成功,可以在主机管理服务“任务管理 > OpsAgent任务”页面,查看安装任务日志。
型推理云服务,并通过可视化画布流程编排进行业务集成。 细分领域如金融、电网场景,需要对推理结果进行定制调整,则可在AI原生应用引擎使用模型在线微调训练功能,快速生成行业场景定制模型服务,满足用户特定需求。 对话沟通 通过对话沟通,快速理解并响应客户的需求,提供高效的解决方案或信息
支持将平台资产中心的部分模型作为微调前基础模型,也可以选择微调后的新模型作为基础模型再次进行微调。 前提条件 已订购大模型微调服务API在线调用-SFT局部调优,订购方法请参见购买AI原生应用引擎按需计费资源。 已具备格式为“对话文本”的微调数据集,具体请参考创建微调数据集或收藏预置微调数据集。
数说明如表1所示。 表1 新建流水线参数说明 流水线源 参数项 说明 Repo 提供企业代码托管的全方位服务,为软件开发者提供基于Git的在线代码托管服务。 代码仓 必填项,选择可用的源码仓库(以创建好的“adadss”代码仓为例)。 默认分支 必填项,手工或定时执行流水线时默认使用的分支,默认master。
设置主机安全配置 纳管主机后运维中心默认不会纳管主机密码,不会对密码进行定时管理并修改,安全配置项的配置值默认为“false”。如果需要对已纳管的主机密码进行统一管理,需要修改配置值为“true”,具体操作请参见修改安全配置项,配置值为“true”时密码管理定时任务会自动修改主机
配置监听 部署成功之后需要配置“健康检查”及“转发策略”。 前提条件 需要具备AppStage服务运维岗位权限,权限申请操作请参见申请权限。 操作步骤 登录AppStage首页。 在快捷入口选择“运维中心”,进入运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。
管理已纳管的ELB ENS支持对纳管的ELB创建监听器,监听器负责监听负载均衡器上的请求,根据配置流量分配策略,分发流量到后端服务器处理。同时支持对ELB进行锁定和解锁,锁定后该ELB不能使用IaC更新。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。
CES指标接入 云监控服务CES可以收集云服务内置监控指标的数据,可以通过监控这些指标来跟踪对应云服务状态。AppStage运维中心支持将CES收集的监控指标数据采集到运维中心监控服务中进行管理,可以参考支持监控的服务列表查看CES当前已支持的监控指标。 选择服务后首次使用监控服
接入CES指标 云监控服务CES可以收集云服务内置监控指标的数据,可以通过监控这些指标来跟踪对应云服务状态。AppStage运维中心支持将CES收集的监控指标数据采集到运维中心监控服务中进行管理,可以参考支持监控的服务列表查看CES当前已支持的监控指标。 选择服务后首次使用监控服
在SLB中配置SLB节点信息 为SLB实例配置节点信息。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 新增节点 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。
配置SLB节点信息 为SLB实例配置节点信息。 前提条件 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 新增节点 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“微服务开发 > 负载均衡”。 选择左侧导航栏的“实例管理”。
(可选)录入HTTPS监听所需的服务器证书 配置HTTPS监听时,涉及服务器身份验证,需要为监听绑定服务器证书。本文介绍如何录入服务器证书。 前提条件 已获取服务器证书。 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建证书 进入AppStage运维中心。
为流程创建并关联标签 本章节介绍如何为流程创建标签,创建标签后可以为流程绑定标签,通过标签进行流程筛选。 目前此功能仅支持白名单用户通过提交工单申请使用。详细操作请参考提交工单。 前提条件 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 已创建流程。 步骤一:创建标签
(可选)录入HTTPS监听所需的服务器证书 配置HTTPS监听时,涉及服务器身份验证,需要为监听绑定服务器证书。本文介绍如何录入服务器证书。 前提条件 已获取服务器证书。 需要具备AppStage服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 创建证书 进入AppStage运维中心。
源及相关参数说明如表1所示。 表1 参数说明 流水线源 参数项 说明 Repo 提供企业代码托管的全方位服务,为软件开发者提供基于Git的在线代码托管服务。 代码库名称 选择可用的源码仓库。 默认分支 手工或定时执行流水线时默认使用的分支。 CodeArts Repo https授权
源及相关参数说明如表1所示。 表1 参数说明 流水线源 参数项 说明 Repo 提供企业代码托管的全方位服务,为软件开发者提供基于Git的在线代码托管服务。 代码库名称 选择可用的源码仓库。 默认分支 手工或定时执行流水线时默认使用的分支。 CodeArts Repo https授权