检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
创建路由策略 在AI原生应用引擎的左侧导航栏选择“模型中心 > 我的模型服务”,单击“创建路由策略”。 在“创建路由策略”页面,参照表1配置策略信息,配置完单击“保存”。 表1 路由策略参数说明 参数 说明 策略名称 自定义路由策略的名称,支持中英文、数字、中划线(-)、下划线(_)、点(
您也可以单击微服务列表“实例列表/目标实例数”列的值进入实例管理页面。 在实例管理页面,可以查看实例基本信息、状态、容器信息、所属集群、所属的region以及所属AZ等。 更多操作 表1 实例管理页面操作说明 操作 说明 查看实例详情 单击实例列表中的实例ID,跳转到POD详情页面。
购买ECS 启用环境并录入账号信息,具体请参见环境配置及账号录入。 完成资源接入,具体请参见资源接入。 在微服务容器化部署前,需要在微服务平台为环境绑定CCE集群,用于在环境下部署和运行微服务。具体请参见环境配置。 父主题: 部署上线
思考模型和问答模型的区别 工作流中知识库节点、LLM节点都需要配置实例,实例的API Key填什么? 工作流中工具节点的实例如何配置? 如何获取Agent发布时要所需的API Key? 如何保证Agent每次问答都调用知识库? 工作流的返回是json格式,但是大模型会进行总结,如何以json格式直接输出
您也可以单击微服务列表“实例列表/目标实例数”列的值进入实例管理页面。 在实例管理页面,可以查看实例基本信息、状态、容器信息、所属集群、所属的region以及所属AZ等。 更多操作 表1 实例管理页面操作说明 操作 说明 查看实例详情 单击实例列表中的实例ID,跳转到POD详情页面。
进行便捷调用。 如果三方工具在创建时设置了鉴权信息,在调用前还需要配置认证鉴权。 前提条件 需要具备AI原生应用引擎管理员或开发者权限,权限申请操作请参见AppStage组织成员申请权限。 调用资产中心工具前配置认证鉴权 在AI原生应用引擎的左侧导航栏选择“资产中心”。 在资产中心页面,选择“工具”页签。
部署服务环境管理 对部署资源的配置漂移进行修复 基于当前状态的资源配置导出IaC3.0包 在部署服务释放环境 父主题: 使用部署服务进行自动化变更
监控服务(ServiceInsight)”。 选择左侧导航栏的“告警 > 告警修复”。 单击“添加”,进入创建告警修复页面。 配置告警修复参数,参数说明如表1所示,配置完成后,单击“确定”。 表1 告警修复参数说明 参数名称 参数说明 修复规则是否生效 按钮默认开启,创建后该规则生效。如需创建后规则暂不生效,可以关闭按钮。
多选): 行业 适用领域 通用 配置部署模型参数,参数说明如表6所示。 表6 微调的模型部署参数说明 参数名称 参数说明 实例个数 设置模型服务部署的实例个数。 不同的模型部署1个实例需要的推理单元个数不同,比如,ChatGLM3-6B需要2个实例。 不同的模型因为模型参数量不同
选择左侧导航栏的“监控 > 实时监控”。 单击“自定义页面”,切换至“自定义页面”页签。 在列表中,单击待删除页面所在行“操作”列的“删除”。 删除页面及页面中配置的图表。 设置页面布局 当页面添加图表后,可以设置页面布局,包括图表位置、大小等。 进入AppStage运维中心。 在顶部导航栏选择服务。
服务都专注于完成特定的业务功能,并且可以独立地进行开发、部署和扩展。 开发中心用户 开发中心的用户数根据购买规格有相应的用户数量限制,通过组织管理员添加后才能成为开发中心用户,或者申请成为开发中心用户。如果不是开发中心用户,则无法使用开发中心。 交付件 交付件是版本开发过程不同阶
自定义作业名称。 自定义作业名称的最大长度为128,可包含中文、字母、数字、下划线“_”、中划线“-”和中文括号()。 配置源文件参数,参数说明如表1所示,配置完成后,单击“添加服务器文件”。 等待源文件上传成功,将源文件上传至作业平台,如图1所示。 表1 源文件参数说明 参数名称
编辑插件 在“配置参数”页面编辑插件参数,常用监控插件说明如常用监控插件说明所示,编辑完成后单击“确定”。 配置完成后,在“新建模板”页面单击“确定”。 步骤二:绑定监控模板 选择左侧导航栏的“运维数据采集 > 绑定管理”。 在主机列表,单击待绑定主机所在行“操作”列的“配置监控”。 勾选模板后单击,单击“确定”。
应用部署 配置服务环境 申请资源 更新环境 父主题: 一站式应用开发、应用托管以及应用运维
解决方法:登录SLB实例主机,执行cat /proc/version,查看环境系统,SLB分为ARM、X86两个版本,界面上部署时需要选择与环境系统一样的包。 系统参数配置不正确 部署完之后,启动时提示参数不正确。 图2 参数配置不正确 解决方法:重新配置参数,参照参数配置不正确。
缺陷描述(可选) 输入缺陷描述。 当前处理人 选择缺陷的处理人。取值范围为该项目的全部成员。 IPD系统设备类项目和IPD独立软件类项目:请参考在IPD系统设备类项目中新建缺陷和在IPD独立软件类项目中新建缺陷。 编辑总体测试结论 在左侧导航栏选择“版本管理”。 在“版本管理”页
据集。丰富的知识数据集及强大的索引配置是构建专业化、结构化知识库的基础;微调数据集是模型微调的基础,通过在微调数据集上进行训练,您可以获得改进后的新模型以适应特定任务。 模型管理 支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,为检验模型的准确性及反
监控服务开发业务报表操作流程 在监控服务新增业务报表数据源 在监控服务新增业务报表页面 在监控服务管理业务报表页面 在监控服务开发业务报表 基于数仓配置图表 基于SQL配置图表 查看监控服务已开发的业务报表 父主题: 使用监控服务进行资源及业务监控
调测图像理解类型模型,具体操作如下: 在“模型类型”下选择“图像理解”并配置以下参数。 模型服务:选择要调测的模型服务,在下拉列表可选我的模型(我部署的、我接入的)、我的路由策略、平台预置模型或模型服务商提供的模型。 上传图片:单击,可上传本地图片。 内容安全监测配置:选择是否打开开关,开启后,可对返回内容中的文本和图片进行安全监测。
:用户可查看帮助文档、新手引导。组织管理员才能看到新手引导。 账号信息:查看登录账号相关信息,可以修改密码。 使用引导 展示在使用AppStage前需要按照此使用引导完成初始化配置流程,提供快捷入口。 单击“隐藏”,隐藏使用引导。“在开始使用前请按使用引导完成初始化配置”右侧,单击“使用引导”,显示使用引导。