检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在部署服务释放环境 当环境不再使用时,可以对环境进行释放。 前提条件 已删除环境下的所有组件。 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 在环境列表释放环境 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理
数据标注是将微调数据集中的某些元素进行标记或分类,以便模型可以更好地理解和使用这些数据。例如,在自动驾驶的应用中,云数据可以被标注为包含建筑物、其他小物体、交通工具等信息,以便模型可以识别和理解这些对象。在辅助数据标注的方法中,通过训练模型,可以实现标注结果,从而提高数据的质量和准确性。
默认值100000000 无模型时配置的阈值上限(固定阈值线)。 对于新增的接口,因为没有历史数据,无法训练出该接口的模型,此时可以配置合适的值用来监控此类接口。 no_model_threshold_lower 无模型阈值下限 0-100000000 默认值0 无模型时配置的阈值下限(固定阈值线)。
知识数据集及强大的索引配置是构建专业化、结构化知识库的基础;微调数据集是模型微调的基础,通过在微调数据集上进行训练,您可以获得改进后的新模型以适应特定任务。 模型管理 支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,为检验模型的准确性及反应效果,您可
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
> 大模型”,查看支持的模型服务。例如调用Baichuan2-Turbo模型服务,model填写为Baichuan2-Turbo即可。 租户部署模型服务 登录AI原生应用引擎,在左侧导航栏选择“模型中心 > 我的模型服务 > 我部署的”,model填写为对应模型服务的模型服务调用ID。
进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 单击环境名称,进入环境详情页面。 单击“创建组件”,在创建组件变更信息中配置组件名称、组件版本和规格参数,配置完成后单击“下一步”。 在创建组件变更计划中选择变更资源,创建完成后,单击“确定”。
部署服务环境管理 对部署资源的配置漂移进行修复 基于当前状态的资源配置导出IaC3.0包 在部署服务释放环境 父主题: 使用部署服务进行自动化变更
SLB部署失败相关问题 FATAL Can't get local ip /etc/rc.d/init.d/functions: No such file or directory nginx is stopped will_upgrade\old_version:1.4.7 Need
已准备环境并启用,服务环境管理列表显示已启用环境,具体操作请参见为资源接入准备环境。 已上传TF模板包。 创建并部署资源 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 单击环境名称,进入环境详情页面。 创建资源栈。
单击输入框右侧的“引用模板”选择我创建的、我收藏的或平台预置的提示语模板。 推理模型 将提示语应用于我创建的、平台预置的或第三方模型服务中,预览推理结果。 选择推理模型后,可配置推理模型的相关参数,如表3所示。 表3 推理模型参数配置说明 参数名称 参数说明 最大token数 影响推理返回内容的最大长度,取值范围:1-10000。
基于当前状态的资源配置导出IaC3.0包 部署服务支持导出环境当前使用的IaC包,可以导出并查看IaC代码。 导出IaC包 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 单击“更多 >
运维中心部署服务 更新环境的代码包不存在规格cn_product_default 更新环境时报错 如何自动获取验签?
应用平台IaC部署代码开发 IaC概述 准备工作 IaC代码结构介绍 IaC Spec包典型目录结构 IaC Patch包典型目录结构 在IaC代码中声明资源 在IaC代码中定义流水线 包描述文件介绍
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎
问题现象 图1 Agent报错 解决方法 检查创建Agent时选择的模型是否为模型服务商API,使用模型服务商API时,需要配置模型服务鉴权,新开的租户没有配置模型鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题: AI原生应用引擎
模型微调任务一直在等待中是什么原因? 模型微调任务一直在“等待中”状态,表示当前平台资源规格紧张,任务需要进行排队,请耐心等待。 父主题: AI原生应用引擎
Model,大语言模型)即大模型,仅包含“chat”一个执行动作。 运行动作 输入参数 用户配置运行动作执行动作,相关参数说明如表1所示。 表1 运行动作属性配置输入参数说明 参数 是否必填项 说明 模型服务调用ID 是 从“Agent编排中心 > 我的模型服务”列表中“模型服务调用ID”列获取。
显示当前服务 环境 选择需要配置的环境。 分组 在环境下创建分组,将同一业务相关的CCE集群添加到同一分组中。 默认 选择是否开启默认。 开启时,将当前环境配置设置为默认。在执行IaC部署时,未指定部署环境的微服务会被部署到默认环境。 微服务 选择在该环境中部署的微服务。 架构 选择CCE集群架构,arm或x86。
全的变更基础设施。 IaC3.0支持的部署模式 IaC3.0支持如下两种场景的部署模式。 IaC Spec包 同一个服务下所有微服务的IaC代码在一个仓中管理,打包生成IaC Spec的包,可以实现服务下所有的微服务在同一个服务环境下一键部署。 IaC Patch包 微服务的IaC代码单独管理,通过IaC