检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
知识数据集及强大的索引配置是构建专业化、结构化知识库的基础;微调数据集是模型微调的基础,通过在微调数据集上进行训练,您可以获得改进后的新模型以适应特定任务。 模型管理 支持通过API接入模型服务,同时支持将平台预置模型进行微调后,部署为模型服务,为检验模型的准确性及反应效果,您可
大模型微调需要的数据有要求吗? AI原生应用引擎用于大模型微调的数据集任务领域为“自然语言处理”、数据集格式为“对话文本”。 文件内容要求为标准json数组,例如: [{"instruction": "aaa", "input": "aaa", "output": "aaa"},{"instruction":
部署软件包 AppStage运维中心部署服务提供变更环境功能,通过变更完成软件包的安装部署。 前提条件 通过流水线构建的软件包已成功发布,可在运维中心的“软件仓库 > 软件包管理”中查看。 已启用环境。 已获取服务运维岗位权限,权限申请操作请参见申请权限。 操作步骤 登录AppStage首页。
电子流进行变更部署。 变更环境部署应用 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 在环境列表中单击待变更环境所在行“操作”列的“更新”,进入“更新环境”页面。 配置变更参数。 完成
在部署服务释放环境 当环境不再使用时,可以对环境进行释放。 前提条件 已删除环境下的所有组件。 已获取服务运维岗位权限或运维管理员权限,权限申请操作请参见申请权限。 在环境列表释放环境 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理
对部署资源的配置漂移进行修复 部署服务通过IaC代码将资源部署到服务器后,服务器上资源的配置文件被人为修改,导致服务器上的资源配置与部署服务中的资源配置出现不一致,则认为发生了配置漂移。可以在“环境详情”页面查看资源是否存在配置漂移,如图1所示。 图1 配置漂移 用户对环境进行一
问题现象 图1 Agent报错 解决方法 检查创建Agent时选择的模型是否为模型服务商API,使用模型服务商API时,需要配置模型服务鉴权,新开的租户没有配置模型鉴权,具体操作请参见如何对模型供应商提供的模型服务设置鉴权。 父主题: AI原生应用引擎
进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 单击环境名称,进入环境详情页面。 单击“创建组件”,在创建组件变更信息中配置组件名称、组件版本和规格参数,配置完成后单击“下一步”。 在创建组件变更计划中选择变更资源,创建完成后,单击“确定”。
部署服务环境管理 对部署资源的配置漂移进行修复 基于当前状态的资源配置导出IaC3.0包 在部署服务释放环境 父主题: 使用部署服务进行自动化变更
Agent问答的时候没有回答 思考模型没有配置鉴权,或者鉴权失效了,可以通过模型调测功能测试思考模型是否正常,具体操作请参见调测/体验模型。 父主题: AI原生应用引擎
已准备环境并启用,服务环境管理列表显示已启用环境,具体操作请参见为资源接入准备环境。 已上传TF模板包。 创建并部署资源 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 单击环境名称,进入环境详情页面。 创建资源栈。
模型微调任务一直在等待中是什么原因? 模型微调任务一直在“等待中”状态,表示当前平台资源规格紧张,任务需要进行排队,请耐心等待。 父主题: AI原生应用引擎
配置管理 本章介绍如何通过IaC代码描述配置信息,支持私有配置和公共配置两种类型。 IaC3.0公共配置集模型与私有配置项绝大部分字段参数一样,具体请参见表1。 表1 配置管理字段说明 参数 是否必选 类型 说明 格式校验 name 是 string 配置集名称 私有配置集:服务环境下name唯一。
Model,大语言模型)即大模型,仅包含“chat”一个执行动作。 运行动作 输入参数 用户配置运行动作执行动作,相关参数说明如表1所示。 表1 运行动作属性配置输入参数说明 参数 是否必填项 说明 模型服务调用ID 是 从“Agent编排中心 > 我的模型服务”列表中“模型服务调用ID”列获取。
工作流的返回是json格式,但是大模型会进行总结,如何以json格式直接输出? 创建Agent配置工作流时,支持选择模式,选择为“总结模式”时,大模型会对工作流的输出进行总结;选择为“精确模式”时大模型不会总结,直接返回工作流的输出,如图1所示,具体介绍请参见创建并发布Agent。
基于当前状态的资源配置导出IaC3.0包 部署服务支持导出环境当前使用的IaC包,可以导出并查看IaC代码。 导出IaC包 进入AppStage运维中心。 在顶部导航栏选择服务。 单击,选择“运维 > 部署服务”。 选择左侧导航栏的“环境管理 > 服务环境管理”。 单击“更多 >
运维中心部署服务 更新环境的代码包不存在规格cn_product_default 更新环境时报错 如何自动获取验签?
SLB部署失败相关问题 FATAL Can't get local ip /etc/rc.d/init.d/functions: No such file or directory nginx is stopped will_upgrade\old_version:1.4.7 Need
我创建的微调数据集会被其他用户调用去训练他们的大模型吗? 用户个人创建的数据集是属于个人账号下的专属数据,未经本人许可不会被其他人员查看到,且不会被其他用户在大模型训练时调用。 父主题: AI原生应用引擎
显示当前服务 环境 选择需要配置的环境。 分组 在环境下创建分组,将同一业务相关的CCE集群添加到同一分组中。 默认 选择是否开启默认。 开启时,将当前环境配置设置为默认。在执行IaC部署时,未指定部署环境的微服务会被部署到默认环境。 微服务 选择在该环境中部署的微服务。 架构 选择CCE集群架构,arm或x86。