检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置知识 配置知识的步骤如下： 在“高级配置 > 知识”，单击“添加”。 在“添加知识”窗口，单击“点此上传”，上传知识文件。 图1 添加知识 上传完成后，单击“确定”。 在“高级配置”中，可查看上传成功的知识文件。 图2 知识上传成功 父主题： 手工编排Agent应用
配置插件 配置插件的步骤如下： 在“高级配置 > 插件”，单击“添加”。 图1 配置插件 在“添加插件”窗口，选择预置插件或个人插件，单击进行添加，最后单击“确定”。若想创建插件可单击右上角“创建插件”，创建插件的步骤请参见创建插件。 图2 添加插件 添加插件后，可在“高级配置”中查看当前已添加的插件。
https://{Endpoint}/v3/projects”，其中{Endpoint}为IAM的终端节点，可以从地区和终端节点获取。接口的认证鉴权请参见认证鉴权。 响应示例如下，例如，对话机器人服务部署的区域为“cn-north-4”，响应消息体中查找“name”为“cn-north-4”，
LLM：初始化完成的大模型节点，没有额外的Prompt配置，直接接受用户原始输入，并输出大模型执行后的原始输出，该组件的配置详见配置大模型组件。 用户可根据需求配置所需组件，并连接其他组件。除开始、结束和大模型组件外，平台提供了意图识别、提问器、插件、判断、代码组件，配置详见配置意图识别组件、
Object> 用户提出的问题，作为运行工作流的输入，与工作流开始节点输入参数对应。 plugin_configs 否 List<PluginConfig> 插件配置，当工作流有配置用户自定义插件节点时，可能需要配置鉴权信息等，具体结构定义详见表4。 表4 PluginConfig参数
型”，参考表1完成部署参数设置，启动模型部署。 表1 NlP大模型部署参数说明 参数分类 部署参数 参数说明 部署配置 模型来源 选择“盘古大模型”。 模型类型 选择“NLP大模型”。 部署模型 选择需要进行部署的模型。 部署方式 云上部署：算法部署至平台提供的资源池中。 最大TOKEN长度
流程型Agent：以工作流为任务执行核心，用户通过在画布上对组件进行“拖拉拽”即可搭建出任务流程，场景的组件包括LLM节点、Code节点、Branch节点等，优点是可扩展能力强，用户适当使用低码开发，缺点是对话交互智能度不高，复杂场景下分支多，难以维护。 父主题： 开发盘古大模型Agent应用
获取模型部署ID 模型部署ID获取步骤如下： 登录ModelArts Studio大模型开发平台。 获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的部署ID。 图1
管理NLP大模型部署任务 模型更新、修改部署 成功创建部署任务后，如需修改已部署的模型或配置信息，可以在详情页面单击右上角的“模型更新”或“修改部署”进行调整。更新模型时可以替换模型，但在修改部署时模型不可替换。 在“模型更新”或“修改部署”后进行升级操作时，可选择全量升级或滚动升级两种方式：
配架构类型。 资源配置 实例数 设置部署模型是所需的实例数，单次部署服务时，部署实例个数建议不大于10，否则可能触发限流导致部署失败。 基本信息 名称 设置部署任务的名称。 描述（可选） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。 父主题： 部署科学计算大模型
查看NLP大模型部署任务详情 部署任务创建成功后，可以在“模型开发 > 模型部署”页面查看模型的部署状态。 当状态依次显示为“初始化 > 部署中 > 运行中”时，表示模型已成功部署，可以进行调用。 此过程可能需要较长时间，请耐心等待。在此过程中，可单击模型名称可进入详情页，查看模
管理科学计算大模型部署任务 模型更新、修改部署 成功创建部署任务后，如需修改已部署的模型或配置信息，可以在详情页面单击右上角的“模型更新”或“修改部署”进行调整。更新模型时可以替换模型和修改作业配置参数，但在修改部署时模型不可替换或修改作业配置参数。 在“模型更新”或“修改部署”后进行升
动训练任务。 克隆。单击操作列的“更多 > 克隆”，可以复制当前训练任务。 重试。单击操作列的“更多 > 重试”，可以编辑运行失败的节点，重试该节点的训练。 删除。单击操作列的“更多 > 删除”，可以删除当前不需要的训练任务。 父主题： 训练NLP大模型
查看科学计算大模型部署任务详情 部署任务创建成功后，可以在“模型开发 > 模型部署”页面查看模型的部署状态。 当状态依次显示为“初始化 > 部署中 > 运行中”时，表示模型已成功部署，可以进行调用。 此过程可能需要较长时间，请耐心等待。在此过程中，可单击模型名称可进入详情页，查看
错与解决方案。 训练日志可以按照不同的节点（训练阶段）进行筛选查看。分布式训练时，任务被分配到多个工作节点上进行并行处理，每个工作节点负责处理一部分数据或执行特定的计算任务。日志也可以按照不同的工作节点（如worker-0表示第一个工作节点）进行筛选查看。 图2 获取训练日志 父主题：
数。 单击应用右上角的，打开大模型参数配置页面。配置参数见表1，完成大模型参数配置。 表1 大模型参数配置 参数 说明 模型选择 选择要使用的LLM，不同的模型效果存在差异。 模式选择 用于配置大模型的输出多样性。 包含取值： 精确的：模型的输出内容严格遵循指令要求，可能会反复讨论某个主题，或频繁出现相同词汇。
动训练任务。 克隆。单击操作列的“更多 > 克隆”，可以复制当前训练任务。 重试。单击操作列的“更多 > 重试”，可以编辑运行失败的节点，重试该节点的训练。 删除。单击操作列的“更多 > 删除”，可以删除当前不需要的训练任务。 父主题： 训练科学计算大模型
、PaaS和SaaS类云服务内部的安全以及对租户定制配置进行安全有效的管理，包括但不限于虚拟网络、虚拟主机和访客虚拟机的操作系统，虚拟防火墙、API网关和高级安全服务，各项云服务，租户数据，以及身份账号和密钥管理等方面的安全配置。 《华为云安全白皮书》详细介绍华为云安全性的构建思
错与解决方案。 训练日志可以按照不同的节点（训练阶段）进行筛选查看。分布式训练时，任务被分配到多个工作节点上进行并行处理，每个工作节点负责处理一部分数据或执行特定的计算任务。日志也可以按照不同的工作节点（如worker-0表示第一个工作节点）进行筛选查看。 图2 获取训练日志 父主题：
start，开始节点，表示开始调用模型进行会话。 message，消息节点，表示模型返回的消息。 plugin_start，插件调用请求节点，表示调用插件的请求信息。 plugin_end，插件调用响应节点，表示调用插件的响应信息。 statistic_data，执行数据节点，包含本次调用的耗时信息。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
