检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止
创建NLP大模型训练任务 创建NLP大模型预训练任务 创建NLP大模型预训练任务步骤如下： 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“模型开发 > 模型训练”，单击右上角“创建训练任务”。 在“创建训练任务”页面，参考表1完成训练参数设置。
Agent开发平台介绍 Agent开发平台简介 Agent开发平台是基于NLP大模型，致力打造智能时代集开发、调测和运行为一体的AI应用平台。无论开发者是否拥有大模型应用的编程经验，都可以通过Agent平台快速创建各种类型的智能体。Agent开发平台旨在帮助开发者高效低成本的构建
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 在左侧导航栏中选择“能力调测”，单击“文本对话”页签。 选择需要调用的服务。可从“预置服务”或“我的服务”中选择。 填写系统人设。如“你是一个AI助手”，若不填写，将使用系统默认人设。 在页面右侧配置参数，具体参数说明见表1。 表1
构建流程 准备工作 为确保有可用的NLP大模型，请先完成NLP大模型的部署操作，详见《用户指南》“开发盘古NLP大模型 > 部署NLP大模型 > 创建NLP大模型部署任务”。 本实践将使用华为云文本翻译API，请先完成创建多语言文本翻译插件操作。 操作流程 创建盘古多语言文本翻译工作流的流程见表1。
编排工作流 Agent平台支持对工作流编排多个节点，以实现复杂业务流程的编排。 工作流包含两种类型： 对话型工作流。面向多轮交互的开放式问答场景，基于用户对话内容提取关键信息，输出最终结果。适用于客服助手、工单助手、娱乐互动等场景。 任务型工作流。面向自动化处理场景，基于输入内容
……]”的方式来构造，若您的数据是同一个角色连续多次对话的“多轮问题”，可以将同一个角色的对话采用某个分隔符拼接到一个字符串中。例如： 原始对话示例： A：xxx号话务员为您服务！ A：先生您好，有什么可以帮助您的？ B：你好，是这样的 B：我家里上不了网了 B：网连不上 A：先生，您家的网络无法连接是吗 A：请问您尝试重新插拔网线吗？
应用介绍 在Agent开发平台上，用户可以构建两种类型的应用： 知识型Agent：以大模型为任务执行核心，适用于文本生成和文本检索任务，如搜索问答助手、代码生成助手等。用户通过配置Prompt、知识库等信息，使得大模型能够自主规划和调用工具。 优点：零代码开发，对话过程智能化。
实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后，系统将在任务状态更新时，通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述（选填） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。 父主题： 部署CV大模型
实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后，系统将在任务状态更新时，通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述（选填） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。 父主题： 部署NLP大模型
实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后，系统将在任务状态更新时，通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述（选填） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。 父主题： 部署预测大模型
实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后，系统将在任务状态更新时，通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述（选填） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。 父主题： 部署专业大模型
工作流 功能介绍 通过调用创建好的工作流API，输入问题，将得到工作流执行的结果。 URI 获取URI方式请参见请求URI。 POST /v1/{project_id}/agent-run/workflows/{workflow_id}/conversations/{conversation_id}
D设置为任意值，使用标准UUID格式。 图2 获取应用调用路径-2 使用Postman调用API 获取Token。参考《API参考》文档“如何调用REST API > 认证鉴权”章节获取Token。 在Postman中新建POST请求，并填入应用的调用路径，详见获取调用路径。 填写请求Header参数。
够满足不同场景的需求。通过灵活的API接口，模型可以无缝集成到各类应用中。 模型调用：在模型部署后，用户可以通过模型调用功能快速访问模型的服务。平台提供了高效的API接口，确保用户能够方便地将模型嵌入到自己的应用中，实现智能对话、文本生成等功能。 父主题： 产品功能
大模型开发基本流程介绍 大模型（Large Models）通常指的是具有海量参数和复杂结构的深度学习模型，广泛应用于自然语言处理（NLP）等领域。开发一个大模型的流程可以分为以下几个主要步骤： 数据集准备：大模型的性能往往依赖于大量的训练数据。因此，数据集准备是模型开发的第一步。
"target":"你好，请问有什么可以帮助你的？"},{"context":"请介绍一下华为云的产品。","target":"华为云提供包括但不限于计算、存储、网络等产品服务。"}] 单个文件大小不超过50GB，文件数量最多1000个。。 多轮问答（人设） jsonl jsonl格式：数组格式，至少由一组问答对
编排应用 Agent平台支持为应用配置插件、工作流技能，支持接入知识库，还可增加应用的对话体验，详见创建与管理插件、编排工作流、创建与管理知识库。 应用编排流程见表1。 表1 应用编排流程 操作步骤 说明 步骤1：创建应用 创建一个新应用。 步骤2：配置Prompt 在应用中配置大模型所需的Prompt。
4096 温度（temperature） 0.3 核采样（top_p） 1.0 话题重复度控制（presence_penalty） 0 部署推理服务后，可以采用人工评测的方案来评估模型效果。若评测过程中出现如下问题，可以参考解决方案进行优化： 问题一：模型答案没有按照Prompt要求回
1024 温度（temperature） 0.3 核采样（top_p） 0.8 话题重复度控制（presence_penalty） 0 部署推理服务后，可以采用人工评测的方案来评估模型效果。如下提供了本场景可能存在的常见问题，若在评测过程中出现如下问题，可以参考解决： 问题一：JSON字段缺失、JSON字段或值错误。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
