检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
图3 部署后的模型调用路径 若调用预置模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“预置服务”页签，模型列表单击“调用路径”，获取该模型的部署ID。 图4 预置模型的调用路径
资源配置 计费模式 包年包月计费模式。 实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后，系统将在任务状态更新时，通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述（选填） 设置部署任务的描述。
训练智能客服系统大模型需考虑哪些方面 根据智能客服场景，建议从以下方面考虑： 根据企业实际服务的场景和积累的数据量，评估是否需要构建行业模型，如电商、金融等。 根据每个客户的金牌客服话术，可以对对话模型进行有监督微调，进一步优化其性能。
资源配置 计费模式 包年包月计费模式。 实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后，系统将在任务状态更新时，通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述（选填） 设置部署任务的描述。
单击左侧“能力调测”，进入“文本对话”页签，选择服务与系统人设，参数设置为默认参数，在输入框输入问题，单击“生成”，模型将基于问题进行回答。 图1 使用预置服务进行文本对话 可以尝试修改参数并查看模型效果。
主要包括以下几个方面： 模型优化与部署：将训练好的大模型部署到生产环境中，可能通过云服务或本地服务器进行推理服务。此时要考虑到模型的响应时间和并发能力。 模型监控与迭代：部署后的模型需要持续监控其性能，并根据反馈进行定期更新或再训练。
对于Pangu服务接口，如果调用后返回状态码为“200”，则表示请求成功。 响应消息头 对应请求消息头，响应同样也有消息头，如“Content-Type”。 响应消息体 响应消息体通常以结构化格式返回，与响应消息头中Content-Type对应，传递除响应消息头之外的内容。
插件请求超时，检查插件服务。 105013 插件返回结果过大。 当前支持10M大小的返回，超过此大小会报错。 105014 插件request proxy error。 请检查插件服务是否有问题导致无法连接。 认证鉴权 110000 认证失败。 查看认证配置。
例如： 原始对话示例： A：xxx号话务员为您服务！ A：先生您好，有什么可以帮助您的？ B：你好，是这样的 B：我家里上不了网了 B：网连不上 A：先生，您家的网络无法连接是吗 A：请问您尝试重新插拔网线吗？
这种迁移能力使模型能够在面对新挑战时迅速调整和优化，提供适应新领域的服务。 通过微调技术，盘古大模型能够在保持原有优势的同时，融入新领域的特征和规律，实现对新任务的快速适应。这种能力极大地扩展了模型的应用范围，使其在更广泛的业务场景中发挥作用，为用户提供更加全面和深入的智能服务。
调用服务时会用到这些信息，请提前保存。 由于盘古大模型当前部署在“西南-贵阳一”区域，需要获取与“西南-贵阳一”区域对应的project id。 图1 获取user name、domain name、project id
选择计费模式并设置训练单元。 可选择开启订阅提醒。开启后，系统将在本次压缩任务状态变更时，向用户发送短信/邮件提醒。 填写基本信息，包括任务名称、压缩后模型名称与描述，单击“立即创建”。 当压缩任务状态为“已完成”时，表示模型已完成压缩操作。 父主题： 开发盘古NLP大模型
模型调用：在模型部署后，用户可以通过模型调用功能快速访问模型的服务。平台提供了高效的API接口，确保用户能够方便地将模型嵌入到自己的应用中，实现智能对话、文本生成等功能。 父主题： 产品功能
"target":"华为云提供包括但不限于计算、存储、网络等产品服务。"}] 单个文件大小不超过50GB，文件数量最多1000个。。 多轮问答（人设） jsonl jsonl格式：数组格式，至少由一组问答对构成。
在一个客户服务问答系统中，可以用特定领域（如电商、保险）的对话数据对预训练模型进行微调，使其更好地理解和回答与该领域相关的问题。 此外，针对微调训练任务，平台提供了两种微调方式： 全量微调：适合有充足数据并关注特定任务性能的场景。
本场景采用了下表中的推理参数进行解码，您可以在平台部署后参考如下参数调试： 表3 推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 4096 温度（temperature） 0.3 核采样（top_p） 1.0 话题重复度控制（presence_penalty） 0 部署推理服务后
本场景采用了下表中的推理参数进行解码，您可以在平台部署后参考如下参数调试： 表2 推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 1024 温度（temperature） 0.3 核采样（top_p） 0.8 话题重复度控制（presence_penalty） 0 部署推理服务后
本场景采用了下表中的推理参数进行解码，您可以在平台中参考如下参数调试： 表3 问答模型的推理核心参数设置 推理参数 设置值 最大Token限制（max_token） 4096 温度（temperature） 0.9 核采样（top_p） 0.4 话题重复度控制（presence_penalty） 0.3 部署推理服务后
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
