检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
根据每个客户的金牌客服话术，可以对对话模型进行有监督微调，进一步优化其性能。 根据每个客户的实际对话知识，如帮助文档、案例库和FAQ库等，可以使用“先搜后推”的解决方案。客户的文档库可以实时更新，大模型的应答可以无缝实时更新。（搜索+大模型解决方案） 父主题： 大模型概念类问题
大模型的计量单位token指的是什么 令牌（Token）是指模型处理和生成文本的基本单位。token可以是词或者字符的片段。模型的输入和输出的文本都会被转换成token，然后根据模型的概率分布进行采样或计算。 例如，在英文中，有些组合单词会根据语义拆分，如overweight会被设计为2个to
管理科学计算大模型部署任务 模型更新、修改部署 成功创建部署任务后，如需修改已部署的模型或配置信息，可以在详情页面单击右上角的“模型更新”或“修改部署”进行调整。更新模型时可以替换模型和修改作业配置参数，但在修改部署时模型不可替换或修改作业配置参数。 在“模型更新”或“修改部署”
训练数据设置完成后，会显示出各变量以及默认的权重。您可以基于变量的重要情况调整权重。 P 平均海平面气压(Pa)的权重设置。训练数据设置完成后，会显示出各变量以及默认的权重。您可以基于变量的重要情况调整权重。 SSH 海表面高度(m)的权重设置。训练数据设置完成后，会显示出各变量
Content-Type":"application/json"}，单击“下一步”。 图3 配置插件信息 配置参数信息，如图4。 配置完成后，单击“确定”，完成文本翻译插件的创建。 图4 配置参数信息 步骤2：创建并配置工作流 单击左侧导航栏“工作台”按钮，在“工作流”页签，单击右上角“创建工作流”按钮。
输入的query做改写，将指示代词替换为实体词，并补充省略的context信息。基于改写后的query，再去调用中控模块以及检索模块，以便能够更好地检索出相关文档。 中控模块：对（经过改写后的）用户输入query，进行意图识别，判断是否是政务问答场景问题。如果是，则控制流程调用检
ing）的问题。 学习率衰减比率 学习率衰减后的比率，用于控制训练过程中学习率的下降幅度。经过衰减后，学习率的最低值由初始学习率和衰减比率决定。其计算公式为：最低学习率 = 初始学习率 * 学习率衰减比率。也就是说，学习率在每次衰减后不会低于这个计算出来的最低值。 热身比例 热身
单击左侧导航栏“工作台”，在“插件”页签，单击右上角“创建插件”。 配置插件的基本信息，输入插件名称和插件描述等信息。配置完成后，单击“下一步”。 输入插件名称后，支持手动上传插件的头像。 表1 插件基本信息表 参数名称 说明 插件名称 待创建插件的名称。 名称必须以中文或者英文开头。
创建NLP大模型部署任务 模型训练完成后，可以启动模型的部署操作。 登录ModelArts Studio大模型开发平台，进入所需操作空间。 图1 进入操作空间 在左侧导航栏中选择“模型开发 > 模型部署”，单击界面右上角“创建部署”。 在“创建部署”页面，模型类型选择“NLP大模
B：我可以做很多事情，比如xxxx A：你可以讲个笑话吗？ B：当然可以啦，以下是xxxx A：可以把这个笑话改成xxxx B：好的，以下是修改后的xxxx 拼接后的微调数据格式示例： {"context": ["你是谁？", "您好，我是盘古大模型。", "你可以做什么？", "我可以做很多事情，比如xxxx"
填写输入参数时，deployment_id为模型部署ID，获取方式如下： 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的部署ID。 图3 部署后的模型调用路径 若调用预置模型，可在左侧导航栏中选择“模型开发
模型。可进行对话互动、回答问题、协助创作。 盘古大模型（NLP大模型、科学计算大模型）在ModelArts Studio大模型开发平台部署后，可以通过API调用推理接口。 盘古仅提供技术能力，不对最终生成的内容负责，建议用户在使用服务的过程中，对模型生成的内容进行适当的审核和过滤，以保证内容的安全性。
算法所支持的结构类型，模型选择完成后，会自动适配架构类型。 资源配置 实例数 设置部署模型是所需的实例数，单次部署服务时，部署实例个数建议不大于10，否则可能触发限流导致部署失败。 基本信息 名称 设置部署任务的名称。 描述（可选） 设置部署任务的描述。 参数填写完成后，单击“立即部署”。 父主题：
标注作业”，单击数据集操作列的“标注”，进入数据集的标注页面。 在标注页面后，需要逐一确认问题（Q）及答案（A）是否正确，如果问题或答案不正确，可以对其进行二次编辑。 图9 标注页面 一条数据标注完成后，单击“提交”按钮可继续标注剩余数据。所有数据标注完成后，页面会出现标注任务成功的提示。 图10 标注任务完成提示
"forecast_lead_hours": 168 } } 单击Postman界面“Send”，发送请求。科学计算大模型API调用成功后，会返回任务id参数task_id，可获取任务ID参数值。 在Postman中新建一个GET请求，填入域名（将步骤2中获取的URL去除末尾的
AK/SK中多填了空格）。 AK/SK频繁出现鉴权出错，连续错误5次以上，被锁定5分钟（5分钟内，则一直认为其是异常的鉴权请求），5分钟后解锁重新认证。 检查账号权限，是否欠费，被冻结等。 检查调用API时，请求header参数X-Auth-Token是否拼写正确。 APIG.0308
IAM权限 默认情况下，管理员创建的IAM用户（子用户）没有任何权限，需要将其加入用户组，并对用户组授权，才能使得用户组中的用户获得对应的权限。授权后，用户就可以基于被授予的权限对云服务进行操作。 服务使用OBS存储训练数据和评估数据，如果需要对OBS的访问权限进行细粒度的控制。可以在盘古服务的委托中增加Pangu
云端或本地环境中。平台支持多种部署模式，能够满足不同场景的需求。通过灵活的API接口，模型可以无缝集成到各类应用中。 模型调用：在模型部署后，用户可以通过模型调用功能快速访问模型的服务。平台提供了高效的API接口，确保用户能够方便地将模型嵌入到自己的应用中，实现智能对话、文本生成等功能。
标注作业”页面，单击标注任务操作列的“标注”按钮，进入“标注”页面。 在“标注”页面的右下角展示了AI预标注的结果，可参考其内容进行标注。 图3 标注页面 一条数据标注完成后，单击“提交”按钮可继续标注剩余数据，直至所有数据标注完成。
科学计算大模型支持全球中期天气要素预测、全球中期降水预测、全球海洋要素、区域海洋要素、全球海洋生态、全球海浪高度预测能力，在选择好模型后，根据需求选择相应的数据和模型配置信息，模型就会返回相应的预测结果。 表1 科学计算大模型能力调测参数说明（天气/降水预测） 参数 说明 场景
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
