检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。 图1 升级模式 升级配置后，需重新启动该部署任务，升级模式即为重启的方式。
此需要及时充值。预付费模式购买后不涉及欠费。 服务按时长计费的，当余额不足以支付当前费用时，账户将被判定为欠费。由于盘古NLP大模型不涉及物理实体资源，因此无宽限期。欠费后继续调用服务会导致账户冻结，并直接进入保留期，保留期按需资源不可调用。续费后可恢复正常使用，但续费的生效时间
源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。 图1 升级模式 升级配置后，需重新启动该部署任务，升级模式即为重启的方式。
源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。 图1 升级模式 升级配置后，需重新启动该部署任务，升级模式即为重启的方式。
在“创建压缩任务”页面，选择需要压缩的基础模型，支持选择已发布模型或未发布模型。 选择压缩策略。除INT8压缩策略外，部分模型支持INT4压缩策略，可在选择模型后，根据页面展示的策略进行选择。 INT8：该压缩策略将模型参数压缩至8位字节，可以有效降低推理显存占用。 INT4：该
单击Postman界面“Send”，发送请求。科学计算大模型API调用成功后，会返回任务id参数task_id，可获取任务ID参数值。 在Postman中新建一个GET请求，填入域名（将获取调用路径中获取的URL去除末尾的“/tasks”即为该域名），设置请求Header参数和任务ID参数
选择数据集中已发布的数据集，这里数据集需为再分析类型数据，同时需要完成加工作业，加工时需选择气象预处理算子。 训练集 选择训练数据中的部分时间数据，训练数据集尽可能多一些。 验证集 选择验证集中的部分时间数据，验证集数据不能跟训练集数据重合。 层次 设置训练数据的层次信息。在“预训练”场景中，可以添加或去除
在“应用接入”列表的“APP Code”操作列中可获取APPCode值。 如图3，为Token认证方式的请求Header参数填写示例。 图3 配置请求参数 在Postman中选择“Body > raw”选项，参考以下代码填写请求Body。 { "messages": [ {
在完成数据标注后，如果无需进行标注审核，可直接在“数据标注 > 任务管理”页面单击“生成”，生成加工数据集。 加工后的数据集可在“数据工程 > 数据加工 > 加工数据集”中查看。 审核标注后的文本类数据集 如果在创建文本类数据集标注任务时启用了标注审核功能，则在完成标注后可以在“标注审核”页面审核标注结果。
登录ModelArts Studio大模型开发平台。 获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的部署ID。 图1 部署后的模型调用路径 若调用预置模型，可在左侧导航栏中选择“模型开发
要填写外部模型的接口名称、接口地址、请求体、响应体等信息。 请求体支持openai、tgi、自定义三种格式。openai格式即是由OpenAI公司开发并标准化的一种大模型请求格式；tgi格式即是Hugging Face团队推出的一种大模型请求格式。 接口的响应体需要按照jsonp
limit:XX,time:1 minute. 发送请求超过了服务的默认配置限流。 通过重试机制，在代码里检查返回值，碰到并发错误可以延时一小段时间（如2-5s）重试请求。 后端检查上一个请求结果，上一个请求返回之后再发送下一个请求，避免请求过于频繁。 父主题： 附录
在“我的凭证”页面，可以获取domain_id、domain_name、project_id、project_name，如图3。 图3 请求体参数获取 请求体参数配置完成后，单击“调试”，在响应结果中单击“响应头”，其中，X-Subject-Token参数的值为获取到的Token，如图4。 图4
值]组成一条件表达式。 参数名称：条件表达式左边部分，需要选择来自前序节点的输出参数。 比较条件：条件表达式中间部分，当前支持的比较条件有： equal：等于 not equal：不等于 contain：包含 not contain：不包含 比较对象、值：条件表达式右边部分，支持“引用”和“输入”两种类型。
模型训练：使用处理后的数据集训练模型。 超参数调优：选择合适的学习率、批次大小等超参数，确保模型在训练过程中能够快速收敛并取得良好的性能。 开发阶段的关键是平衡模型的复杂度和计算资源，避免过拟合，同时保证模型能够在实际应用中提供准确的预测结果。 应用与部署：当大模型训练完成并通过验证后，进入应用阶段。主要包括以下几个方面：
获取Token。参考《API参考》文档“如何调用REST API认证鉴权”章节获取Token。 在Postman中新建POST请求，并填入调用路径（API请求地址）。 参考图8填写2个请求Header参数。 参数名为Content-Type，参数值为application/json。 参数名为X-
获取Token。参考《API参考》文档“如何调用REST API > 认证鉴权”章节获取Token。 在Postman中新建POST请求，并填入工作流的调用路径，详见获取调用路径。 填写请求Header参数。 参数名为Content-Type，参数值为application/json。 参数名为X-A
查看NLP大模型训练状态与指标 模型启动训练后，可以在模型训练列表中查看训练任务的状态，单击任务名称可以进入详情页查看训练结果、训练任务详情和训练日志。 查看模型训练状态 在模型训练列表中查看训练任务的状态，各状态说明详见表1。 表1 训练状态说明 训练状态 训练状态含义 初始化
是普通对话文本，还是包含翻译请求的文本，都将从此节点开始。 意图识别节点：该节点对用户输入的文本进行分类和分析，识别出用户的意图。主要包括以下两种意图： 文本翻译意图：系统识别出用户希望进行文本翻译的请求。 其他意图：包括普通对话、问答、或其他功能请求。该分支最终会引导文本到大模型节点进行处理。
文本翻译意图：当用户请求翻译时，意图识别节点的关键任务是准确判断用户翻译的需求，执行翻译节点分支，并给出正确的翻译结果。 如图1，当用户输入翻译类问题时，“意图识别”节点对用户的意图分类为“文本翻译”，此时工作流将运行“提问器”节点分支，并依次运行后序节点，最终输出翻译后的内容。 图1
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
