检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
字节，可以有效降低推理显存占用。 INT4：该压缩策略与INT8相比，可以进一步减少模型的存储空间和计算复杂度。 配置资源。选择计费模式并设置训练单元。 可选择开启订阅提醒。开启后，系统将在本次压缩任务状态变更时，向用户发送短信/邮件提醒。 填写基本信息，包括任务名称、压缩后模型名称与描述，单击“立即创建”。
版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。 图1 升级模式 升级配置
版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版本并启动新版本。滚动升级时可修改实例数。选择缩实例升级时，系统会先删除旧版本，再进行升级，期间旧版本不可使用。 图1 升级模式 升级配置
推理资源：推理单元可用于NLP、CV、专业大模型的模型推理功能， 模型实例可用于预测、科学计算大模型的模型推理功能。 具体订购步骤如下： 使用主账户登录ModelArts Studio大模型开发平台，单击“立即订购”进入“订购”页面。 在“开发场景”中勾选需要订购的大模型（可多选
和各项云服务技术的安全功能和性能本身，也包括运维运营安全，以及更广义的安全合规遵从。 租户：负责云服务内部的安全，安全地使用云。华为云租户的安全责任在于对使用的IaaS、PaaS和SaaS类云服务内部的安全以及对租户定制配置进行安全有效的管理，包括但不限于虚拟网络、虚拟主机和访客
在更广泛的任务上更为出色。 根据盘古大模型特点调整提示词。 直接使用在其他大模型上有效的提示词，可能无法在盘古大模型上获得相同的效果。为了充分发挥盘古大模型的潜力，建议根据盘古大模型的特点，单独调整提示词。直接使用在其他大模型上有效的提示词，可能无法在盘古大模型上获得相同的效果。
盘古大模型服务通过多种数据保护手段和特性，保障存储在服务中的数据安全可靠。 表1 盘古大模型的数据保护手段和特性 数据保护手段 简要说明 传输加密（HTTPS） 盘古服务使用HTTPS传输协议保证数据传输的安全性。 基于OBS提供的数据保护 基于OBS服务对用户的数据进行存储和保护。请参考OBS数据保护技术说明：https://support
创建应用后，需要撰写提示词（Prompt），为Agent设定人设、目标、核心技能、执行步骤。 应用会根据盘古NLP大模型对提示词的理解，来选择使用插件、工作流或知识库，响应用户问题。因此，一个好的提示词可以让模型更好地理解并执行任务，应用效果与提示词息息相关。 配置Prompt Builder步骤如下：
知识库”页面。 单击“ > 复制ID”，可获取当前知识库ID。 单击“ > 删除”，可删除当前知识库。 删除应用属于高危操作，删除前，请确保该知识库不再使用。 父主题： 创建与管理知识库
在“撰写”页面，选择左侧导航栏中的“候选”。在候选列表中，勾选需要进行横向比对的提示词，并单击“创建评估”。 图1 创建评估 选择评估使用的变量数据集和评估方法。 评估用例集：根据选择的数据集，将待评估的提示词和数据集中的变量自动组装成完整的提示词，输入模型生成结果。 评估方
API进行的封装，通过该SDK可以处理用户的输入，生成模型的回复，从而实现自然流畅的对话体验。 表1 推理SDK清单 SDK分类 SDK功能 支持语言 使用场景 推理SDK 对话问答（/chat/completions） Java、Python、Go、.NET、NodeJs 基于对话问答功能，
插件”页面。 单击“ > 复制ID”，可获取当前插件ID。 单击“ > 删除”，可删除当前插件。 删除应用属于高危操作，删除前，请确保该插件不再使用。 导出、导入插件 平台支持导出和导入插件。 登录ModelArts Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。
应用”页面。 单击“ > 复制ID”，可获取当前应用ID。 单击“ > 删除”，可删除当前应用。 删除应用属于高危操作，删除前，请确保该应用不再使用。 导出、导入应用 平台支持导出和导入应用。导出应用时，将同步导出应用关联的插件和工作流等配置。 登录ModelArts Studio大模
Pangu-NLP-BI-32K-20241130 2024年11月发布的版本，支持32K序列长度推理，支持8个推理单元部署。 在选择和使用盘古大模型时，了解不同模型所支持的操作行为至关重要。不同模型在预训练、微调、模型压缩、在线推理和能力调测等方面的支持程度各不相同，开发者应
复制”，可复制当前工作流。 单击“ > 复制ID”，可获取当前工作流ID。 单击“ > 删除”，可删除当前工作流。 删除应用属于高危操作，删除前，请确保该工作流不再使用。 导出、导入工作流 平台支持导出和导入工作流。导出工作流时，将同步导出工作流关联的插件等配置。 登录ModelArts Studio大模
统一管，资产管理“全” ModelArts Studio大模型开发平台数据、模型、Agent应用在统一的入口进行管理，可以快速的掌握资产的使用情况、版本情况和溯源信息等。 海量训练数据 盘古大模型依托海量且多样化的训练数据，涵盖从日常对话到专业领域的广泛内容，帮助模型更好地理解和
可搭建出任务流程，场景的节点包括大模型节点、意图识别节点、提问器节点、插件节点、判断节点、代码节点、消息节点，优点是可扩展能力强，用户适当使用低码开发，缺点是对话交互智能度不高，复杂场景下分支多，难以维护。 父主题： 开发盘古大模型Agent应用
Pangu-NLP-N4-Chat-32K-20241130 32K 4K 2024年11月发布的版本，仅支持32K序列长度推理部署。 在选择和使用盘古大模型时，了解不同模型所支持的操作行为至关重要。不同模型在预训练、微调、模型评测、在线推理和能力调测等方面的支持程度各不相同，开发者应
本，从而显著地提高标注效率。 数据评估：平台支持对处理后的文本、图片、视频等多种格式数据进行质量评估，并预置了基础的评估标准，用户可以直接使用预置标准或创建自定义评估标准，以满足个性化的数据质量需求。最终生成详细的质量评估报告，这些报告能够帮助用户检验数据的准确性、完整性和一致性
2024年12月发布的版本，相较于10月发布的版本运行速度有提升，用于天气基础要素预测，时间分辨率为24小时，1个训练单元起训及1个实例部署。 在选择和使用盘古大模型时，了解不同模型所支持的操作行为至关重要。不同模型在预训练、微调、模型评测、模型压缩、在线推理和能力调测等方面的支持程度各不相同
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
