检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
huaweicloudsdkcore # 安装盘古服务库 pip install huaweicloudsdkpangulargemodels Go 安装华为云Go SDK库。 // 安装华为云 Go SDK 库 go get -u github.com/huaweicloud/huaweicloud-sdk-go-v3
概述 盘古大模型整合华为云强大的计算和数据资源，将先进的AI算法集成在预训练大模型中，打造出具有深度语义理解与生成能力的人工智能大语言模型。可进行对话互动、回答问题、协助创作。 盘古大模型在ModelArts Studio大模型开发平台部署后，可以通过API调用推理接口。 表1 API清单
创建边缘资源池 操作步骤 说明 准备工作 说明创建边缘资源池的前期准备。 步骤1：注册边缘资源池节点 说明注册边缘资源池节点步骤。 步骤2：搭建边缘服务器集群 说明搭建边缘服务器集群的步骤。 步骤3：安装Ascend插件 说明安装Ascend插件指导。 步骤4：创建证书 说明创建负载均衡所需证书步骤。
计费概述 关于盘古大模型的详细费用信息，敬请咨询华为云售前咨询，我们将为您提供专业的解答和支持。 通过阅读本文，您可以快速了解盘古大模型的计费模式、计费项、续费、欠费等主要计费信息。 计费模式 盘古大模型提供包周期计费、按需计费两种计费模式，以满足不同场景下的用户需求。关于计费模式的详细介绍请参见计费模式。
实例数：设置部署模型时所需的实例数。 作业输入方式 选择 “OBS”表示从OBS中读取数据。 作业输出方式 选择 “OBS”表示将输出结果存储在OBS中。 作业配置参数 设置模型部署参数信息，平台已给出默认值。 安全护栏 选择模式 安全护栏保障模型调用安全。 选择类型 当前支持安全护栏基础版，内置了默认的内容审核规则。
PASCAL VOC 由图片文件和对应的标注文件构成，标注文件需要满足PASCAL VOC文件格式。要求用户将标注对象和标注文件存储在同一目录，并且相互对应，如标注对象文件名为“IMG_2.jpg”，那么标注文件的文件名应为“IMG_2.xml” 图片支持jpg、jpeg、png、
给定一个提示和一些参数，模型会根据这些信息生成一个或多个预测的补全，还可以返回每个位置上不同词语的概率。它可以用来做文本生成、自动写作、代码补全等任务。 开发环境要求 华为云盘古大模型推理SDK要求： Java SDK适用于JDK 1.8及其以上版本。 Python SDK适用于Python3及以上版本。 Go
0代码开发，极大降低大模型开发门槛。 功能强，Agent开发“好” Agent开发提供便捷搭建大模型应用功能，并提供功能强大的插件配置，让Agent能力更强，更专业。 统一管，资产管理“全” ModelArts Studio大模型开发平台数据、模型、Agent应用在统一的入口进行
[{"context":"你好","target":"你好，请问有什么可以帮助你的？"},{"context":"请介绍一下华为云的产品。","target":"华为云提供包括但不限于计算、存储、网络等产品服务。"}] 单个文件大小不超过50GB，文件数量最多1000个。 多轮问答（人设）
"target":"1. 通过诱导用户下载事先写好的木马病毒:\n可以通过诱惑用户去下载某些“小便宜”，然后通过木马程序来控制用户的主机。\n2. 通过网站入侵: \n如果目标主机是一台网络服务器，可以通过找上传漏洞，然后传木马上去。如果没有上传漏洞，可以通过找SQL注入，进入后台，上传木马，提取，控制目标服务器。"}
测”和“全球中期海洋智能预测”两个模型。 部署方式 选择“云上部署”。 作业输入方式 选择 “OBS”表示从OBS中读取数据。 作业输出方式 选择 “OBS”表示将输出结果存储在OBS中。 作业配置参数 设置模型部署参数信息。 计费模式 选择计费模式。 实例数 设置部署模型时所需
点，包含大模型节点、意图识别节点、提问器节点、插件节点等，通过“拖拉拽”的方式快速搭建一个工作流。 Agent开发平台功能及优势 Agent开发平台具有能力扩展、自定义知识库、灵活的工作流设计和全链路信息调测评估等特点。 能力扩展：平台可以集成多种插件，插件能够有效扩展Agent的能力边界。
建逻辑复杂、稳定性要求高的Agent应用。通过拖拉拽方式，开发者可以组合各种组件（如大模型、代码、意图识别等），快速搭建工作流，实现更高效的应用开发。 平台还提供全链路信息观测和调试工具，支持开发者深入分析工作流执行过程中的每个环节。通过对信息进行分层展示，帮助开发者优化AI应用
部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版
部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版
部署模型”中，可选择模型以替换当前已部署的模型。 在“升级配置”中，选择以下两种升级模式： 全量升级：新旧版本服务同时运行，直至新版本完全替代旧版本。在新版本部署完成前，旧版本仍可使用。需要该服务所消耗资源的2倍，用于保障全量一次性升级。 滚动升级：部分实例资源空出用于滚动升级，逐个或逐批停止旧版
用户将存储在OBS服务中的数据导入至ModelArts Studio大模型开发平台后，将生成“原始数据集”被平台统一管理，用于后续加工或发布操作。 创建导入任务 创建导入任务前，请先按照数据集格式要求提前准备数据。 平台支持使用OBS服务导入数据，请详见通过控制台快速使用OBS。 创建导入任务步骤如下：
进入提问器节点。该节点主要负责提问用户翻译需求（如翻译文本、目标语言等）。 文本翻译插件节点：在翻译意图分支中，文本翻译插件节点负责调用华为云文本翻译API，实现从源语言到目标语言的翻译过程。插件将翻译结果返回，传递给结束节点。 大模型节点：如果用户的意图属于“其他”意图分支（如
流程。pipeline编排流程可以基于python代码实现，也可以人工模拟每一步的执行情况。检索模块可以使用Elastic Search来搭建，也可以利用外部web搜索引擎。在初步验证大模型效果时，可以假设检索出的文档完全相关，将其与query及特定prompt模板拼接后输入模型，观察输出是否符合预期。
与其他服务的关系 与对象存储服务的关系 盘古大模型使用对象存储服务（Object Storage Service，简称OBS）存储数据和模型，实现安全、高可靠和低成本的存储需求。 与ModelArts服务的关系 盘古大模型使用ModelArts服务进行算法训练部署，帮助用户快速创建和部署模型。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
