检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
支持区域： 西南-贵阳一 使用能力调测与盘古NLP大模型进行对话问答 应用百宝箱 应用百宝箱是盘古大模型为用户提供的便捷AI应用集，用户可在其中使用盘古大模型预置的场景应用和外部应用，轻松体验大模型开箱即用的强大能力。 支持区域： 西南-贵阳一 体验盘古驱动的应用百宝箱
与ModelArts服务的关系 盘古大模型使用ModelArts服务进行算法训练部署，帮助用户快速创建和部署模型。 与云搜索服务的关系 盘古大模型使用云搜索服务CSS，加入检索模块，提高模型回复的准确性、解决内容过期问题。
准备工作 申请试用盘古大模型服务 创建并管理盘古工作空间 配置服务访问授权 04 AI一站式流程 通过一站式流程，完成从数据集准备、模型训练、压缩、部署到调用和迁移，全面掌握盘古大模型的开发过程。
不同模型在预训练、微调、模型评估、模型压缩和在线推理等方面的支持程度各不相同，开发者应根据自身需求选择合适的模型。
产品优势 海量训练数据 盘古大模型依托海量且多样化的训练数据，涵盖从日常对话到专业领域的广泛内容，帮助模型更好地理解和生成自然语言文本，适用于多个领域的业务应用。这些数据不仅丰富多样，还为模型提供了深度和广度的语言学习基础，使其能够生成更加自然、准确且符合语境的文本。
因此，为了能够正常的存储数据、训练模型，需要用户配置盘古访问OBS的权限。 使用主账号登录盘古大模型套件平台。 在左侧菜单选择“平台管理 > 授权管理”，单击右上角“一键授权”进行授权。 图1 一键授权 父主题： 准备工作
该套件具备模型管理、训练、评估、压缩、部署、推理和迁移等功能，支持模型的自动化评估，确保模型的高性能和可靠性。通过高效的推理性能和跨平台迁移工具，模型开发套件能够保障模型在不同环境中的高效应用。 应用开发套件 应用开发套件是盘古大模型平台的关键模块，支持提示词工程和AI助手创建。
训练服务的费用按实际消耗的Token数量计算，即实际消耗的Token数量乘以Token的单价。为了帮助用户更好地管理和优化Token消耗，平台提供了Token计算器工具。Token计算器可以帮助用户在模型训练前评估文本的Token数量，提供费用预估，并优化数据预处理策略。
盘古-NLP-N2单场景模型-32K 32768 基于NLP-N2-基模型训练的单场景模型，可支持选择一个场景进行推理，如：搜索RAG方案等，具有32K上下文能力。 基于盘古大模型打造的专业大模型包括BI专业大模型与单场景大模型，支持模型推理，但不支持模型训练。
如果不订购推理资产，可以使用订购的盘古模型进行训练，但无法部署训练后的模型。 登录盘古大模型套件平台。 在服务“总览”页面，单击“立即购买”，平台将为您提交购买权限申请。
如果指标低是由于提示词（prompt）设置不合理，可以通过在模型训练阶段扩大训练集和验证集来优化模型，从而改善评估结果。另外，还可以将评估数据集设计得更接近训练集的数据，以提升评估结果的准确性。 父主题： 评估盘古大模型
Prompt工程人员 具备总览、应用百宝箱、服务管理、能力调测、数据工程（提示用例管理）、应用开发（提示词工程、提示词管理、工具管理、AI助手、知识库管理、应用开发SDK）、平台管理（权限管理）功能的使用权限。
大模型概念类问题 大模型是什么 大模型的计量单位token指的是什么 大模型是否可以自定义人设 盘古自然语言大模型的适用场景有哪些 大模型的安全性需要从哪些方面展开评估和防护 训练智能客服系统大模型需要考虑哪些方面
启用盘古大模型搜索增强能力 大模型在训练时使用的是静态的文本数据集，这些数据集通常是包含了截止到某一时间点的所有数据。因此，对于该时间点之后的信息，大模型可能无法提供。 通过将大模型与盘古搜索结合，可以有效解决数据的时效性问题。
每一段需要准确完整的语义，符合主流价值观，并且文本中不能存在异常字符、分行异常等影响模型训练的问题。问题和答案需要匹配，且不能有空值。 当前仅支持对NLP大模型进行模型评估操作。 父主题： 评估盘古大模型
“提示词撰写” 和“提示工程”有什么区别 提示词撰写实际上是构建一些问答对数据，用于模型的训练，会更新模型参数，而提示工程不涉及模型训练，仅通过提示词的优化来达到提升模型输出效果的目标。
边缘资源池创建步骤 当前仅支持预置模型（盘古-NLP-N2-基础功能模型）和基于N2的模型（盘古-NLP-N2-基模型、盘古-NLP-N2-基础功能模型、盘古-NLP-N2-SQL模型、盘古-NLP-N2-Agent模型、盘古-NLP-N2-Code模型）经有监督微调（SFT）训练后的用户模型进行边缘部署
Agent（智能代理） Agent（智能代理），用于对复杂任务的自动拆解与外部工具调用执行，一般包括任务规划、记忆系统、执行系统： 任务规划：将复杂目标任务分解为小的可执行子任务，通过评估、自我反思等方式提升规划成功率。 记忆系统：通过构建记忆模块去管理历史任务和策略，并让Agent
Agent（智能代理） Agent（智能代理），用于对复杂任务的自动拆解与外部工具调用执行，一般包括任务规划、记忆系统和执行系统。 任务规划：将复杂目标任务分解为小的可执行子任务，通过评估、自我反思等方式提升规划成功率。 记忆系统：通过构建记忆模块去管理历史任务和策略，并让Agent
- √ 应用百宝箱 - - - √ √ 服务管理 √ √ - √ √ 能力调测 √ √ - √ √ 数据工程-数据管理 - √ - - √ 数据工程-数据清洗 - √ - - √ 数据工程-提示用例管理 - - - √ √ 模型开发-模型管理 - √ - - √ 模型开发-模型训练
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
