检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
查看NLP大模型部署任务详情 部署任务创建成功后，可以在“模型开发 > 模型部署”页面查看模型的部署状态。 当状态依次显示为“初始化 > 部署中 > 运行中”时，表示模型已成功部署，可以进行调用。 此过程可能需要较长时间，请耐心等待。在此过程中，可单击模型名称可进入详情页，查看模
部署NLP大模型 创建NLP大模型部署任务 查看NLP大模型部署任务详情 管理NLP大模型部署任务 父主题： 开发盘古NLP大模型
进入应用详情页面。 图1 填写应用名称与应用描述 图2 创建应用 配置Prompt builder，详见配置Prompt builder。 配置插件，详见配置插件。 配置知识，详见配置知识。 配置对话，详见配置开场白和推荐问题。 调试Agent应用，详见调试Agent应用。 A
使用盘古大模型服务前，需要进行一系列准备工作，确保您能够顺利使用盘古大模型服务。 准备工作 申请试用盘古大模型服务 配置服务访问授权 创建并管理盘古工作空间 04 AI一站式流程 通过一站式流程，完成从数据集准备、模型训练、压缩、部署到调用，全面掌握盘古大模型的开发过程。同时，结合应用开发的提示词工程、Agent应
部署科学计算大模型 创建科学计算大模型部署任务 查看科学计算大模型部署任务详情 管理科学计算大模型部署任务 父主题： 开发盘古科学计算大模型
查看科学计算大模型部署任务详情 部署任务创建成功后，可以在“模型开发 > 模型部署”页面查看模型的部署状态。 当状态依次显示为“初始化 > 部署中 > 运行中”时，表示模型已成功部署，可以进行调用。 此过程可能需要较长时间，请耐心等待。在此过程中，可单击模型名称可进入详情页，查看
手工编排Agent应用 手工编排Agent应用流程 配置Prompt builder 配置插件 配置知识 配置开场白和推荐问题 调试Agent应用 父主题： 开发盘古大模型Agent应用
支持您添加或去除新的高空层次，训练任务会根据您配置的高空层次对模型重新进行训练。 高空变量 设置训练数据的高空变量信息，在“预训练”的场景中也支持您添加或去除新的高空变量，选择后会在变量权重中增加或去除该变量权重，训练任务会根据您配置的高空变量对模型重新进行训练。 表面变量 设置
申请试用盘古大模型服务 盘古大模型为用户提供了服务试用，需提交试用申请，申请通过后试用盘古大模型服务。 登录ModelArts Studio大模型开发平台首页。 在首页单击“试用咨询”，申请试用盘古大模型服务。 图1 申请试用 父主题： 准备工作
准备工作 申请试用盘古大模型服务 配置服务访问授权 创建并管理盘古工作空间
获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的请求URI。 图1 部署后的模型调用路径 若调用预置模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“预置服务”页
可以查看到调用链中该组件的输入和输出。 此外，平台支持配置构建应用所需的NLP大模型参数。 单击应用右上角的，打开大模型参数配置页面。配置参数见表1，完成大模型参数配置。 表1 大模型参数配置 参数 说明 模型选择 选择要使用的LLM，不同的模型效果存在差异。 模式选择 用于配置大模型的输出多样性。 包含取值：
获取模型请求URI。 若调用部署后的模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“我的服务”页签，模型部署列表单击模型名称，在“详情”页签中，可获取模型的请求URI。 图1 部署后的模型调用路径 若调用预置模型，可在左侧导航栏中选择“模型开发 > 模型部署”，在“预置服务”页
小，适当的数据批量大小能够确保训练各个阶段都能充分利用计算资源，提升并行效率。 数据配置 训练数据 选择训练模型所需的数据集。要求数据集经过发布操作，发布数据集操作方法请参见发布数据集。 资源配置 计费模式 选择训练模型所需的训练单元。 当前展示的完成本次训练所需要的最低训练单元要求。
压缩NLP大模型 模型在部署前，通过模型压缩可以降低推理显存占用，节省推理资源提高推理性能。当前仅支持对NLP大模型进行压缩。采用的压缩方式是INT8，INT8量化压缩可以显著减小模型的存储大小，降低功耗，并提高计算速度。 登录ModelArts Studio大模型开发平台，进入所需操作空间。
提供从模型创建到部署的一站式解决方案。 该工具链具备模型训练、部署、推理等功能，通过高效的推理性能和跨平台迁移工具，模型开发工具链能够保障模型在不同环境中的高效应用。 支持区域： 西南-贵阳一 开发盘古NLP大模型 开发盘古科学计算大模型 压缩盘古大模型 部署盘古大模型 调用盘古大模型
图3 创建加工数据集 单击“下一步”进入“算子编排”页面。对于视频类数据集，可选择的加工算子及参数配置请参见表1。 在左侧“添加算子”模块勾选所需算子。 在右侧“加工步骤编排”页面配置各算子的参数，可通过右侧按钮，拖拽算子的上下顺序来调整算子在加工任务流中的执行顺序。 算子编排过程
针对“零码”开发者（无代码开发经验），平台提供了Prompt智能生成、插件自定义等能力，方便用户快速构建、调优、运行属于自己的大模型应用，仅需几步简单的配置即可创建属于自己的Agent应用。 对于“低码”开发者（有一定代码开发经验），可以通过工作流方式，适当编写一定代码，来构建逻辑复杂、且有较
图3 创建加工数据集 单击“下一步”进入“算子编排”页面。对于气象类数据集，可选择的加工算子及参数配置请参见表1。 在左侧“添加算子”模块勾选所需算子。 在右侧“加工步骤编排”页面配置各算子的参数，可通过右侧按钮，拖拽算子的上下顺序来调整算子在加工任务流中的执行顺序。 算子编排过程
图3 创建加工数据集 单击“下一步”进入“算子编排”页面。对于图片类数据集，可选择的加工算子及参数配置请参见表1、表2。 在左侧“添加算子”模块勾选所需算子。 在右侧“加工步骤编排”页面配置各算子的参数，可通过右侧按钮，拖拽算子的上下顺序来调整算子在加工任务流中的执行顺序。 算子编排
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
