检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
</dependency> Python 使用pip安装。 #回显Successfully installed xxx表示安装成功 # 安装核心库 pip install huaweicloudsdkcore # 安装盘古服务库 pip install huaweicloudsdkpangulargemodels
Token计算器 功能介绍 为了帮助用户更好地管理和优化Token消耗，平台提供了Token计算器工具。Token计算器可以帮助用户在模型推理前评估文本的Token数量，提供费用预估，并优化数据预处理策略。 URI POST /v1/{project_id}/deployment
0/24为集群内网IP网段（登录主控节点，使用hdactl info命令查看IP地址。比如查得IP地址为172.16.0.22，可配置为172.16.0.0/24网段）。 其中， /var/docker/hilens：网盘根目录路径。 192.168.0.0/24：客户端IP范围，表示IP在192
词应该包含任务或领域的关键信息，如主题、风格、格式等。 撰写提示词时，可以设置提示词变量。即在提示词中通过添加占位符{{ }}标识表示一些动态的信息，让模型根据不同的情况生成不同的文本，增加模型的灵活性和适应性。例如，将提示词设置为“你是一个旅游助手，需要给用户介绍旅行地的风土人
以使用较大的训练轮数，反之可以使用较小的训练轮数。 如果您没有专业的调优经验，可以优先使用平台提供的默认值，再结合训练过程中模型的收敛情况动态调整。 数据批量大小（batch_size） >=1 4/8 数据批量大小是指对数据集进行分批读取训练时，所设定的每个批次数据大小。批量大
用中，为了更好观察是哪个参数对结果造成的影响，因此不建议同时调整这两个参数。 如果您没有专业的调优经验，可以优先使用建议，再结合推理的效果动态调整。 核采样（top_p） 0~1 1 核采样主要用于控制模型输出的多样性。核采样值越大，输出的多样性越高；核采样值越小，输出结果越可以被预测，确定性相对也就越高。
参数 说明 URI-scheme 传输请求的协议，当前所有API均采用HTTPS协议。 Endpoint 承载REST服务端点的服务器域名或IP。 resource-path 资源路径，即API访问路径。从具体API的URI模块获取。 query-string 查询参数，可选，查询
内容安全：通过预训练和强化学习价值观提示（prompt），构建正向的意识形态。通过内容审核模块过滤违法及违背社会道德的有害信息。 模型安全：通过模型动态混淆技术，使模型在运行过程中保持混淆状态，有效防止结构信息和权重信息在被窃取后暴露。 系统安全：通过网络隔离、身份认证和鉴权、Web安全等
小学习率，避免后期学习率过大。建议动态调整学习率，使用自适应优化器，如Adam、AdamW、RMSprop等，这些优化器可以自动调整学习率。 如果您没有专业的调优经验，可以优先使用ModelArts Studio平台的默认值，再结合损失曲线动态调整。 父主题： 盘古科学计算大模型调优实践
结合上下文信息 利用上下文信息优化提示词：在生成提示词时，可以结合当前任务的上下文信息，使提示词更具针对性。 动态调整提示词：在任务执行过程中，可以根据模型的反馈和输出，动态调整提示词，以引导模型生成更符合预期的结果。 提示词优化实例 假设我们从事智能家居行业想要生成一篇关于“人工
以使用较大的训练轮数，反之可以使用较小的训练轮数。 如果您没有专业的调优经验，可以优先使用平台提供的默认值，再结合训练过程中模型的收敛情况动态调整。 数据批量大小（batch_size） >=1 4/8 数据批量大小是指对数据集进行分批读取训练时，所设定的每个批次数据大小。批量大
请注意，温度和核采样的作用相近，在实际使用中，为了更好观察是哪个参数对结果造成的影响，不建议同时调整这两个参数。 如果您没有专业的调优经验，可以优先使用建议，再结合推理的效果动态调整。 核采样（top_p） 0~1 1 核采样主要用于控制模型输出的多样性。核采样值越大，输出的多样性越高；核采样值越小，输出结果越可以被预测，确定性相对也就越高。
创建提示词评估数据集 批量评估提示词效果前，需要先上传提示词变量数据文件用于创建对应的评估数据集。 提示词变量是一种可以在文本生成中动态替换的占位符，用于根据不同的场景或用户输入生成不同的内容。其中，变量名称可以是任意的文字，用于描述变量的含义或作用。 提示词评估数据集约束限制 上传文件限xlsx格式。
Reset Content 重置内容，服务器处理成功。 206 Partial Content 服务器成功处理了部分GET请求。 300 Multiple Choices 多种选择。请求的资源可包括多个位置，相应可返回一个资源特征与地址的列表用于用户终端（例如：浏览器）选择。 301 Moved
如果学习率过大，模型可能无法收敛。 如果学习率过小，模型的收敛速度将变得非常慢。 学习率调整策略 用于选择学习率调度器的类型。学习率调度器可以在训练过程中动态地调整学习率，以改善模型的训练效果。目前支持CosineDecayLR调度器。 变量权重 变量权重 训练数据设置完成后，会显示出各变量以及
预训练时，默认值为：0.00001，范围为[0, 0.001]。 学习率调整策略 用于选择学习率调度器的类型。学习率调度器可以在训练过程中动态地调整学习率，以改善模型的训练效果。目前支持CosineDecayLR调度器。 变量权重 2米温度 海表面2m温度 (℃)的权重设置。训练
表高度、有效波高等指标。不同模型的指标以页面展示为准。 深海变量 用于描述海洋深层的物理和化学特性，这些参数在海洋模型中用于模拟海洋内部的动态和状态。包括海温、海盐、海流径向速率、海流纬向速率等。 输出设置 用于选择是否输出图片结果。 海洋类预测场景的参数配置示例如下： 图3 调测科学计算大模型示例（海洋类预测）
高模型在该领域的表现。 语言和地域分布 ：对于多语言模型，调整不同语言和地域数据的比例，以确保模型在各语言上的性能一致。根据目标应用场景，动态调整训练数据的语言分布。例如，该模型常用于中文语言场景，则可以适当调大中文数据比例。 父主题： 盘古NLP大模型调优实践
策略信息 策略名称 拥有细粒度权限/Action 权限描述 Pangu OBSWriteOnly obs:object:AbortMultipartUpload obs:object:DeleteObject obs:object:DeleteObjectVersion obs:object:PutObject
Pangu-AI4S-Weather_Precip-20241030 - - - - √ √ Pangu-AI4S-Weather-Precip_6h-3.0.0 - - - - √ √ Pangu-AI4S-Weather-Precip_6h-3.1.0 - - - - √ √
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
