检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
微调典型问题 科学计算大模型微调典型问题见表1。 表1 科学计算大模型微调典型问题 问题 可能原因 解决方法 预训练或微调作业失败,提示训练集数据不足。 训练集选取时间区段是否不足。 训练集选择的时间区段需要至少超过模型分辨率对应时长。 预训练或微调作业失败,提示验证集数据不足。
API访问控制策略不生效怎么办 问题描述 您已设置API访问控制策略,但是不满足策略要求的IAM用户仍然可以通过API访问华为云。 解决方法 可能原因:您已设置的API访问控制策略暂未生效。 解决方法:API访问控制策略应用后,将在2小时内生效,请耐心等待。 可能原因:API访问
查询推理作业详情 功能介绍 根据创建推理作业的作业ID获取科学计算大模型的结果数据。 URI 获取URI方式请参见请求URI。 GET /tasks/{task_id} 调用查询推理作业详情API所需要的域名与创建推理作业API一致,可以参考创建推理作业获取。获取完整的创建推理作
设置网络防御策略(VPC网络模型集群) VPC网络模型的集群支持通过设置网络防御策略限制访问容器宿主服务器的流量。当未配置安全组规则时,默认所有进出容器宿主服务器的流量都被允许。 本章节介绍如何为VPC网络模型的集群设置网络防御策略。 创建网络防御策略 登录管理控制台。 在页面左
本章节将主要描述生产环境内部区域间的访问控制策略,基于上文提到的两个原则,给出网络ACL及安全组的设置建议(开发测试环境较为特殊,为了保证IDC内用户对该区资源的访问效率以及网络灵活性,相比生产环境,内部采用稍弱的访问控制策略,详见第2节)。 安全策略 如图2 生产环境子网、网络AC
区域中期海洋智能预测模型部署参数说明 参数分类 部署参数 参数说明 部署配置 模型来源 选择“盘古大模型” 模型类型 选择“科学计算大模型”。 场景 本案例中选择“区域中期海洋智能预测”。 部署模型 从资产中选择需要部署的模型。 部署区域中期海洋智能预测服务需要同时选择“区域中期海洋智能预测”和“全球中期海洋智能预测”两个模型。
录保护及登录验证策略。 访问控制 对企业中的员工设置不同的AOM访问权限,以达到不同员工之间的权限隔离,使用统一身份认证服务(Identity and Access Management,简称IAM)进行精细的权限管理。该服务提供用户身份认证、权限分配、访问控制等功能,可以帮助您
调度策略 如何让多个Pod均匀部署到各个节点上? 如何避免节点上的某个容器被驱逐? 为什么Pod在节点不是均匀分布? 如何驱逐节点上的所有Pod? 如何查看Pod是否使用CPU绑核? 节点关机后Pod不重新调度 如何避免非GPU/NPU负载调度到GPU/NPU节点? 为什么Pod调度不到某个节点上?
单击“新建”,进入新建行级访问控制策略页面,参数配置参考表1。 图2 新建行级访问控制策略参数配置 创建行级访问控制策略参数配置说明: 表1 配置策略参数 参数名 参数说明 *策略名称 行级访问控制策略的标识,同一个数据表上不能有同名的行访问控制策略。 为便于策略管理,建议名称中标明要控制的对象和内容规则。
查询推理作业详情 功能介绍 根据创建推理作业的作业ID获取科学计算大模型的结果数据。 URI 获取URI方式请参见请求URI。 GET /tasks/{task_id} 调用查询推理作业详情API所需要的域名与创建推理作业API一致,可以参考创建推理作业获取。获取完整的创建推理作
修改账号控制台访问策略 功能介绍 该接口可以用于管理员修改账号控制台访问策略,策略修改后将对账号下所有IAM用户和联邦用户(SP方式)生效。 该接口可以使用全局区域的Endpoint和其他区域的Endpoint调用。IAM的Endpoint请参见:地区和终端节点。 调试 您可以在API
调优典型问题 科学计算大模型调优典型问题见表1。 表1 科学计算大模型调优典型问题 问题 可能原因 解决方法 预训练或微调作业失败,提示训练集数据不足。 训练集选取时间区段是否不足。 训练集选择的时间区段需要至少超过模型分辨率对应时长。 预训练或微调作业失败,提示验证集数据不足。
盘古科学计算大模型调优实践 模型调优方法介绍 数据预处理优化 训练参数优化 评估模型效果 调优典型问题 父主题: 模型调优实践
服务的访问控制 SFS对接了IAM服务,支持给企业中的员工设置不同的访问权限功能,以达到不同员工之间的权限隔离,用户可以通过IAM服务进行精细化的资源管控。详情请参见SFS的权限策略。 SFS支持通过IAM权限进行访问控制。 表1 SFS访问控制 访问控制方式 简要说明 详细介绍
String 通过名字搜索Model,支持模糊查询。 id 否 String 通过模型ID检索,32~36位的英文、数字、中划线(-)组合。获取方法,请参见获取模型ID。 type 否 String 通过模型类型检索。 visibility 否 String 可见性检索的参数,可选值为:
在任一备份页面,找到目标存储库,单击“更多 > 绑定备份策略”或“更多 > 绑定复制策略”。如图1所示。 图1 设置备份策略 可以在下拉列表中选择已经存在的策略。也可以创建新的策略。创建策略操作请参考创建存储库备份策略和创建存储库复制策略。 策略绑定成功后,可以前往存储库详情界面“策略”一栏查看绑定详情。 父主题:
参数 参数类型 描述 id String 自定义安全安全策略的id。 project_id String 自定义安全策略的项目id。 name String 自定义安全策略的名称 description String 自定义安全策略的描述。 listeners Array of ListenerRef
选择资源配置,可选择开启订阅提醒,填写名称与描述,单击“立即创建”完成科学计算大模型微调训练任务创建。 创建好训练任务后,页面将返回“模型训练”页面,可随时查看当前任务的状态。单击模型名称,可在“训练结果”页签中查看模型训练指标,以评估模型训练效果,各指标说明见表2。 表2 模型效果评估指标说明 指标名称 说明 Loss
大模型推理场景介绍 常见的大模型包括大语言模型、多模态大模型、文生图大模型等,其中大语言模型支持文本生成,可以根据用户输入的提示词(prompt)进行推理,可广泛应用于以下领域: 问答系统:大语言模型可以处理自然语言,理解用户的意图,回答用户提出的问题。 内容生产:大语言模型可以
模型训练 硬盘故障检测模板会预置模型训练工程,无需关注,下面会提供端到端的操作流程,帮助用户快速熟悉模型训练界面操作。 单击菜单栏中的“模型训练”,进入模型训练首页。 可以看到预置的“hardisk_detect”模型训练工程,这是硬盘故障检测模板预置的模型训练工程,本次不使用。