检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
2TiB的倍数,扩容步长需要大于等于1.2TiB,需要将目标容量换算为GiB后需要向下取整。如4.8TiB->4915GiB,8.4TiB->8601GiB。 40MB/s/TiB,容量范围是1228~1048576 GiB。容量必须为1.2TiB的倍数,扩容步长需要大于等于1.2Ti
每个接口的请求消息体内容不同,也并不是每个接口都需要有请求消息体(或者说消息体为空),GET、DELETE操作类型的接口就不需要消息体,消息体具体内容需要根据具体接口而定。 对于获取用户Token接口,您可以从接口的请求部分看到所需的请求参数及参数说明。将消息体加入后的请求如下所示,加粗的斜体字段需要根据实际值填写
登录高性能弹性文件服务管理控制台。 在SFS Turbo文件系统列表中,单击需要扩容的SFS Turbo文件系统所在行的“扩容”,进入“扩容”页面。 图2 按需计费的SFS Turbo文件系统扩容 根据业务需要,输入目标容量。参数说明请参考表1。 单击“确定”,在文件系统列表中查看文件系统调整后的容量信息。
DSS和弹性云服务器 ECS。需要配置的角色/策略如下: IAM用户设置了SFS Turbo FullAccess权限后,权限集中包含了VPC FullAccess,这是创建文件系统所需要的权限,用户不需额外添加VPC FullAccess 系统策略。 如果需要创建包年包月文件系统,需要设置BSS Administrator权限。
当您在联动目录创建一些文件,或者对从OBS导入的文件进行修改后,需要将这些文件存储到OBS桶里,可以使用数据导出功能。数据导出支持指定前缀,只有满足指定前缀的目录和文件才会被导出到OBS桶里。 在绑定OBS桶之后,单击“更多>导出”选项。 图6 数据导出 “导出文件前缀”请填写需要导出的目录和文件前缀(路径不包含
用户本地数据中心如果没有DNS服务器,需要将连接DNS服务的终端节点的节点IP增加到用户本地数据中心节点的/etc/resolv.conf文件中。 “xxxxxx-xxxxxx-xxxxxx-xxxxxx-xxxxxx.sfsturbo.internal”表示需要访问的云上SFS Turbo的域名。
单个资源设为自动续费:选择需要开通自动续费的SFS Turbo资源,单击操作列“设为自动续费”。 图3 单个资源设为自动续费 批量资源设为自动续费:选择需要开通自动续费的SFS Turbo资源,单击列表左上角的“设为自动续费”。 图4 多个资源设为自动续费 选择续费时长,并根据需要设置自动续费次数,单击“开通”。
获得操作API的权限。Token可通过调用获取用户Token接口获取。 调用本服务API需要项目级别的Token,即调用获取用户Token接口时,请求body中auth.scope的取值需要选择project,如下所示。 { "auth": { "identity":
SFS Turbo数据迁移实践 SFS Turbo数据迁移实践方案概述 通过云专线迁移数据至SFS Turbo(rclone工具) 通过跨服务器迁移数据至SFS Turbo(rclone工具) 通过云专线迁移数据至SFS Turbo(rsync工具) 文件系统之间迁移数据
创建增强型的文件系统,包括标准型-增强版和性能型-增强版,需要填写"bandwidth"。 创建20MB/s/TiB、40MB/s/TiB、125MB/s/TiB、250MB/s/TiB、500MB/s/TiB、1000MB/s/TiB文件系统,需要填写"hpc"。 创建HPC缓存型,需要填写"hpc_cache"。
文件系统之间迁移数据 方案概述 用户可以将SFS容量型文件系统中的数据迁移至SFS Turbo文件系统中,也可以将SFS Turbo文件系统中的数据迁移至SFS容量型文件系统中,进行云上业务拓展。 此方案通过创建一台Linux操作系统的云服务器,来连接SFS容量型文件系统和SFS
配置SFS Turbo数据淘汰策略 SFS Turbo HPC型文件系统绑定OBS后端之后,建议配置缓存数据淘汰功能。SFS Turbo会自动释放设定时间内没有访问过的文件数据内容,仅保留文件元数据,数据内容释放后不占用SFS Turbo文件系统上的存储空间,再次访问该文件时,将重新从OBS中加载文件数据内容。
的费用计算过程,请参见计费样例。 续费 包年/包月高性能弹性文件服务在到期后会影响文件系统的正常运行。如果您想继续使用高性能弹性文件服务,需要在规定的时间内为高性能弹性文件服务进行续费,否则文件系统相关资源将会自动释放,数据也可能会丢失。续费包括手动续费和自动续费两种方式,您可以
Turbo备份状态的数据内容相同。 通过备份创建SFS Turbo新文件系统,只能创建按需计费的文件系统,创建不了包年/包月文件系统。如果需要创建包年/包月文件系统,可以先创建按需的实例,创建完成后,通过按需转包周期的选项转成包年/包月计费模式的文件系统。 登录云备份管理控制台。
security_group_id 是 String 需要修改的目标安全组ID。 响应参数 状态码: 202 表5 响应Body参数 参数 参数类型 描述 id String SFS Turbo文件系统ID。 请求示例 修改文件系统绑定的安全组,需要修改的目标安全组ID为“26f6b565-
TiB及以上的存储类型。 ModelArts:AI开发平台,采用多机多卡分布式训练。 VPC:虚拟私有云和子网。 算法及数据:准备AI训练需要的算法及数据集,如Swin-Transformer算法,及ImageNet21K数据集。 说明: 为了提供最佳加速性能,建议SFS Turbo
删除数据导入导出任务 功能介绍 删除数据导入导出任务 接口约束 该接口仅适用于SFS Turbo 20MB/s/TiB、40MB/s/TiB、125MB/s/TiB、250MB/s/TiB、500MB/s/TiB、1000MB/s/TiB文件系统 调试 您可以在API Explo
SFS Turbo数据迁移实践方案概述 SFS Turbo默认只能被云上同一个VPC内的ECS/CCE访问,用户可通过云专线/VPN/对等连接等方式打通网络,实现多种访问方式。 云下或其他云访问: 云专线/VPN 云上同区域同一账号不同VPC: VPC对等连接 云上同区域跨账号访问:
据。当您的文件系统出现故障或文件系统中的数据发生逻辑错误等时,可快速使用备份恢复数据。 支持区域: 全部 备份 加密 当您由于业务需求从而需要对存储在文件系统的数据进行加密时,SFS Turbo为您提供加密功能,可以对新创建的文件系统进行加密。 支持区域: 全部 文件系统加密 扩容
时与模型大小、存储的IO性能等密切相关,往往需要几分钟到几十分钟不等,为了保证训练状态的一致性,保存checkpoint时训练必须暂停,保存时间影响了训练过程的整体效率。当发生故障,训练程序从已有checkpoint恢复时,每张卡都需要从持久化存储中加载,在训练集群规模较大,存储