检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
基本配置 配置ModelArts和SFS Turbo间网络直通 配置SFS Turbo和OBS联动 配置SFS Turbo数据自动导出到OBS桶 配置SFS Turbo数据淘汰策略 父主题: 实施步骤
管理文件系统 查看文件系统 删除文件系统
令访问弹性文件服务,检测是否可以连通。如图1所示。 是 => 网络问题已解决,排查其他可能原因。 否 => 由于网络问题,使用云服务器虚拟IP无法访问弹性文件服务,需使用私有IP执行ping命令访问弹性文件服务再检测是否可以连通。 图1 执行ping命令访问弹性文件服务 原因5:访问文件系统使用的DNS错误。
选择服务所在区域。 选择“存储 > 弹性文件服务”,进入弹性文件服务管理控制台。 为保证您正常使用SFS服务,建议您先充值购买弹性文件服务。购买方式,请参见如何购买弹性文件服务?。 创建SFS容量型文件系统 在左侧导航栏,选择“SFS容量型”。在页面右上角单击“创建文件系统”。
已创建/mnt/src和/mnt/dst的目录 操作步骤 登录弹性云服务器管理控制台。 登录已创建好的Linux系统云服务器,用于同时访问SFS容量型文件系统和SFS Turbo文件系统。 输入以下挂载命令,用于访问文件系统1。文件系统1可以是SFS容量型文件系统或SFS Turbo文件系统。 mount -t nfs
HPC性能不足时,需要通过容量扩容来提高性能吞吐。 OBS性能监控 您可以在CES云监控服务上监控SFS Turbo关联的OBS桶的性能使用情况,SFS Turbo和OBS之间的数据导入导出速度会受OBS服务的读写带宽上限QoS影响,默认是16Gbit/s,如果导入导出速度受到OBS读写带宽上限影响,可提交
在文件系统中存放的单个文件最大支持多少? SFS容量型文件系统支持存放最大为240TB的单个文件。 SFS Turbo文件系统支持存放最大为320TB的单个文件。 通用文件系统支持存放最大为240TB的单个文件。 父主题: 规格类
et21K数据集。 说明: 为了提供最佳加速性能,建议SFS Turbo HPC文件系统和ModelArts资源池就近选择在同一个Region的同一个可用区(AZ)。 成本规划 OBS费用:详见OBS计费说明。 SFS Turbo费用:详见SFS计费说明。 ModelArts费用:详见ModelArts计费说明。
什么是弹性文件服务? 弹性文件服务(Scalable File Service,SFS)提供按需扩展的高性能文件存储,支持同时为多个弹性云服务器(Elastic Cloud Server, ECS)提供文件共享服务。弹性文件服务提供标准的文件访问协议,用户可以将现有应用和工具与弹性文件服务无缝集成。
弹性文件服务数据迁移 方案概述 通过云专线迁移(rclone工具) 跨服务器迁移(rclone工具) 通过云专线迁移(rsync工具) 文件系统之间迁移数据 SFS容量型文件系统迁移至其他文件系统
创建文件系统 操作场景 文件系统是SFS中存储文件的容器。您需要先创建一个文件系统,然后才能在SFS中存储数据。 下面介绍如何调用创建文件系统API在指定的区域创建一个文件系统,API的调用方法请参见如何调用通用文件系统API。 前提条件 已获取AK和SK,获取方法参见获取访问密钥(AK/SK)。
创建训练任务 基于SFS Turbo共享文件存储创建ModelArts训练任务。 登录ModelArts管理控制台。 在左侧导航栏中选择“训练管理 > 训练作业”,进入“训练作业”列表。 单击右上角的“创建训练作业”,进入“创建训练作业”页面,在该页面填写训练作业相关参数信息。
Turbo HPC型文件系统绑定OBS后端之后,建议配置缓存数据淘汰功能。SFS Turbo会自动释放设定时间内没有访问过的文件数据内容,仅保留文件元数据,数据内容释放后不占用SFS Turbo文件系统上的存储空间,再次访问该文件时,将重新从OBS中加载文件数据内容。 登录SFS管理控制台。
同一SFS容量型文件系统不能同时支持NFS协议和CIFS协议。 裸金属服务器、容器(CCE&CCI)操作与云服务器一致。 前提条件 已完成创建文件系统,并获取到文件系统的挂载地址。 存在至少一台与文件系统所属VPC相同的云服务器。 云服务器(ECS)上已配置了用于内网解析文件系统域名的
获取文件系统列表 功能介绍 获取文件系统列表 URI GET / 请求参数 表1 请求Header参数 参数 是否必选 参数类型 描述 x-obs-bucket-type 是 String 通过此消息头明确获取的列表内容。 取值: SFS:获取所有文件系统列表。 枚举值: SFS
支持文件系统挂载的操作系统 已通过兼容性测试的操作系统如表1所示。 表1 支持文件系统挂载的操作系统列表 类型 版本范围 SFS容量型文件系统 通用文件系统 SFS Turbo文件系统 CentOS CentOS 5,6,7 for x86 √ √ √ Debian Debian
Cloud Server,ECS),容器(CCE&CCI),裸金属服务器(BMS)提供共享访问。 支持区域: 全部 什么是弹性文件服务? 云图说:初识弹性文件服务 视频:弹性文件服务SFS服务介绍 OBS 2.0支持SFS容量型 最大带宽:2GB/s 最高IOPS:2K 时延:3~20ms
transfers:传输文件的并发数目。 checkers:扫描本地文件的并发数目。 P:数据拷贝进度。 等待数据完成同步后,可前往目标SFS Turbo文件系统查看是否已成功迁移。 验证 登录已创建好的Linux系统云服务器。 在目的端服务器执行以下命令,验证文件同步情况。 cd /mnt/dst
标准存储量 通用文件系统标准存储的存储总量。 说明: 通用文件系统展示该字段。 标准存储文件数 通用文件系统标准存储的文件数量。 说明: 通用文件系统展示该字段。 低频存储量 通用文件系统低频存储的存储总量。 说明: 通用文件系统展示该字段。 低频存储文件数 通用文件系统低频存储的文件数量。
如何提高SFS Turbo文件系统拷贝和删除操作的效率? Linux常用cp、rm、tar命令,默认属于串行操作,无法发挥网络文件系统的并发优势,需要用户并发执行以上命令,提升执行效率。 父主题: 其他类