SFS Turbo文件系统-华为云

弹性文件服务 SFS-存储联动:绑定OBS桶

绑定OBS桶登录高性能弹性文件服务管理控制台。在文件系统列表中，单击创建的文件系统名称，进入文件系统详情页面。进入“绑定后端存储”页签，单击“绑定OBS桶”。图1 绑定OBS桶在右侧弹窗“绑定OBS桶”中，填写如下参数。表1 参数说明参数含义限制配置后可编辑联动目录名称 SFS Turbo文件系统根目录下会以该名称创建一个子目录，该目录将绑定对应的OBS桶，且该目录名称不能和已有目录重名。子目录名称不能重复，子目录名称长度不能超过255个字符。子目录名称必须是文件系统根目录下不存在的目录名。子目录名称不能是“.”或“..”。不支持桶名 OBS存储桶桶名。无法绑定不存在的存储桶。目前仅支持OBS存储桶，不支持OBS并行文件系统。不支持 OBS区域域名 OBS区域域名，即OBS的终端节点。 OBS存储桶必须和SFS Turbo文件系统在同一个Region。不支持自动导出打开开关后，当文件系统发生数据更新时，将自动导出到OBS桶。 - 支持导出数据打开“自动导出”开关，则会出现该参数。选择导出到OBS桶的数据更新类型“新增数据”、“修改数据”或“删除数据”后，SFS Turbo会以异步方式导出到OBS。新增数据：SFS Turbo联动目录下创建的文件，及之后对这些文件进行的元数据和数据修改，会被自动同步到OBS桶里。修改数据：从OBS桶里导入到SFS Turbo联动目录下的文件，在SFS Turbo上对这些文件所进行的数据和元数据的修改，会被自动同步到OBS桶里。删除数据：在SFS Turbo联动目录下删除文件，OBS桶对应的对象也会被删除，只有被SFS Turbo写入的OBS对象才会被删除。 - 支持勾选“将OBS桶的读写权限通过桶策略授权给SFS Turbo云服务”，并单击“确定”，完成绑定。如果您想指定导入目录和文件的权限，请参考《高性能弹性文件服务API参考》的“绑定后端存储”和“更新后端存储属性”执行操作。目前仅支持OBS存储桶，不支持OBS并行文件系统。绑定OBS桶时，会在OBS桶上添加Sid为“PolicyAddedBySFSTurbo”的桶策略，请不要修改或删除该桶策略，否则可能导致联动功能异常。如果您已将一个或多个SFS Turbo文件系统绑定了OBS存储桶，在删除文件系统或删除绑定之前，请不要删除该OBS存储桶，否则可能导致联动功能异常。以桶名为“obs-test”的OBS桶为例，桶策略“PolicyAddedBySFSTurbo”的内容如下所示： { "Statement": [ { "Sid": "PolicyAddedBySFSTurbo", "Effect": "Allow", "Principal": { "ID": [ "domain/xxx:user/xxx" ] }, "Action": [ "ListBucket", "HeadBucket", "GetBucketStorage", "GetBucketPolicy", "GetBucketAcl", "GetBucketNotification", "GetBucketQuota", "GetObject", "PutObject", "DeleteObject", "GetObjectAcl", "PutObjectAcl", "ModifyObjectMetaData" ], "Resource": [ "obs-test", "obs-test/*" ] } ] }

弹性文件服务 SFS SFS Turbo文件系统

弹性文件服务 SFS-存储联动:FAQ

FAQ 什么情况下会发生数据淘汰? 从OBS导入到SFS Turbo的文件，当文件在设定数据淘汰时间内没有被访问时，会自动对该文件进行淘汰。在SFS Turbo上创建的文件，只有已经导出到OBS并且满足数据淘汰时间，才会进行淘汰，如果还没有导出到OBS，则不会淘汰。数据淘汰之后，怎么重新将数据导入到SFS Turbo文件系统？对文件进行读写操作时会重新从OBS桶加载文件数据到SFS Turbo文件系统；使用数据导入功能重新将数据从OBS桶加载到SFS Turbo文件系统。什么场景下会发生数据导入失败？当只导入了文件元数据，或者SFS Turbo中发生了数据淘汰，SFS Turbo中只剩下文件元数据，但OBS桶中的对象又被删除时，进行数据导入或访问文件内容时会发生失败。导入/导出任务是同步的，还是异步的？是异步的，任务提交后马上返回，您可以通过任务id查询异步任务完成状态。删除SFS Turbo联动目录内的文件，OBS桶里对应的对象会删除吗？不会。如果没有开启自动同步策略，则不会。如果开启了自动同步策略，则会删除。 SFS Turbo绑定OBS桶时或者绑定之后可以指定导入目录和文件的权限吗？一般情况下，您可以指定导入目录和文件的权限。如果无法指定，请提交工单申请。指定权限详情如下所示：绑定OBS桶时或绑定OBS桶后，支持设置导入目录和文件的默认权限，请参考《高性能弹性文件服务API参考》的“绑定后端存储”和“更新后端存储属性”章节。如果未设置，默认为750（目录权限）和640（文件权限）。元数据导入（快速导入）和数据导入时，支持指定导入目录和文件的权限，请参考《高性能弹性文件服务API参考》的“创建数据导入导出任务”章节。如果未指定，则以上述默认权限为准。历史版本导入目录和文件的默认权限为755（目录权限）和644（文件权限），现逐步按区域切换为750（目录权限）和640（文件权限），如有疑问，请提交工单咨询。 SFS Turbo绑定OBS桶时或者绑定之后，建议指定导入目录和文件的默认权限。如果您未指定，非root用户无权限访问对应的目录和文件。

弹性文件服务 SFS SFS Turbo文件系统

弹性文件服务 SFS-存储联动:元数据导入功能

元数据导入功能 SFS Turbo文件系统绑定OBS桶后，可以使用元数据导入功能。当您使用SFS Turbo文件系统访问OBS桶的数据时，您需要使用元数据导入功能提前将OBS数据文件的元数据（名称、大小、最后修改时间）导入到SFS Turbo文件系统中。只有元数据导入之后，您才可以在文件系统的联动子目录中去访问OBS存储桶中的数据。元数据导入功能仅会导入文件元数据，文件内容会在首次访问时从OBS存储桶中加载并缓存在SFS Turbo中，后续重复访问会直接命中，无需再从OBS存储桶中加载。 SFS Turbo文件系统提供快速导入和附加元数据导入两种元数据导入方式。元数据导入之后，您可以在联动子目录下看到导入的目录和文件列表。快速导入：当您绑定的OBS桶中存储的数据不是来源于SFS Turbo导出时，可以选择快速导入方式，快速导入方式仅会导入OBS的元数据（名称、大小、最后修改时间），不会导入其它附加元数据（如uid、gid、mode），SFS Turbo会生成默认的附加元数据（uid、gid、目录权限、文件权限），如果您想指定导入目录和文件的权限，请参考《高性能弹性文件服务API参考》的“创建数据导入导出任务”章节，该操作仅针对本次导入任务生效。快速导入能够提供更快的元数据导入性能，推荐您使用快速导入。附加元数据导入：当您绑定的OBS桶中存储的数据是来源于SFS Turbo导出时，可以使用附加元数据导入方式，附加元数据导入方式会导入OBS的元数据（名称、大小、最后修改时间）以及来源于SFS Turbo导出时的附加元数据（如uid、gid、mode）。如果没有来源于SFS Turbo的附加元数据则以指定导入目录和文件的权限为准。在绑定OBS桶之后，单击“元数据导入”选项。图4 元数据导入 “导入前缀”请填写绑定OBS桶内对象的前缀，可以具体到某个对象名。如果要导入整个OBS桶内的所有对象，则不用填写。勾选“附加元数据导入”将会采用附加元数据导入方式，不勾选“附加元数据导入”将采用快速导入方式。单击“确定”，提交导入任务。在OBS数据导入到SFS Turbo之后，如果OBS桶中的数据发生新增或修改，需要重新导入到SFS Turbo中。不支持长度大于255字节的文件名或子目录名。

弹性文件服务 SFS SFS Turbo文件系统

弹性文件服务 SFS-存储联动:数据导入功能

数据导入功能 SFS Turbo文件系统绑定OBS桶后，可以使用数据导入功能。默认情况下，元数据导入完成后，数据不会导入到SFS Turbo文件系统中，初次访问会按需从OBS中加载数据，对文件的第一次读取操作可能耗时较长。如果您的业务对时延比较敏感，并且您知道业务需要访问哪些目录和文件，比如AI训练等场景涉及海量小文件，对时延比较敏感，可以选择提前导入指定目录和文件。数据导入功能会同时导入元数据和数据内容，元数据将会采用快速导入方式，不会导入其他附加元数据（如uid、gid、mode），如果您想指定导入目录和文件的权限，请参考《高性能弹性文件服务API参考》的“创建数据导入导出任务”章节，该操作仅针对本次导入任务生效。在绑定OBS桶之后，单击“数据导入”选项。图5 数据导入 “对象路径”请填写绑定OBS桶内对象的路径（不包含桶名）。 OBS桶中的对象路径（不包含桶名），目录需以“/”结尾。如果要导入OBS桶内所有对象，则不用填写对象路径。SFS Turbo会将数据导入到联动目录下，且联动目录下的文件路径和OBS桶里的对象路径保持一致。对象路径示例（“/mnt/sfs_turbo”为您的挂载目录，“output-1”为您的联动目录名称）：如对象路径为dir/，则会导入到“/mnt/sfs_turbo/output-1/dir” 如对象路径为dir/file, 则会导入到“/mnt/sfs_turbo/output-1/dir/file” 如对象路径为空，则会直接导入到“/mnt/sfs_turbo/output-1” 单击“确定”，提交导入任务。在OBS数据导入到SFS Turbo之后，如果OBS桶中的数据发生新增或修改，需要重新导入到SFS Turbo中。通过API使用数据导入功能的具体操作请参考创建SFSTurbo 和 OBS 之间的联动任务。不支持长度大于255字节的文件名或子目录名。

弹性文件服务 SFS SFS Turbo文件系统

弹性文件服务 SFS-存储联动:数据淘汰功能

数据淘汰功能 SFS Turbo文件系统绑定OBS桶之后，可以使用数据淘汰功能。淘汰时会释放数据内容，仅保留元数据，释放后不占用SFS Turbo文件系统上的存储空间。再次访问该文件时，将重新从OBS中加载文件数据内容。按时间淘汰 SFS Turbo文件系统绑定OBS桶之后，支持数据按时间淘汰功能。设定时间内没有被访问过的文件会被淘汰。按时间淘汰功能支持设置（冷）数据淘汰时间，设置步骤请参考以下操作。登录高性能弹性文件服务管理控制台。在文件系统列表中，单击创建的SFS Turbo文件系统名称，进入文件系统详情页面。在“基本信息”页签，设置（冷）数据淘汰时间。图7 设置冷数据淘汰时间按容量淘汰 SFS Turbo文件系统绑定OBS桶后，支持数据按容量淘汰功能。容量达到95%及以上按照30分钟淘汰时间进行淘汰，淘汰至容量低于85%。淘汰规则：按时间淘汰和按容量淘汰哪个先达到就先按哪个淘汰。数据淘汰默认开启，淘汰时间默认为60小时。设置（冷）数据淘汰时间的API请参考更新文件系统。如果SFS Turbo文件系统存储空间写满，会影响业务运行，建议在云监控服务 CES上配置SFS Turbo已用容量的监控告警。当触发容量阈值告警时请手动缩短数据淘汰时间，例如从60小时配置成40小时，加速（冷）数据淘汰，或者对SFS Turbo存储空间进行扩容。

弹性文件服务 SFS SFS Turbo文件系统

弹性文件服务 SFS-存储联动:概述

概述 AI训练和推理、高性能数据预处理、EDA、渲染、仿真等场景下，您可以通过SFS Turbo文件系统来加速OBS对象存储中的数据访问。SFS Turbo文件系统支持无缝访问存储在OBS对象存储桶中的对象。您可以指定SFS Turbo内的目录与OBS对象存储桶进行关联，然后通过创建导入导出任务实现数据同步。您可以在上层训练等任务开始前将OBS对象存储桶中的数据提前导入到SFS Turbo中，加速对OBS对象存储中的数据访问；上层任务产生的中间和结果等数据可以直接高速写入到SFS Turbo缓存中，中间缓存数据可被下游业务环节继续读取并处理，结果数据可以异步方式导出到关联的OBS对象存储中进行长期低成本存储。同时，您还可以配置缓存数据淘汰功能，及时将长期未访问的数据从SFS Turbo缓存中淘汰，释放SFS Turbo高性能缓存空间。

弹性文件服务 SFS SFS Turbo文件系统

弹性文件服务 SFS-存储联动:使用限制

使用限制支持存储联动的SFS Turbo文件系统规格有：20MB/s/TiB、40MB/s/TiB、125MB/s/TiB、250MB/s/TiB、500MB/s/TiB、1000MB/s/TiB。 SFS Turbo目录和OBS配置联动后不支持以下操作：硬链接、重命名和目录配额。单个SFS Turbo文件系统最多可配置16个OBS联动目录。创建 OBS 后端存储库，依赖的服务是对象存储服务 OBS。用户需要额外配置OBS Adminstrator权限。同一层目录下不允许同样名称的文件和目录存在。不支持超长路径，数据流动支持的路径最大长度是1023字符。数据流动导入时，不支持长度大于255字节的文件名或子目录名。开启WORM策略的OBS桶，只能从OBS桶导入数据到SFS Turbo，无法从SFS Turbo导出数据到OBS桶。

弹性文件服务 SFS SFS Turbo文件系统

弹性文件服务 SFS-目录配额:使用限制

使用限制当前仅20MB/s/TiB、40MB/s/TiB、125MB/s/TiB、250MB/s/TiB、500MB/s/TiB、1000MB/s/TiB规格文件系统支持目录级配额。只能对空目录设置配额，删除配额。支持设置配额的最大目录深度为16层，不允许对根目录使用此功能。（注：根目录为第一层目录）修改目录配额时，配额只能高于或等于已使用配额，不允许子目录配额高于父目录配额。建议设置配额目录深度不超过3层，否则会出现修改类操作性能下降，性能下降幅度与配额目录深度有关。不允许跨配额目录创建硬链接、rename操作。图1 跨配额目录跨配额目录操作为图1 跨配额目录红线所示，会穿过黑色虚线。配额目录： D1，D2_0。目录深度：根目录/往下到当前目录的层数，例如，目录/D1/D2_0/D3_1深度为4。配额目录深度：当前目录不断往上找，穿过黑色矩形虚线的层数。例如，目录/D1/D2_0/D3_1配额目录深度为2。红线与绿线：mv或者link操作，绿色表示允许操作，红色表示不允许操作。虚线矩形：配额目录区域。

弹性文件服务 SFS SFS Turbo文件系统

高性能弹性文件服务 SFS TURBO-查询SFS Turbo审计事件:使用限制

使用限制单账号跟踪的事件可以通过云审计控制台查询。多账号的事件只能在账号自己的事件列表页面去查看，或者到组织追踪器配置的OBS桶中查看，也可以到组织追踪器配置的 CTS /system日志流下面去查看。用户通过云审计控制台只能查询最近7天的操作记录。如果需要查询超过7天的操作记录，您必须配置转储到对象存储服务(OBS)或云日志服务(LTS)，才可在OBS桶或LTS日志组里面查看历史事件信息。否则，您将无法追溯7天以前的操作记录。云上操作后，1分钟内可以通过云审计控制台查询管理类事件操作记录，5分钟后才可通过云审计控制台查询数据类事件操作记录。

高性能弹性文件服务 SFS TURBO 使用CTS审计SFS Turbo文件系统

高性能弹性文件服务 SFS TURBO-目录配额:使用限制

使用限制当前仅20MB/s/TiB、40MB/s/TiB、125MB/s/TiB、250MB/s/TiB、500MB/s/TiB、1000MB/s/TiB规格文件系统支持目录级配额。只能对空目录设置配额，删除配额。支持设置配额的最大目录深度为16层，不允许对根目录使用此功能。（注：根目录为第一层目录）修改目录配额时，配额只能高于或等于已使用配额，不允许子目录配额高于父目录配额。建议设置配额目录深度不超过3层，否则会出现修改类操作性能下降，性能下降幅度与配额目录深度有关。不允许跨配额目录创建硬链接、rename操作。图1 跨配额目录跨配额目录操作为图1 跨配额目录红线所示，会穿过黑色虚线。配额目录： D1，D2_0。目录深度：根目录/往下到当前目录的层数，例如，目录/D1/D2_0/D3_1深度为4。配额目录深度：当前目录不断往上找，穿过黑色矩形虚线的层数。例如，目录/D1/D2_0/D3_1配额目录深度为2。红线与绿线：mv或者link操作，绿色表示允许操作，红色表示不允许操作。虚线矩形：配额目录区域。

高性能弹性文件服务 SFS TURBO 文件系统管理

高性能弹性文件服务 SFS TURBO-监控指标说明:监控指标

监控指标表1 高性能弹性文件服务支持的监控指标指标ID 指标名称指标含义取值范围测量对象监控周期（原始指标） client_connections 客户端连接数该指标用于统计测量客户端连接数。说明：连接数统计的是活跃的客户端链接。如果客户端长时间无 IO，网络链接会自动断开，当有 IO 时客户端会自动重新建立网络链接。 ≥ 0 高性能弹性文件服务 1分钟 data_read_io_bytes 读带宽该指标用于测量读I/O负载。单位：byte/s ≥ 0 bytes/s 高性能弹性文件服务 1分钟 data_write_io_bytes 写带宽该指标用于测量写I/O负载。单位：byte/s ≥ 0 bytes/s 高性能弹性文件服务 1分钟 metadata_io_bytes 元数据读写带宽该指标用于测量元数据读写I/O负载。单位：byte/s ≥ 0 bytes/s 高性能弹性文件服务 1分钟 total_io_bytes 总带宽该指标用于测量总I/O负载。单位：byte/s ≥ 0 bytes/s 高性能弹性文件服务 1分钟 iops IOPS 该指标用于测量单位时间内处理的I/O数。 ≥ 0 高性能弹性文件服务 1分钟 used_capacity 已用容量该指标用于统计文件系统已用容量。单位：byte ≥ 0 bytes 高性能弹性文件服务 1分钟 used_capacity_percent 容量使用率该指标用于统计文件系统已用容量占总容量的比例。单位：百分比 0 - 100% 高性能弹性文件服务 1分钟 used_inode 已用inode数该指标用于统计文件系统已用inode数 ≥ 1 高性能弹性文件服务 1分钟 used_inode_percent inode使用率该指标用于统计文件系统已用inode数占总inode数的比率。单位：百分比 0 - 100% 高性能弹性文件服务 1分钟

高性能弹性文件服务 SFS TURBO 使用CES监控SFS Turbo文件系统

高性能弹性文件服务 SFS TURBO-配置hpc缓存型后端信息:响应参数

响应参数状态码： 200 表7 响应Header参数参数参数类型描述 X-request-id String 请求ID 状态码： 400 表8 响应Header参数参数参数类型描述 X-request-id String 请求ID 表9 响应Body参数参数参数类型描述 errCode String 错误码 errMsg String 错误描述状态码： 500 表10 响应Header参数参数参数类型描述 X-request-id String 请求ID 表11 响应Body参数参数参数类型描述 errCode String 错误码 errMsg String 错误描述

高性能弹性文件服务 SFS TURBO 文件系统管理

高性能弹性文件服务 SFS TURBO-配置hpc缓存型后端信息:请求示例

请求示例配置hpc缓存型后端信息，冷数据淘汰时间是100小时，后端校验时间是60秒。配置Nas后端信息，nas 配置 ip是“192.168.xx.xx:/”，nas 配置协议类型是“NFS”。 { "update_hpc_cache" : { "action" : "initialize_overlay", "data" : { "gc_time" : 100, "ck_time" : 60, "nas" : [ { "name" : "abc", "type" : "NFS", "url" : "192.168.xx.xx:/" } ] } } }

高性能弹性文件服务 SFS TURBO 文件系统管理

高性能弹性文件服务 SFS TURBO-配置hpc缓存型后端信息:请求参数

请求参数表2 请求Header参数参数是否必选参数类型描述 X-Auth-Token 是 String 账号的token Content-Type 是 String MIME类型表3 请求Body参数参数是否必选参数类型描述 update_hpc_cache 是 ReqUpdateHpcCacheInfo object 后端挂载信息表4 ReqUpdateHpcCacheInfo 参数是否必选参数类型描述 action 是 String 配置hpc缓存型的动作，如initialize_overlay data 是 ReqUpdateHpcCacheData object hpc 缓存型后端配置信息表5 ReqUpdateHpcCacheData 参数是否必选参数类型描述 gc_time 是 Long 冷数据淘汰时间。单位：小时。指定时间内线上缓存的数据如果没有被访问则会自动从缓存中删除。0表示数据不会因为时间原因自动从缓存中删除。 ck_time 是 Long 后端校验时间。单位：秒。指定时间间隔进行线上缓存文件与后端存储文件比较，存在变化则自动更新。0表示文件进行实时校验。 nas 否 Array of ConfigNasTarget objects 配置 nas 后端的信息表6 ConfigNasTarget 参数是否必选参数类型描述 name 是 String nas 配置名 type 是 String nas 配置协议类型 url 是 String nas 配置 ip

高性能弹性文件服务 SFS TURBO 文件系统管理

云服务器内容精选

SFS Turbo文件系统

7*24

备案

专业服务

退订

建议反馈

售前咨询热线