检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
操作流程 本文档介绍面向AI场景如何使用OBS+SFS Turbo的存储加速,流程如图1所示。 图1 面向AI场景使用OBS+SFS Turbo的存储加速方案步骤 表1 面向AI场景使用OBS+SFS Turbo的存储加速流程说明 序号 步骤 说明 1 规划组网和资源 此步骤请提交工单联系技术支持人员进行支撑配置。
常见问题 可以只使用SFS Turbo HPC型文件系统支撑AI训练吗? 当数据规模较小,不存在冷热数据分级降本诉求,又希望能方便快捷的构建AI训练系统时,可以选择只使用SFS Turbo高性能文件存储支撑AI训练。 可以基于OBS对象存储支撑AI自动驾驶、大模型训练吗? OBS
如何使对象可以被匿名用户访问?(Java SDK) 如果想让对象被匿名用户访问,可通过以下三步完成。 参考设置对象ACL章节,设置对象的访问权限为公共读。 参考如何获取对象URL章节,获取对象的URL提供给匿名用户。 匿名用户通过浏览器打开获取的URL,可访问到该对象。 父主题:
获取桶的跨区域复制配置 功能介绍 获取指定桶的复制配置信息。执行该配置操作前需要确保执行者拥有GetReplicationConfiguration权限。 请求消息样式 1 2 3 4 GET /?replication HTTP/1.1 Host: bucketname.obs
删除桶的跨区域复制配置 功能介绍 删除桶的复制配置。执行该配置操作前需要确保执行者拥有DeleteReplicationConfiguration权限。 请求消息样式 1 2 3 4 DELETE /?replication HTTP/1.1 Host: bucketname.obs
为桶的CDN加速域名配置自动刷新策略 使用场景 CDN加速功能将存储在OBS中的数据缓存到终端用户附近的CDN节点上,让身处各地的终端用户都可以快速访问存储在OBS中的数据。当用户需要更新OBS中存储的数据时,CDN中缓存的过时数据也需要进行更新,可以使用CDN自动刷新功能来自动
每个桶支持创建多少个图片样式? 每个桶最多支持创建100个样式。 OBS提供两种不同的方法创建图片样式: 通过控制台处理图片 通过接口处理图片 父主题: 图片处理
OBS如何保证我的数据不会被盗用? 只有桶或对象的拥有者才能访问,访问时需要提供访问密钥(AK/SK),并且还有ACL、桶策略、防盗链等多种访问控制机制保证数据的访问安全。 父主题: 数据安全、迁移和备份
获取桶存储类别(Node.js SDK) 功能介绍 OBS提供了这几种存储类别:标准存储、低频访问存储、归档存储、深度归档存储(受限公测中),从而满足客户业务对存储性能、成本的不同诉求,详情可参见OBS存储类别存储类别存储类别。 调用获取桶存储类别接口,可获取指定桶的存储类别。 接口约束
列举桶内多版本对象(Harmony SDK) 功能介绍 用列举桶内对象接口,可列举指定桶内的部分或所有多版本对象的描述信息。您还可以通过设置前缀、数量、起始位置等参数,返回符合您筛选条件的多版本对象信息。以多版本对象名的字典序排序。 接口约束 您必须是桶拥有者或拥有列举桶内多版本
列举分段上传任务(Harmony SDK) 功能说明 列举指定桶中所有初始化后还未合并或还未取消的分段上传任务。 通过列举桶中的多段上传任务,您可以获得已初始化多段上传任务的列表,已初始化多段上传任务是指初始化后还未合并以及未取消的多段上传任务。每个请求将返回最多1000个多段上
列举已上传的段(Harmony SDK) 功能说明 通过分段上传任务的ID,列举指定桶中已上传的段。 您可以列出特定多段上传任务或所有正在进行的多段上传任务的分段。列举已上传的段操作将返回您已为特定多段上传任务而上传的段信息。对于每个列举已上传的段请求,OBS将返回有关特定多段上
删除桶的自定义域名 功能介绍 OBS使用DELETE操作来删除桶的自定义域名。 请求消息样式 1 2 3 4 5 6 DELETE /?customdomain=domainname HTTP/1.1 User-Agent: curl/7.29.0 Host: bucketname
OBS会不会扫描我的数据用于其他用途? 不会。 系统对数据做的扫描仅限于判断数据块是否存在和被损坏(如有损坏,会启动修复),不会读取具体的内容。 父主题: 数据安全、迁移和备份
资源包是否必须购买?是否能指定给具体的桶使用? 资源包并不是必须要购买的,即使您没有购买也可以使用OBS服务,此时计费模式采用按需计费。但是购买资源包后,资源包可以抵扣使用OBS所产生的费用,相比不购买资源包采用按需计费的方式更优惠,因此推荐您按实际业务购买对应的资源包。 当前资
如何对OBS桶下面的文件夹进行权限控制? 可以创建自定义桶策略,允许对指定的对象前缀配置需要的权限,即通过对象前缀来控制指定的文件夹。 例如:配置前缀为abc/,则表示所配置权限对文件夹abc生效。 具体配置请参考自定义创建桶策略(可视化视图)。 父主题: 权限相关
如何使对象可以被匿名用户访问?(Harmony SDK) 如果想对象可以被匿名用户,可通过以下三步完成。 参考设置对象元数据(Harmony SDK)章节,设置对象的访问权限为公共读。 参考如何获取对象URL章节,获取对象的URL提供给匿名用户。 匿名用户通过浏览器打开获取的URL,可访问到该对象。
资源和成本规划 本节介绍最佳实践中资源规划情况,包含以下内容: 表1 资源和成本规划内容说明 维度 说明 资源规划 OBS:存放训练数据集、预训练模型等数据资源的桶,桶存储类别为“标准存储”,桶策略为“私有”。 SFS Turbo:文件系统类型为“HPC型”,存储类型请根据存储容
训练 上传数据至OBS并预热到SFS Turbo中 创建训练任务 父主题: 实施步骤
获取桶的自定义域名 功能介绍 OBS使用GET操作来获取桶的自定义域名。 请求消息样式 1 2 3 4 5 6 GET /?customdomain HTTP/1.1 User-Agent: curl/7.29.0 Host: bucketname.obs.cn-north-4.myhuaweicloud