检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
操作流程 本文档介绍面向AI场景如何使用OBS+SFS Turbo的存储加速,流程如图1所示。 图1 面向AI场景使用OBS+SFS Turbo的存储加速方案步骤 表1 面向AI场景使用OBS+SFS Turbo的存储加速流程说明 序号 步骤 说明 1 规划组网和资源 此步骤请提交工单联系技术支持人员进行支撑配置。
等资源划分成多个集群。一个region中的多个AZ间通过高速光纤相连,以满足用户跨AZ构建高可用性系统的需求。 企业项目 企业项目是项目的升级版,针对企业不同项目间资源的分组和管理,是逻辑隔离。企业项目中可以包含多个区域的资源,且项目中的资源可以迁入迁出。关于企业项目ID的获取及
与上传时使用的密钥不匹配,将会抛出错误。解密成功后,SDK 将会使用解密后的数据密钥与初始值解密对象并返回。 加密客户端与普通客户端的接口变更 CryptoObsClient 继承自 ObsClient,除下表所列举的接口外,其他接口均与 ObsClient 保持一致。 表1 接口名
并行文件系统相关接口(Harmony SDK) 并行文件系统(Parallel File System)是对象存储服务(Object Storage Service,OBS)提供的一种经过优化的高性能文件系统,提供毫秒级别访问时延,TB/s级别带宽和百万级别的IOPS,能够快速处理高性能计算(HPC)工作负载。
列举桶内对象 使用SDK Java Python C Go BrowserJS .NET Android iOS PHP Node.js 使用命令行工具obsutil 命令结构: Windows操作系统 obsutil ls obs://bucket[/prefix] [-s] [-d][-fs]
最佳实践 拖拽上传 目录分享 后台运行 定时上传 上传/下载性能优化
实施步骤 获取OBS SDK开发包和IAM SDK开发包。 OBS SDK请在SDK开发指南中获取。 IAM SDK开发包请在IAM开发工具包获取。 模拟应用服务器向IAM请求临时安全凭证和返回安全凭证。 过程如下: 获取用户的IAM用户Token。 API请参见获取IAM用户
资源和成本规划 本节介绍最佳实践中资源规划情况,包含以下内容: 表1 资源和成本规划内容说明 维度 说明 资源规划 OBS:存放训练数据集、预训练模型等数据资源的桶,桶存储类别为“标准存储”,桶策略为“私有”。 SFS Turbo:文件系统类型为“HPC型”,存储类型请根据存储容
使用OBS SDK Java Python C Go BrowserJS .NET Android iOS PHP Node.js 使用图形化工具OBS Browser+ 登录OBS Browser+。 选中待配置的桶,单击“更多 > 生命周期规则”,如图2所示。 图2 生命周期规则
创建自定义策略 OBS自定义策略样例 示例1:给用户授予OBS的所有权限 此策略表示用户可以对OBS进行任何操作,使用方式包括API、SDK、控制台及工具。 由于用户登录OBS控制台时,会访问一些其他服务的资源,如CTS审计信息,CDN加速域名,KMS密钥等。因此除了配置OBS的权限外,还需
对象的加密状态。桶的加密配置会成为对象默认的加密配置,但对象仍可自定义加密配置。 桶更改加密配置时,仅影响更改后上传对象的默认配置,不会改变更改前已有对象的加密配置。 桶关闭加密时,不会影响桶中已有对象的加密状态,但后续上传对象不再进行强制加密,如有需要可在上传对象时进行单独加密。
Flume对接OBS 概述 Flume是一个分布式的、可靠的和高可用的服务,用于收集、聚合以及移动大量日志数据,具体请参见Apache Flume。OBS在大数据场景中可以替代Hadoop系统中的HDFS服务。 注意事项 多sink写同一文件 OBS和HDFS在一致性保证上是有差
并行文件系统约束限制 操作限制 不支持将已有的OBS桶修改为并行文件系统,创建并行文件系统方法请参见创建并行文件系统。 不支持控制台设置并行文件系统的自定义域名,API设置方法参见设置自定义域名。 功能限制 暂不支持通过图片处理特性对存放在并行文件系统中的图片进行瘦身、缩放、添加水印等操作。
对象的加密状态。桶的加密配置会成为对象默认的加密配置,但对象仍可自定义加密配置。 桶更改加密配置时,仅影响更改后上传对象的默认配置,不会改变更改前已有对象的加密配置。 桶关闭加密时,不会影响桶中已有对象的加密状态,但后续上传对象不再进行强制加密,如有需要可在上传对象时进行单独加密。
关于更多参数配置请参见创建桶。 参数 示例 描述 区域 华北-北京四 桶所属区域。请选择靠近您业务的区域,以降低网络时延,提高访问速度。 桶创建成功后,不支持变更区域,请谨慎选择。 须知: 目标桶和源桶必须在同一区域。 桶名称 piccomp 桶的名称。桶创建成功后,不支持修改名称。 桶名称命名规则如下:
对象的加密状态。桶的加密配置会成为对象默认的加密配置,但对象仍可自定义加密配置。 桶更改加密配置时,仅影响更改后上传对象的默认配置,不会改变更改前已有对象的加密配置。 桶关闭加密时,不会影响桶中已有对象的加密状态,但后续上传对象不再进行强制加密,如有需要可在上传对象时进行单独加密。
责任共担 华为云秉承“将公司对网络和业务安全性保障的责任置于公司的商业利益之上”。针对层出不穷的云安全挑战和无孔不入的云安全威胁与攻击,华为云在遵从法律法规业界标准的基础上,以安全生态圈为护城河,依托华为独有的软硬件优势,构建面向不同区域和行业的完善云服务安全保障体系。 安全性是华为云与您的共同责任,如图1所示。
桶 桶(Bucket)是OBS中存储对象的容器。对象存储提供了基于桶和对象的扁平化存储方式,桶中的所有对象都处于同一逻辑层级,去除了文件系统中的多层级树形目录结构。 每个桶都有自己的存储类别、访问权限、所属区域等属性,用户可以在不同区域创建不同存储类别和访问权限的桶,并配置更多高级属性来满足不同场景的存储诉求。
配置OBS客户端 开发过程中,您有任何问题可以在github上提交issue,或者在华为云对象存储服务论坛中发帖求助。接口参考文档详细介绍了每个接口的参数和使用方法。 您可通过初始化参数对ObsClient进行配置,可以配置的参数见下表: 参数 描述 建议值 key 访问密钥中的AK。
配置OBS客户端(Node.js SDK) 开发过程中,您有任何问题可以在github上提交issue,或者在华为云对象存储服务论坛中发帖求助。 您可通过初始化参数对ObsClient进行配置,可以配置的参数见下表: 参数 描述 建议值 access_key_id 访问密钥中的AK。