检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
http/https提供文件下载业务的网站、工具下载、游戏客户端、APP商店等。 通过OBS提供音视频点播业务的应用或服务。例如:在线教育类网站、在线视频分享网站、互联网电视点播平台、音乐视频点播APP等。 约束与限制 只有桶版本号为3.0及以上的桶支持此方案。桶版本号可以在OB
单击“复制链接”,并将该链接分享给其他用户,用户可以在浏览器中通过此链接直接访问该对象。 通过浏览器访问对象,会强制下载对象,如果您希望被分享人可以在线预览对象,请参见如何在浏览器中在线预览OBS中的对象? 单击“复制路径”,并将该路径分享给拥有对象所在桶权限的用户,用户可以在对应桶的对象列表页中部的对象搜
资源和成本规划 本节介绍最佳实践中资源规划情况,包含以下内容: 表1 资源和成本规划内容说明 维度 说明 资源规划 OBS:存放训练数据集、预训练模型等数据资源的桶,桶存储类别为“标准存储”,桶策略为“私有”。 SFS Turbo:文件系统类型为“HPC型”,存储类型请根据存储容
适用数据量 要求 耗时 费用 OBS工具方式(在线) 不高于1TB的数据量 要求用户公网带宽空闲,需要人工操作客户端或脚本启动数据上传 家用100Mbps带宽,1TB耗时1天左右 数据传输不收取费用,仅OBS收取基本的存储费用 CDM方式(在线) 单次小于8TB的数据量 需要用户单独购买CDM服务
实施步骤 创建资源 基本配置 训练 例行维护 父主题: 面向AI场景使用OBS+SFS Turbo的存储加速实践
Turbo和OBS联动。 配置SFS Turbo数据自动导出到OBS桶。 配置SFS Turbo数据淘汰策略。 4 训练 上传数据至OBS并预热到SFS Turbo中。 创建训练任务。 5 例行运维 使用OBS+SFS Turbo的存储加速方案的过程中,您可以进行采取以下运维措施,保证系统正常高效运行:
问题现象 在OBS控制台配置自定义域名开启CDN加速后,或在CDN控制台配置“源站类型”为“OBS桶域名”的加速域名后,访问OBS桶中对象无法在线预览,变成强制下载。 解决方案 该问题有以下两种解决方案。 方案一: 登录CDN控制台的“域名管理”界面,在相应域名的“高级配置”中添加“
Turbo文件系统的性能使用情况。当AI算力集群规模变大,大模型参数量变大,导致Checkpoint读加载时间变长时,或训练数据集加载由于存储读写带宽不足导致拖慢AI训练时,您可以对SFS Turbo进行性能扩容,以缩短数据加载时长。详情可参见SFS Turbo监控指标说明和创建告警规则。
桶之后,快速将已有桶的配置信息复制到新桶中。 支持复制的桶配置信息包括: 桶策略 CORS规则 生命周期规则 数据回源规则 图片处理样式 在线解压规则 Data+事件触发器 约束与限制 从源桶复制配置信息的操作为增量复制,不会删除当前桶已存在的配置信息,与已存在的配置信息冲突的规则不会复制。
操作指导请参考创建OBS桶。 创建ModelArts资源池 以常见的专属资源池为例,专属资源池提供独享的计算资源,可用于Notebook、训练作业、部署模型。专属资源池不与其他用户共享,更加高效。在使用专属资源池之前,您需要先创建一个专属资源池,操作指导请参考创建专属资源池。 父主题:
验,建议使用1280*1024或更高分辨率的显示设备。 您可以通过单击页面右上角的图标,单击“关于”查看客户端的当前版本信息,也可以单击“在线帮助”查看帮助文档。 父主题: OBS Browser介绍
删除桶归档对象直读策略 设置镜像回源规则 获取镜像回源规则 删除镜像回源规则 设置DIS通知策略 获取DIS通知策略 删除DIS通知策略 设置在线解压策略 获取在线解压策略 删除在线解压策略 配置桶级默认WORM策略 获取桶级默认WORM策略 父主题: API
单击“复制链接”,并将该链接分享给其他用户,用户可以在浏览器中通过此链接直接访问该对象。 通过浏览器访问对象,会强制下载对象,如果您希望被分享人可以在线预览对象,请参见如何在浏览器中在线预览OBS中的对象? 单击“复制路径”,并将该路径分享给拥有对象所在桶权限的用户,用户可以在对应桶的对象列表页中部的对象搜
基于安全合规要求,华为云对象存储服务OBS禁止通过OBS的默认域名(桶访问域名或静态网站访问域名)在线预览桶内对象,即使用上述域名从浏览器访问桶内对象(如视频、图片、网页等)时,不会显示对象内容,而是以附件形式下载。 设置在线预览请参见如何在浏览器中在线预览OBS中的对象。 当前联邦子账号不支持在console界面创建style,如需创建请使用主账号。
对象管理 对象概述 上传 下载对象 使用单链接限速限制下载流量 在线预览对象 管理对象 删除对象 管理文件夹
数据处理 图片处理 Data+ 在线解压
作,不需下载占用空间巨大的本地图片处理软件即可直接在线对图片进行处理。 例如,可以随时随地在线对在云相册中的图片进行效果、缩略设置后,即刻在线将图片分享给好友、同事等。 需要频繁访问图片数据的购物网站等,可以使用图片处理对图片在线进行简单操作后,使用CDN加速,后续请求可以直接从CDN下载,提高访问效率。
配置ModelArts网络关联SFS Turbo ModelArts网络关联SFS Turbo后,可直接在ModelArts的Notebook开发及训练环境中挂载SFS Turbo共享文件系统,并访问其中的数据。 登录ModelArts管理控制台,创建网络并打通创建资源中创建的创建虚拟私有
构建基于OBS的存储业务。 表1 OBS最佳实践一览表 最佳实践 说明 面向AI场景使用OBS+SFS Turbo的存储加速实践 针对AI训练场景中面临的问题,华为云提供了基于对象存储服务OBS+高性能文件服务SFS Turbo的AI云存储解决方案。华为云高性能文件服务SFS Turbo
Administrator权限后才能删除DIS通知策略 设置在线解压策略 对象存储服务 OBS 需要增加Tenant Administrator权限后才能设置在线解压策略 获取在线解压策略 对象存储服务 OBS 需要增加Tenant Administrator权限后才能获取在线解压策略 删除在线解压策略 对象存储服务