检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
支持的大数据组件简介 在华为云大数据存算分离方案中,OBS除了可以与大数据平台对接外,还可以直接与开源的大数据组件对接。 当前支持的大数据组件如下: Hadoop Hive Spark Flume DataX Druid Flink logstash 父主题: 对接大数据组件
型请根据存储容量和性能需求选择,AI场景建议选择250MB/s/TiB及以上的存储类型。 ModelArts:AI开发平台,采用多机多卡分布式训练。 VPC:虚拟私有云和子网。 算法及数据:准备AI训练需要的算法及数据集,如Swin-Transformer算法,及ImageNet21K数据集。
获取桶存量信息接口,支持按照存储类别统计存量信息。 修复ECS通过代理获取凭据访问OBS时,正则匹配失败的问题。 是 v3.22.2 新功能 新增虚拟桶相关接口。 对Python3 HTTPS参数的使用进行了兼容性更改。 是 低于v3.22.2(停止配套,EOM) - 版本过低,已停止维护,建议及时升级版本。
无 SseHeader SseCHeader 可选 参数解释: 服务端解密头信息,详见SseCHeader。 约束限制: 如果客户端的对象上传时,使用了客户提供的加密密钥进行服务端加密,当下载对象时,同样也必须在消息中提供密钥。 表3 SseCHeader 参数名称 参数类型 是否必选
取值范围: GET:请求服务器返回指定资源,如获取桶列表、下载对象等。 PUT:请求服务器更新指定资源,如创建桶、上传对象等。 POST:请求服务器新增资源或执行特殊操作,如初始化上传段任务、合并段等。 DELETE:请求服务器删除指定资源,如删除对象等。 HEAD:请求服务器返回指定资源的概要,如获取对象元数据等。
欠费说明 用户在使用云服务时,账户的可用额度小于待结算的账单,即被判定为账户欠费。欠费后,可能会影响云服务资源的正常运行,请及时充值。 欠费原因 已购买资源包,但使用量超出资源包额度或资源包属性与桶属性不匹配,进而产生按需费用,同时账户中的余额不足以抵扣产生的按需费用。请参考已购
服务端加密简介 用户可以使用普通方式上传、下载对象,也可以使用服务端加密方式进行上传、下载对象。 OBS支持服务端加密功能,使加密的行为在服务端进行。 用户可以根据自身的需求,使用不同的密钥管理方式来使用服务端加密功能。当前支持的服务端加密方式: KMS托管密钥的服务端加密(SS
用公网访问。 虚拟私有云(VPC) VPC主要负责为ECS构建隔离的、用户自主配置和管理的虚拟网络环境,提升用户云中资源的安全性,简化用户的网络部署。 子网是VPC中用来为ECS提供IP地址管理、DNS服务的一个网络,子网内ECS的IP地址都属于该子网。 云解析服务(DNS) D
大数据场景下使用OBS实现存算分离 大数据场景下使用OBS实现存算分离方案概述 操作流程 对接大数据平台 对接大数据组件 迁移HDFS数据至OBS
obsutil 支持按前缀批量删除对象,详情请参见删除对象。 SDK 支持,批量删除对象一次能接收最大对象数目为1000个。 详情请参见SDK参考批量删除对象。 API 支持,批量删除对象一次能接收最大对象数目为1000个。 详情请参见批量删除对象。 批量删除的性能和单个请求内的对象数
OBS的数据冗余存储方式是什么? OBS采用Erasure Code(EC,纠删码)算法做数据冗余,不是以副本的形式存储。 在满足同等可靠性要求的前提下,EC的空间利用率优于多副本。 数据冗余存储策略为“单AZ”的桶,在AZ内的节点间使用EC算法做数据冗余;“多AZ”的桶在AZ内
操作或应用程序故障时帮助快速恢复数据。 跨区域复制:是OBS提供的跨区域数据容灾能力,支持将源桶数据复制到与其不同区域的目标桶。 服务端加密:通过服务端加密功能,对上传至OBS桶中的数据进行加密保护。 对象锁定(WORM):为桶开启WORM后,可实现桶中的对象在您指定的时间段内不能被删除或篡改。
下载SDK OBS C SDK最新版本源码:最新源码下载 OBS C SDK历史版本下载:历史版本下载 SDK编译 获取到SDK源码后,根据使用平台来开展编译工作。 linux下: linux可以直接进入到source/eSDK_OBS_API/eSDK_OBS_API_C++/下执行
规则对云服务事件进行过滤和转换,通过转换后的事件触发事件目标(即函数工作流服务中的函数)。 图1 事件网格总体架构示意图 事件源:将华为云服务云服务、自定义应用、SaaS应用等应用程序产生的事件消息发布到事件订阅。 事件订阅:存储接收到的事件消息,并根据事件规则将事件消息路由到事件目标。
选填,启用后,可以通过设置样式内容获取更加灵活多样的图片处理结果。具体操作请参见创建图片样式。 请谨慎开启“更多选项 > 清理服务器存储”功能。 开启“清理服务器存储”后,上传至媒体库的图片和其他附件在上传到OBS后会在本地删除,因此在停用插件后,无法利用本地数据做恢复和替换。 单击“保存配置”,完成配置。
文件接口方式的数据共享访问:由于 AI 架构需要使用到大规模的计算集群(GPU/NPU服务器),集群中的服务器访问的数据来自一个统一的数据源,即一个共享的存储空间。这种共享访问的数据有诸多好处,它可以保证不同服务器上访问数据的一致性,减少不同服务器上分别保留数据带来的数据冗余等。另外以 AI 生态中非常流
OBS服务端错误码 在向OBS服务端发出请求后,如果遇到错误,会在响应中包含响应的错误码描述错误信息。详细的错误码及其对应的描述和HTTP状态码见下表: 错误码 描述 HTTP状态码 AccessDenied 拒绝访问。 403 Forbidden AccessForbidden
OBS服务端错误码 在向OBS服务端发出请求后,如果遇到错误,会在响应中包含响应的错误码描述错误信息。详细的错误码及其对应的描述和HTTP状态码见下表: 错误码 描述 HTTP状态码 AccessDenied 拒绝访问。 403 Forbidden AccessForbidden
OBS基于DNS解析性能和可靠性的考虑,要求凡是携带桶名的请求,在构造URL的时候都必须将桶名放在domain前面,形成三级域名形式,又称为虚拟主机访问域名。 例如,如果您有一个位于cn-north-4区域的名为test-bucket的桶,期望访问桶中一个名为test-object
OBS服务端错误码 在向OBS服务端发出请求后,如果遇到错误,会在响应中包含响应的错误码描述错误信息。详细的错误码及其对应的描述和HTTP状态码见下表: 错误码 描述 HTTP状态码 AccessDenied 拒绝访问。 403 Forbidden AccessForbidden