Cloudera CDH对接OBS 部署视图 安装版本 硬件:1Master+3Core(配置:8U32G,操作系统:CentOS 7.5) 软件:CDH 6.0.1 部署视图 更新OBSA-HDFS工具 下载与hadoop版本配套的OBSA-HDFS工具:下载地址。 并将OBS
考虑到桶名会作为访问域名的一部分,需要参与域名解析,因此桶名需要满足DNS域名规范。OBS系统在接受创桶请求时,会对桶名进行严格的检查,具体规则如下: 需全局唯一,不能与已有的任何桶名称重复,包括其他用户创建的桶。用户删除桶后,立即创建同名桶或并行文件系统会创建失败,需要等待30分钟才能创建。 长度范围为3到63
元数据(Metadata)为描述对象属性的信息,是一组名称值对,用作对象管理的一部分。 当前仅支持系统定义的元数据。 系统定义的元数据又分为两种类别:系统控制和用户控制。如Last-Modified日期等数据由系统控制,不可修改;如为对象配置的ContentLanguage,用户可以通过接口进行修改。
ID,接入键标识,用户在对象存储服务系统中的接入键标识,一个接入键标识唯一对应一个用户,一个用户可以同时拥有多个接入键标识。对象存储服务系统通过接入键标识识别访问系统的用户。 SK:Secret Access Key,安全接入键,用户在对象存储服务系统中的安全接入键,是用户访问对象存储服务系统的密钥,用
快速使用 本章节以Linux操作系统为例,介绍如何通过obsutil在OBS上完成基本的数据存取操作,具体操作流程如图1所示。 图1 obsutil快速使用流程 前提条件 已获取到obsutil工具,并完成了初始化配置。 已进入obsutil工具所在目录。 操作步骤 运行./obsutil
成为了一个热点问题,本文将通过一个示例程序进行演示。 注意事项 客户端计算签名时依赖引用“crypto-js”及“js-base64”两个开源组件,因此需要在微信小程序项目中设置使用NPM模块。 在微信小程序中进行编译时,如果在引入“crypto-js”包时出现“Maximum call
ID,接入键标识,用户在对象存储服务系统中的接入键标识,一个接入键标识唯一对应一个用户,一个用户可以同时拥有多个接入键标识。对象存储服务系统通过接入键标识识别访问系统的用户。 SK:Secret Access Key,安全接入键,用户在对象存储服务系统中的安全接入键,是用户访问对象存储服务系统的密钥,用
单位:次 ≥ 0 counts 用户 桶 域名 1分钟 request_success_rate 请求成功率 该指标用于衡量存储服务的系统的可用性。非服务端错误请求(返回状态码为5xx)占总请求的百分比,计算方式: (1-5XX数量/总请求数量)*100% 单位:% ≥ 0,≤100
obsfs简介 obsfs是对象存储服务 (Object Storage Service,OBS)提供的一款基于FUSE的文件系统工具,用于将OBS并行文件系统挂载至Linux系统,让用户能够在本地像操作文件系统一样直接使用OBS海量的存储空间。 对于原本使用本地文件系统存储数据的用户,如果希
创建文件夹 功能说明 在指定桶内或本地文件系统中创建文件夹。 创建重名文件夹,不会报错,且文件夹内已存在的内容不发生变化。 命令结构 Windows操作系统 在指定桶内创建文件夹 obsutil mkdir obs://bucket/folder[/subfolder1/subfolder2]
使用前须知(Python SDK) 本文介绍Python SDK的版本变更,并提供版本兼容性说明,以及其他使用前须知。 变更及兼容性说明 如表1所示,本节将为您展示Python SDK的版本变更情况,以及当前版本是否兼容某个历史版本的说明,更多版本修订信息请参见:ChangeLog。
元数据(Metadata)为描述对象属性的信息,是一组名称值对,用作对象管理的一部分。 当前仅支持系统定义的元数据。 系统定义的元数据又分为两种类别:系统控制和用户控制。如Last-Modified日期等数据由系统控制,不可修改;如为对象配置的ContentLanguage,用户可以通过接口进行修改。
命令结构 Windows操作系统 obsutil ls -failed [-limit=1000] [-o=xxx] macOS/Linux操作系统 ./obsutil ls -failed [-limit=1000] [-o=xxx] 运行示例 以Windows操作系统为例。运行示例如下:
提交issue,或者在华为云对象存储服务论坛中发帖求助。 功能说明 将指定并行文件系统内的一个对象从指定位置起修改为其他内容。 接口约束 目前接口仅在并行文件系统支持,普通对象桶不支持,如何创建并行文件系统请参考创建桶。 您必须是并行文件系统拥有者或拥有修改写对象的权限,才能修改
fa8424118 快速使用obsutil 在不同操作系统,下载obsutil的方式也有所不同,下载后无需安装,即可开始使用。 执行以下命令前要求云服务器已连接到互联网,否则安装obsutil客户端失败。 Windows操作系统 单击下载地址将obsutil工具下载至本地。 下载完成后将其解压。
功能说明 元数据(Metadata)为描述对象属性的信息,是一组名称值对,用作对象管理的一部分。 当前仅支持系统定义的元数据。系统定义的元数据又分为两种类别:系统控制和用户控制。 对指定桶中的对象发送HEAD请求,获取对象的元数据信息。 接口约束 您必须是桶拥有者或拥有获取对
支持的大数据组件简介 在华为云大数据存算分离方案中,OBS除了可以与大数据平台对接外,还可以直接与开源的大数据组件对接。 当前支持的大数据组件如下: Hadoop Hive Spark Flume DataX Druid Flink logstash 父主题: 对接大数据组件
Browser+不支持统计文件夹内的文件数目及大小,可以使用obsutil列举对象命令,指定前缀为需要查看的文件夹进行列举。 以Linux操作系统为例,运行./obsutil ls obs://bucket-test/test/ -du -limit=0命令,查询桶bucket-test下test文件夹的大小。
gcc (GCC) 10.3.0/g++ (GCC) 10.3.0 SDK二进制包编译环境如上,其余内核和操作系统的兼容性不做保证。如果有其它操作系统或者内核版本的需求,请使用开源代码自行编译。 使用前须知 开发过程中,您有任何问题可以在github上提交issue,或者在华为云对象存储服务论坛中发帖求助。
界和无界流式数据。Flink定义了文件系统抽象,OBS服务实现了Flink的文件系统抽象,使得OBS可以作为flink StateBackend和数据读写的载体。 注意事项 flink-obs-fs-hadoop目前仅支持OBS并行文件系统。 为了减少日志输出,在/opt/flink-1