检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
安装hadoop-huaweicloud。 在官方Github下载hadoop-huaweicloud:下载地址。 如果没有匹配版本的jar包,可自行修改hadoop-huaweicloud目录下pom文件中的hadoop版本重新编译生成。 将hadoop-huaweicloud-x
不同方式支持的操作系统、迁移数据量、操作简易程度存在差异,推荐您使用obsutil工具进行数据迁移。 为了节省您的开支,建议您配置内网DNS,通过华为云内网完成数据迁移。具体配置方法,请参见通过内网访问OBS。 表1 OBS提供的数据迁移工具 工具 支持的操作系统类型 (支持的具体版本参考对应方式的指导文档)
已部署Hadoop的环境:无需额外操作,部署Hadoop请参见Hadoop对接OBS。 未部署Hadoop的环境: 将hadoop中的相关jar包复制到/opt/apache-flume-1.9.0-bin/lib目录下,包含hadoop-huaweicloud-xxx.jar。
OBS Browser+工具指南 obsutil obsutil是一款用于访问管理OBS的命令行工具,您可以使用该工具对OBS进行常用的配置管理操作。对于熟悉命令行程序的用户,obsutil是执行批量处理、自动化任务的不错选择。 obsutil工具指南 obsfs obsfs
第一次运行obsutil后,工具会对AK进行加密以保护密钥安全。 N/A sk 可选 访问密钥中的SK。当配置了autoChooseSecurityProvider为true时可选。 说明: 您可以从这里进入访问密钥管理界面; 第一次运行obsutil后,工具会对SK进行加密以保护密钥安全。
[-i=xxx] [-k=xxx] [-t=xxx] 运行示例 以Windows操作系统为例,运行obsutil archive,归档日志到工具运行的同级目录。 obsutil archive [----------------------------------------------------------]
系统设置 通过“系统设置”设置OBS Browser+工具的参数。 支持设置任务运行的最大并发数为1~50。 支持设置上传和下载段的大小为9M~5120M。 支持设置OBS Browser+的语言切换。 支持设置工具的代理。 任务管理 任务管理器主要是对批量任务的执行状态进行
cp_{failed}_report_时间_TaskId.txt,该文件中有各失败任务的详细错误信息。 同时还可以参考util工具的日志信息查看工具执行过程中记录的错误信息,为定位问题建议指定日志级别为DEBUG级别,具体设置方式及日志路径设置方式可参考日志文件。 父主题: 常见问题
敏感操作保护 在线解压 WORM 资源包升配 双端固定 上传回调 工具 OBS 2.0/3.0支持 OBS提供OBS Browser+、obsutil、obsfs等多种实用工具,满足不同场景下数据迁移和数据管理需求。 您可以通过上述工具,轻松完成OBS资源管理,包括:OBS桶创建,并行文件系统挂载,对象上传下载等。
如果您觉得数据集规模较小或数据集变化不太频繁,不需要通过数据联动来做数据导入导出,您可借助外部工具将数据从OBS迁移到SFS Turbo中,操作指导请参考OBS和SFS之间的数据迁移,推荐使用obsutil工具。 父主题: 训练
权限是否授权给使用的用户。请通过桶策略、桶ACL、对象策略和对象ACL共同检查。如果用户无对象的访问权限,请授权。 您可以通过以下工具授权权限: 工具 配置方法 管理控制台 桶ACL、桶策略、对象ACL、对象策略 OBS Browser+ - obsutil 设置桶属性、设置对象属性
DeleteObjectVersion:删除多版本对象 上述每一个权限对应一个OBS功能接口,IAM用户使用API或SDK可以正常调用这些接口。但是通过控制台或者客户端工具(OBS Browser+)登录时,加载桶列表时会调用获取桶列表(ListAllMyBuckets)等接口,加载对象列表时会调用列举桶内对
认证鉴权 OBS签名机制概述 Header中携带签名 URL中携带签名 基于浏览器上传的表单中携带签名 签名计算工具 父主题: 如何调用API
conf └── README.md 方式三:源码使用setuptools工具安装 以安装OBS Python SDK最新版本为例。 下载OBS Python SDK开发包并解压。 下载和安装setuptools工具。 命令行切换到SDK开发包解压目录下的src文件夹。 运行python
URL中携带签名:检查签名所用Expires与请求URL中的Expires参数是否一致。 如果使用URL签名计算工具,工具中Expires参数设置的是一个时间段,以秒为单位,比如一小时为3600。工具最终生成的URL中的Expires值为有效期的最后时间点。 检查头域 检查Content-MD5
类事件操作记录进行收集、存储和查询,用于安全分析、合规审计、资源跟踪和问题定位等。 全部 √ √ 工具 OBS提供OBS Browser+、obsutil、obsfs等多种实用工具,满足不同场景下数据迁移和数据管理需求。 全部 √ √ API OBS提供了REST(Representational
securitytoken:与临时访问密钥ID和临时秘密访问密钥结合使用,可以访问指定账号下所有资源。 当使用如下工具访问OBS资源时,需配置AK/SK用于生成鉴权信息进行安全认证。 表1 OBS资源管理工具 工具 AK/SK配置方式 OBS Browser+ 在配置登录账号时配置AK和SK,详情请参见登录OBS
114.114测试。 检查地址是否填写错误,如果错误请及时修改。 比如日志中解析失败地址是“obs.huawei.com”,可以打开CMD工具(Windows命令行)使用ping命令访问该地址,确认DNS是否可以解析正常。 如果解析失败,请检查地址是否填写错误。 父主题: 常见问题
查询桶列表时同时查询桶的存储类型。 j 附加参数,可选,必须与sc参数搭配使用才有意义 查询桶存储类型时的最大并发数,默认为配置文件中的defaultJobs。 说明: 工具会保证该值至少为1。 du 附加参数,可选 快速返回所列举对象的总大小,不显示具体的对象信息,可与其他参数配合使用。 说明: 此参数在列举桶时无效,仅在列举对象时生效。
最佳实践 利用obsutil帮助命令查找工具功能 利用crontab配置定时任务 将obsutil设为系统内置命令 为obsutil配置自动获取访问密钥 obsutil性能调优最佳实践 利用obsutil进行断点续传 利用obsutil上传软链接 为obsutil配置HTTP代理