检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
根据专线带宽决定 根据专线距离以及带宽收费,具体参见云专线价格详情 OBS工具方式 OBS工具方式适用于百GB规模的数据搬迁。OBS提供OBS Browser+、obsutil等多种客户端工具,方便用户在本地直接将数据上传至OBS。由于上传需要占用用户公网带宽,为不影响用户在公网上的主营业
配置OBS桶 脚本、作业或节点的历史运行记录依赖于OBS桶,如果未配置测试运行历史OBS桶,则无法查看历史运行的详细信息。请参考本节操作配置OBS桶。 约束限制 OBS路径仅支持OBS桶,不支持并行文件系统。 配置方法 参考访问DataArts Studio实例控制台,登录DataArts
快速入门 OBS服务环境搭建 安装SDK 获取服务地址 初始化OBS客户端 创建桶 上传对象 下载对象 列举对象 删除对象 OBS客户端通用示例
示例5:创建OBS转储 场景描述 本章以将指定的一个或多个日志流的日志转储到OBS服务为例。 涉及其它云服务接口 创建OBS转储时,需要查询用户的桶列表: 获取桶列表:确定将要配置转储的桶名称。 创建OBS转储 接口相关信息 URI格式:POST /v2/{project_id}/log-dump/obs
账号名:您在OBS Browser上使用的账号名,仅用于在OBS Browser上区别不同的账号,无需与云服务上注册的账号一致。账号名长度不超过50个字符。 存储服务:OBS Browser支持连接到“OBS存储”或“其他对象存储”上。 当连接对象存储服务时,选择“OBS存储”,如图1所示。
NONE:不加密,直接写入数据。 KMS:使用数据加密服务中的KMS进行加密。如果启用KMS加密则无法进行数据的MD5校验。 toJobConfig.kmsID 否 String 上传时加密使用的密钥。需先在密钥管理服务中创建密钥。 toJobConfig.projectID 否
上传文件或文件夹 背景知识 OBS Browser使用分段上传功能上传文件。通过分段上传功能,OBS Browser支持上传最大为48.8TB的单个文件。 OBS Browser支持断点续传。当上传任务暂停或者失败,重新启动上传任务,根据任务记录的分片信息,已上传成功的分片不会再次上传,会请求上传其他的分片。
下载和安装客户端 操作说明 用户在进行文件备份前,需先在目标服务器或虚拟机上更改安全组和安装客户端。本章节指导用户下载并安装文件备份的客户端。 目前仅支持64位操作系统的主机,暂不支持32位操作系统的主机。 Linux系统下载和安装客户端操作步骤 登录云备份控制台。 登录管理控制台。
配置HDFS通过IAM委托访问OBS 参考配置MRS集群通过IAM委托对接OBS完成存算分离集群配置后,即可在HDFS客户端查看和创建OBS文件目录。 HDFS对接OBS 以客户端安装用户登录安装了HDFS客户端的节点。 执行以下命令,切换到客户端安装目录。 cd 客户端安装目录 执行以下命令配置环境变量。
华为云开发者认证 华为云认证介绍 如何获得华为云开发者认证证书 开发者认证购买常见问题 开发者认证课程学习常见问题 开发者认证理论考试常见问题 开发者认证实验考试常见问题 开发者认证证书常见问题 微认证兑换开发者认证常见问题 云认证业务动态说明 修订记录
通过OBS SDK快速使用OBS OBS SDK对OBS服务提供的REST API进行封装,以简化用户的开发工作。您直接调用OBS SDK提供的接口函数即可使用OBS管理数据。 本章节以Java、Python、Go三种SDK为例,帮助您快速上手OBS的基础功能,包括创建桶、上传对象、下载对象、列举对象。
dir</name> <value>obs://obs-bucket/warehouse/hive</value> </property> 可选配置,当添加了上述配置后在创建Hive表时将不用再显示指定location,创建的Hive表将自动落在OBS上。 执行以下命令,初始化元数据。
"fs.obs.impl":"org.apache.hadoop.fs.obs.OBSFileSystem", "fs.obs.access.key":"可访问OBS的ak",
OBS连接 介绍 通过OBS连接,可以对对象存储服务(Object Storage Service,简称OBS)抽取或加载文件,支持CSV、JSON和二进制格式。 连接样例 本示例为连接样例消息体。在实际使用中,AK(accessKey)和SK(securityKey)建议在配置
obsutil简介 obsutil是一款用于访问管理华为云对象存储服务(Object Storage Service,OBS)的命令行工具,您可以使用该工具对OBS进行常用的配置管理操作,如创建桶、上传文件/文件夹、下载文件/文件夹、删除文件/文件夹等。对于熟悉命令行程序的用户,
SDK概述 对象存储服务软件开发工具包(OBS SDK,Object Storage Service Software Development Kit)是对OBS服务提供的REST API进行的封装,以简化用户的开发工作。用户直接调用OBS SDK提供的接口函数即可实现使用OBS服务业务能力的目的。
针对传统企业在大数据场景面临的问题,华为云提供了基于对象存储服务OBS作为统一数据湖存储的大数据存算分离方案。 图1 基于OBS的华为云大数据存算分离方案 华为云大数据存算分离方案基于对象存储服务OBS的大容量高带宽能力,以及多协议共享访问技术(HDFS/POSIX/OBS API),实现Had
obs桶策略管理 更新桶授权 获取桶信息列表
成长地图 | 华为云 华为乾坤 华为乾坤云服务是华为面向企业推出的数字化网络云服务,包括云管理网络、网络安全、网络连接等一站式云服务产品,助力企业网络更简单、更安全。 华为乾坤商城 客户体验Demo 登录控制台 成长地图 由浅入深,带您玩转华为乾坤 安全云服务 云管理网络 解决方案
准备工作 使用OBS Browser+图形化工具之前,您需要拥有一个华为账号并实名认证、为账号充值,然后下载并安装OBS Browser+图形化工具,并获取访问密钥。 注册华为账号并实名认证。 如果您已有华为账号,请忽略此步骤。如果您还没有华为账号,请执行以下操作: 注册华为账号并开通华为云。