检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
OBS时,可通过域名方便定位OBS中的资源。 在使用OBS之前,请确保客户端环境已经正确配置DNS服务器地址,用于OBS域名解析。 不同的数据中心分配对应的域名,域名详情请参见地区和终端节点。 父主题: 产品咨询
Hadoop系统提供了分布式存储、计算和资源调度引擎,用于大规模数据处理和分析。OBS服务实现了Hadoop的HDFS协议,在大数据场景中可以替代Hadoop系统中的HDFS服务,实现Spark、MapReduce、Hive等大数据生态与OBS服务的对接,为大数据计算提供“数据湖”存储。 HDFS协议:Hado
Flink对接OBS 概述 Flink是一个分布式的数据处理引擎,用于处理有界和无界流式数据。Flink定义了文件系统抽象,OBS服务实现了Flink的文件系统抽象,使得OBS可以作为flink StateBackend和数据读写的载体。 注意事项 flink-obs-fs-hadoop目前仅支持OBS并行文件系统。
Druid对接OBS 概述 Druid专为需要快速数据查询与摄入的工作流程而设计,在即时数据可见性、即席查询、运营分析以及高并发等方面表现非常出色。 通过HDFS接口对接OBS,使用OBS提供的OBSA-HDFS工具,无需重新编译druid,将OBS配置为deep storage。
移动应用直传 移动应用直传方案概述 使用临时安全凭证直传OBS 使用预签名URL直传OBS 父主题: 数据直传OBS
OBS提供了桶配置信息复制功能,方便您在创建新桶之后,快速将已有桶的配置信息复制到新桶中。 支持复制的桶配置信息包括: 桶策略 CORS规则 生命周期规则 数据回源规则 图片处理样式 在线解压规则 Data+事件触发器 约束与限制 从源桶复制配置信息的操作为增量复制,不会删除当前桶已存在的配置信息,与已存在的配置信息冲突的规则不会复制。
节点。 使用obsutil obsutil配置成功后,便可以在Linux ECS上直接通过内网访问OBS,进行基本的数据存取操作以及其他的高级设置操作。 常见的数据存储操作请参见: 上传对象 下载对象 详细使用指南请参见对象存储服务工具指南(obsutil)。 父主题: 在ECS上通过内网访问OBS
Spark对接OBS 概述 Apache Spark是专为大规模数据处理而设计的快速通用的计算引擎。 前提条件 已安装Hadoop,具体请参见Hadoop对接OBS。 注意事项 为了减少日志输出,在/opt/spark-2.3.3/conf/log4j.properties文件中增加配置:
Flume对接OBS 概述 Flume是一个分布式的、可靠的和高可用的服务,用于收集、聚合以及移动大量日志数据,具体请参见Apache Flume。OBS在大数据场景中可以替代Hadoop系统中的HDFS服务。 注意事项 多sink写同一文件 OBS和HDFS在一致性保证上是有差
内存 可用内存:≥512MB - 安装盘可用空间 ≥512MB 安装OBS Browser所需的硬盘空间。 数据盘可用空间 ≥3GB 存放OBS Browser数据库的数据文件所需的硬盘空间(当前版本是存放在系统盘)。 该OBS Browser提供扁平化风格的GUI界面,符合Wi
操作流程 大数据场景下使用OBS实现存算分离的操作流程如图1所示。 图1 操作流程 配置的核心是完成大数据平台与OBS对接,实现OBS作为大数据的统一数据湖存储。本文档提供三种主流大数据平台的对接指导,详情请参见支持的大数据平台简介。 (可选)OBS除了可以与主流大数据平台对接外,
配置存算分离集群。 详细操作,请参见使用委托方式配置存算分离集群。 使用存算分离集群。 详细操作,请参见使用存算分离集群。 父主题: 对接大数据平台
memset_s(&ptrResult,sizeof(tempAuthResult),0,sizeof(tempAuthResult)); //回调数据 tempauth.callback_data = (void *)(&ptrResult); // 有效时间
钥(AK/SK),这样可能会导致访问密钥(AK/SK)被黑客软件破解获取,进而可能导致存放在云存储中的文件数据被窃取,甚至被篡改。 为了更好地保护应用数据,避免被攻击后数据泄露以及越权访问的风险,为您推荐以下两种方法。 方法一:使用临时安全凭证直传OBS 方法二:使用预签名URL访问OBS
标准存储包(多AZ存储)的作用是什么? 标准存储包(多AZ存储)用于抵扣多AZ桶产生的标准存储数据容量费用,仅可在支持多AZ特性的区域购买。 父主题: 计费相关
由于业务原因,您需要将OBS数据从一个区域的数据中心迁移至另一个区域的数据中心。 数据备份与容灾 出于对数据安全性以及可用性的考虑,您希望对所有写入OBS的数据,都在另一个区域的数据中心显式地创建一个备份,以防止在数据发生不可逆损毁时,有安全、可用的备份数据。 易维护 您在两个不同OBS区域中具
3.1.1-hw-53.8.jar /usr/hdp/3.0.1.0-187/hive/auxlib 重启Hive集群。 父主题: 对接大数据平台
视频转码 Data+已下线,如果需要使用数据处理服务,可使用数据工坊 DWR。 详情请参见数据工坊 DWR。 场景介绍 针对使用Data+做视频转码的场景,如果需要每个对象转码任务的参数不同,可通过给对象增加对象元数据(例如:x-obs-meta-transcode-commands:
png),水印图片置于右下角,透明度为90,水平边距和垂直边距默认值都为10。在控制台上的具体操作步骤如下: 在OBS管理控制台首页,单击目标桶名称,在左侧导航栏中选择“数据处理 > 图片处理”。 单击“创建”,进入样式编辑界面。 在编辑页面,输入“样式名称”,“编辑模式”选择“图形界面模式”,并选择“水印设置”。
配置Data+ Data+已下线,如果需要使用数据处理服务,可使用数据工坊 DWR。 详情请参见数据工坊 DWR。 操作场景 当需要使用OBS提供的Data+服务对OBS内存储的数据,自动进行多项复杂任务(如解析、转码、截图等)处理时,可按照本节指导进行配置。 您需要先创建工作流,工作流可以自定义任务处理流程。