-
配置HetuEngine资源组 - MapReduce服务 MRS
第三个选择器匹配来自包括pipeline的源名称的查询,并将它们放在global.pipeline组下动态创建的单用户管道组中。 第四个选择器匹配来自BI工具的查询,BI工具有一个源与正则表达式jdbc#(?.*)匹配,并且客户端提供的标签是hi-pri的超集。这些查询被放置在global.adhoc组
-
调整Yarn任务抢占机制 - MapReduce服务 MRS
capacity.preemption.monitoring_interval 根据策略监控的时间间隔,单位为毫秒。如果将该参数设置为更大的值,容量检测将不那么频繁地运行。 3000 yarn.resourcemanager.monitor.capacity.preemption.max_wait_before_kill
-
准备本地应用开发环境 - MapReduce服务 MRS
Windows系统,推荐Windows 7及以上版本。 安装JDK 开发环境的基本配置。版本要求:1.8及以上。 安装和配置Eclipse 用于开发HBase应用程序的工具。 安装Maven 用于编译样例工程。 网络 确保客户端与HBase服务主机在网络上互通。 选择Windows开发环境下,安装Eclipse,安装JDK。
-
场景说明 - MapReduce服务 MRS
txt /tmp/input,上传数据文件。 将导入的数据放置在Hive表里。 首先,确保ThriftServer已启动。然后使用Beeline工具,创建Hive表,并插入数据。 执行如下命令,创建命名为person的Hive表。 create table person ( name STRING
-
HBase开源增强特性 - MapReduce服务 MRS
据。原理图如下: HBase开源增强特性:Phoenix CsvBulkLoad工具导入支持用户自定义分隔符 该内容适用于MRS 3.2.0及之后版本。 Phoenix开源CsvBulkLoad工具当前仅支持指定单个字符作为数据分割符,当用户数据文件中可能包含任意字符时,一般会采
-
元数据导出 - MapReduce服务 MRS
数据与关系型数据库的强依赖,将Hive元数据导出到HDFS上,与表数据一同迁移后进行恢复。 参考步骤如下: 在源集群上下载并安装Sqoop工具。 请参见http://sqoop.apache.org/。 下载相应关系型数据库的JDBC驱动放置到“${Sqoop_Home}/lib”目录。
-
启用安全认证的MRS集群快速入门 - MapReduce服务 MRS
下创建conf文件夹: cd /opt/Bigdata/client mkdir test cd test mkdir conf 使用上传工具(比如:WinScp)将mapreduce-examples-1.0.jar、input_data1.txt和input_data2.tx
-
CDL数据集成概述 - MapReduce服务 MRS
字符的表。 查看MySQL是否开启bin log: 使用工具或者命令行连接MySQL数据库(本示例使用Navicat工具连接),执行show variables like 'log_%'命令查看。 例如在navicat工具选择“File > New Query”新建查询,输入如下
-
更新MRS客户端 - MapReduce服务 MRS
目录的读、写与执行权限。然后执行4。 否,单击“确定”指定本地的保存位置,开始下载完整客户端,等待下载完成,然后执行4。 使用WinSCP工具,以客户端安装用户将压缩文件保存到客户端安装的目录,例如“/opt/hadoopclient”。 解压软件包。 例如下载的客户端文件为“F
-
元数据导出 - MapReduce服务 MRS
数据与关系型数据库的强依赖,将Hive元数据导出到HDFS上,与表数据一同迁移后进行恢复。 参考步骤如下: 在源集群上下载并安装Sqoop工具。 请参见http://sqoop.apache.org/。 下载相应关系型数据库的JDBC驱动放置到“${Sqoop_Home}/lib”目录。
-
MRS可靠性增强 - MapReduce服务 MRS
保障意外掉电时的数据可靠性,不论是单节点意外掉电,还是整个集群意外断电,恢复供电后系统能够正常恢复业务,除非硬盘介质损坏,否则关键数据不会丢失。 硬盘亚健康检测和故障处理,对业务不造成实际影响。 自动处理文件系统的故障,自动恢复受影响的业务。 自动处理进程和节点的故障,自动恢复受影响的业务。 自动处理网络故障,自动恢复受影响的业务。
-
缩容ClickHouseServer节点 - MapReduce服务 MRS
退服操作仅针对ClickHouseServer进行,不支持对ClickHouseBalancer进行退服操作。 本操作仅适用于MRS 3.1.2及之后版本。 使用PuTTY工具,以root用户登录ClickHouseServer所在节点,执行如下命令: echo 'select * from system.clusters'
-
手动导入IoTDB数据 - MapReduce服务 MRS
SSSZ”,例如:2022-02-28T11:07:00、2022-02-28 11:07:00或者2022-02-28T11:07:00.000Z。 使用WinSCP工具将CSV文件导入客户端节点,例如“/opt/client/IoTDB/iotdb/tools”目录下。 以客户端安装用户,登录安装客户端的节点。
-
MRS集群节点简介 - MapReduce服务 MRS
界面登录:直接通过弹性云服务器管理控制台提供的远程登录功能,登录到集群Master节点的Linux界面。 SSH登录:仅适用于Linux弹性云服务器。您可以使用远程登录工具(例如PuTTY),登录弹性云服务器。此时,需要该弹性云服务器绑定弹性IP地址。 Master节点申请和绑定弹性IP,请参见为弹性云服务器申请和绑定弹性公网IP。
-
Manager例行维护说明 - MapReduce服务 MRS
改密码需要重新下载keytab文件。 分析告警 导出指定周期内产生的告警并分析。 扫描磁盘 对磁盘健康状态进行检查,建议使用专门的磁盘检查工具。 统计存储 分批次排查集群节点磁盘数据是否均匀存储,筛选出明显数据增加或不足的硬盘,并确认硬盘是否正常。 记录变更 安排并记录对集群配置
-
ALM-24003 Flume Client连接中断 - MapReduce服务 MRS
在“服务”框中勾选待操作集群的“Flume”。 单击右上角的时间编辑按钮,设置日志收集的“开始时间”和“结束时间”分别为告警产生时间的前后1小时,单击“下载”。 使用传输工具,收集Flume Client端“/var/log/Bigdata/flume-client”下的日志。 请联系运维人员,并发送已收集的故障日志信息。
-
Flink任务开发规则 - MapReduce服务 MRS
计算结果。 优点:不需要有大的状态后端存储,整体计算资源压力要小于基于状态后端的方案。 缺点:需要依赖于数据格式,常见的方式通过CDC采集工具,将数据采集到Kafka,然后Flink读Kafka数据进行计算。 通过changelog数据解决 changelog与CDC格式的数据类
-
IoTDB基本原理 - MapReduce服务 MRS
器,允许Hadoop或Flink进行数据处理。 对于分析的结果,可以写回成TsFile文件。 IoTDB和TsFile还提供了相应的客户端工具,满足用户以SQL形式、脚本形式和图形形式写入和查看数据的各种需求。 IoTDB服务包括IoTDBServer(DataNode)和Con
-
配置消息通知 - MapReduce服务 MRS
警级别达到致命时,则发送信息通知给对应租户。 在用户集群的ECS机器被删除、关机、修改规格、重启、更新OS的行为,会导致大数据集群异常,当检测到用户的虚拟机出现以上状态的时候,发送通知给对应用户。 创建主题 主题是消息发布或客户端订阅通知的特定事件类型。它作为发送消息和订阅通知的
-
Yarn日志介绍 - MapReduce服务 MRS
SER>-<DATE>-<PID>-gc.log 垃圾回收日志。 yarn-haCheck.log ResourceManager主备状态检测日志。 yarn-service-check.log Yarn服务健康状态检查日志。 yarn-start-stop.log Yarn服务启停操作日志。