-
配置HDFS冷热数据迁移 - MapReduce服务 MRS
<type> 定义了action类型。当前支持的action类型是MOVE和MARK。 No (在action标签内) <params> 定义与每个action相关的参数。 No (在action标签内) <param> 定义单个使用<name>和<value>标签的name-value格式参数。
-
编译并调测Flink应用 - MapReduce服务 MRS
在Flink任务运行过程中禁止重启HDFS服务或者重启所有DataNode实例,否则可能会导致任务失败,并可能导致应用部分临时数据无法清空。 请确保Jar包和配置文件的用户权限与Flink客户端一致,例如都是omm用户,且权限为755。 运行DataStream(Scala和Java)样例程序。 在终端另开一个窗口,
-
窗口函数 - MapReduce服务 MRS
排序规范,它确定窗口函数将处理输入行的顺序。 窗口框架,指定给定行该功能要处理的行的滑动窗口。如果未指定帧,则默认为“RANGE UNBOUNDED PRECEDING”,与“UNBOUNDEEN PREBODING AND CURRENT ROWGE”相同。该帧包含从分区的开始到当前行的最后一个对等方的所有行。在没有ORDER
-
创建FlinkServer作业写入数据至ClickHouse表 - MapReduce服务 MRS
集群中已安装ClickHouse、HDFS、Yarn、Flink和Kafka等服务。 客户端已安装,例如安装路径为:/opt/client。 FlinkSQL与ClickHouse数据类型对应关系 FlinkSQL数据类型 ClickHouse数据类型 BOOLEAN UInt8 TINYINT Int8
-
ALM-12033 慢盘故障(2.x及以前版本) - MapReduce服务 MRS
以root用户登录告警节点,执行df -h命令,查看输出内容是否包含“磁盘名”字段的值。 是,执行6。 否,执行5。 执行lsblk命令,是否可以查到“磁盘名”字段值与磁盘设备的映射关系。 是,执行6。 否,执行21。 以root用户登录上报告警的节点,执行lsscsi | grep "/dev/sd[x]
-
备份HDFS业务数据 - MapReduce服务 MRS
“周期备份”表示按周期自动执行备份,“手动备份”表示由手工执行备份。 表1 周期备份参数 参数名称 描述 开始时间 任务第一次启动的时间。 周期 任务下次启动,与上一次运行的时间间隔,支持按“小时”或按“天”。 备份策略 首次全量备份,后续增量备份 每次都全量备份 每n次进行一次全量备份 说明: 备份
-
配置MRS集群阈值类告警 - MapReduce服务 MRS
告警阈值可进行调整,用户也可以根据需要自定义集群监控指标,或屏蔽对应告警,使告警不再上报。 MRS集群阈值转告警监控指标可分为节点信息指标与集群服务指标,相关指标及其对系统的影响、默认阈值等信息请参考监控指标参考。 阈值类告警通常会对集群功能的正常使用、或作业的运行等有一定影响,
-
ALM-12033 慢盘故障 - MapReduce服务 MRS
-h命令,查看输出内容是否包含“磁盘名”字段的值,用户密码为安装前用户自定义,请咨询系统管理员。 是,执行7。 否,执行6。 执行lsblk命令,是否可以查到“磁盘名”字段值与磁盘设备的映射关系。 是,执行7。 否,执行22。 以root用户登录上报告警的节点,执行lsscsi | grep "/dev/sd[x]
-
备份HBase业务数据 - MapReduce服务 MRS
“周期备份”表示按周期自动执行备份,“手动备份”表示由手工执行备份。 表1 周期备份参数 参数名称 描述 开始时间 任务第一次启动的时间。 周期 任务下次启动,与上一次运行的时间间隔,支持按“小时”或按“天”。 备份策略 首次全量备份,后续增量备份 每次都全量备份 每n次进行一次全量备份 说明: 备份
-
备份Hive业务数据 - MapReduce服务 MRS
“周期备份”表示按周期自动执行备份,“手动备份”表示由手工执行备份。 表1 周期备份参数 参数名称 描述 开始时间 任务第一次启动的时间。 周期 任务下次启动,与上一次运行的时间间隔,支持按“小时”或按“天”。 备份策略 首次全量备份,后续增量备份 每次都全量备份 每n次进行一次全量备份 说明: 备份
-
Host健康检查指标项说明 - MapReduce服务 MRS
认为不健康。如果该指标项异常,建议正确设置hostname。 恢复指导: 登录检查结果不健康的节点。 执行以下命令修改主机名,使节点主机名与规划的主机名保持一致: hostname 主机名。例如,将主机名改为“Bigdata-OM-01”,请执行命令hostname Bigdata-OM-01。
-
编译并调测Flink应用 - MapReduce服务 MRS
在Flink任务运行过程中禁止重启HDFS服务或者重启所有DataNode实例,否则可能会导致任务失败,并可能导致应用部分临时数据无法清空。 请确保Jar包和配置文件的用户权限与Flink客户端一致,例如都是omm用户,且权限为755。 MRS 3.2.1及以后版本使用-tm指定taskmanager内存不能小于4096MB。
-
快速开发Flink应用 - MapReduce服务 MRS
用户”,在用户名为“flinkuser”的操作列选择“更多 > 下载认证凭据”下载认证凭据文件,保存后解压得到该用户的“user.keytab”文件与“krb5.conf”文件。 选择“集群 > 概览 > 更多 > 下载客户端”,“选择客户端类型”设置为“仅配置文件”,单击“确定”,等待客
-
HetuEngine数据类型说明 - MapReduce服务 MRS
------------------ Hello winter ☃ ! (1 row) VARBINARY与BINARY。 -- 创建VARBINARY类型或BINARY类型的表 create table binary_tb(col1 BINARY);
-
CREATE TABLE - MapReduce服务 MRS
从而允许从多个表中复制列。如果指定了INCLUDING PROPERTIES,则将所有表属性复制到新表中。如果WITH子句指定的属性名称与复制的属性名称相同,则将使用WITH子句中的值。默认是EXCLUDING PROPERTIES属性,而且最多只能为一个表指定INCLUDING
-
loader-tool工具使用指导 - MapReduce服务 MRS
-a delete lt-ctl使用说明 lt-ctl:loader-tool controller作业管理工具,用于启停作业,查询作业状态与进度,查询作业是否运行中。 表3 lt-ctl脚本的“参数选项”配置说明 参数选项 说明 参数值示例 -help 获取帮助信息。 - -a <arg>
-
loader-tool工具使用指导 - MapReduce服务 MRS
-a delete lt-ctl使用说明 lt-ctl:loader-tool controller作业管理工具,用于启停作业,查询作业状态与进度,查询作业是否运行中。 表3 lt-ctl脚本的“参数选项”配置说明 参数选项 说明 参数值示例 -help 获取帮助信息。 - -a <arg>
-
开源sqoop-shell工具使用指导 - MapReduce服务 MRS
查询状态时,可以使用“-s”参数,只查询作业的状态枚举。 示例: status job -j 1 status job -j 1 -s create命令扩展属性 针对HDFS与SFTP服务器或RDB进行数据交换场景,MRS在开源sqoop-shell工具的基础上对create命令属性进行扩展,以达到在创建作业时指定行、列分隔符及转换步骤的目的。
-
开源sqoop-shell工具使用指导 - MapReduce服务 MRS
查询状态时,可以使用“-s”参数,只查询作业的状态枚举。 示例: status job -j 1 status job -j 1 -s create命令扩展属性 针对HDFS与SFTP服务器或RDB进行数据交换场景,MRS在开源sqoop-shell工具的基础上对create命令属性进行扩展,以达到在创建作业时指定行、列分隔符及转换步骤的目的。
-
配置HetuEngine物化视图改写能力 - MapReduce服务 MRS
by + having:having的场景和where不一样,having的条件无法做到补偿,要求物化视图SQL的没有having条件或者与用户查询SQL的having条件一致 物化视图范围大于用户查询范围(<) select col1 from tb_a group by col1