-
MRS集群节点简介 - MapReduce服务 MRS
系统自动将Master节点标记为主备管理节点,并支持MRS集群管理的高可用特性。如果主管理节点无法提供服务,则备管理节点会自动切换为主管理节点并继续提供服务。 查看Master1节点是否为主管理节点,请参见如何确认主备管理节点。 Core节点 MRS集群工作节点,负责处理和分析数据,并存储过程数据。
-
MapReduce二次开发远程调试 - MapReduce服务 MRS
只保留一个运行,其他全部停止,以保证任务一定会在这个唯一运行的NodeManager节点上启动。 在客户端提交MapReduce任务,在Map/Reduce任务启动时会挂起并监测8000端口,等待远程调试。 在IDE上,选择MapReduce任务的实现类,通过配置远程调试信息,执行Debug。
-
MRS集群节点如何进行操作系统漏洞升级 - MapReduce服务 MRS
处理步骤 修复漏洞前请确认是否开启了主机安全服务(Host Security Service,简称HSS),如果已开启,需要先暂时关闭HSS服务对MRS集群的监测,漏洞修复完成后重新开启HSS服务。 登录MRS服务控制台。 单击集群名称进入集群详情页面,并选择“节点管理”。 在Cor
-
修改集群NTP服务器 - MapReduce服务 MRS
grep om_gateway 在主备管理节点分别执行ping 管理平面网关,检查节点是否与管理平面网关连通? 是,执行5。 否,请联系网络管理员修复网络故障,处理完毕后,执行5。 在主管理节点执行以下命令,获取当前环境NTP服务器域名。 本章节后续步骤中将以“ntp.myhuaweicloud
-
如何针对Topic进行配置增加和删除 - MapReduce服务 MRS
/opt/client 执行以下命令,配置环境变量。 source bigdata_env 执行以下命令,进行用户认证。(普通模式跳过此步骤) kinit 组件业务用户 执行以下命令,切换到Kafka客户端安装目录。 cd Kafka/kafka/bin 执行以下命令,针对Topic修改配置和删除配置。
-
IntelliJ IDEA中远程提交拓扑执行Main时报错:Command line is too long - MapReduce服务 MRS
IntelliJ IDEA中远程提交拓扑执行Main时报错:Command line is too long 问题 IntelliJ IDEA中远程提交拓扑,执行Main方法时IntelliJ IDEA报如下错 : Command line is too long. Shorten
-
IntelliJ IDEA中远程提交拓扑执行Main时报错:Command line is too long - MapReduce服务 MRS
IntelliJ IDEA中远程提交拓扑执行Main时报错:Command line is too long 问题 IntelliJ IDEA中远程提交拓扑,执行Main方法时IntelliJ IDEA报如下错 : Command line is too long. Shorten
-
通过Windows弹性云服务器访问 - MapReduce服务 MRS
在VPC管理控制台,申请一个弹性IP地址,并与ECS绑定。 具体请参见为弹性云服务器申请和绑定弹性公网IP。 登录弹性云服务器。 登录ECS需要Windows系统的账号、密码,弹性IP地址以及配置安全组规则。具体请参见Windows云服务器登录方式。 在Windows的远程桌面中,打开浏览器访问Manager。
-
ALM-12037 NTP服务器异常 - MapReduce服务 MRS
表示连接或认证失败。 是,执行12。 否,执行8。 执行查看状态命令ntpq -np检查集群与NTP服务器认证是否失败。 对应ntp服务“refid”项显示“.AUTH.”表示认证失败。 是,执行12。 否,执行8。 检查是否能从NTP服务器获取时间。 继续查看告警附加信息,是否提示不能从NTP服务器获取时间。
-
配置NFS服务器存储NameNode元数据 - MapReduce服务 MRS
在NameNode备节点上执行2~4。 主备NameNode节点在NFS服务器上创建的共享目录名称(如“/opt/Hadoop/NameNode”)不能相同。 登录FusionInsight Manager系统,选择“集群 > 待操作集群的名称 > 服务 > HDFS > 配置 >
-
MRS所使用的裸金属服务器规格 - MapReduce服务 MRS
MRS所使用的裸金属服务器规格 针对不同的应用场景,MRS使用到如下实例的裸金属服务器。 鲲鹏 V1实例 规格 表1 鲲鹏V1实例型裸金属服务器的规格 规格名称/ID vCPU 内存(GB) 网络 physical.ks1ne.4xlarge 128 512 分布式 physical
-
如何对Hive表大小数据进行监控 - MapReduce服务 MRS
HDFS精细化监控功能正常 操作步骤 登录FusionInsight Manager。 通过“集群 > 服务 > HDFS > 资源 ”,进入HDFS精细化页面。 找到“资源使用(按目录)”监控项,单击该监控项左上角第一个图标。 进入配置空间监控子页面,单击“添加”。 在名称空格中填写监控的表名称(或其他
-
典型场景:从SFTP服务器导入数据到Hive - MapReduce服务 MRS
获取SFTP服务器使用的用户和密码,且该用户具备SFTP服务器上源文件的读取权限。若源文件在导入后文件名要增加后缀,则该用户还需具备源文件的写入权限。 检查磁盘空间,确保没有出现告警且余量满足导入、导出数据的大小。 使用Loader从SFTP服务器导入数据时,确保SFTP服务器输入路径目录名、输入路径的子目录名及子文件名不能包含特殊字符/\"':;
-
配置ClickHouse对接RDS MySQL数据库 - MapReduce服务 MRS
的history命令记录功能,避免信息泄露。 MySQL引擎使用示例: 连接到RDS服务的MySQL数据库。详细操作可以参考RDS服务MySQL实例连接。 在MySQL数据库上创建表,并插入数据。 创建表mysql_table: CREATE TABLE `mysql_table`
-
如何对Hive表大小数据进行监控 - MapReduce服务 MRS
登录FusionInsight Manager。 通过“集群 > 待操作集群的名称 > 服务 > HDFS > 资源 ”,进入HDFS精细化页面。 找到“资源使用(按目录)”监控项,单击该监控项左上角第一个图标。 进入配置空间监控子页面,单击“添加”。 在名称空格中填写监控的表名称(或其
-
如何避免对历史数据进行minor compaction? - MapReduce服务 MRS
1024)”。其中,491520可配置。 运行major compaction。由于每个segment的大小超过配置值的大小,因此这些segments将会被压缩。 加载增量负载。 配置minor compaction参数的阈值:“compaction.level.threshold” = “6,6”。 运行minor
-
配置ClickHouse对接RDS MySQL数据库 - MapReduce服务 MRS
的history命令记录功能,避免信息泄露。 MySQL引擎使用示例: 连接到RDS服务的MySQL数据库。详细操作可以参考RDS服务MySQL实例连接。 在MySQL数据库上创建表,并插入数据。 创建表mysql_table: CREATE TABLE `mysql_table`
-
MRS所使用的裸金属服务器规格 - MapReduce服务 MRS
MRS所使用的裸金属服务器规格 针对不同的应用场景,MRS使用到如下类型的裸金属服务器。 本地存储型(D2型) IO优化型(IO2) 规格命名规则 AB.C.D 例如m2.8xlarge.8 其中, A表示系列,例如:s表示通用型、c表示计算型、m表示内存型。 B表示系列号,例如
-
MRS所使用的弹性云服务器规格 - MapReduce服务 MRS
MRS所使用的弹性云服务器规格 针对不同的应用场景,MRS使用到如下类型的弹性云服务器。 通用计算增强型:C3型、C3ne型、C6型、C6s型、C7型 内存优化型:M3型、M6型、M7型 超高I/O型:I3型、IR3型 鲲鹏内存优化型:KM1型 鲲鹏超高I/O型:KI1型 鲲鹏通用计算增强型:KC1型
-
ALM-12100 AD服务器连接异常 - MapReduce服务 MRS
在登录的主机节点上ping第三方AD服务器IP,确认是否能ping通第三方AD服务器。 是,执行7。 否,执行8。 执行以下命令查看是否能连通第三方AD服务。 telnet IP port 其中IP为第三方AD服务器IP地址,port为第三方AD服务器使用端口。 是,执行8。 否,联系运维人员检查网络。