检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
以Hive客户端安装用户登录安装客户端的节点。 执行以下命令，切换到客户端安装目录，配置环境变量并认证用户。 cd 客户端安装目录 source bigdata_env kinit Hive业务用户（如果集群未开启Kerberos认证，请跳过该操作） 执行以下命令登录Hive客户端。 beeline
ID = root_20160716174218_90f55869-000a-40b4-a908-533f63866fed Total jobs = 1 Launching Job 1 out of 1 Number of reduce tasks is set to 0 since
在HDFS上建立一个文件夹“/tmp/input”，并上传input_data1.txt，input_data2.txt到此目录，命令如下： 登录HDFS客户端。 cd 客户端安装目录 source bigdata_env 在Linux系统HDFS客户端使用命令hdfs dfs -mkdir
DataNode容量不足，会影响到HDFS的数据写入。 可能原因 集群磁盘容量已满。 DataNode节点间数据倾斜。 处理步骤 检查集群磁盘容量是否已满。 登录MRS集群详情页面，在“告警管理”页面查看是否存在“ALM-14001 HDFS磁盘空间使用率超过阈值”告警。 是，执行1.b。 否，执行2
可能原因 该节点Storm Nimbus实例堆内存使用量过大，或分配的堆内存不合理，导致使用量超过阈值。 处理步骤 检查堆内存使用量。 登录MRS集群详情页面，选择“告警管理”。 单击“ALM-26054 Storm Nimbus堆内存使用率超过阈值 > 定位信息”，查看告警上报的实例的HostName。
算更加方便和高效。支持HDFS的Colocation功能的Hive表格式只有TextFile和RCFile。 操作步骤 使用客户端安装用户登录客户端所在节点。 执行以下命令，切换到客户端安装目录，如：/opt/client。 cd /opt/client 执行以下命令配置环境变量。
数据计算更加方便和高效。表格式只支持TextFile和RCFile。 本章节适用于MRS 3.x及后续版本。 操作步骤 使用客户端安装用户登录客户端所在节点。 执行以下命令，切换到客户端安装目录，如：/opt/client。 cd /opt/client 执行以下命令配置环境变量。
运行。 操作步骤 在NodeManager中启动External shuffle Service。 通过MRS Manager页面（可参考登录MRS Manager）的“服务管理 > Yarn > 服务配置”页面的“Yarn > 自定义”在“yarn-site.xml”中添加如下配置项：
3.8-jar-with-dependencies.jar到本地，并将该Jar上传到所有的HiveServer所在节点。 以客户端安装用户，登录1上传了Jar包并且安装了Hive和HDFS客户端的节点。 执行以下命令认证用户。 cd 客户端安装目录 source bigdata_env
tition不可用。 可能原因 数据目录权限被篡改。 数据目录所在磁盘故障。 处理步骤 检查故障的数据目录权限。 根据告警提示的主机信息，登录到该节点上。 查看告警详细信息中所提示的数据目录及其子目录，属组是否为omm:wheel。 是，记录当前节点主机名，并执行4。 否，执行3。
该节点Mapreduce JobHistoryServer实例堆内存使用量过大，或分配的堆内存不合理，导致使用量超过阈值。 处理步骤 检查堆内存使用率。 登录MRS集群详情页面，选择“告警管理”。 选中“告警ID”为“18009”的告警，查看“定位信息”中的实例的IP地址及角色名。 单击“组件管理
个检测周期，检查告警是否清除。 是，结束。 否，执行3。 排查业务中是否写入过的单副本的文件。 是，执行4。 否，执行7。 以root用户登录HDFS客户端，用户密码为安装前用户自定义，请咨询MRS集群管理员。执行如下命令： 安全模式： cd 客户端安装目录 source bigdata_env
足的现象。 规避措施： 根据业务需要，配置合适的需要保留的Job和Stage的UI数据个数，即配置“spark.ui.retainedJobs”和“spark.ui.retainedStages”参数。详细信息请参考常用参数中的表13。 如果需要保留的Job和Stage的UI数据个数较多，可通过配置“spark
ID = root_20160716174218_90f55869-000a-40b4-a908-533f63866fed Total jobs = 1 Launching Job 1 out of 1 Number of reduce tasks is set to 0 since
参考准备本地应用开发环境将准备好的Python虚拟环境打包，获取“venv.zip”文件。 zip -q -r venv.zip venv/ 以root用户登录主管理节点，将1和2获取的“venv.zip”、“pyflink-kafka.py”和“insertData2kafka.sql”文件上传至客户端环境。
ple样例工程，请参考使用Oozie调度Spark访问HBase以及Hive。 使用客户端上传Oozie的example文件到HDFS。 登录客户端所在节点，切换到客户端所在目录，例如“/opt/client”。 cd /opt/client 执行以下命令配置环境变量。 source
Manager首页，选择“运维 > 告警 > 告警 > Kafka默认用户状态异常 > 定位信息”。查看告警上报的实例的主机名。 根据告警提示的主机信息，登录到该节点上。 执行id -Gn kafka，查看返回结果是否报"No such user"。 是，记录当前节点主机名，并执行4。 否，执行6。
interval”设置成较大的值，或者不对参数进行设置。查看MapReduce任务是否能成功执行。 是，执行2.e。 否，执行2.b。 检查Yarn服务状态。 登录MRS集群详情页面，选择“告警管理”。 在告警列表中，查看是否有“ALM-18000 Yarn服务不可用”产生。 是，执行2.c。 否，执行3。
告警消除后，查看“Ranger服务不可用”告警是否清除。 是，处理完毕。 否，执行3。 检查所有RangerAdmin实例。 以omm用户登录RangerAdmin实例所在节点，执行ps -ef|grep "proc_rangeradmin"命令查看当前节点是否存在RangerAdmin进程。
如果用户场景需要同时访问50个以上的Spark应用时，需要调大“spark.history.retainedApplications”参数的值。 请登录FusionInsight Manager管理界面，单击“集群 > 待操作集群的名称 > 服务 > Spark2x > 配置”，单击“全部
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
