检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
MapReduce任务commit阶段优化 操作场景 默认情况下，如果一个MR任务会产生大量的输出结果文件，那么该job在最后的commit阶段，会耗费较长的时间将每个task的临时输出结果commit到最终的结果输出目录。特别是在大集群中，大Job的commit过程会严重影响任务的性能表现。
图1 残留目录样例 回答 Spark任务在运行过程中，driver会创建一个spark-开头的本地临时目录，用于存放业务jar包，配置文件等，同时在本地创建一个blockmgr-开头的本地临时目录，用于存放block data。此两个目录会在Spark应用运行结束时自动删除。
订阅一份数据。 数据规划 发布者Job使用自定义算子每秒钟产生10000条数据。 数据包含两个属性：分别是Int和String类型。 配置文件 nettyconnector.registerserver.topic.storage：设置NettySink的IP、端口及并发度信息在
Python3样例工程章节，获取样例代码，获取hetu-jdbc-XXX.jar文件，并复制到自定义目录中。 参考通过HSFabric的KeyTab认证实现查询HetuEngine SQL任务章节，获取“user.keytab”和“krb5.conf”文件，并放置到自定义目录中。 编辑样例代码，根据集群实际
图1 残留目录样例 回答 Spark任务在运行过程中，driver会创建一个spark-开头的本地临时目录，用于存放业务jar包，配置文件等，同时在本地创建一个blockmgr-开头的本地临时目录，用于存放block data。此两个目录会在Spark应用运行结束时自动删除。
t_env”文件中添加如下信息： export HBASE_ROOT_LOGGER=INFO,RFA 把日志输出到日志文件中，后期如果使用hbase org.apache.hadoop.hbase.mapreduce.RowCounter等命令，执行结果请在日志文件“HBase客
新下载认证凭据并替换旧凭据。 修改admin用户密码 通过Manager页面修改admin用户密码： 开启Kerberos认证的集群和开启弹性公网IP功能未开启Kerberos认证的集群支持通过Manager界面修改admin密码。 使用admin账户登录Manager页面。 MRS
for Application default configuration. 回答 打开项目中“ .idea\workspace.xml”文件。 找到标签“<component name="PropertiesComponent"> ” ，在内容中添加“ <property name="dynamic
选择此参数值，还需要配置“源端路径”，表示要恢复的备份文件。例如，“备份任务名_数据源_任务执行时间.tar.gz”。 “LocalHDFS”：表示备份文件保存在当前集群的HDFS目录。 选择此参数值，还需要配置以下参数： “源端路径”：表示备份文件在HDFS中保存的完整路径。例如“备份路径
数据读写性能。 可能原因 HDFS NameNode配置的内存不足。 处理步骤 清除无用文件。 在集群节点使用客户端，执行hdfs dfs -rm -r 文件或目录路径命令，确认删除无用的文件。 等待5分钟后，检查本告警是否恢复。 是，处理完毕。 否，执行2。 收集故障信息。 在MRS
数据读写性能。 可能原因 HDFS DataNode配置的内存不足。 处理步骤 清除无用文件。 在集群节点使用客户端，执行hdfs dfs -rm -r 文件或目录路径命令，确认删除无用的文件。 等待5分钟后，检查本告警是否恢复。 是，处理完毕。 否，执行2。 收集故障信息。 在MRS
看”，打开此次任务执行的备份路径信息，查找以下信息： “备份对象”表示备份的数据源。 “备份路径”表示备份文件保存的完整路径。 选择正确的项目，在“备份路径”手工选中备份文件的完整路径并复制。 创建恢复任务。 在MRS Manager，选择“系统设置 > 恢复管理”。 单击“创建恢复任务”。
>下载认证凭据”，保存后解压得到用户的user.keytab文件与krb5.conf文件，用于在样例工程中进行安全认证，如图4所示。 图4 下载认证凭据 参考信息 如果修改了组件的配置参数，需重新下载客户端配置文件并更新运行调测环境上的客户端。 父主题： 准备HBase应用开发环境
kinit 组件业务用户 该方式仅适用于Linux操作系统，且安装了Kudu的客户端。 代码认证： 通过获取客户端的principal配置文件和keytab文件进行认证。 父主题： 准备Kudu应用开发环境
stored as textfile location 'hdfs://hacluster/user/hive/warehouse/database/table/jsondata'; 查询表出现异常。 该章节内容适用于MRS 1.9.2之后版本。 原因分析 使用默认开源的JSON
luster_id}/hosts mrs:host:list √ √ 查询文件列表（V2） GET/v2/{project_id}/clusters/{cluster_id}/files mrs:file:list √ √ 新增作业并执行（V1） POST /v1.1/{proj
将数据导入到HDFS中。 hdfs dfs -mkdir <inputdir> hdfs dfs -put <local_data_file> <inputdir> 例如定义数据文件“data.txt”，内容如下： 12005000201,Zhang San,Male,19,City a, Province
CentOS-7.6版本（CentOS 7.6） 同时为弹性云服务分配足够的磁盘空间，例如“40GB”。 弹性云服务器的VPC需要与MRS集群在同一个VPC中。 弹性云服务器的安全组需要和MRS集群Master节点的安全组相同。 弹性云服务器操作系统已安装NTP服务，且NTP服务运行正常。
各组件业务用户由MRS集群管理员根据业务需要创建。“机机”用户需要下载keytab文件，“人机”用户第一次登录时需修改密码。（普通模式不涉及） 在修改集群域名后，需要重新下载客户端，以保证客户端配置文件中kerberos.domain.name配置为正确的服务端域名。 使用Kafka客户端
任务的配置可根据mapper的数量和各mapper的数据大小来进行优化。根据输入数据的大小，优化“客户端安装路径/Yarn/config/mapred-site.xml”文件中的如下参数： “mapreduce.reduce.memory.mb” “mapreduce.reduce.java.opts” 例如：
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
