检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
件问题是制约Hadoop集群规模扩展的关键问题。 本工具主要有如下两个功能： 扫描表中有多少低于用户设定阈值的小文件，返回该表目录中所有数据文件的平均大小。 对表文件提供合并功能，用户可设置合并后的平均文件大小。 支持的表类型 Spark：Parquet、ORC、CSV、Text、Json。
配置并导入样例工程 MRS提供了不同组件场景下的多种样例程序，用户可获取样例工程并导入本地开发环境中进行程序学习。 配置安全认证 连接开启了Kerberos认证的MRS集群时，应用程序中需配置具有相关资源访问权限的用户进行安全认证。 根据业务场景开发程序 根据实际业务场景开发程序，调用组件接口实现对应功能。
LIBMYSQL_ENABLE_CLEARTEXT_PLUGIN=1 mysql -u数据库登录用户 -p -PFE查询连接端口 -hDoris FE实例IP地址 执行命令后输入数据库登录用户密码。 Doris FE的查询连接端口，可以通过登录Manager，单击“集群 > 服务 > Doris > 配置”
再次执行5。 检查Broker实例状态。 选择“集群 > 待操作集群的名称 > 服务 > Kafka > 实例”，进入Kafka实例页面。 查看“角色”中所有实例是否正常。 是，执行11。 否，执行10。 勾选Broker所有实例，选择“更多 > 重启实例”，查看是否重启成功。 重启
本章节适用于MRS 3.x及后续版本。 前提条件 获取登录“Loader WebUI”的账户和密码。 操作步骤 登录“Loader WebUI”界面。 登录FusionInsight Manager系统，具体请参见访问FusionInsight Manager（MRS 3.x及之后版本）。
配置AK/SK的方式获取OBS访问凭据。 参数 参数说明 storage_configuration.obs.obs_user_ak 访问IAM用户（前提条件中创建的用户）的AK。 参考6获取AK信息。 storage_configuration.obs.obs_user_sk 访问IAM用户（前提条件中创建的用户）的SK。
如果Windows开发环境中使用IBM JDK，不支持在Windows环境中直接运行应用程序。 需要在运行样例代码的本机hosts文件中设置访问节点的主机名和公网IP地址映射，主机名和公网IP地址请保持一一对应。 仅JDBC样例程序支持在本地Windows中运行。 操作步骤 编译JDBC样例程序：
配置多并发客户端连接JDBCServer 操作场景 JDBCServer支持多用户多并发接入，但当并发任务数量较高的时候，默认的JDBCServer配置将无法支持，因此需要进行优化来支持该场景。 操作步骤 设置JDBCServer的公平调度策略。 Spark默认使用FIFO（First
ZooKeeper节点上安装了DNS。 网络故障。 KrbServer服务异常。 ZooKeeper实例状态异常。 磁盘容量不足。 处理步骤 检查DNS。 查看ZooKeeper实例所在节点上是否安装DNS。在ZooKeeper实例所在Linux节点使用命令cat /etc/resolv.conf，看该文件是否为空。
背景信息 假定用户开发一个应用程序，用于管理企业中的使用A业务的用户信息，使用Hive客户端实现A业务操作流程如下： 普通表的操作： 创建用户信息表user_info。 在用户信息中新增用户的学历、职称信息。 根据用户编号查询用户姓名和地址。 A业务结束后，删除用户信息表。 表1
以客户端安装用户，登录安装Kafka客户端的节点。 切换到Kafka客户端安装目录，例如“/opt/client”。 cd /opt/client 执行以下命令，配置环境变量。 source bigdata_env 执行以下命令，进行用户认证。 kinit 组件业务用户 执行以下命令，切换到Kafka客户端安装目录。
以客户端安装用户，登录安装Kafka客户端的节点。 切换到Kafka客户端安装目录，例如“/opt/client”。 cd /opt/client 执行以下命令，配置环境变量。 source bigdata_env 执行以下命令，进行用户认证。 kinit 组件业务用户 执行以下命令，切换到Kafka客户端安装目录。
Aborted 该日志说明异常的RegionServer实例和HMaster实例的时差大于允许的时差值30s（由参数hbase.regionserver.maxclockskew控制，默认30000ms），导致RegionServer实例异常。 解决办法 调整异常节点时间，确保节点间时差小于30s。
务，本操作提供集群侧的配置指导，为可选任务。 操作步骤 在NFS服务器上检查NFS的共享目录权限，确认服务器可以访问MRS集群的NameNode。 以root用户登录NameNode主节点。 执行如下命令，创建目录并赋予目录写权限。 mkdir ${BIGDATA_DATA_HOME}/namenode-nfs
务，本操作提供集群侧的配置指导，为可选任务。 操作步骤 在NFS服务器上检查NFS的共享目录权限，确认服务器可以访问MRS集群的NameNode。 以root用户登录NameNode主节点。 执行如下命令，创建目录并赋予目录写权限。 mkdir ${BIGDATA_DATA_HOME}/namenode-nfs
“111-222-333-444-555”，则输入“111-222”或“-222-333”也能查询到。 按用户查询 对应执行慢SQL的ClickHouse用户。 支持按照用户名的部分值进行模糊查询。 按客户端IP查询 对应慢查询SQL语句的客户端IP。 支持按照客户端IP的部分值
r集群互信。 操作步骤 登录Kafka服务所在Manager页面，选择“系统 > 权限 > 用户 > 添加用户”，创建一个具有Kafka权限的人机用户，例如创建人机用户ck_user1，首次使用需要修改初始密码。Kafka用户权限介绍请参考Kafka用户权限说明。 选择“集群 >
ve-site.xml”放入工程的conf目录中。 登录MRS Manager，选择“系统设置 > 用户管理”。 在用户名中选择一个拥有Hive权限的用户，然后在右侧“操作”列中选择“更多 >下载认证凭据”，保存后解压得到用户的user.keytab文件与krb5.conf文件。
建议管理员定期修改OMS数据库管理员的密码，以提升系统运维安全性。 使用root用户登录主管理节点。 ommdba用户密码不支持在备管理节点修改，否则集群无法正常工作。只需在主管理节点执行修改操作，无需在备管理节点操作。 执行以下命令，切换用户。 sudo su - omm 执行以下命令，切换目录。 cd
集群中的NodeManager实例数量达到200，NodeManager实例的JVM参数建议配置为：-Xms4G -Xmx4G -XX:NewSize=512M -XX:MaxNewSize=1G 集群中的NodeManager实例数量达到500以上，NodeManager实例的JVM参数建议配置为：-Xms8G
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
