检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
al、yarn-cluster、yarn-client等。 appName：构建的Application名称。 SparkHome：集群中安装Spark的目录。 jars：应用程序代码和依赖包。 主体程序：处理数据 Spark shell命令 Spark基本shell命令，支持提交Spark应用。命令为：
API、HBase Shell或者Web UI访问服务端，对HBase的表进行读写操作。本文中的HBase客户端特指HBase client的安装包，可参考HBase对外接口介绍。 父主题： HBase应用开发概述
前提条件 创建集群时已勾选Sqoop组件以及依赖的服务。 安装客户端，具体请参考安装客户端（3.x及之后版本）。例如安装目录为“/opt/client”，请根据实际安装目录修改。为使用Sqoop时简单方便，使用Sqoop时需要安装全量客户端。 如果集群已开启kerberos认证，需要
Manager页面，选择“运维 > 告警 > 告警”，查看当前告警“定位信息”中的角色名以及确认主机名所在的IP地址。 以客户端安装用户，登录客户端的节点，执行如下命令： cd {客户端安装路径} source bigdata_env 集群已启用Kerberos认证（安全模式）： kinit 组件业务用户
que格式的数据，而Hive中默认是ORC的。 处理步骤 登录Spark客户端节点，执行如下命令，进入spark-sql： cd {客户端安装目录} source bigdata_env source Spark2x/component_env kinit 组件业务用户（普通模式无需执行kinit）
--enable-cleartext-plugin -u数据库登录用户 -p数据库登录用户密码 -P数据库连接端口 -hDoris FE实例IP地址 在安装了MySQL客户端的节点执行以下命令启用mysql_clear_password插件，再重新连接Doris即可。 export LIBMY
Manager页面，选择“运维 > 告警 > 告警”，查看当前告警“定位信息”中的角色名以及确认主机名所在的IP地址。 以客户端安装用户，登录客户端的节点，执行如下命令： cd {客户端安装路径} source bigdata_env 集群已启用Kerberos认证（安全模式）： kinit 组件业务用户
提供内存级I/O 吞吐率，同时降低具有弹性扩张特性的数据驱动型应用的成本开销 简化云存储和对象存储接入 简化数据管理，提供对多数据源的单点访问 应用程序部署简易 Alluxio 接口开发简介 Alluxio支持使用Java进行程序开发，具体的API接口内容请参考https://docs.alluxio
提供内存级I/O吞吐率，同时降低具有弹性扩张特性的数据驱动型应用的成本开销 简化云存储和对象存储接入 简化数据管理，提供对多数据源的单点访问 应用程序部署简易 有关Alluxio的详细信息，请参见：https://docs.alluxio.io/os/user/stable/cn/Overview
试使用combineInputFormat来减少任务读取的文件数量。 增大hadoop命令执行时的内存，该内存在客户端中设置，修改“客户端安装目录/HDFS/component_env”文件中“CLIENT_GC_OPTS”的“-Xmx”参数，将该参数的默认值改大，比如改为512m。然后执行source
/random”的读操作将被阻塞，直到熵池收集到足够的环境噪声数据，导致提交任务慢或者失败。 处理步骤 在集群外客户端所在节点执行以下命令安装rng-tools工具： yum install rng-tools 执行以下命令启动rng-tools： systemctl start
rget下生成含有“flink-dws-sink-example-1.0.0-SNAPSHOT”字段的Jar包。 在Linux上进入客户端安装目录，如“/opt/client/Flink/flink/conf”作为作为运行目录，将1中生成的“target”目录下包名中含有“fli
HiveServer 一个集群内可部署多个HiveServer，负荷分担。对外提供Hive数据库服务，将用户提交的HQL语句进行编译，解析成对应的Yarn任务或者HDFS操作，从而完成数据的提取、转换、分析。 MetaStore 一个集群内可部署多个MetaStore，负荷分担。
servers Kafka的Broker实例业务IP和端口。 192.168.12.25:21005 specific_jars “客户端安装目录/Flink/flink/lib/flink-connector-kafka-*.jar”包路径，建议写全路径。 说明： 当作业需要以
fo会执行kill -3将jstack信息打印到.out日志文件里，从而导致.out日志文件过大。 处理步骤 在每个HBase实例的节点上部署定期清理.out日志文件的定时任务。后台登录HBase的实例节点，在crontab -e中添加每天0点清理.out日志的定时任务。 crontab
否，执行3。 图1 HBase的WebUI 负载均衡 以root用户登录HBase客户端所在节点，用户密码为安装前用户自定义，请咨询系统管理员。进入客户端安装目录，设置环境变量： cd 客户端安装目录 source bigdata_env 如果集群采用安全版本，要进行安全认证。执行kinit
ster地址。 HMaster通过ZooKeeper随时感知各个HRegionServer的健康状况，以便进行控制管理。 HBase也可以部署多个HMaster，类似HDFS NameNode，当HMaster主节点出现故障时，HMaster备用节点会通过ZooKeeper获取主
nfo会执行kill -3将jstack信息打印到.out日志文件里，从而导致.out日志文件过大。 处理步骤 在每个HDFS实例的节点上部署定期清理.out日志文件的定时任务。后台登录HDFS的实例节点，在crontab -e中添加每天0点清理.out日志的定时任务。 crontab
并且HDFS状态为“CORRUPT” 解决办法 请确认该损坏的块是否可以删除。 是，执行2。 否，请联系技术支持。 执行以下命令进入HDFS客户端。 cd HDFS客户端安装目录 source bigdata_env kinit 业务用户 执行以下命令删除之前记录的损坏的块。 hdfs dfs -rm -skipTrash
释放。 解决办法 该解决办法以20051端口被占用为例，20050端口被占用的解决办法与该办法类似。 以root用户登录DBService安装报错的节点主机，执行命令：netstat -nap | grep 20051查看占用20051端口的进程。 使用kill命令强制终止使用20051端口的进程。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
