检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
确保本地的hosts文件中配置了远程集群所有主机的主机名和业务IP映射关系。 操作步骤 修改WordCountTopology.java类，使用remoteSubmit方式提交应用程序。并替换Jar文件地址。 使用remoteSubmit方式提交应用程序 public static void main(String[]
jar。当前版本用户除了这一步外还需要额外的配置项，否则会报class not found异常。 回答 当前版本的Spark内核直接依赖于kafka相关的jar包（结构流使用），因此提交结构流任务时，需要把Kafka相关jar包加入到结构流任务driver端的库目录下，确保driver能够正常加载kafka包。
-h命令，查看输出内容是否包含“磁盘名”字段的值，用户密码为安装前用户自定义，请咨询系统管理员。 是，执行7。 否，执行6。 执行lsblk命令，是否可以查到“磁盘名”字段值与磁盘设备的映射关系。 是，执行7。 否，执行22。 以root用户登录上报告警的节点，执行lsscsi | grep
配置业务日志与TaskManager运行日志独立打印： 若配置业务日志与TaskManager运行日志分开打印后，业务日志不输出至taskmanager.log，无法使用Web页面进行查看相应日志信息。 修改客户端的配置文件“conf/logback.xml”，在文件中添加如下日志配置信息，加粗标注部分根据需要进行修改。
PreLogin类，实现的功能相同，只是认证方式有区别。JDBCExample使用JDBC连接中拼接keytab的方式进行认证；JDBCExamplePreLogin的JDBC连接中不包含认证信息，使用Hadoop通用接口UserGroupInformation认证。 根据实际情
jar。当前版本用户除了这一步外还需要额外的配置项，否则会报class not found异常。 回答 当前版本的Spark内核直接依赖于kafka相关的jar包（结构流使用），因此提交结构流任务时，需要把Kafka相关jar包加入到结构流任务driver端的库目录下，确保driver能够正常加载kafka包。
不存在该环境变量，则设置为spark.local.dir的值，若此配置还不存在，则使用java.io.tmpdir的值。客户端默认配置中spark.local.dir被设置为/tmp，因此默认使用系统/tmp目录。 但存在一些特殊情况，如driver进程未正常退出，比如被kill
登录HDFS客户端。 cd 客户端安装目录 source bigdata_env 在Linux系统HDFS客户端使用命令hdfs dfs -mkdir /tmp/input 在Linux系统HDFS客户端使用命令hdfs dfs -putlocal_filepath /tmp/input 开发思路
source bigdata_env kinit 组件业务用户 在Linux系统HDFS客户端使用命令hdfs dfs -mkdir /tmp/input 在Linux系统HDFS客户端使用命令hdfs dfs -putlocal_filepath /tmp/input 开发思路
keytab文件位置请根据自己实际路径填写。 在Linux系统HDFS客户端使用命令hadoop fs -mkdir /tmp/input（hdfs dfs命令有同样的作用），创建对应目录。 在Linux系统HDFS客户端使用命令hadoop fs -put input_xxx.txt /tmp/input，上传数据文件。
source bigdata_env kinit 组件业务用户 在Linux系统HDFS客户端使用命令hdfs dfs -mkdir /tmp/input 在Linux系统HDFS客户端使用命令hdfs dfs -putlocal_filepath /tmp/input 开发思路
C_AUTHORIZATION_FAILED”。 解决步骤 向管理员申请该Topic的访问权限。 如果拥有权限后还是无法访问该Topic，使用管理员用户登录FusionInsight Manager，选择“集群 > 服务 > Kafka > 配置 > 全部配置”进入Kafka服务配置页面，搜索“allow
Manager首页，单击“运维 > 告警 > 告警”，查看否存在“ALM-14008 HDFS DataNode内存使用率超过阈值”的告警。 是，执行11。 否，执行13。 参考ALM-14008 DataNode堆内存使用率超过阈值的处理步骤，对该异常告警进行处理，查看是否消除该告警。 是，执行12。 否，执行13。
告警 > 告警”，查看是否有该NameNode节点的ID为“12016”“ALM-12016 CPU使用率超过阈值”告警。 是，执行9 否，11 按照ALM-12016 CPU使用率超过阈值告警处理文档，处理该告警。 处理完12016告警后，等待10分钟，查看该告警是否自动消除。
登录HDFS客户端。 cd 客户端安装目录 source bigdata_env 在Linux系统HDFS客户端使用命令hdfs dfs -mkdir /tmp/input 在Linux系统HDFS客户端使用命令hdfs dfs -putlocal_filepath /tmp/input 开发思路
OozieSparkHBaseExample和OozieSparkHiveExample样例工程，请参考使用Oozie调度Spark访问HBase以及Hive。 使用客户端上传Oozie的example文件到HDFS。 登录客户端所在节点，切换到客户端所在目录，例如“/opt/client”。
对系统的影响 GC时间超出阈值，会影响到OMS主要进程的读写，可能导致任务执行变慢，甚至服务异常重启。 可能原因 该节点OMS主要进程内存使用率过大，或配置的内存不合理，导致进程GC频繁。 处理步骤 检查GC时间。 在FusionInsight Manager界面，选择“运维 >
Topic每秒的fetch请求数 Topic每秒的produce请求数 支持查询Broker ID与节点IP的对应关系。在Linux客户端下，使用kafka-broker-info.sh查询Broker ID与节点IP的对应关系。 父主题： Kafka
Java API 提供HDFS文件系统的应用接口，本开发指南主要介绍如何使用Java APIHDFS Java API接口介绍 HDFS文件系统的应用开发。 C API 提供HDFS文件系统的应用接口，使用C语言开发的用户可参考C接口HDFS C API接口介绍 的描述进行应用开发。
所有BE节点中最大的compaction score值 (BE)”。 单击“平滑次数”后的编辑按钮，根据实际使用情况，修改平滑次数配置项，单击“确定”。 单击“操作”列的“修改”，根据实际使用情况，更改告警阈值，单击“确定”。 等待两分钟，在告警列表中查看该告警是否清除。 是，处理完毕。 否，执行5。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
