检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
要发送数据的端口，此参数不能为空。须配置为与之相连的avro source监测的端口。 21154 ssl 是否启用SSL认证（基于安全要求，建议启用此功能）。 只有“Avro”类型的Source才有此配置项。 true表示启用 false表示不启用 false 单击“导出”，将配置文件“properties
表1 Flume角色服务端所需修改的参数列表 参数名称 参数值填写规则 参数样例 ssl 是否启用SSL认证（基于安全要求，建议启用此功能）。 true表示启用。 false表示不启用。 true keystore 服务端证书。 ${BIGDATA_HOME}/FusionInsight_Porter_8
要发送数据的端口，此参数不能为空。须配置为与之相连的avro source监测的端口。 21154 ssl 是否启用SSL认证（基于安全要求，建议启用此功能）。 只有“Avro”类型的Source才有此配置项。 true表示启用 false表示不启用 false 单击“导出”，将配置文件“properties
运行。 图1 Active Jobs 继续查看已经完成的Job，发现也只有两个，说明Spark Streaming都没有触发数据计算的任务（Spark Streaming默认有两个尝试运行的Job，就是图中两个） 图2 Completed Jobs 回答 经过定位发现，导致这个问题的原因是：Spark
名称。 使用PuTTY工具，以root用户登录告警所在主机。 执行命令ethtool 网口名称，查看当前网口速率最大值Speed。 对于虚拟机环境，通过命令可能无法查询到网口速率，建议直接联系系统管理确认网口速率是否满足需求。 若网络读吞吐率超过阈值，直接联系系统管理员，提升网口速率。
网口。 使用PuTTY工具，以root用户登录告警所在主机。 执行命令ethtool 网口名称，查看当前网口速率最大值Speed。 对于虚拟机环境，通过命令可能无法查询到网口速率，建议直接联系系统管理确认网口速率是否满足需求。 若网络写吞吐率超过阈值，直接联系系统管理员，提升网口速率。
（运行日志），“/var/log/Bigdata/audit/yarn/nm”（审计日志） 日志归档规则：Yarn的日志启动了自动压缩归档功能，缺省情况下，当日志大小超过50MB的时候，会自动压缩，压缩后的日志文件名规则为：“<原有日志名>-<yyyy-mm-dd_hh-mm-ss>
\进行转义。可参考Shell的转义字符规则。 命令中如果携带认证密码信息可能存在安全风险，在执行命令前建议关闭系统的history命令记录功能，避免信息泄露。 - use.keytab 是否使用keytab方式登录。 true，表示使用keytab文件登录 false，表示使用密码登录。
JobConf：MapReduce作业的配置类，是用户向Hadoop提交作业的主要配置接口。 表1 类org.apache.hadoop.mapreduce.Job的常用接口 功能 说明 Job(Configuration conf, String jobName)，Job(Configuration conf) 新
Scala样例代码 功能介绍 在Spark应用中，通过使用Streaming调用kafka接口来获取单词记录，然后把单词记录分类统计，得到每个单词记录数，或将数据写入Kafka0-10。 Streaming读取Kafka0-10代码样例 下面代码片段仅为演示，具体代码参见：com
ta/ranger/policysync”（运行日志，MRS 3.3.0及之后版本）。 日志归档规则：Ranger的日志启动了自动压缩归档功能，缺省情况下，当日志大小超过20MB的时，会自动压缩，压缩后的日志文件名规则为：“<原有日志名>-<yyyy-mm-dd_hh-mm-ss>
配置“高级配置”参数，参数配置请参考表4。 表4 高级配置参数说明 参数 描述 取值样例 查询内存占比 节点查询内存占jvm内存的比例，默认值0.7。当参数等于0时计算功能关闭，且JVM配置中-Xmx值需满足大于或者等于Coordinator或者Worker配置的memory.heap-headroom-per-node与query
>（RSGroup内业务表region总数/2000）*50%。 如果系统表在单独的RSGroup，需要确保该RSGroup的节点数量 > 2。 为了不影响滚动重启功能，如果RegionServer节点总数在300以内，那么单个RSGroup的节点数量不应小于3。如果RegionServer节点总数大于等
服务配置”，进入“Kafka服务配置”页面。 查看参数“disk.adapter.enable”是否配置为“true”。 是，执行11。 否，配置为“true”，开启该功能，执行10。 查看参数“adapter.topic.min.retention.hours”所配置的数据最短保存周期是否合理。 是，执行12。
（RSGroup内业务表region总数/2000）* 50%。 如果系统表在单独的RSGroup，需要确保该RSGroup的节点数量 > 2。 为了不影响滚动重启功能，如果RegionServer节点总数在300以内，那么单个RSGroup的节点数量不应小于3。如果RegionServer节点总数大于等
Spark JDBCServer接口介绍 简介 JDBCServer是Hive中的HiveServer2的另外一个实现，它底层使用了Spark SQL来处理SQL语句，从而比Hive拥有更高的性能。 JDBCServer是一个JDBC接口，用户可以通过JDBC连接JDBCServ
xml”中（例如“客户端安装路径/HDFS/hadoop/etc/hadoop/”）配置如下参数。 表1 参数描述 参数 描述 默认值 io.compression.codecs 为了使LZC压缩格式生效，在现有的压缩格式列表中增加如下值： “com.huawei.hadoop.datasight.io.compress
查看NameNode的GC_OPTS参数配置 NameNode内存配置和数据量对应关系参考表1。 表1 NameNode内存配置和数据量对应关系 文件对象数量 参考值 10,000,000 “-Xms6G -Xmx6G -XX:NewSize=512M -XX:MaxNewSize=512M”
xml”中（例如“客户端安装路径/HDFS/hadoop/etc/hadoop/”）配置如下参数。 表1 参数描述 参数 描述 默认值 io.compression.codecs 为了使LZC压缩格式生效，在现有的压缩格式列表中增加如下值： “com.huawei.hadoop.datasight.io.compress
有一个输出算子。 不符合转换规则的数据，将成为脏数据跳过。 从关系型数据库导入数据到HDFS/OBS，可以不用配置数据转换，数据将按“,”分隔保存到HDFS/OBS。 从HDFS/OBS导出数据到关系型数据库，可以不用配置数据转换，数据将按“,”分隔保存到关系型数据库。 算子简介
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
