检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
可用硬盘空间。单位GB。 取值范围： 不涉及 network_read String 参数解释： 网络读取速度。单位Byte/s。 取值范围： 不涉及 network_write String 参数解释： 网络写入速度。单位Byte/s。 取值范围： 不涉及 表9 ComponentInfo 参数
配置Hive JDBC接口访问Hive安全认证 在开启了Kerberos认证的集群中，客户端连接组件之前需要进行安全认证，以确保通信的安全性，Hive应用开发需要进行ZooKeeper和Kerberos安全认证。 JDBC样例工程包含安全认证代码，支持在Windows与Linux
all batch time is {} ms", allBatchEnd - allBatchBegin); 编译并运行程序 本地和MRS集群网络互通时，可以直接在本地进行调测运行。 在开发环境IntelliJ IDEA工程“clickhouse-examples”中单击“Run 'Demo'”运行应用程序工程。
MRS集群加固策略说明 加固Tomcat 在FusionInsight Manager软件安装及使用过程中，针对Tomcat基于开源做了如下功能增强： 升级Tomcat版本为官方稳定版本。 设置应用程序之下的目录权限为500，对部分目录支持写权限。 系统软件安装完成后自动清除Tomcat安装包。
安全加固 加固Tomcat 在FusionInsight Manager使用过程中，针对Tomcat基于开源做了如下功能增强： 升级Tomcat版本为官方稳定版本。 设置应用程序之下的目录权限为500，对部分目录支持写权限。 系统软件安装完成后自动清除Tomcat安装包。 应用程
JavaPairDStream：KV DStream的接口，提供reduceByKey和join等操作。 JavaReceiverInputDStream<T>：定义任何从网络接收数据的输入流。 Spark Streaming的常见方法与Spark Core类似，下表罗列了Spark Streaming特有的一些方法。
JavaPairDStream：KV DStream的接口，提供reduceByKey和join等操作。 JavaReceiverInputDStream<T>：定义任何从网络接收数据的输入流。 Spark Streaming的常见方法与Spark Core类似，下表罗列了Spark Streaming特有的一些方法。
restart策略。 如果用户在作业失败后，希望对作业进行重试，推荐使用failure-rate策略。因为fixed-delay策略可能会因为网络、内存等硬件故障导致用户作业失败次数达到最大重试次数，从而导致作业失败。 为了防止在failure-rate策略下的无限重启，推荐如下参数配置：
下的容灾。 本章节适用于MRS 3.x及之后版本。 前提条件 主备集群都已经安装并启动成功，且获取集群的管理员权限。 必须保证主备集群间的网络畅通和端口的使用。 如果主集群部署为安全模式且不由一个FusionInsight Manager管理，主备集群必须已配置跨集群互信。如果主
3.2.0-LTS.1。 组件选择：请根据业务需求合理选择需要的组件，部分类型集群创建后不支持添加服务。 元数据：选择“本地元数据”。 网络配置： 可用区：默认即可。 虚拟私有云：默认即可。 子网：默认即可。 安全组：默认即可。 弹性公网IP：默认即可。 节点配置： CPU架构：默认即可。MRS
Netty/NIO及Hash/Sort配置 Shuffle是大数据处理中最重要的一个性能点，网络是整个Shuffle过程的性能点。目前Spark支持两种Shuffle方式，一种是Hash，另外一种Sort。网络也有两种方式，Netty和NIO。 表8 参数说明 参数 描述 默认值 spark
Flink Job Pipeline样例程序（Scala） 发送消息 下面代码片段仅为演示，完整代码参见FlinkPipelineScalaExample样例工程下的com.huawei.bigdata.flink.examples.Information： package com
JavaPairDStream：KV DStream的接口，提供reduceByKey和join等操作。 JavaReceiverInputDStream<T>：定义任何从网络接收数据的输入流。 Spark Streaming的常见方法与Spark Core类似，下表罗列了Spark Streaming特有的一些方法。
创建并配置RDS实例 登录RDS管理控制台，购买RDS实例，具体操作请参考购买实例。 为了保证集群和MySQL或PostgreSQL数据库的网络访问，建议该实例与MRS集群的虚拟私有云和子网一致。 RDS实例的安全组入方向规则需要放通MySQL（默认为“3306”）和Postgre
运行Manager应用报错“WARN No appenders could be found for logger” 问题 运行应用程序时，操作失败，日志显示如图1所示。 图1 操作失败日志 回答 查看工程的“bin”目录下是否有编译过的“log4j.properties”，如果没有，则添加编译路径。
主备集群数据，减少查询毛刺，具体表现为： 高成功率：双并发读机制，保证每一次读请求的成功率。 可用性：单集群故障时，查询业务不中断。短暂的网络抖动也不会导致查询时间变长。 通用性：双读特性不支持双写，但不影响原有的实时写场景。 易用性：客户端封装处理，业务侧不感知。 HBase双读使用约束：
个拷贝件主要用于系统的可用性和容错。 NodeManager 负责执行应用程序的容器，同时监控应用程序的资源使用情况（CPU、内存、硬盘、网络）并且向ResourceManager汇报。 ResourceManager 集群的资源管理器，基于应用程序对资源的需求进行调度。资源管理
为了提高导入数据速度，需要确保以下条件： 每个Map连接时，相当于一个客户端连接，因此需要确保SFTP服务器最大连接数大于Map数量。 确保SFTP服务器上的磁盘IO或网络带宽都未达到上限。 20 Map数据块大小 配置数据操作的MapReduce任务中启动map所处理的数据大小，单位为MB。参数值必须大于或
存储系统上（比如HDFS）。 因为Driver程序在集群上调度任务，所以Driver程序需要和worker节点比较近，比如在一个相同的局部网络内。 Spark on YARN有两种部署模式： YARN-Cluster模式下，Spark的Driver会运行在YARN集群内的Appl
JavaPairDStream：KV DStream的接口，提供reduceByKey和join等操作。 JavaReceiverInputDStream<T>：定义任何从网络接收数据的输入流。 Spark Streaming的常见方法与Spark Core类似，下表罗列了Spark Streaming特有的一些方法。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
