检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
e中注册相应的信息，并占用一定的存储空间。随着文件数的增加，当原有的内存空间无法存储相应的信息时，需要修改内存大小的设置。 配置描述 参数入口： 请参考修改集群服务配置参数，进入HDFS“全部配置”页面。 表1 参数说明 配置参数 说明 默认值 GC_PROFILE NameNo
MRS集群保留JDK说明 MRS集群是租户完全可控的大数据应用开发平台，用户基于平台开发业务后，将业务程序部署到大数据平台运行。由于需要具备开发调测能力，因此要在MRS集群中保留JDK。 此外，MRS集群功能中如下关键特性也强依赖JDK。 HBase BulkLoad HBase
配置场景 当分配的内存太小或者被更高优先级的进程抢占资源时，会出现物理内存超限的情况。调整如下参数，可以防止物理内存超限。 配置描述 参数入口： 在应用提交时通过“--conf”设置这些参数，或者在客户端的“spark-defaults.conf”配置文件中调整如下参数。 表1 参数说明
e中注册相应的信息，并占用一定的存储空间。随着文件数的增加，当原有的内存空间无法存储相应的信息时，需要修改内存大小的设置。 配置描述 参数入口： 请参考修改集群服务配置参数，进入HDFS“全部配置”页面。 表1 参数说明 配置参数 说明 默认值 GC_PROFILE NameNo
在HDFS中，通过调整属性的值，使得HDFS集群更适应自身的业务情况，从而提升HDFS的写性能。 本章节适用于MRS 3.x及后续版本。 操作步骤 参数入口： 在FusionInsight Manager系统中，选择“集群 > 服务 > HDFS > 配置”，选择“全部配置”。在搜索框中输入参数名称。
配置场景 当分配的内存太小或者被更高优先级的进程抢占资源时，会出现物理内存超限的情况。调整如下参数，可以防止物理内存超限。 配置描述 参数入口： 在应用提交时通过“--conf”设置这些参数，或者在客户端的“spark-defaults.conf”配置文件中调整如下参数。 表1 参数说明
操作场景 本章节指导用户设置Spark安全通道加密，以增强安全性。 该章节仅适用于MRS 3.x及之后版本。 配置Spark数据传输加密 参数修改入口：登录Manager页面，选择“集群 > 服务 > Spark > 配置”，展开“全部配置”页签，在搜索框中输入相关参数名称。 配置后应重启对应服务使参数生效。
PyFlink样例程序开发思路 假定业务平台需要提交Flink任务到MRS集群，业务平台主要使用的语言是Python，提供Python读写Kafka作业和Python提交SQL作业的样例。 本场景适用于MRS 3.3.0及以后的集群版本。 父主题： PyFlink样例程序
PyFlink样例程序开发思路 假定业务平台需要提交Flink任务到MRS集群，业务平台主要使用的语言是Python，提供Python读写Kafka作业和Python提交SQL作业的样例。 本场景适用于MRS 3.3.0及以后的集群版本。 父主题： PyFlink样例程序
需要读取HBase数据场景。 前提条件 调用HBase的get或scan接口，从HBase中实时读取数据。 操作步骤 读数据服务端调优 参数入口：登录FusionInsight Manager，选择“集群 > 服务 > HBase > 配置 > 全部配置”，进入HBase服务参数“
需要提升读取HBase数据性能的场景。 前提条件 调用HBase的get或scan接口，从HBase中实时读取数据。 操作步骤 读数据服务端调优 参数入口：登录FusionInsight Manager，选择“集群 > 服务 > 配置 > 全部配置”，进入HBase服务参数“全部配置”界面，
本章节适用于MRS 3.x及之后版本。 前提条件 调用HBase的put或delete接口，把数据保存到HBase中。 操作步骤 写数据服务端调优 参数入口：登录FusionInsight Manager，选择“集群 > 服务 > HBase > 配置 > 全部配置”，进入HBase服务参数“
Streaming的cluster模式，在数据处理过程中终止ApplicationManager，应用失败 从checkpoint恢复spark应用的限制 第三方jar包跨平台（x86、TaiShan）支持 在客户端安装节点的/tmp目录下残留了很多blockmgr-开头和spark-开头的目录 ARM环境python
Streaming的cluster模式，在数据处理过程中终止ApplicationManager，应用失败 从checkpoint恢复spark应用的限制 第三方jar包跨平台（x86、TaiShan）支持 在客户端安装节点的/tmp目录下残留了很多blockmgr-开头和spark-开头的目录 ARM环境python
批量、连续Put的场景。 前提条件 调用HBase的put或delete接口，把数据保存到HBase中。 操作步骤 写数据服务端调优 参数入口：登录FusionInsight Manager，选择“集群 > 服务 > 配置 > 全部配置”，进入HBase服务参数“全部配置”界面，修改相关参数值。
Streaming的cluster模式，在数据处理过程中终止ApplicationManager，应用失败 从checkpoint恢复spark应用的限制 第三方jar包跨平台（x86、TaiShan）支持 在客户端安装节点的/tmp目录下残留了很多blockmgr-开头和spark-开头的目录 ARM环境python
datanode.failed.volumes.tolerated”的值，指定失败的个数，小于该个数，DataNode可以继续提供服务。 配置描述 参数入口： 请参考修改集群服务配置参数，进入HDFS的“全部配置”页面，在搜索框中输入参数名称。 表1 参数说明 参数 描述 默认值 dfs.datanode
ter在创建container时，分配的内存会根据任务总数的浮动自动调整，资源利用更加灵活，提高了客户端应用运行的容错性。 配置描述 参数入口： 在Manager系统中，选择“集群 > 待操作集群的名称 > 服务 > Yarn > 配置”，选择“全部配置”，在搜索框中输入参数名称“mapreduce
Flink作业引擎概述 Flink WebUI提供基于Web的可视化开发平台，用户只需要编写SQL即可开发作业，极大降低作业开发门槛。同时通过作业平台能力开放，支持业务人员自行编写SQL开发作业来快速应对需求，大大减少Flink作业开发工作量。 Flink WebUI功能仅支持MRS
Streaming的cluster模式，在数据处理过程中终止ApplicationManager，应用失败 从checkpoint恢复spark应用的限制 第三方jar包跨平台（x86、TaiShan）支持 在客户端安装节点的/tmp目录下残留了很多blockmgr-开头和spark-开头的目录 ARM环境python
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
