检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Yarn内部和Hadoop内部都不需要用户配置加密，用户只需要配置SSL加密传输方式。 配置SSL传输，用户主要在客户端的“flink-conf.yaml”文件中做如下配置： 打开SSL开关和设置SSL加密算法，针对MRS 3.x及之后版本，配置参数如表2所示，请根据实际情况修改对应参数值。
配置ClickHouse对接Kafka 配置ClickHouse通过用户密码对接Kafka 配置ClickHouse通过Kerberos认证对接Kafka 配置ClickHouse对接普通模式Kafka 父主题： ClickHouse数据导入
hdfs://hacluster/sparkJobHistory/ 100G 相关配置参数请参见表2。 参数入口：参考修改集群服务配置参数进入Yarn服务参数“全部配置”界面，在搜索框中输入参数名称。 对于大作业扫描特性中Hive组件，需要配置“hive-ext.record.mr.applicatio
用认证和加密传输，用户需要安装Flink客户端并配置安全认证，本章节以“/opt/hadoopclient”为客户端安装目录为例，介绍安装客户端及配置安全认证。客户端安装目录请根据实际修改。 安装客户端及配置安全认证步骤 安装客户端。 以在集群内节点安装客户端为例： 登录Mana
单击“计算实例”，查看待操作的租户的实例状态，当绿色图标和蓝色图标数量均为“0”时，可执行5配置开启物化视图改写能力。 在“计算实例”页签，在待操作的实例所属租户所在行的“操作”列单击“配置”，进入“配置实例”页签，添加如下自定义参数。 表1 自定义参数 名称 值 参数文件 materialized
admin.acls.groups 配置Spark管理组列表，列表中的组有权限管理所有Spark任务，此处可以配置多个管理组，使用“,”分隔。 - spark.modify.acls 配置有权限修改Spark任务的成员列表。启动任务的用户默认有此权限，此处可以配置多个用户，使用“,”分隔。
> 服务 > ClickHouse > 配置 > 全部配置 > ClickHouseServer（角色）> 存储”。 OBS访问凭据支持委托和AK/SK两种配置方式，用户可选择其中一种配置。 配置委托的方式获取OBS访问凭据，参考下表配置OBS访问凭据信息。 参数 参数说明 storage_configuration
per。 Yarn内部和Hadoop内部都不需要用户配置加密，用户只需要配置SSL加密传输方式。 配置SSL传输，用户主要在客户端的“flink-conf.yaml”文件中做如下配置： 打开SSL开关和设置SSL加密算法，配置参数如表2所示，请根据实际情况修改对应参数值。 表2 参数描述
HetuEngine > 配置 > 全部配置 > QAS（角色） > SQL诊断“，参数“qas.sql.auto.diagnosis.enabled”为“true”表示开启SQL诊断功能，可根据业务需求配置SQL诊断推荐参数。 单击“保存”，保存配置。 单击“实例”，勾选所有QAS实例，选择“更多
通过HSFabric实现用户名密码认证 通过HSFabric连接方式，实现用户名密码认证，只需要配置用户名和密码。 通过HSBroker实现用户名密码认证 通过HSBroker连接方式，实现用户名密码认证，只需要配置用户名和密码。 父主题： 准备HetuEngine应用开发环境
开发Oozie配置文件 Oozie样例程序开发思路 Oozie应用开发步骤 父主题： 开发Oozie应用
mpt启动时，保留之前Container的状态，因此运行中的作业可以继续无故障的运行。 图1 AM作业保留 配置描述 参考修改集群服务配置参数进入Yarn服务参数“全部配置”界面，在搜索框中输入参数名称。 根据表1，对如下参数进行设置。 表1 AM作业保留相关参数 参数 说明 默认值
在Spark客户端的“{客户端安装目录}/Spark/spark/conf/spark-env.sh”配置文件中进行设置。 X86平台参数如下： export LD_PRELOAD="{客户端安装目录}/Spark/spark/native/libch.so {客户端安装目录}/JDK/jdk1
动后C段时间的任务启用流控功能。 配置描述 在Spark Driver端的“spark-defaults.conf”配置文件中进行设置。 表1 参数说明 参数 说明 默认值 spark.streaming.kafka.direct.lifo 配置是否开启Kafka后进先出功能。 false
mpt启动时，保留之前Container的状态，因此运行中的作业可以继续无故障的运行。 图1 AM作业保留 配置描述 参考修改集群服务配置参数进入Yarn服务参数“全部配置”界面，在搜索框中输入参数名称。 根据表1，对如下参数进行设置。 表1 AM作业保留相关参数 参数 说明 默认值
MRS集群服务对接OBS示例 配置Flink通过IAM委托访问OBS 配置Flume通过IAM委托访问OBS 配置HDFS通过IAM委托访问OBS 配置Hive通过IAM委托访问OBS 配置Hudi通过IAM委托访问OBS 配置MapReduce通过IAM委托访问OBS 配置Presto通过IAM委托访问OBS
配置MRS云服务授权 用户通过MapReduce服务（MRS）管理控制台与MRS集群进行交互，查看MRS集群状态监控以及进行集群相关管理操作，首次使用MRS服务时需要进行服务授权。 进行服务授权后，MRS将在统一身份认证服务（IAM）中创建名为“mrs_admin_agency”
配置Kafka应用安全认证 使用Sasl Kerberos认证 使用Sasl Plaintext认证 使用Kafka Token认证 父主题： 准备Kafka应用开发环境
配置HBase应用安全认证 HBase数据读写示例安全认证（单集群场景） HBase服务数据读写示例安全认证（多集群互信场景） 调用REST接口访问HBase应用安全认证 访问HBase ThriftServer安全认证 HBase访问多ZooKeeper场景安全认证 父主题： 准备HBase应用开发环境
QL前，在Spark客户端执行如下命令获得认证。 kinit 组件业务用户 配置认证： 可以通过以下3种方式的任意一种指定安全认证信息。 在客户端的“spark-default.conf”配置文件中，配置“spark.yarn.keytab”和“spark.yarn.principal”参数指定认证信息。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
