检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Worker JVM * 0.7。 Query单节点最大可用内存。 worker.config.properties query.max-total-memory-per-node 5GB Worker JVM * 0.7。 Query + System单节点最大可用内存。 worker.config
第三层目录。 4f854bf4-ea54-4595-a9d9-9b9080779ffe表示checkpoint源文件。 Flink在集群模式下checkpoint将文件放到HDFS。 运行Stream SQL Join样例程序 启动程序向Kafka生产。Kafka配置可参考运行
keytab”表示的是用户目录。 principal名。 security.kerberos.login.principal: abc222 对于HA模式，如果配置了ZooKeeper，还需要设置ZK kerberos认证相关的配置。配置如下： zookeeper.sasl.disable:
a/bin 执行以下命令，配置环境变量。 source /opt/client/bigdata_env 执行以下命令，进行用户认证。（普通模式跳过此步骤） kinit 组件业务用户 MRS 3.x之前版本：执行以下命令，创建Kafka主题。 创建主题 sh kafka-topics
点，名称中包含“master2”的节点为Master2节点。 MRS Manager的主备管理节点默认安装在集群Master节点上。在主备模式下，由于Master1和Master2之间会切换，Master1节点不一定是MRS Manager的主管理节点，需要在Master1节点中执行命令，确认MRS
设置数据保存信息并运行作业 单击“下一步”，进入“输出设置”界面，设置数据保存方式。 表4 输出设置参数 参数名 说明 示例 架构名称 数据库模式名。 dbo 表名 数据库表名，用于最终保存传输的数据。 说明： 表名可以使用宏定义，具体请参考Loader算子配置项中使用宏定义。 test
is数据库。 export LIBMYSQL_ENABLE_CLEARTEXT_PLUGIN=1 （若集群已启用Kerberos认证（安全模式）需执行该命令） mysql -u数据库登录用户 -p数据库登录用户密码 -P数据库连接端口 -hDoris FE实例IP地址 数据库连接端口为Doris
点，名称中包含“master2”的节点为Master2节点。 MRS Manager的主备管理节点默认安装在集群Master节点上。在主备模式下，由于Master1和Master2之间会切换，Master1节点不一定是MRS Manager的主管理节点，需要在Master1节点中执行命令，确认MRS
Base NameSpace的RWXA权限）和HDFS权限（对应HFile输出目录的读写权限）。 如果集群已启用Kerberos认证（安全模式），需修改Spark“客户端安装目录/Spark/spark/conf/spark-defaults.conf”配置文件中的“spark.yarn
ive”和登录客户端的用户名，未开启Kerberos认证的集群配置用户名“omm”和登录客户端的用户名。 如需使用Hive在beeline模式下创建表时，配置内置用户“hive”。 单击“确定”。 勾选“我同意授权MRS用户（组）与IAM委托之间的信任关系。”，并单击“确定”，完成MRS用户与OBS权限的映射关系。
点，名称中包含“master2”的节点为Master2节点。 MRS Manager的主备管理节点默认安装在集群Master节点上。在主备模式下，由于Master1和Master2之间会切换，Master1节点不一定是MRS Manager的主管理节点，需要在Master1节点中执行命令，确认MRS
不涉及 取值范围： 不涉及 默认取值： 不涉及 表5 AvailableTag 参数 参数类型 描述 mode String 参数解释： 模式，分为专属dedicated和共享shared。 约束限制： 不涉及 取值范围： dedicated：专属可用区。 shared：共享可用区。
设置数据保存信息并运行作业 单击“下一步”，进入“输出设置”界面参考下表填写参数。 表4 输出设置参数 参数名 说明 示例 架构名称 数据库模式名。 dbo 表名 数据库表名，用于最终保存传输的数据。 test 临时表名 数据库临时表名用于临时保存传输过程中的数据，字段需要和“表名”配置的表一致。
最近一个月最大数据量分区数据总条数 = 入湖前咨询产品线 单条数据大小 = 平均 1KB（华为建议通过select * from tablename limit 100将查询结果粘贴在notepad++中得出100条数据的大小再除以100得到单条平均大小） 单分区数据量大小(G) = 最近一个月最大
max_memory_usage_for_all_queries 单台服务器上所有查询的内存使用量，默认没有限制。建议根据机器的总内存，预留一部分空间，防止内存不够导致服务或者机器异常。 0 机器总内存的80% 否 max_memory_usage 单个查询在单台服务器的能使用的最大内存。 10G 50GB
主备集群都已经安装并启动成功，且获取集群的管理员权限。 必须保证主备集群间的网络畅通和端口的使用。 如果主集群部署为安全模式且不由一个FusionInsight Manager管理，主备集群必须已配置跨集群互信。如果主集群部署为普通模式，不需要配置跨集群互信。 主备集群必须已配置跨集群拷贝。 主备集群上的时间必须一致
内存（MB）：输入值最小为4096。 开启CheckPoint 是否开启CheckPoint。开启后，需配置以下内容： 时间间隔（ms）：必填； 模式：必填； 可选项为：EXACTLY_ONCE、AT_LEAST_ONCE； 最小间隔（ms）：输入值最小为10； 超时时间：输入值最小为10；
yaml”文件中的“parallelism.default”配置选项来指定所有执行环境的默认并行度。 配置进程参数 Flink on YARN模式下，有JobManager和TaskManager两种进程。在任务调度和运行的过程中，JobManager和TaskManager承担了很大的责任。
目录并认证用户。 cd /opt/client source bigdata_env kinit HetuEngine组件操作用户 （普通模式集群跳过） 执行以下命令，登录数据源的catalog。 hetu-cli --catalog 数据源名称 --schema 数据库名 例如执行以下命令：
is数据库。 export LIBMYSQL_ENABLE_CLEARTEXT_PLUGIN=1 （若集群已启用Kerberos认证（安全模式）需执行该命令） mysql -u数据库登录用户 -p数据库登录用户密码 -P数据库连接端口 -hDoris FE实例IP地址 数据库连接端口为Doris
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
