检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
建议：编程时必须加以考虑的原则。 说明：对此规则或建议进行的解释。 示例：对此规则或建议给出示例。 适用范围 基于MRS-Flink数据存储进行数据存储、数据加工作业的设计、开发、测试和维护。 该设计开发规范是基于MRS 3.2.0及以后版本。 参数优化部分适配于MRS 3.2.0及以后版本。
rver节点或ZooKeeper节点绑定弹性公网IP，绑定弹性公网IP步骤如下。 在虚拟私有云管理控制台，申请一个弹性IP地址，并与弹性云服务器绑定。 具体请参见“虚拟私有云 > 用户指南 > 弹性公网IP > 为弹性云服务器申请和绑定弹性公网IP”。 为MRS集群开放安全组规则。
IDEA打包出来的jar包放入指定文件夹（例如“D:\source”）。 在样例代码目录“src/storm-examples/storm-examples”下创建“lib”目录，将IntelliJ IDEA中导出的jar包复制到“lib”目录下，并解压。 若业务需要访问外部组件，其所依赖的配置文件请参考相
IDEA工具，同时完成JDK、Maven等初始配置。 准备MapReduce开发环境 准备连接集群配置文件 应用程序开发或运行过程中，需通过集群相关配置文件信息连接MRS集群，配置文件通常包括集群组件信息文件以及用于安全认证的用户文件，可从已创建好的MRS集群中获取相关内容。 用于程序调测或运行的节点，需要
使用Alluxio 配置底层存储系统 通过数据应用访问Alluxio Alluxio常用操作
从CSV文件加载数据到CarbonData表。 根据所要求的参数运行命令从CSV文件加载数据，且仅支持CSV文件。LOAD命令中配置的CSV列名，需要和CarbonData表列名相同，顺序也要对应。CSV文件中的数据的列数，以及数据格式需要和CarbonData表匹配。 文件需要保
准备运行调测环境 在弹性云服务器管理控制台，申请一个新的弹性云服务器，用于应用开发运行调测。 弹性云服务器的安全组需要和MRS集群Master节点的安全组相同。 弹性云服务器的VPC需要与MRS集群在同一个VPC中。 弹性云服务器的网卡需要与MRS集群在同一个网段中。 申请弹性IP，并与新
务，建议使用keytab方式完成鉴权功能。 在“客户端安装路径/ZooKeeper/zookeeper/conf/jaas.conf”配置文件中设置属性“useTicketCache=false”，设置“useKeyTab=true”，并指明keytab路径。 父主题： ZooKeeper常见问题
shuffle服务连接特定IP，可以参考该章节进行配置。 配置描述 当需要MapReduce shuffle服务绑定特定IP时，需要在NodeManager实例所在节点的配置文件“mapred-site.xml”中（例如路径为：${BIGDATA_HOME}/FusionInsight_HD_xxx/x_xx_No
量的未合并的editlog，导致耗时启动较长，甚至启动失败。 原因分析 备NameNode会周期性做合并editlog，生成fsimage文件的过程叫做checkpoint。备NameNode在新生成fsimage后，会将fsimage传递到主NameNode。 由于“备Name
SECURITY_SSL_ENCRYPT_ENABLED 答： 客户代码里面打包的第三方依赖包和集群包冲突，提交到MRS集群运行失败。 需修改相关的依赖包，并将pom文件中的开源版本的Hadoop包和Flink包的作用域设置为provide，添加完成后重新打包运行任务。 父主题： 作业管理类
multiple storm.yaml resources。如下所示： 该错误是由于业务jar包中存在storm.yaml文件，和服务端的storm.yaml文件冲突导致的。 解决方法参考2。 如果不是上述原因，则请参考提交Storm拓扑失败，提示Failed to check principle
用户可以根据自己的需求，修改MRS的流式Core节点上的“/opt/Bigdata/MRS_XXX /1_XX _Supervisor/etc/worker.xml”文件，将标签filename的值设定为客户需要的路径，然后在Manager页面重启对应实例。 建议用户尽量不要修改MRS默认的日志配置，否则可能会造成日志系统异常。
回答 Impala默认将UDF对应的jar包缓存到“/tmp”目录下，由--local_library_dir配置项控制，“/tmp”目录下的文件保存一定时间后会被操作系统删除，导致Impala查询时出现缺类错误。 登录Manager界面，选择“集群 > 服务 > Impala > 配置
hoodie_partition_metadata”文件中。 dryRun为false时不仅会打印出每个分区的最后修改时间，而且会把每个分区的最后修改时间写入每个分区下的“.hoodie_partition_metadata”文件中。 参数描述 参数 描述 是否必填 table String类型，表名或者库名
udu/config”路径下的所有配置文件至客户端节点，放置到与准备放置编译出的jar包同目录的“conf”目录下，用于后续调测，例如“/opt/client/conf”。 准备开发用户时获取的keytab文件也放置于该目录下，主要配置文件说明如表2所示。 例如客户端软件包为“F
root@客户端节点IP地址:/opt/hadoopclient/conf 准备MRS应用开发用户时获取的keytab文件也放置于该目录下，主要配置文件说明如表2所示。 表2 配置文件 文件名称 作用 core-site.xml 配置Flink详细参数。 hdfs-site.xml 配置HDFS详细参数。
端”，单击“确定”开始生成客户端配置文件，文件生成后默认保存在主管理节点“/tmp/MRS-client”。文件保存路径支持自定义。 图1 下载客户端配置文件 查询并登录主Master节点。 若在集群内使用客户端，执行以下命令切换到omm用户，若在集群外使用客户端，请切换到root用户：
完成客户端的安装和配置。 准备Spark本地应用开发环境 准备连接集群配置文件 应用程序开发或运行过程中，需通过集群相关配置文件信息连接MRS集群，配置文件通常包括集群组件信息文件以及用于安全认证的用户文件，可从已创建好的MRS集群中获取相关内容。 用于程序调测或运行的节点，需要
'type' = 'hive', 'hive-version' = '3.1.0', 'default-database' = 'default', 'cluster.name' = 'flink_hive' ); 父主题： FlinkSQL
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
