MAPREDUCE服务 MRS-准备本地应用开发环境:准备运行环境

时间:2024-07-29 08:59:27

准备运行环境

进行应用开发时,需要同时准备代码的运行调测的环境,用于验证应用程序运行正常。

  • 如果使用Linux环境调测程序,需在准备安装集群客户端的Linux节点并获取相关配置文件。
    1. 在节点中安装客户端,例如客户端安装目录为“/opt/client”。

      客户端机器的时间与集群的时间要保持一致,时间差小于5分钟。

      集群的Master节点或者Core节点使用客户端可参考集群内节点使用 MRS 客户端,MRS集群外客户端的安装操作可参考集群外节点使用MRS客户端

    2. 登录 FusionInsight Manager页面,下载集群客户端软件包至主管理节点并解压,然后以root用户登录主管理节点,进入集群客户端解压路径下,复制“FusionInsight_Cluster_1_Services_ClientConfig\Flink\config”路径下的所有配置文件至客户端节点,放置到与准备放置编译出的jar包同目录的“conf”目录下,用于后续调测,例如“/opt/client/conf”。

      例如客户端软件包为“FusionInsight_Cluster_1_Services_Client.tar”,下载路径为主管理节点的“/tmp/FusionInsight-Client”:

      cd /tmp/FusionInsight-Client

      tar -xvf FusionInsight_Cluster_1_Services_Client.tar

      tar -xvf FusionInsight_Cluster_1_Services_ClientConfig.tar

      cd FusionInsight_Cluster_1_Services_ClientConfig

      scp Flink/config/* root@客户端节点IP地址:/opt/client/conf

      主要配置文件说明如表2所示。

      表2 配置文件

      文件名称

      作用

      core-site.xml

      配置Flink详细参数。

      hdfs-site.xml

      配置HDFS详细参数。

      yarn-site.xml

      配置Yarn详细参数。

      flink-conf.yaml

      Flink客户端配置文件。

    3. 检查客户端节点网络连接。

      在安装客户端过程中,系统会自动配置客户端节点“hosts”文件,建议检查“/etc/hosts”文件内是否包含集群内节点的主机名信息,如未包含,需要手动复制解压目录下的“hosts”文件中的内容到客户端所在节点的hosts文件中,确保本地机器能与集群各主机在网络上互通。

support.huaweicloud.com/devg3-mrs/mrs_07_260006.html