MAPREDUCE服务 MRS-如何开发Flume第三方插件

时间:2024-11-06 14:23:09

如何开发Flume第三方插件

  1. 安装Flume客户端,如安装目录为“/opt/flumeclient”。
  2. 将自主研发的代码打成jar包。
  3. 建立插件目录布局。

    1. 进入“Flume客户端安装目录/fusionInsight-flume-*/plugins.d”路径下,使用以下命令建立目录,可根据实际业务进行命名,无固定名称:

      cd /opt/flumeclient/fusioninsight-flume-1.9.0/plugins.d

      mkdir thirdPlugin

      cd thirdPlugin

      mkdir lib libext native

      显示结果如下:

    2. 将第三方jar包放入Flume客户端安装目录/fusionInsight-flume-*/plugins.d/thirdPlugin/lib”路径下,如果该jar包依赖其他jar包,则将所依赖的jar包放入Flume客户端安装目录/fusionInsight-flume-*/plugins.d/thirdPlugin/libext”文件夹中,Flume客户端安装目录/fusionInsight-flume-*/plugins.d/thirdPlugin/native”放置本地库文件。

  4. 配置Flume客户端安装目录/fusionInsight-flume-*/conf/properties.properties”文件。

    具体properties.properties参数配置方法,参考配置Flume非加密传输数据采集任务配置Flume加密传输数据采集任务对应典型场景中properties.properties文件参数列表的说明。

support.huaweicloud.com/cmpntguide-lts-mrs/mrs_01_1083.html