MapReduce服务 MRS-安装MRS 3.x之前版本Flume客户端:操作步骤
操作步骤
- 根据前提条件,创建一个满足要求的弹性云服务器。
- 登录集群详情页面,选择“组件管理”。
若集群详情页面没有“组件管理”页签,请先完成 IAM 用户同步(在集群详情页的“概览”页签,单击“IAM用户同步”右侧的“同步”进行IAM用户同步)。
- 单击“下载客户端”。
- 在“客户端类型”选择“完整客户端”。
- 在“下载路径”选择“远端主机”。
- 将“主机IP”设置为E CS 的IP地址,设置“主机端口”为“22”,并将“保存路径”设置为“/tmp”。
- 如果使用SSH登录ECS的默认端口“22”被修改,请将“主机端口”设置为新端口。
- “保存路径”最多可以包含256个字符。
- “登录用户”设置为“root”。
如果使用其他用户,请确保该用户对保存目录拥有读取、写入和执行权限。
- 在“登录方式”选择“密码”或“SSH私钥”。
- 密码:输入创建集群时设置的root用户密码。
- SSH私钥:选择并上传创建集群时使用的密钥文件。
- 单击“确定”开始生成客户端文件。
若界面显示以下提示信息表示客户端包已经成功保存。
下载客户端文件到远端主机成功。
若界面显示以下提示信息,请检查用户名密码及远端主机的安全组配置,确保用户名密码正确,及远端主机的安全组已增加SSH(22)端口的入方向规则。然后从3执行重新下载客户端。
连接到服务器失败,请检查网络连接或参数设置。
图1 下载客户端
- 选择“Flume”服务,单击“实例”,查看任意一个Flume实例和两个MonitorServer实例的“业务IP”。
- 使用VNC方式,登录弹性云服务器。参见远程登录(VNC方式))。
所有镜像均支持Cloud-init特性。Cloud-init预配置的用户名“root”,密码为创建集群时设置的密码。首次登录建议修改。
- 在弹性云服务器,切换到root用户,并将安装包复制到目录“/opt”。
sudo su - root
cp /tmp/ MRS _Flume_Client.tar /opt
- 在“/opt”目录执行以下命令,解压压缩包获取校验文件与客户端配置包。
tar -xvf MRS_Flume_Client.tar
- 执行以下命令,校验文件包。
sha256sum -c MRS_Flume_ClientConfig.tar.sha256
界面显示如下信息,表明文件包校验成功:
MRS_Flume_ClientConfig.tar: OK
- 执行以下命令,解压“MRS_Flume_ClientConfig.tar”。
tar -xvf MRS_Flume_ClientConfig.tar
- 执行以下命令,安装客户端运行环境到新的目录,例如“/opt/Flumeenv”。安装时自动生成目录。
sh /opt/MRS_Flume_ClientConfig/install.sh /opt/Flumeenv
查看安装输出信息,如有以下结果表示客户端运行环境安装成功:
Components client installation is complete.
- 执行以下命令,配置环境变量。
source /opt/Flumeenv/bigdata_env
- 执行以下命令,解压Flume客户端。
cd /opt/MRS_Flume_ClientConfig/Flume
tar -xvf FusionInsight -Flume-1.6.0.tar.gz
- 执行以下命令,查看当前用户密码是否过期。
chage -l root
“Password expires”时间早于当前则表示过期。此时需要修改密码,或执行chage -M -1 root设置密码为未过期状态。
- 执行以下命令,安装Flume客户端到新目录,例如“/opt/FlumeClient”。安装时自动生成目录。
sh /opt/MRS_Flume_ClientConfig/Flume/install.sh -d /opt/FlumeClient -f MonitorServer实例的业务IP地址 -c Flume配置文件路径 -l /var/log/ -e Flume的业务IP地址 -n Flume客户端名称
各参数说明如下:
- “-d”:表示Flume客户端安装路径。
- “-f”:可选参数,表示两个MonitorServer角色的业务IP地址,中间用英文逗号分隔,若不设置则Flume客户端将不向MonitorServer发送告警信息,同时在MRS Manager界面上看不到该客户端的相关信息。
- “-c”:可选参数,表示Flume客户端在安装后默认加载的配置文件“properties.properties”。如不添加参数,默认使用客户端安装目录的“fusioninsight-flume-1.6.0/conf/properties.properties”。客户端中配置文件为空白模板,根据业务需要修改后Flume客户端将自动加载。
- “-l”:可选参数,表示日志目录,默认值为“/var/log/Bigdata”。
- “-e”:可选参数,表示Flume实例的业务IP地址,主要用于接收客户端上报的监控指标信息。
- “-n”:可选参数,表示自定义的Flume客户端的名称。
- IBM的JDK不支持“-Xloggc”,需要修改“flume/conf/flume-env.sh”,将“-Xloggc”修改为“-Xverbosegclog”,若JDK为32位,“-Xmx”不能大于3.25GB。
- “flume/conf/flume-env.sh”中,“-Xmx”默认为4GB。若客户端机器内存过小,可调整为512M甚至1GB。
例如执行:sh install.sh -d /opt/FlumeClient
系统显示以下结果表示客户端运行环境安装成功:
install flume client successfully.
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- MapReduce服务_什么是Flume_如何使用Flume
- 大数据分析是什么_使用MapReduce_创建MRS服务
- MapReduce服务_什么是存算分离_如何配置MRS集群存算分离
- MRS备份恢复_MapReduce备份_数据备份
- MapReduce服务_什么是ZooKeeper_如何使用ZooKeeper
- MapReduce服务_什么是MapReduce服务_什么是HBase
- 什么是Manager_Manager的功能_MRS运维管理
- MapReduce工作原理_MapReduce是什么意思_MapReduce流程_MRS_华为云
- MapReduce服务_什么是Hue_如何使用Hue