MAPREDUCE服务 MRS-快速创建和使用启用安全认证的MRS集群:步骤四:准备应用程序及数据
步骤四:准备应用程序及数据
MRS 集群创建成功后,可获取集群客户端内的wordcount样例程序进行运行,也可准备上层业务自行开发的大数据应用程序并上传至集群。本指南以运行MRS集群客户端内的wordcount样例程序为例进行介绍,需先准备wordcount样例程序运行所需的数据文件。
- 以root用户登录Master1节点。
- 准备数据文件。
数据文件无格式要求,例如文件名为“wordcount1.txt”和“wordcount2.txt”,内容如下所示:
vi /opt/wordcount1.txt
hello word hello wordcount
vi /opt/wordcount2.txt
hello mapreduce hello hadoop
- 执行以下命令切换到客户端安装目录,配置环境变量并创建用于存放样例数据的HDFS目录,例如“/user/example/input”。
cd /opt/client
source bigdata_env
kinit test(test为6创建的用户名,如果该用户首次登录,需修改初始密码)
hdfs dfs -mkdir /user/example
hdfs dfs -mkdir /user/example/input
6创建的test用户仅具有“/user”目录的“读”、“写”和“执行”权限,如果在“/user”之外其他目录中创建“input”目录会报权限不足错误,例如:
hdfs dfs -mkdir /hbase/input
命令执行后会报如下错误:
mkdir: Permission denied: user=test, access=EXECUTE, inode="/hbase":hbase:hadoop:drwxrwx--T
- 执行以下命令,将样例数据上传至HDFS。
hdfs dfs -put /opt/wordcount1.txt /user/example/input
hdfs dfs -put /opt/wordcount2.txt /user/example/input
- MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用
- 大数据分析是什么_使用MapReduce_创建MRS服务
- MapReduce服务_什么是Kafka_如何使用Kafka
- MapReduce服务_什么是ZooKeeper_如何使用ZooKeeper
- MRS备份恢复_MapReduce备份_数据备份
- MapReduce服务_什么是MapReduce服务_什么是HBase
- 什么是Manager_Manager的功能_MRS运维管理
- MRS优势_什么是MRS_MRS功能
- MapReduce服务_什么是存算分离_如何配置MRS集群存算分离
- MapReduce服务_什么是Hue_如何使用Hue