MAPREDUCE服务 MRS-快速创建和使用启用安全认证的MRS集群:步骤四:准备应用程序及数据

时间:2024-11-21 14:20:59

步骤四:准备应用程序及数据

MRS 集群创建成功后,可获取集群客户端内的wordcount样例程序进行运行,也可准备上层业务自行开发的大数据应用程序并上传至集群。本指南以运行MRS集群客户端内的wordcount样例程序为例进行介绍,需先准备wordcount样例程序运行所需的数据文件。

  1. root用户登录Master1节点。
  2. 准备数据文件。

    数据文件无格式要求,例如文件名为“wordcount1.txt”和“wordcount2.txt”,内容如下所示:

    vi /opt/wordcount1.txt

    hello word
    hello wordcount

    vi /opt/wordcount2.txt

    hello mapreduce
    hello hadoop

  3. 执行以下命令切换到客户端安装目录,配置环境变量并创建用于存放样例数据的HDFS目录,例如“/user/example/input”。

    cd /opt/client

    source bigdata_env

    kinit testtest6创建的用户名,如果该用户首次登录,需修改初始密码)

    hdfs dfs -mkdir /user/example

    hdfs dfs -mkdir /user/example/input

    6创建的test用户仅具有“/user”目录的“读”、“写”和“执行”权限,如果在“/user”之外其他目录中创建“input”目录会报权限不足错误,例如:

    hdfs dfs -mkdir /hbase/input

    命令执行后会报如下错误:

    mkdir: Permission denied: user=test, access=EXECUTE, inode="/hbase":hbase:hadoop:drwxrwx--T

  4. 执行以下命令,将样例数据上传至HDFS。

    hdfs dfs -put /opt/wordcount1.txt /user/example/input

    hdfs dfs -put /opt/wordcount2.txt /user/example/input

support.huaweicloud.com/qs-mrs/mrs_09_0003.html