MAPREDUCE服务 MRS-Hive JDBC应用开发快速入门:获取样例工程

时间:2024-05-30 15:28:35

获取样例工程

  1. 通过开源镜像站获取样例工程。

    下载样例工程的Maven工程源码和配置文件,并在本地配置好相关开发工具,可参考通过开源镜像站获取样例工程

    根据集群版本选择对应的分支,下载并获取 MRS 相关样例工程。

    例如本章节场景对应示例为“hive-jdbc-example”样例,获取地址:https://github.com/huaweicloud/huaweicloud-mrs-example/tree/mrs-3.1.5/src/hive-examples/hive-jdbc-example

  2. 本地使用IDEA工具导入样例工程,等待Maven工程下载相关依赖包,具体操作可参考配置并导入样例工程

    图1 Hive样例工程示例

    本地配置好Maven及SDK相关参数后,样例工程会自动加载相关依赖包。

  3. 准备应用开发配置文件中获取的集群配置文件及用户认证文件放置在样例工程的“resources”目录下。
  4. 如需连接开启了Kerberos认证的MRS集群,在Hive样例工程代码中,需配置相关认证信息。

    在“com.huawei.bigdata.hive.examples”包的“JDBCExample”类中修改“USER_NAME”为实际用户名,例如developuser
    KRB5_FILE = userdir + "krb5.conf";
    System.setProperty("java.security.krb5.conf", KRB5_FILE);
    USER_NAME = "developuser";
    if ("KERBEROS".equalsIgnoreCase(auth)) {
        USER_KEYTAB_FILE = "src/main/resources/user.keytab";
        ZOOKEEPER_DEFAULT_SERVER_PRINCIPAL = "zookeeper/" + getUserRealm();
        System.setProperty(ZOOKEEPER_SERVER_PRINCIPAL_KEY, ZOOKEEPER_DEFAULT_SERVER_PRINCIPAL);
    }
    ...

    本样例工程中,基于业务场景的开发思路如下,各功能代码片段详情说明可参考JDBC访问Hive样例程序

    1. 数据准备。
      1. 创建表,雇员信息表“employees_info”。
      2. 加载雇员信息数据到雇员信息表“employees_info”中。
    2. 数据分析。

      统计表employees_info中有多少条记录。

    3. 删除表。

support.huaweicloud.com/qs-mrs/mrs_09_0021.html