云数据库 GaussDB-示例:示例:多线程导出

时间:2023-11-01 16:22:50

示例:多线程导出

规划数据服务器与集群处于同一内网,数据服务器IP为192.168.0.90,导出的数据文件格式为 CS V,同时导出2个目标表,所以规划使用Remote模式进行多线程导处。

Remote模式多线程导出数据操作示例如下所示:

  1. 登录GDS数据服务器,创建数据库用户及所属的用户组。
    groupadd gdsgrpuseradd -g gdsgrp gds_user
  2. 切换用户gds_user,创建导出文件存放目录“/output_data”。
    su - gds_usermkdir -p /output_data
  3. 修改数据服务器上数据文件目录“/output_data”的属主为gds_user。
    chown -R gds_user:gdsgrp /output_data 
  4. 以gds_user用户登录数据服务器上启动GDS。
    其中GDS安装路径为“/opt/bin/gds”,导出数据文件存放在“/output_data/”目录下,数据服务器所在IP为192.168.0.90,GDS侦听端口为5000,以后台方式运行,设定并发度为2。
    /opt/bin/gds/gds -d /output_data -p 192.168.0.90:5000 -H 10.10.0.1/24 -D -t 2 
  5. GaussDB 上,创建外表foreign_tpcds_reasons1和foreign_tpcds_reasons2用于接收数据服务器上的数据。
    • 其中设置的导出模式信息如下所示:
      • 由于启动GDS时,设置的导出数据文件存放目录为“/output_data/”,GDS侦听端口为5000。创建的导出数据文件存放目录为“/output_data/”。所以设置参数“location”为“gsfs://192.168.0.90:5000/”。
    • 设置导出的数据文件格式信息如下所示:
      • 数据文件格式(format)为CSV。
      • 编码格式(encoding)为UTF-8。
      • 字段分隔符(delimiter)为E'\x20'。
      • 引号字符(quote)为0x1b。
      • 数据文件中空值(null)为没有引号的空字符串。
      • 逃逸字符(escape)为默认值双引号。
      • 数据文件是否包含标题行(header)为默认值false,即导出时数据文件第一行被识别为数据。

    根据以上信息,创建的外表foreign_tpcds_reasons1如下所示:

    123456
    openGauss=# CREATE FOREIGN TABLE foreign_tpcds_reasons1(    r_reason_sk    integer     not null,  r_reason_id    char(16)    not null,  r_reason_desc  char(100)) SERVER gsmpp_server OPTIONS (LOCATION 'gsfs://192.168.0.90:5000/', FORMAT 'CSV',ENCODING 'utf8', DELIMITER E'\x20', QUOTE E'\x1b', NULL '') WRITE ONLY;

    参考以上设置,创建的外表foreign_tpcds_reasons2如下所示:

    123456
    openGauss=# CREATE FOREIGN TABLE foreign_tpcds_reasons2(    r_reason_sk    integer     not null,  r_reason_id    char(16)    not null,  r_reason_desc  char(100)) SERVER gsmpp_server OPTIONS (LOCATION 'gsfs://192.168.0.90:5000/', FORMAT 'CSV', DELIMITER E'\x20', QUOTE E'\x1b', NULL '') WRITE ONLY;
  6. 在数据库中通过外表foreign_tpcds_reasons1和foreign_tpcds_reasons2,将表reasons1和reasons2中的数据导出到目录“/output_data”中。
    1
    openGauss=# INSERT INTO foreign_tpcds_reasons1 SELECT * FROM reasons1;
    1
    openGauss=# INSERT INTO foreign_tpcds_reasons2 SELECT * FROM reasons2;
  7. 待数据导出完成后,以gds_user用户登录数据服务器,停止GDS。
    其中GDS进程号为128954。
    ps -ef|grep gdsgds_user 128954      1  0 15:03 ?        00:00:00 gds -d /output_data -p 192.168.0.90:5000 -D -t 2 gds_user 129003 118723  0 15:04 pts/0    00:00:00 grep gdskill -9 128954
support.huaweicloud.com/distributed-devg-v2-opengauss/gaussdb-v5r2c10-0238.html