数据湖探索 DLI-Spark2.4.x与Spark3.3.x版本在SQL队列的差异对比:Spark SQL支持Char/Varchar类型

时间:2024-12-28 16:25:09

Spark SQL支持Char/Varchar类型

  • 说明:
    • Spark2.4.x:在Spark2.4.x版本中,Spark SQL表字段不支持Char/Varchar类型,当指定为Char/Varchar类型时会强制转换为String类型。
    • Spark3.3.x:Spark SQL表字段支持CHAR/CHARACTER和VARCHAR类型。
  • 升级引擎版本后是否对作业有影响:

    无影响。

  • 示例代码:

    准备数据:

    create table test_char(id int,name varchar(24),name2 char(24));

    执行sql:

    show create table test_char;
    • Spark2.4.5
      create table `test_char`(`id` INT,`name` STRING,`name2` STRING)
      ROW FORMAT...
    • Spark3.3.1
      create table test_char(id INT,name VARCHAR(24),name2 VARCHAR(24))
      ROW FORMAT...
support.huaweicloud.com/bulletin-dli/dli_bulletin_0015.html