数据湖探索 DLI-Spark2.4.x与Spark3.3.x版本在SQL队列的差异对比:返回信息明确告知不支持指定表外部属性
返回信息明确告知不支持指定表外部属性
- 说明:
表外部属性`external`变为保留。如果指定外部属性,某些命令将执行失败。
- Spark2.4.x:通过 `CREATE TABLE ... TBLPROPERTIES`和`ALTER TABLE ... SET TBLPROPERTIES`指定external属性,命令执行成功,但实际上external属性被静默忽略,表依然是managed table。
- Spark3.3.x:
通过 `CREATE TABLE ... TBLPROPERTIES`和`ALTER TABLE ... SET TBLPROPERTIES`指定external属性,命令将会失败。
如需在Spark3.3.x版本中恢复Spark2.4.x的使用方式,可以通过设置spark.sql.legacy.notReserveProperties为 true来实现。
- 升级引擎版本后是否对作业有影响:
有影响,涉及相关用法需要适配。
- 示例代码:
执行sql:
CREATE TABLE test_external(id INT,name STRING) TBLPROPERTIES('external'=true);
- Spark2.4.5
- Spark3.3.1
DLI .0005: The feature is not supported: external is a reserved table property, please use CREATE EXTERNAL TABLE.
- 大屏应用Canvas_华为云Astro_低代码平台-华为云
- 什么是Spark SQL作业_数据湖探索DLISpark SQL作业
- 华为云内容审核服务_内容审核有什么作用_华为云内容审核的优势
- 什么是跨源连接-数据湖探索DLI跨源连接
- OBS常用工具_OBS工具_OBS工具汇总
- 分布式消息服务Kafka版与分布式消息服务RocketMQ版的区别_Kafka与RocketMQ对比_Kafka与RocketMQ差异
- kafka是什么_kafka介绍_分布式消息服务Kafka版
- 什么是数据湖探索服务_数据湖探索DLI用途与特点
- 物联网设备接入平台_mqtt设备接入_Iot设备接入验证
- 数据治理中心_数据开发_数据开发示例_使用教程-华为云