检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Delta支持对接DLI元数据和Lakeformation元数据（仅Spark 3.3.1及以上版本支持对接Lakeformation元数据），对接方式与Spark一致。 DLI元数据可在数据湖探索管理控制台的“数据管理 > 库表管理”中查看。 Lakeformation元数据可在湖仓构建
property_value)] AS query 限制 仅Hive数据源的Catalog支持视图的列描述。 在HetuEngine中创建的视图，视图的定义以编码方式存储在数据源里。在数据源可以查询到该视图，但无法对该视图执行操作。 视图是只读的，不可对它执行LOAD、INSERT操作。 视图可以包含ORDER
STRING 返回二进制格式。 bround bround(DOUBLE a) DOUBLE HALF_EVEN模式四舍五入，与传统四舍五入方式的区别在于，对数字5进行操作时，由前一位数字来决定，前一位数字为奇数，增加一位，前一位数字为偶数，舍弃一位。例如：bround(7.5)=8
as select * from parquet_mngd; 注意事项 为了更好的加载数据性能，CTAS使用bulk insert作为写入方式。 权限需求 由DLI提供的元数据服务 SQL权限： database table CREATE_TABLE 来源表：SELECT 细粒度
Spark作业相关 完整样例代码和依赖包说明请参考：Python SDK概述。 提交批处理作业 DLI提供执行批处理作业的接口。您可以使用该接口执行批处理作业。示例代码如下： 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18
bootstrap.servers 是 kafka brokers地址，以逗号分隔 connector.sink-partitioner 否 记录分区方式，支持：'fixed', 'round-robin'及'custom' connector.sink-partitioner-class 否
sert模式运行，否则，连接器以Append模式运行。 upsert模式：Flink会根据主键插入新行或更新现有行，Flink可以通过这种方式保证幂等性。为保证输出结果符合预期，建议为表定义主键。 Append模式：Flink 会将所有记录解释为INSERT消息，如果底层数据库发
值配置。 Spark SQL暂不支持查看列默认值信息，可以通过执行show create table SQL查看。 不支持默认缺省列的写入方式，写入时必须指定列名。 支持范围 当前仅支持int、bigint、float、double、decimal、string、date、tim
to date Format format(format, args...) → varchar 描述：对一个字符串，按照格式字符串指定的方式进行格式化，并返回。 SELECT format('%s%%',123);-- '123%' SELECT format('%.5f',pi());--
bootstrap.servers 是 kafka brokers地址，以逗号分隔。 connector.sink-partitioner 否 记录分区的方式，支持：'fixed', 'round-robin'及'custom'。 connector.sink-partitioner-class
提供Flink作业程序开发的样例指导。 使用Flink Jar写入数据到OBS 提供Flink如果将数据处理后写入到OBS的样例代码。 Flink作业相关API 提供Flink相关API的使用说明。
表相关 创建DLI表 DLI提供创建DLI表的接口。您可以使用该接口创建数据存储在DLI内部的表。示例代码如下： 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28
Hive表，仅在作业完成时使这些记录可见。BATCH 写入支持追加和覆盖现有表。 STREAMING 不断写入，向Hive添加新数据，以增量方式提交记录使其可见。用户控制何时/如何触发具有多个属性的提交。流式写入不支持插入覆盖。有关可用配置的完整列表，请参阅流式处理接收器。Streaming
名为“default”的数据库。 删除数据库 DLI提供删除数据库的接口。您可以使用该接口删除数据库。示例代码如下： 1 2 3 4 5 6 7 8 //调用Database对象的deleteDatabase接口删除数据库, //其中Database对象通过调用对象DLIClie
valueN) → [same as input] 返回提供的最小值。 批量比较判断：ALL，ANY和SOME 量词ALL，ANY和SOME可以参考以下方式，结合比较操作符一起使用： expression operator quantifier ( subquery ) 以下是一些量词和比较运
表相关 创建DLI表 DLI提供创建DLI表的接口。您可以使用该接口创建数据存储在DLI内部的表。示例代码如下： 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 def create_dli_tbl(dli_client
耗时，读请求读取到的数据相对就会滞后。 Merge On Read 读时合并表也简称MOR表，使用列格式parquet和行格式Avro两种方式混合存储数据。其中parquet格式文件用于存储基础数据，Avro格式文件（也可叫做log文件）用于存储增量数据。 优点：由于写入数据先写delta
mode' = 'jdbc', //同步元数据方式为jdbc 'hive_sync.jdbc_url' = '',
数据库相关 创建数据库 DLI提供创建数据库的接口。您可以使用该接口创建数据库，示例代码如下： 1 2 3 4 5 6 7 8 def create_db(dli_client): try: db = dli_client.create_database('db_for_test')
中TPC-H样例数据说明。 在“SQL模板”页面右上角，单击“设置”可以选择是否按照分组展示模板。 如果选择“按分组展示”，有以下三种展示方式：展开第一个分组、全部展开、全部收起。 创建SQL作业模板 创建模板的操作入口有两个，分别在“作业模板”和“SQL编辑器”页面。 在“作业模板”页面创建模板。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
