-
弹性资源池概述 - 数据湖探索 DLI
不支持设置队列属性和作业优先级。 不支持对接Notebook实例。 更多弹性资源池约束限制参考约束与限制。 适用于对资源消耗不高、对资源高可靠性和高可用性要求不高的测试场景。 标准版 64CUs及以上规格 更多弹性资源池约束限制参考约束与限制。 具备强大的计算能力、高可用性、及灵活的资源管理能力,适用于大
-
Kafka - 数据湖探索 DLI
型跨源,并绑定所要使用的Flink弹性资源池。 设置Kafka的安全组,添加入向规则使其对Flink的队列网段放通。参考测试地址连通性根据Kafka的地址测试队列连通性。如果能连通,则表示跨源已经绑定成功,否则表示未成功。 参考创建Flink OpenSource作业,创建flink
-
使用Spark SQL作业分析OBS数据 - 数据湖探索 DLI
查询结果 指定的OBS数据目录包含数据文件。 在OBS桶“dli-test-021”根目录下创建数据文件目录“data2”。创建如下内容的测试数据文件“test.csv”,并上传文件到“obs://dli-test-021/data2”目录下。 Jordon,88,23 Kim,87
-
自定义函数类型推导 - 数据湖探索 DLI
据类型。然而以反射方式提取数据类型并不总是成功的,比如UDTF中常见的Row类型。 由于 Flink 1.11 起引入了新的自定义函数注册接口,使用了新的自定义函数类型推断机制,因此原先1.10 重载 getResultType 声明返回字段类型的方式将不再可用。继续使用会抛出如下异常:
-
自定义函数类型推导 - 数据湖探索 DLI
据类型。然而以反射方式提取数据类型并不总是成功的,比如UDTF中常见的Row类型。 由于 Flink 1.11 起引入了新的自定义函数注册接口,使用了新的自定义函数类型推断机制,因此原先1.10 重载 getResultType 声明返回字段类型的方式将不再可用。继续使用会抛出如下异常:
-
迁移RDS数据至DLI - 数据湖探索 DLI
tabletest VALUES ('456','efg'); insert into tabletest VALUES ('789','hij'); 查询测试的表数据。 select * from tabletest; 图1 查询RDS表数据 在DLI上创建数据库和表。 登录DLI管理控制台,选
-
迁移Kafka数据至DLI - 数据湖探索 DLI
ig/producer.properties 上述命令中的“Kafka角色实例所在节点的IP地址”即为4中获取的Kafka实例IP。 发送测试消息内容如下: {"PageViews":5, "UserID":"4324182021466249494", "Duration":146
-
创建Hive Catalog - 数据湖探索 DLI
Flink Catalogs 功能描述 HiveCatalog有两个用途:作为原生Flink元数据的持久化存储,以及作为读写现有Hive元数据的接口。 Flink 的Hive 文档提供了有关设置 HiveCatalog以及访问现有 Hive 元数据的详细信息。详情参考:Apache Flink
-
窗口 - 数据湖探索 DLI
根据MySQL和kafka所在的虚拟私有云和子网创建相应的跨源,并绑定所要使用的队列。然后设置安全组,入向规则,使其对当前将要使用的队列放开,并根据MySQL和kafka的地址测试队列连通性。若能连通,则表示跨源已经绑定成功;否则表示未成功。 在MySQL的flink数据库下创建表order_count,创建语句如下:
-
窗口 - 数据湖探索 DLI
根据MySQL和kafka所在的虚拟私有云和子网创建相应的跨源,并绑定所要使用的队列。然后设置安全组,入向规则,使其对当前将要使用的队列放开,并根据MySQL和kafka的地址测试队列连通性。如果能连通,则表示跨源已经绑定成功;否则表示未成功。 在MySQL的flink数据库下创建表order_count,创建语句如下:
-
窗口 - 数据湖探索 DLI
根据MySQL和kafka所在的虚拟私有云和子网创建相应的跨源,并绑定所要使用的队列。然后设置安全组,入向规则,使其对当前将要使用的队列放开,并根据MySQL和kafka的地址测试队列连通性。若能连通,则表示跨源已经绑定成功;否则表示未成功。 在MySQL的flink数据库下创建表order_count,创建语句如下:
-
使用JDBC提交作业 - 数据湖探索 DLI
usehttpproxy=true时必须配置 - 访问代理端口。 dli.sql.checkNoResultQuery 否 false 是否允许调用executeQuery接口执行没有返回结果的语句(如DDL)。 “false”表示允许调用。 “true”表示不允许调用。 jobtimeout 否 300 提交作业终止时间,单位:秒。