数据湖探索 DLI-Flink作业概述

时间:2024-10-11 17:11:15

Flink作业概述

DLI 支持的两种类型的Flink作业:

  • Flink OpenSource SQL类型作业:
    • 完全兼容社区版的Flink,确保了作业可以在这些Flink版本上无缝运行。
    • 在社区版Flink的基础上,DLI扩展了Connector的支持,新增了Redis、DWS、以及DIS作为数据源类型。为用户提供了更多的数据源选择,使得数据集成更加灵活和方便。
    • Flink OpenSource SQL作业适合通过SQL语句来定义和执行流处理逻辑的场景,简化了流处理的复杂性,使得开发者可以更加专注于业务逻辑的实现。

    创建Flink OpenSource SQL请参考创建Flink OpenSource SQL作业

  • Flink Jar作业:
    • DLI允许用户提交编译为Jar包的Flink作业,提供了更高的灵活性和自定义能力,适合需要进行复杂数据处理的场景。
    • 当社区版Flink提供的Connector不能满足特定需求时,用户可以通过Jar作业来实现自定义的Connector或数据处理逻辑。
    • 适合需要实现UDF(用户定义函数)或特定库集成的场景,用户可以利用Flink的生态系统来实现高级的流处理逻辑和状态管理。

    创建Flink Jar作业请参考创建Flink Jar作业

support.huaweicloud.com/usermanual-dli/dli_01_0403.html