已找到以下 10000 条记录
  • Flink实战(四)Flink 的WaterMark机制

    整性),保证事件数据(全部)到达Flink系统,或者在乱序及延迟到达时,也能够像预期一样计算出正确并且连续的结果。 当任何 Event 进入到 Flink 系统时,会根据当前最大事件时间产生 Watermarks 时间戳。 那么 Flink 是怎么计算 WaterMark

    作者: Maynor学长
    发表时间: 2022-10-27 07:20:30
    201
    0
  • 【DLI】【flink】 dli中自己写flink 是否可以将流数据结果写入obs,自己写flink jar的话有没有哪有参考

    【功能模块】     功能求助【操作步骤&问题现象】   dli中自己写flink 是否可以将流数据结果写入obs,自己写flink jar的话有没有哪有参考 , 还是说只能使用MRS 才能实现,目前我看文档dli 暂时没有这方面的信息  ,麻烦帮忙解答下 

    作者: 浴皇大帝
    1753
    4
  • Flink 实例:Flink 流处理程序编程模型

    方法,可以将指定类型进行序列化,并且 Flink 的这些序列化器会以稠密的方式来将对象写入内存中。Flink 中也提供了非常丰富的序列化器。在我们基于 Flink 类型系统支持的数据类型进行编程时,Flink 在运行时会推断出数据类型的信息,我们在基于 Flink 编程时,几乎是不需要关心类型和序列化的。

    作者: TiAmoZhang
    发表时间: 2023-06-08 08:59:28
    101
    0
  • 创建Flink OpenSource作业从Kafka读取数据写入RDS

    步骤3:创建RDS数据库和表登录RDS管理控制台,在“实例管理”界面,选择已创建的RDS MySQL实例,选择操作列的“更多 > 登录”,进入数据管理服务实例登录界面。输入实例登录的用户名和密码。单击“登录”,即可进入RDS MySQL数据库并进行管理。在数据库实例界面,单击“

    作者: yd_228714723
    271
    0
  • 大数据Flink进阶(三):Flink核心特性

    Flink核心特性 Flink具有先进的架构理念,拥有诸多的优秀特性以及完善的编程接口,Flink的优势有以下几点: 一、批流一体化 Flink可以在底层用同样的数据抽象和计算模型来进行批处理和流处理。事实上,Flink在设计理念上没有刻意强调批处理和流处理,而更多的强调数据的有

    作者: Lansonli
    发表时间: 2023-03-19 03:55:54
    194
    0
  • Flink实例:Flink流处理程序编程模型

    可以将指定类型进行序列化,并且Flink的这些序列化器会以稠密的方式来将对象写入内存中。Flink中也提供了非常丰富的序列化器。在我们基于Flink类型系统支持的数据类型进行编程时,Flink在运行时会推断出数据类型的信息,程序员在基于Flink编程时,几乎是不需要关心类型和序列化的。

    作者: TiAmoZhang
    发表时间: 2023-05-24 09:49:46
    46
    0
  • Flink的sink实战之四:自定义

    本次实战很简单:自定义sink,用于将数据写入MySQL,涉及的版本信息如下: jdk:1.8.0_191 flink:1.9.2 maven:3.6.0 flink所在操作系统:CentOS Linux release 7.7.1908 MySQL:5.7.29 IDEA:2018

    作者: 程序员欣宸
    发表时间: 2022-04-11 07:12:41
    654
    0
  • 大数据Flink进阶(一):Apache Flink是什么

    猫、支付宝等数据业务支持。 三、Flink发展时间线及重大变更 Flink发展非常迅速,目前官网Flink最新版本是1.16版本,下面列举Flink发展过程中重要时间和重要版本发布时间点以及Flink各个版本推出的新特性以帮助大家更好了解Flink。 2010~2014:德国柏

    作者: Lansonli
    发表时间: 2023-03-13 10:52:19
    1023
    0
  • 大数据Flink进阶(十):Flink集群部署

    8.5。 1、Flink不同版本与Hadoop整合 Flink基于Yarn提交任务时,需要Flink与Hadoop进行整合。Flink1.8版本之前,Flink与Hadoop整合是通过Flink官方提供的基于对应hadoop版本编译的安装包来实现,例如:flink-1.7.2-bin-hadoop24-scala_2

    作者: Lansonli
    发表时间: 2023-04-09 22:24:54
    104
    0
  • 初识Flink

    Apache Flink是一个用于分布式流和批处理数据处理的开源平台。Flink的核心是流数据流引擎,为数据流上的分布式计算提供数据分发,通信和容错。Flink在流引擎之上构建批处理,覆盖本机迭代支持,托管内存和程序优化。一、Flink 的下载安装启动设置:下载并启动FlinkFlink可在Linux,Mac

    作者: 小米粒-biubiubiu
    发表时间: 2020-09-01 14:09:15
    2811
    0
  • Mysql

    Mysql 概述 环境准备 使用场景 使用指南 配置项说明 父主题: Mas-GO-SDK使用手册

  • Flink 1.12】深度解析 Flink Upsert-kafka

    Terminal 进入 Mysql 容器之中,并插入相应的数据。 docker exec -it mysql bash -c 'mysql -uroot -p123456' 在 Mysql 中执行以下命令: CREATE DATABASE flink; USE flink; CREATE

    作者: 百忍成金的虚竹
    发表时间: 2021-03-28 18:02:22
    2650
    0
  • Flink SQL作业类 - 数据湖探索 DLI

    Flink SQL作业类 怎样将OBS表映射为DLI的分区表? Flink SQL作业Kafka分区数增加或减少,怎样不停止Flink作业实现动态感知? 在Flink SQL作业中创建表使用EL表达式,作业运行提示DLI.0005错误怎么办? Flink作业输出流写入数据到OBS

  • Flink与其他组件的关系 - MapReduce服务 MRS

    Flink与其他组件的关系 Flink与Yarn的关系 Flink支持基于Yarn管理的集群模式,在该模式下,Flink作为Yarn上的一个应用,提交到Yarn上执行。 Flink基于Yarn的集群部署如图1所示。 图1 Flink基于Yarn的集群部署 Flink Yarn C

  • Flink SQL 优化

    会清理!要么设置 TTL ,要么使用 Flink SQL 的 interval join 。 使用 Top N 语法进行去重,重复数据的出现一般都位于特定区间内(例如一小时或一天内),过了这段时间之后,对应的 状态就不再需要了。 Flink SQL可以指定空闲状态(即未更新的状态)被保留的最小时间

    作者: 令照辉
    发表时间: 2023-05-07 23:59:21
    22
    0
  • Flink对接OBS - 对象存储服务 OBS

    Flink对接OBS 概述 Flink是一个分布式的数据处理引擎,用于处理有界和无界流式数据。Flink定义了文件系统抽象,OBS服务实现了Flink的文件系统抽象,使得OBS可以作为flink StateBackend和数据读写的载体。 注意事项 flink-obs-fs-hadoop目前仅支持OBS并行文件系统。

  • 数据湖(六):Hudi与Flink整合

    Hudi与Flink整合 Hudi0.8.0版本与Flink1.12.x之上版本兼容,目前经过测试,Hudi0.8.0版本开始支持Flink,通过Flink写数据到Hudi时,必须开启checkpoint,至少有5次checkpoint后才能看到对应hudi中的数据。 但是应该是有一些问题,目前问题如下:

    作者: Lansonli
    发表时间: 2022-06-03 15:21:35
    696
    0
  • 查看Flink作业详情 - 数据湖探索 DLI

    查看Flink作业任务列表 Flink作业执行计划 了解运行中的作业的算子流向。 查看Flink作业执行计划 查看Flink作业基本信息 单击“作业管理 > Flink作业”,进入Flink作业管理页面。Flink作业管理页面显示所有的Flink作业,通过Flink作业列表可以了解Flink作业的基本信息。

  • Flink实战(五)Flink当中的窗口操作

    5、Flink当中的窗口操作 有了时间属性,我们就可以配合窗⼝来完成各种业务的计算,Flink Table API/SQL提供了丰富的窗⼝操作。 Flink DataStream已经支持Group Windows Flink Table API/SQL还支持Over Windows

    作者: Maynor学长
    发表时间: 2022-10-27 07:22:41
    180
    0
  • Flink实战(三)Flink的Time类型

    time==(事件接入时间) 事件进入Flink程序的时间 ==Processing Time==(事件处理时间) 事件被处理时当前系统的时间 Flink在流处理程序中支持不同的时间类型。 3.1 EventTime 1、事件生成时的时间,在进入Flink之前就已经存在,可以从event的字段中抽取

    作者: Maynor学长
    发表时间: 2022-10-27 07:19:20
    137
    0