已找到以下 10000 条记录
  • Flink Standalone运行模式

    另外,Fink可以将处理后的数据,输出到第三方应用系统、事件日志、数据库系统、文件系统以及键值对存储系统中。由于Flink程序主要由Java语言或Scala语言开发,另外还支持Python语言。但底层组件和Flink运行时(runtime)是运行在JVM上,因此,Flink程序可以运行在多种平台上,如Linux、Unix、Mac

    作者: jackwangcumt
    发表时间: 2021-11-24 23:55:35
    2643
    0
  • Flink作业推荐配置指导 - 数据湖探索 DLI

    登录DLI控制台,创建Flink SQL作业,编写作业SQL后,配置“运行参数”。 Flink Jar作业可靠性配置与SQL作业相同,不再另行说明。 根据如下公式,配置作业的“CU数量”、“管理单元”与“最大并行数”: CU数量 = 管理单元 + (算子总并行数 / 单TM Slot数)

  • Flink实战(四)Flink 的WaterMark机制

    整性),保证事件数据(全部)到达Flink系统,或者在乱序及延迟到达时,也能够像预期一样计算出正确并且连续的结果。 当任何 Event 进入到 Flink 系统时,会根据当前最大事件时间产生 Watermarks 时间戳。 那么 Flink 是怎么计算 WaterMark

    作者: Maynor学长
    发表时间: 2022-10-27 07:20:30
    201
    0
  • FlinkSQL算子并行度 - MapReduce服务 MRS

    FlinkSQL算子并行度 本章节适用于MRS 3.5.0及以后版本。 使用场景 通过CompiledPlan提交的作业,算子的并行度、算子的TTL都以CompiledPlan中的值为准,而不是“flink-conf.yaml”中的值。FlinkSQL支持通过修改作业的CompiledPlan来设置算子并行度。

  • Flink 实例:Flink 流处理程序编程模型

    方法,可以将指定类型进行序列化,并且 Flink 的这些序列化器会以稠密的方式来将对象写入内存中。Flink 中也提供了非常丰富的序列化器。在我们基于 Flink 类型系统支持的数据类型进行编程时,Flink 在运行时会推断出数据类型的信息,我们在基于 Flink 编程时,几乎是不需要关心类型和序列化的。

    作者: TiAmoZhang
    发表时间: 2023-06-08 08:59:28
    101
    0
  • 大数据Flink进阶(三):Flink核心特性

    Flink核心特性 Flink具有先进的架构理念,拥有诸多的优秀特性以及完善的编程接口,Flink的优势有以下几点: 一、批流一体化 Flink可以在底层用同样的数据抽象和计算模型来进行批处理和流处理。事实上,Flink在设计理念上没有刻意强调批处理和流处理,而更多的强调数据的有

    作者: Lansonli
    发表时间: 2023-03-19 03:55:54
    194
    0
  • Flink实例:Flink流处理程序编程模型

    可以将指定类型进行序列化,并且Flink的这些序列化器会以稠密的方式来将对象写入内存中。Flink中也提供了非常丰富的序列化器。在我们基于Flink类型系统支持的数据类型进行编程时,Flink在运行时会推断出数据类型的信息,程序员在基于Flink编程时,几乎是不需要关心类型和序列化的。

    作者: TiAmoZhang
    发表时间: 2023-05-24 09:49:46
    46
    0
  • DLI Flink与MRS Flink有什么区别? - 数据湖探索 DLI

    DLI Flink与MRS Flink有什么区别? DLI Flink是天然的云原生基础架构。在内核引擎上DLI Flink进行了多处核心功能的优化,并且提供了企业级的一站式开发平台,自带开发和运维功能,免除自建集群运维的麻烦;在connector方面除了支持开源connecto

  • 大数据Flink进阶(一):Apache Flink是什么

    猫、支付宝等数据业务支持。 三、Flink发展时间线及重大变更 Flink发展非常迅速,目前官网Flink最新版本是1.16版本,下面列举Flink发展过程中重要时间和重要版本发布时间点以及Flink各个版本推出的新特性以帮助大家更好了解Flink。 2010~2014:德国柏

    作者: Lansonli
    发表时间: 2023-03-13 10:52:19
    1023
    0
  • Flink的sink实战之四:自定义

    本次实战很简单:自定义sink,用于将数据写入MySQL,涉及的版本信息如下: jdk:1.8.0_191 flink:1.9.2 maven:3.6.0 flink所在操作系统:CentOS Linux release 7.7.1908 MySQL:5.7.29 IDEA:2018

    作者: 程序员欣宸
    发表时间: 2022-04-11 07:12:41
    654
    0
  • 初识Flink

    Apache Flink是一个用于分布式流和批处理数据处理的开源平台。Flink的核心是流数据流引擎,为数据流上的分布式计算提供数据分发,通信和容错。Flink在流引擎之上构建批处理,覆盖本机迭代支持,托管内存和程序优化。一、Flink 的下载安装启动设置:下载并启动FlinkFlink可在Linux,Mac

    作者: 小米粒-biubiubiu
    发表时间: 2020-09-01 14:09:15
    2811
    0
  • Mysql

    Mysql 概述 环境准备 使用场景 使用指南 配置项说明 父主题: Mas-GO-SDK使用手册

  • 大数据Flink进阶(十):Flink集群部署

    8.5。 1、Flink不同版本与Hadoop整合 Flink基于Yarn提交任务时,需要Flink与Hadoop进行整合。Flink1.8版本之前,Flink与Hadoop整合是通过Flink官方提供的基于对应hadoop版本编译的安装包来实现,例如:flink-1.7.2-bin-hadoop24-scala_2

    作者: Lansonli
    发表时间: 2023-04-09 22:24:54
    104
    0
  • Flink读写Clickhouse

    Flink读写Clickhouse场景1: flink读取kafka数据写入clickhouse前提条件:已经配置好flink客户端准备kafka样例数据aaa,18,2023-4-14 bbb,20,2023-4-15 ccc,21,2023-4-16 ddd,22,2023-

    作者: 晋红轻
    324
    1
  • Flink 1.12】深度解析 Flink Upsert-kafka

    Terminal 进入 Mysql 容器之中,并插入相应的数据。 docker exec -it mysql bash -c 'mysql -uroot -p123456' 在 Mysql 中执行以下命令: CREATE DATABASE flink; USE flink; CREATE

    作者: 百忍成金的虚竹
    发表时间: 2021-03-28 18:02:22
    2650
    0
  • 【DLI】【Flink】DLI Flink如何实现高可用

    RT,如果在DLI 运行Flink作业,如何实现高可用,如果其他源短时间故障了,DLI Flink作业能自动恢复运行么

    作者: 数据湖爱好者
    1459
    1
  • Flink作业高可靠推荐配置指导(异常自动重启) - 数据湖探索 DLI

    登录DLI控制台,创建Flink作业,编写作业SQL后,配置“运行参数”。本例对重点参数加以说明,其他参数根据业务情况自行配置即可。 Flink Jar作业可靠性配置与SQL作业相同,不再另行说明。 根据如下公式,配置作业的“CU数量”、“管理单元”与“最大并行数”: CU数量 =

  • Flink SQL 优化

    会清理!要么设置 TTL ,要么使用 Flink SQL 的 interval join 。 使用 Top N 语法进行去重,重复数据的出现一般都位于特定区间内(例如一小时或一天内),过了这段时间之后,对应的 状态就不再需要了。 Flink SQL可以指定空闲状态(即未更新的状态)被保留的最小时间

    作者: 令照辉
    发表时间: 2023-05-07 23:59:21
    22
    0
  • DAYU Flink 任务执行时写入GUASS DB 200报错

    运行flink任务时,日志显示 内部连接失败,如下图所示:麻烦帮忙看下是什么原因导致的。

    作者: 软通-满小龙
    321
    1
  • Flink实战(五)Flink当中的窗口操作

    5、Flink当中的窗口操作 有了时间属性,我们就可以配合窗⼝来完成各种业务的计算,Flink Table API/SQL提供了丰富的窗⼝操作。 Flink DataStream已经支持Group Windows Flink Table API/SQL还支持Over Windows

    作者: Maynor学长
    发表时间: 2022-10-27 07:22:41
    180
    0