已找到以下 10000 条记录
  • 【MRS】【flink组件】集成flink组件时代码编译报错

    【功能模块】MRS版本:MRS3.1.0【操作步骤&问题现象】1、2、【截图信息】【日志信息】(可选,上传日志内容或者附件)

    作者: 天桥调参师
    2874
    1
  • Flink POC用例

    /opt/client/Flink/flink/confvi flink-conf.yaml修改参数如下:security.ssl.keystore: /opt/client/Flink/flink/conf//flink.keystore,修改flink.keystore位置,必须为绝对路径。security

    作者: 萧凡依云
    2549
    0
  • Flink客户端常见命令说明 - MapReduce服务 MRS

    Flink客户端常见命令说明 本章节适用于MRS 3.x及之后版本。 在使用Flink的Shell脚本前,首先需要执行以下操作,详细使用场景可参考Flink客户端使用实践运行wordcount作业: 安装Flink客户端,例如安装目录为“/opt/client”。 初始化环境变量。

  • 【mrs-flink产品】【调试flink-kafka程序】NoSuchMethodError

    【功能模块】mrs-flink【操作步骤&问题现象】1、使用per-job模式上传样例代码到集群上运行,执行FemaleInfoCollectionFromKafka这个样例;2、flink任务创建成功,但是任务执行时报错,显示KafkaConsumer的一个方法不存在。【截图信

    作者: ywx786483
    6027
    3
  • Flink学习笔记03:将项目打包提交到Flink集群上运行

    WordCount 三、利用mvn命令打包Maven项目 三、上传项目jar包到Flink集群主节点 四、启动Flink Standalone集群 五、将应用提交到Flink集群运行 (一)不设置输入参数,只设置输出参数 (二)既设置输入参数,又设置输出参数

    作者: howard2005
    发表时间: 2022-03-24 16:25:58
    505
    0
  • Flink学习--知识梳理

    window: flink提供了更多丰富的window,基于时间,基于数量,session window,同样⽀持滚动和滑动窗⼝的计算。 1.6 Flink的流、批处理 Flink将批处理视作一种特殊的流处理,Flink中的所有计算都是流式计算。 Flink分别提供了面向流式处理的接口(DataStream

    作者: yd_284485090
    发表时间: 2023-10-29 15:23:31
    25
    0
  • ExportFlinkJob flink作业导出 - API

    该API属于DLI服务,描述: 通过POST方式,导出flink作业,请求体为JSON格式。接口URL: "/v1.0/{project_id}/streaming/jobs/export"

  • ImportFlinkJob flink作业导入 - API

    该API属于DLI服务,描述: 通过POST方式,导入flink作业,请求体为JSON格式。接口URL: "/v1.0/{project_id}/streaming/jobs/import"

  • Flink on Hudi作业参数规则 - MapReduce服务 MRS

    Flink on Hudi作业参数规则 Flink作业参数配置规范 Flink作业参数配置规范如下表所示。 表1 Flink作业参数配置规范 参数名称 是否必填 参数描述 建议值 -c 必填 指定主类名。 根据实际情况而定 -ynm 必填 Flink Yarn作业名称。 根据实际情况而定

  • Flink原理、实战与性能优化》 —2.2 Flink项目模板

    2 Flink项目模板Flink为了对用户使用Flink进行应用开发进行简化,提供了相应的项目模板来创建开发项目,用户不需要自己引入相应的依赖库,就能够轻松搭建开发环境,前提是在JDK(1.8及以上)和Maven(3.0.4及以上)的环境已经安装好且能正常执行。在Flink项目模

    作者: 华章计算机
    发表时间: 2020-02-17 13:12:09
    3112
    0
  • Flink原理、实战与性能优化》 —3.2 Flink编程接口

    3.2 Flink编程接口如图3-2所示,Flink根据数据集类型的不同将核心数据处理接口分为两大类,一类是支持批计算的接口DataSet API,另外一类是支持流计算的接口DataStream API。同时Flink将数据处理接口抽象成四层,由上向下分别为SQL API、Table

    作者: 华章计算机
    发表时间: 2020-02-17 14:14:00
    3033
    0
  • DIS Flink Connector 实践

    DIS Flink Connector 实践 DIS Flink Connector概述 准备DIS Flink Connector的相关环境 自定义FLink Streaming作业 父主题: 使用场景

  • Flink从入门到精通100篇(十三)-Flink的入门教学

    前言 Flink 是一种流式计算框架,为什么我会接触到 Flink 呢?因为我目前在负责的是监控平台的告警部分,负责采集到的监控数据会直接往 kafka 里塞,然后告警这边需要从 kafka topic 里面实时读取到监控数据,并将读取到的监控数据做一些

    作者: 格图洛书
    发表时间: 2021-11-18 15:55:06
    1038
    0
  • DIS Flink Connector概述

    DIS Flink Connector概述 DIS Flink Connector是数据接入服务(DIS)提供的一个sdk,支持将DIS作为数据源创建Stream对接Flink。 父主题: DIS Flink Connector

  • Flink高级API(四)

    day04_Flink高级API 今日目标 Flink的四大基石 Flink窗口Window操作 Flink时间 - Time Flink水印 - Watermark机制 Flink的state状态管理-keyed state 和 operator state Flink的四大基石

    作者: Maynor学长
    发表时间: 2022-07-22 14:30:33
    294
    0
  • 查询Flink作业日志 - 数据湖探索 DLI

    存储类别。 DLI的作业桶设置后请谨慎修改,否则可能会造成历史数据无法查找。 前提条件 配置前,请先购买OBS桶或并行文件系统。大数据场景推荐使用并行文件系统,并行文件系统(Parallel File System)是对象存储服务(Object Storage Service,O

  • 数据湖(十七):Flink与Iceberg整合DataStream API操作

    Flink与Iceberg整合DataStream API操作 目前Flink支持使用DataStream API 和SQL API 方式实时读取和写入Iceberg表,建议大家使用SQL API 方式实时读取和写入Iceberg表。 Iceberg 支持的Flink版本为1.11

    作者: Lansonli
    发表时间: 2022-07-15 00:33:14
    1217
    0
  • flink提交任务失败

    java:1071)Caused by: org.apache.flink.util.FlinkException: Failed to execute job 'Flink Streaming Job'.    at org.apache.flink.streaming.api.environment

    作者: stupidsky
    399
    1
  • FusionInsight Flink使用pyflink

         在客户端端中创建opt文件夹(/opt/client/Flink/flink/opt)4.     从flink服务端中获取flink-python_2.11-1.10.0.jar包(/opt/huawei/Bigdata/FusionInsight_Flink_8.0.2/install/FusionInsight-Flink-1

    作者: 南派三叔
    5363
    4
  • Flink原理、实战与性能优化》 —2.5 Flink源码编译

    2.5 Flink源码编译对于想深入了解Flink源码结构和实现原理的读者,可以按照本节的内容进行Flink源码编译环境的搭建,完成Flink源码的编译,具体操作步骤如下所示。Flink源码可以从官方 Git Repository上通过git clone命令下载:git clone

    作者: 华章计算机
    发表时间: 2020-02-17 14:05:40
    3512
    0