检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Flink SQL作业消费Kafka后sink到es集群，作业执行成功，但未写入数据 问题现象 客户创建Flink SQL作业，消费Kafka后sink到es集群，作业执行成功，但无数据。 原因分析 查看客户作业脚本内容，排查无问题，作业执行成功，出现该问题可能的原因如下： 数据不准确。
本示例使用的Flink版本为1.12，故Flink OpenSource SQL语法也是1.12。本示例数据源是Kafka，写入结果数据到Elasticsearch。 请参考Flink OpenSource SQL 1.12创建MySQL CDC源表和Flink OpenSource
在“测试连通性”界面，根据2获取的CSS连接信息，地址栏输入“CSS内网地址:CSS内网端口”，单击“测试”测试DLI到CSS网络是否可达。 步骤5：运行作业 在DLI管理控制台，单击“作业管理 > Flink作业”，在Flink作业管理界面，单击“创建作业”。 在创建队列界面，类型选择“Flink OpenSource
在DLI管理控制台，单击“作业管理 > Flink作业”，在Flink作业管理界面，单击“创建作业”。 在创建作业界面，作业类型选择“Flink OpenSource SQL”，名称填写为：FlinkKafkaRds。单击“确定”，跳转到Flink作业编辑界面。 在Flink OpenSource
在DLI管理控制台，单击“作业管理 > Flink作业”，在Flink作业管理界面，单击“创建作业”。 在创建队列界面，类型选择“Flink OpenSource SQL”，名称填写为：FlinkKafkaDWS。单击“确定”，跳转到Flink作业编辑界面。 在Flink OpenSource
MySQL CDC源表 功能描述 MySQL的CDC源表，即MySQL的流式源表，会先读取数据库的历史全量数据，并平滑切换到Binlog读取上，保证数据的完整读取。 前提条件 MySQL CDC要求MySQL版本为5.7或8.0.x。 该场景作业需要DLI与MySQL建立增强型跨
本示例使用的Flink版本为1.12，故Flink OpenSource SQL语法也是1.12。本示例数据源是Kafka，写入结果数据到Elasticsearch。 请参考Flink OpenSource SQL 1.12创建Postgres CDC源表和Flink OpenSource
MySQL->CSS/ES 表1 数据类型映射关系 数据类型（MySQL） 数据类型（Elasticsearch） 是否支持映射 BIT[(M)] BOOLEAN | LONG|TEXT 支持 1个字节的映射为BOOLEAN。 2~63个字节映射为LONG。 64个字节映射为TEXT。
MySql CDC 功能描述 MySQL的CDC源表，即MySQL的流式源表，会先读取数据库的历史全量数据，并平滑切换到Binlog读取上，保证数据的完整读取。 表1 支持类别 类别 详情 支持表类型 源表 前提条件 MySQL CDC要求MySQL版本为5.6，5.7或8.0.x。
如何在一个Flink作业中将数据写入到不同的Elasticsearch集群中？ 在Flink 作业中，可以使用CREATE语句来定义Source表和Sink表，并指定它们的连接器类型以及相关的属性。 如果需要将数据写入到不同的Elasticsearch集群，您需要为每个集群配置不
将MySQL同步到CSS/ES 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 RDS for MySQL 5.5、5.6、5.7、8.0版本 ElasticSearch 5.5、6.2、6.5、7.1、7.6、7.9、7.10版本 目前仅支持白名单用户使用。 使用建议
使用Flink Jar写入数据到OBS开发指南 概述 DLI提供了使用自定义Jar运行Flink作业并将数据写入到OBS的能力。本章节JAVA样例代码演示将kafka数据处理后写入到OBS，具体参数配置请根据实际环境修改。 环境准备 已安装和配置IntelliJ IDEA等开发工具以及安装JDK和Maven。
Flink业务程序无法读取NFS盘上的文件 用户问题 Flink业务程序无法读取集群节点挂载的NFS盘上的文件。 问题现象 用户开发的Flink业务程序中需要读取用户定义的配置文件，该配置文件放在NFS盘上，NFS盘是挂载在集群节点上的，集群的所有节点均可以访问该盘。用户提交Fl
将GaussDB(for MySQL)同步到CSS/ES 支持的源和目标数据库 表1 支持的数据库 源数据库 目标数据库 GaussDB(for MySQL)主备实例 ElasticSearch 5.5、6.2、6.5、7.1、7.6、7.9、7.10版本 目前仅支持白名单用户使用。
将生成的数据转化为DataStream<RowData>。 将数据写入到Hudi表中。 读Hudi： 读取Hudi表中的数据。 将读取的数据拼接成json格式并打印。 父主题： Flink读取Hudi表样例程序
Flink Hudi样例程序（Java） 功能介绍 通过调用Flink API读写Hudi数据。 代码样例 下面列出WriteIntoHudi和ReadFromHudi主要逻辑代码作为演示。 完整代码参见com.huawei.bigdata.flink.examples.WriteIntoHudi和com
GaussDB(for MySQL)->CSS/ES 表1 数据类型映射关系 数据类型（GaussDB(for MySQL)） 数据类型（Elasticsearch） 是否支持映射 BIT[(M)] BOOLEAN | LONG|TEXT 支持 1个字节的映射为BOOLEAN。 2~63个字节映射为LONG。
将生成的数据转化为DataStream<RowData>。 将数据写入到Hudi表中。 读Hudi： 读取Hudi表中的数据。 将读取的数据拼接成json格式并打印。 父主题： Flink读取Hudi表样例程序
Flink HBase样例程序（Java） 功能介绍 通过调用Flink API读写HBase数据。 代码样例 下面列出WriteHBase和ReadHBase主要逻辑代码作为演示。 完整代码参见com.huawei.bigdata.flink.examples.WriteHBase和com
通过Connection判断表是否存在，如果不存在则作业失败，需要通过HBase Shell创建表或上游作业创建表。 读取HBase中的数据，将Result数据转化成Row对象发送给下游算子。 父主题： Flink读取HBase表样例程序
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
