检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用SQL编辑器创建并提交SQL作业 登录DLI管理控制台，选择“SQL编辑器”页面。 进入“SQL编辑器”页面后，系统会提示“创建DLI临时数据桶”，用于存储使用DLI服务产生的临时数据。在“设置DLI作业桶”对话框中，单击“去设置”。在现实页面上单击DLI作业桶卡片右上角单击编辑符号。在弹出的“设
目前DLI配置SparkUI只展示最新的100条作业信息。 终止作业：终止启动中和运行中的作业。 重新执行：重新运行该作业。 归档日志：将作业日志保存到系统创建的DLI临时数据桶中。 提交日志：查看提交作业的日志。 Driver日志：查看运行作业的日志。 重新执行作业 在“Spark作业”页面，单击对应作业“
init函数。 iterate接收传入的参数，并进行内部的迭代。 terminatePartial无参数，其为iterate函数遍历结束后，返回遍历得到的数据，terminatePartial类似于 hadoop的Combiner。 merge接收terminatePartial的返回结果。
务场景。 全局共享模式 default队列 多用户多队列共享资源 按量付费，不支持预留资源 适合不确定数据量大小或仅需要偶尔进行数据处理的临时或测试项目场景。 非弹性资源池模式 （废弃，不推荐使用） SQL队列 通用队列 单用户单队列独享资源 无法动态调整，资源可能会闲置 废弃，不推荐使用
务特定的条件键。 表1 DLI请求条件 DLI条件键 类型 运算符 描述 g:CurrentTime 全局级 Date and time 接收到鉴权请求的时间。 说明： 以“ISO 8601”格式表示，例如：2012-11-11T23:59:59Z。 g:MFAPresent 全局级
不断写入，向Hive添加新数据，以增量方式提交记录使其可见。用户控制何时/如何触发具有多个属性的提交。流式写入不支持插入覆盖。有关可用配置的完整列表，请参阅流式处理接收器。Streaming sink 前提条件 该场景作业需要建立增强型跨源连接，且用户可以根据实际所需设置相应安全组规则。 如何建立增强型跨
表示按'streaming-source.partition.order'的顺序读取最新的分区。 Flink 支持对最新的 hive 分区进行临时连接，通过启用 'streaming-source.enable'，并将 'streaming-source.partition.include'
指定读取的hudi表路径 .createTempView("hudi_incremental_temp_view"); // 注册为spark临时表 // 结果必须根据startTime和endTime进行过滤，如果没有指定endTime，则只需要根据startTime进行过滤
--********************************************************************-- -- 临时中间表 --********************************************************************--
输入“主题名称”和“显示名”。更多参数说明请参考SMN-创建主题。 在“主题名称”框中，输入主题名称，在“显示名”框中输入相关描述。 订阅主题。 要接收发布至主题的消息，您必须向该主题添加订阅者。 登录SMN管理控制台。 在左侧导航栏，选择“主题管理 > 主题”。进入主题页面。 在主题列表
properties) 插入数据前： 插入数据后： 使用上述read.format()或者read.jdbc()方法读取到的dateFrame注册为临时表，就可使用sql语句进行数据查询了。 1 2 jdbcDF.registerTempTable("customer_test") sparkSession
内容复制到基础镜像中 USER omm 其中，主要包含了以下步骤： 设置pip的可用仓库地址。 使用pip3安装tensorflow算法包。 将安装了算法包的临时镜像builder里的内容复制到基础镜像中（这一步主要是为了减小镜像体积），用于生成最终的自定义镜像。 利用Dockerfile生成自定义镜像。
实现DLI与数据源的VPC网络互通，为DLI的跨源分析提供了支持。 目前DLI支持跨源访问的数据源请参考跨源分析开发方式。 增强型跨源连接收费吗？ 增强型跨源连接不计费。 怎样创建增强型跨源连接？ 在DLI管理控制台，单击“跨源管理 > 增强型跨源 ”。 选择“增强型跨源”，单击“创建”。
properties) 插入数据前： 插入数据后： 使用上述read.format()或者read.jdbc()方法读取到的dataFrame注册为临时表，就可使用sql语句进行数据查询了。 1 2 jdbcDF.registerTempTable("customer_test") sparkSession
新建Java Class文件 步骤4：编写代码 编写SparkDemoObs程序读取OBS桶下的1的“people.json”文件，并创建和查询临时表“people”。 完整的样例请参考完整样例代码参考，样例代码分段说明如下： 导入依赖的包。 import org.apache.spark
字符码不一致导致数据乱码怎么办？ 在DLI执行作业时，为了避免因字符编码不一致导致的乱码问题，建议您统一数据源的编码格式。 DLI服务只支持UTF-8文本格式，因此在执行创建表和导入操作时，用户的数据需要以UTF-8编码。 在将数据导入DLI之前，确保源数据文件（如CSV、JSO
子句可用于在 SELECT 子句之外定义 OVER 窗口。它让查询可读性更好，也允许多个聚合共用一个窗口定义。 示例 查询为每个订单计算前一个小时之内接收到的同一产品所有订单的总金额。 1 2 3 4 5 6 7 SELECT order_id, order_time, amount, SUM(amount)
增强型跨源连接概述 为什么要创建增强型跨源连接？ DLI跨源分析场景连接外部数据源时，由于数据源的VPC与DLI VPC不同，网络无法连通，导致DLI无法读取数据源数据。DLI提供的增强型跨源连接功能可以实现DLI与数据源的网络连通。 本节操作为您介绍跨VPC的数据源网络连通方案：
构，不需要事先定义元数据。 定义您的数据结构，包括数据目录、数据库、表。请参考创建数据库和表。 创建必要的存储桶来存储作业运行过程中产生的临时数据：作业日志、作业结果等。请参考配置DLI作业桶。 配置元数据的访问权限。请参考在DLI控制台配置数据库权限、在DLI控制台配置表权限。
Flink SQL 系统中。在许多情况下，这对于利用此功能很有用。 例如： 将数据库中的增量数据同步到其他系统 审计日志 数据库的实时物化视图 临时连接更改数据库表的历史等等。 Flink 还支持将 Flink SQL 中的 INSERT/UPDATE/DELETE 消息编码为 Maxwell
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
