检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
source可以在open里引入。 图1 获取kafka source kafka sink可以在initializeState里引入。 图2 获取kafka sink 操作步骤 从Kafka实例的基本信息页面下载SSL证书，解压后将其中的clinet.jks文件上传到OBS。 图3 下载SSL证书
方程序库（支持zip、egg等）。 图1 Spark作业编辑页面 对于依赖的这个Python第三方库的压缩包有一定的结构要求，例如，PySpark程序依赖了模块moduleA（import moduleA），那么其压缩包要求满足如下结构： 图2 压缩包结构要求 即在压缩包内有一层
resource.... 已经给表授权，但是提示无法查询怎么办？ 表继承数据库权限后，对表重复赋予已继承的权限会报错吗？ 为什么已有View视图的select权限，但是查询不了View？ 提交作业时提示作业桶权限不足怎么办？ 提示OBS Bucket没有授权怎么办？
x访问元数据时，DataSource语法创建avro类型的OBS表创建失败 问题描述 使用Spark访问元数据时，DataSource语法创建avro类型的OBS表创建失败。 图1 avro类型的OBS创建失败 根因分析 当前Spark2.3.x不支持创建avro类型的OBS表，Spark2.4.x及以上的版本支持avro类型的OBS表。
在“实例管理页面”，找到您已经创建的RDS实例，记录并保存RDS实例的内网地址。 图2 内网地址 单击所创建RDS实例的“登录”，跳转至“数据管理服务-DAS”。输入相关账户信息，单击“测试连接”。显示连接成功后，单击“登录”，进入“实例登录”页面。 图3 登录RDS 图4 实例登录 登录RDS实例后，单击“新建数据
选择需要扩容的弹性资源池，单击“操作”列“更多”中的“包周期CU变更”。 在“包周期CU变更”页面，“变更方式”选择“扩容”，变更数量选择要扩容的CU数量。 图1 规格变更扩容 确定费用后，单击“提交”。 扩容任务提交后，可以选择“作业管理 > SQL作业”，查看“SCALE_POOL”类型SQL作业的状态。
弹性资源池CU时按照时间顺序分为三个周期来计费，分别为：弹性资源池创建周期、弹性资源池使用中周期、弹性资源池删除周期。三个周期时间范围定义可以参考图2所示。 图2 弹性资源池CU时计费的三个周期示意图 start_time：弹性资源池创建成功状态为“可使用”时间点。 start_time_next：弹性资源池创建
删除队列不会导致您数据库中的表数据丢失。 删除队列步骤 在DLI管理控制台左侧，选择“资源管理 > 队列管理”。 选择待删除的队列，单击“操作”列的“删除”删除。 图1 删除队列 如果“操作”列的“删除”为灰色，表示当前用户没有删除队列的权限。您可以向管理员申请删除队列的权限。 在弹出的确认对话框中，单击“是”。
鼠标左键单击需要导出数据的表（Managed表，即DLI表）右侧的，在列表菜单中选择“导出”，选择弹出“导出数据”页面。 图1 Managed表导出 在“导出数据”对话框，参考表1填写导出数据相关信息。 图2 导出数据 表1 参数说明 参数名称 描述 数据库 当前表所在的数据库。 表名称 当前表名称。 数据格式
ink作业动态扩缩容。 flink.dli.job.scale.enable=true flink.dli.job.priority=x 图1 Flink Opensource SQL作业配置样例 设置Flink Jar作业优先级 在“优化参数”中配置如下参数，其中x为优先级取值。
在作业管理控制台页面筛选使用default队列的作业。 单击展开作业详情，查看作业扫描量。 图1 配置费用示例 计费示例 价格仅供参考，实际计算请以数据湖探索价格详情中的价格为准。 参考数据湖价格详情页的按数据扫描量计算计费样例。 欠费影响 图2描述了按需计费的DLI资源各个阶段的状态。购买后，在计费周期内
队列管理”。 选择需要扩容的队列，单击“操作”列“更多”中的“规格变更”。 在“规格变更”页面，“变更方式”选择“扩容”，设置扩容的CU值。 图1 扩容 确定费用后，单击“提交”。 缩容 当计算业务较小，不需要那么大的队列规格时，可以通过手动变更队列规格来缩容当前队列。 缩容属于耗时
使用华为云账户登录控制台。 通过“费用中心”>“费用账单”进入费用中心。 图1 费用账单 在“费用账单”界面，选择对应的“账期”，在“按产品汇总”下的搜索框下，选择“产品类型 > 数据湖探索DLI”。在消费汇总中可以发现DLI计算资源使用量消费最多。 图2 费用汇总 单击“账单详情 > 自定义账单”，单
了解更多DLI委托权限请参考DLI委托权限。 选择dli_management_agency需要包含的权限后，并单击“更新委托权限”。 图1 更新委托权限 委托更新完成后，重新创建跨源连接和运行作业。 父主题： Flink Jar作业类
该CUs数可以编辑作业页面进行配置，CUs数量 = 管理单元 + (算子总并行数 / 单TM Slot数) * 单TM所占CUs数。 图1 查看Flink作业所需CUs数 Spark作业： 登录DLI管理管理控制台。 选择“作业管理 > Spark作业”。 选择要查看的作业，单击操作列的“编辑”进入作业配置页面。
力，可支撑更丰富的大数据处理需求。产品内核及架构深度优化，综合性能是传统MapReduce模型的百倍以上，SLA保障99.95%可用性。 图1 DLI Serverless架构 与传统自建Hadoop集群相比，Serverless架构的DLI还具有以下优势： 表1 Serverless
全集群证书（CloudSearchService.cer）。 登录云搜索服务控制台，单击“集群管理”，选择需要建立跨源连接的集群，如图1所示： 图1 CSS集群管理 单击“安全模式”中的“下载证书”下载安全证书。 使用keytool工具生成keystore和truststore文件。
控 > 分布式消息服务 > kafka专享版” ，单击“kafka实例名称 > 消费组” ，选择具体的消费组名称，查看消费组的指标信息。 图1 消费组 反压状态 反压状态是通过周期性对taskManager线程的栈信息采样，计算被阻塞在请求输出Buffer的线程比率来确定，默认情况下，比率在0
场景一：固定资源造成资源浪费和资源不足的场景 在每天的不同时段，作业任务对资源的请求量也会发生变化，如果采用固定资源规格则会导致资源浪费或者资源不足的问题。例如，如下图图2示例可以看出： 大约在凌晨4点到7点这个数据段，ETL作业任务结束后没有其他作业，因为资源固定一直占用，导致严重的资源浪费。 上午9点到
在DLI管理控制台，切换至华北-北京四区域下的项目A，选择“全局配置 > 服务授权”。 勾选基础使用、跨源场景、运维场景的权限。 图2 华北-北京四的项目A更新委托权限示意图 单击“更新委托权限”。 权限说明：华北-北京四的项目A按上述操作步骤更新委托权限后， 由于IAM ReadOnlyA
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
