检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
基本概念 账号 用户注册华为账号并开通华为云。账号对其所拥有的资源及云服务具有完全的访问权限，可以重置用户密码、分配用户权限等。由于账号是付费主体，为了确保账号安全，建议您不要直接使用账号进行日常管理工作，而是创建用户并使用他们进行日常管理工作。 用户 由账号在IAM中创建的用户
知功能后，数据库中会同步删除用户的手机号、邮箱信息。 数据传输安全 用户个人敏感数据将通过TLS 1.2、TLS1.3进行传输中加密，所有华为云DLI服务的API调用都支持 HTTPS 来对传输中的数据进行加密。 Spark作业传输通信加密 Spark作业支持通过配置表1中的参数开启通信加密。
spark.sql.shuffle.partitions 200 为连接或聚合过滤数据时使用的默认分区数。 spark.sql.dynamicPartitionOverwrite.enabled false 当前配置设置为“false”时，DLI在覆盖写之前，会删除所有符合条件的分
driverMemory 否 String Spark应用的Driver内存，参数配置例如2G, 2048M。该配置项会替换“sc_type”中对应的默认参数，使用时必需带单位，否则会启动失败。 driverCores 否 Integer Spark应用Driver的CPU核数。该配置项会替换sc_type中对应的默认参数。
column_constraint: : NOT NULL [[ENABLE|DISABLE] [VALIDATE|NOVALIDATE] [RELY|NORELY]] table_constraint: : [CONSTRAINT constraint_name] PRIMARY
确认客户esdk-obs-java-3.1.3.jar的版本。 确认是集群存在问题。 处理步骤 设置依赖关系provided。 重启clusteragent应用集群升级后的配置。 去掉OBS依赖，否则checkpoint会写不进OBS。 父主题： Flink Jar作业类
DLI使用IAM进行精细的企业级多租户管理。该服务提供用户身份认证、权限分配、访问控制等功能，可以帮助您安全地控制华为云资源的访问。 通过IAM，您可以在华为云账号中给员工创建IAM用户，并使用策略来控制他们对华为云资源的访问范围。例如您的员工中有负责软件开发的人员，您希望他们拥有DLI的使用权限，但是
在DLI管理控制台的“全局配置 > 作业配置” 页查看对应OBS桶是否被设置为了DLI日志桶，日志桶不能用于DLI的其他业务功能中。 确认桶是否应用于其他业务功能。 如果是，您可以在DLI管理控制台页面更改作业配置，选择其他未被占用的OBS桶用于DLI日志存储。 父主题： Spark作业运维类
当作业依赖于特定版本的库或组件，长期混用不同版本的Spark引擎可能会导致作业因依赖冲突而执行失败。 应用程序配置。 表1 应用程序配置参数说明 参数名称 参数描述 应用程序 选择需要执行的程序包。包括“.jar”和“.py”两种类型。 Jar包的管理方式： 上传OBS管理程
安装其他服务SDK依赖。 DLI依赖SDK（例如，OBS SDK），可以通过配置华为云的maven镜像源仓库下载。 （推荐）以华为镜像源作为主仓库： 配置华为maven镜像源的具体方法可参见：华为开源镜像站>选择“华为SDK”>单击“HuaweiCloud SDK”。 使用maven构建时，settings
x.x</version> </dependency> 方式二：通过Maven配置华为镜像源来获取JDBC驱动 在使用Maven管理项目依赖时，可以通过修改settings.xml文件来配置华为镜像源以获取JDBC驱动。 <mirror> <id>huaweicloud</id>
仅支持在创建Spark作业时，配置“应用程序”，从OBS选择作业所需的Jar包。 登录OBS控制台，将生成的Jar包文件上传到OBS路径下。 登录DLI控制台，选择“作业管理 > Spark作业”。 单击操作列“编辑”。 编辑“应用程序”，选择1上传的OBS地址。 图11 配置应用程序 Spark 3
String 当前登录的Project。 g:DomainName 全局级 String 当前登录的Domain。 g:ResourceTag 全局级 StringEquals 资源标签键值。 Resource 格式为：服务名:region:domainId:资源类型:资源路径, 通配符号*
检验是否配置成功，运行cmd ，输入 python。运行结果，请参见图1，显示版本信息，则说明安装和配置成功。 图1 检验配置是否成功 python安装应用包时出现错误类似错误“error: Microsoft Visual C++ xx.x is required. Get it with Build
Jar作业分析数据。 准备工作 已注册华为账号并开通华为云，且在使用DLI前检查账号状态，账号不能处于欠费或冻结状态。 配置DLI委托访问授权 DLI使用过程中涉及到OBS、VPC、SMN等服务交互，首次使用DLI需要用户配置委托授权，允许访问这些依赖服务。 使用华为云账号登录DLI管理控制台，在左侧导航栏单击“全局配置
怎样查看套餐包资源的使用情况？ 购买套餐包后，随着套餐包的使用您可以随时查看套餐包使用情况，了解套餐包详情。 操作步骤 登录华为云费用中心。 选择“资源包”。在“资源包列表”页签中单击目标资源包名称/ID，查看套餐包的详细信息。 图1 查看套餐包资源使用情况 父主题： 计费相关问题
maxwell-json.map-null-key.mode 否 'FAIL' String 指定序列化map数据的null键时的处理模式。当前支持的值为“FAIL”、“DROP”和“LITERAL”： 'FAIL'将在遇到带有null键的map时抛出异常。 'DROP'将删除map数据的null键条目。
操作步骤 创建所需要的DIS通道，具体流程可参开通DIS通道。 在DIS控制台，打开“App管理 > 创建App”，填写App名称，App名称对应的是代码中的groupId。 图1 创建App 创建Flink Jar对应的程序包。 在DLI控制台，打开“数据管理 > 程序包管理”，单击“创建程序包”，创建Flink
Access Management）为DLI提供了华为云统一入口鉴权功能。 具体操作请参考《创建用户并授权使用DLI》和《DLI自定义策略》。 与云审计服务（CTS）的关系 云审计服务（Cloud Trace Service）为DLI提供对应用户的操作审计。 云审计服务支持的DLI操作请
） 相比开源connector有较多易用性和稳定性提升。 仅提供开源connector。 开发与运维 监控、告警 支持对接华为云CES监控平台，支持对接华为云SMN告警系统，用户可通过邮件、短信、电话、第三方办公工具（webhook模式） 支持对接企业内部统一监控告警系统（prometheus）。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
