检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
创建包含了要获取的rowkey信息的RDD。 以HBaseContext的方式操作HBase，通过HBaseContext的bulkGet接口获取HBase表上这些rowKey对应的数据。 运行前置操作 安全模式下Spark Core样例代码需要读取两个文件（user.keytab、krb5
配置HDFS客户端元数据缓存提高读取性能 操作场景 通过使用客户端缓存元数据块的位置来提高HDFS读取性能。 此功能仅用于读取不经常修改的文件。因为在服务器端由某些其他客户端完成的数据修改，对于高速缓存的客户端将是不可见的，这可能导致从缓存中拿到的元数据是过期的。 本章节适用于MRS
由于Kafka配置的限制，导致Spark Streaming应用运行失败 问题 使用运行的Spark Streaming任务回写Kafka时，Kafka上接收不到回写的数据，且Kafka日志报错信息如下： 2016-03-02 17:46:19,017 | INFO | [kaf
一对多的消息订阅以及通知功能，能够实现一站式集成多种推送通知方式（短信和邮件通知）。通过配置作业消息通知可以实现您在作业执行成功或作业执行失败时能立即接收到通知。 登录管理控制台。 单击“服务列表”选择“管理与监管 > 消息通知服务”，进入消息通知服务页面。 创建主题并向主题中添
HBase启动失败，RegionServer日志中提示“FileNotFoundException” 问题背景 HBase启动失败，RegionServer一直处于Restoring状态。 原因分析 查看RegionServer的日志（/var/log/Bigdata/hbase/rs/hbase-omm-XXX
数据进行删除。 数据规划 基于BulkPut接口使用章节创建的HBase表及其中的数据进行操作。 开发思路 创建包含了要删除的rowkey信息的RDD。 以HBaseContext的方式操作HBase，通过HBaseContext的bulkDelete接口对HBase表上这些rowKey对应的数据进行删除。
在备NameNode长期异常的情况下，会积攒大量的editlog，此时如果重启HDFS或者主NameNode，主NameNode会读取大量的未合并的editlog，导致耗时启动较长，甚至启动失败。 原因分析 备NameNode会周期性做合并editlog，生成fsimage文件的过程叫做checkpo
构造需要遍历的HBase表中rowkey的RDD。 使用mapPartition接口遍历上述rowkey对应的数据信息，并进行简单的操作。 运行前置操作 安全模式下Spark Core样例代码需要读取两个文件（user.keytab、krb5.conf）。user.keytab和krb5.conf
图2 查看历史记录 表1 参数说明 名称 说明 行/文件 读取数 从输入源中读取的行数（文件数）。 行/文件 写入数 写入到输出源的行数（文件数）。 行/文件 跳过数 转换过程中记录的坏行数（文件数）：输入格式不正确，无法进行转换。 转换过程中配置过滤条件后跳过的行数。 父主题：
运行MRS作业时如何读取OBS加密数据 MRS 1.9.x支持使用OBS文件系统中加密后的数据来运行作业，同时支持将加密后的作业运行结果存储在OBS文件系统中。目前仅支持通过OBS协议访问数据。 OBS支持使用KMS密钥的加解密方式对数据进行加解密，所有的加解密操作都在OBS完成，同时密钥管理在DEW服务。
Streaming从Kafka读取数据再写入HBase 场景说明 Java样例代码 Scala样例代码 父主题： 开发Spark应用
集群外节点安装客户端上传HDFS文件失败 用户问题 集群外节点安装客户端使用hdfs命令上传文件失败。 问题现象 在集群节点上安装客户端，在该客户端使用hdfs命令上传一个文件，报如下错误： 图1 上传文件报错 原因分析 从错误截图可以看到报错是no route to host，且报错信息里面有192.
生效。 解决MRS客户端安装成功后出现注册客户端信息到集群上的报错提示的问题。 CVE-2023-24998和CVE-2022-33980漏洞修复。 解决节点隔离后频繁触发节点故障无效告警的问题。 解决集群替换CA证书后，管理面无法跳转租户面的问题。 解决节点使用tc命令丢包30
y对应的数据。 数据规划 基于BulkPut接口使用章节创建的HBase表及其中的数据进行操作。 开发思路 创建包含了要获取的rowkey信息的RDD。 以HBaseContext的方式操作HBase，通过HBaseContext的bulkGet接口获取HBase表上这些rowKey对应的数据。
93_0007", "properties" : "{}" } } 状态码： 400 查询单个作业信息失败 { "error_msg" : "查询作业失败", "error_code" : "0162" } SDK代码示例 SDK代码示例如下。 Java Python
创建包含了要删除的rowkey信息的RDD。 以HBaseContext的方式操作HBase，通过HBaseContext的bulkDelete接口对HBase表上这些rowKey对应的数据进行删除。 运行前置操作 安全模式下Spark Core样例代码需要读取两个文件（user.keytab、krb5
security.auth.login.config' is not set 回答 当试图从启用SSL的kafka数据源采集数据时，而安装程序无法读取jars.conf文件及其属性时，可能会发生这种情况。 要解决此问题，需要将所需的属性作为通过Spark提交的命令的一部分传递。如：--files
security.auth.login.config' is not set 回答 当试图从启用SSL的kafka数据源采集数据时，而安装程序无法读取jars.conf文件及其属性时，可能会发生这种情况。 要解决此问题，需要将所需的属性作为通过Spark提交的命令的一部分传递。如：--files
se数据表。 开发思路 构造需要遍历的HBase表中rowkey的RDD。 使用mapPartition接口遍历上述rowkey对应的数据信息，并进行简单的操作。 打包项目 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中调测Spark应用。
HBase数据恢复任务报错回滚失败 问题 HBase恢复任务执行失败后系统自动回滚数据，若页面详情中提示“Rollback recovery failed”信息，表示回滚失败。由于回滚失败后就不会处理数据，所以有可能产生垃圾数据，需要如何解决？ 回答 在下次执行备份或恢复任务前，需要手动清除这些垃圾数据。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
