检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
txt 然后输入命令“:set list”将文件名的不可见字符显示出来。如这里显示出文件名中包含“^M”不可见字符。 图2 显示不可见字符 解决办法 使用shell命令读到文本中记录的该文件名，确认如下命令输出的是该文件在HDFS中的全路径。 cat /tmp/t.txt |awk '{print
again later. 原因分析 Hue配置过期。 MRS 2.0.1及之后版本的单Master节点集群中，Hue服务需要手动修改配置。 解决办法 Hue配置过期，重启Hue服务即可。 在MRS 2.0.1及之后版本，单Master节点的集群Hue服务需要手动修改配置。 登录Master节点。
如果源端“blee”不是空目录，且目的端“aaa”目录不存在，系统会自动创建出来“aaa”目录，并在“aaa”目录下面再创建“blee”目录，进行文件迁移。 解决办法 进行迁移操作时，源端目录（例如“blee”）不建议为空。 如果源端目录为空，在执行迁移前，需要手动创建目的端目录，即手动创建“aaa”目录。
使用sqoop-shell工具导入数据到HDFS 操作场景 本文将以从SFTP服务器导入数据到HDFS的作业为例，介绍如何分别在交互模式和批量模式下使用sqoop-shell工具进行创建和启动Loader作业。 前提条件 已安装并配置Loader客户端，具体操作请参见使用客户端运行Loader作业。
少。 表8 日志级别 级别 描述 FATAL FATAL表示当前事件处理出现严重错误信息，可能导致系统崩溃。 ERROR ERROR表示当前事件处理出现错误信息，系统运行出错。 WARN WARN表示当前事件处理存在异常信息，但认为是正常范围，不会导致系统出错。 INFO INFO记录系统及各事件正常运行状态信息。
实例，然后在其他节点添加）。 在MRS Manager页面查看审计日志，是否有相关操作的记录。 使用ping命令，查看IP是否可连通。 解决办法 如果ResourceManager出现异常，可参考相关告警章节查看解决方法。 如果客户端不是最新，请重新下载安装客户端。 若使用pin
通过lsof命令查看当前节点Kafka进程句柄使用情况，发现占用的句柄数达到了47万。 图4 句柄数 排查业务代码，不停地创建新的Producer对象，未正常关闭。 解决办法 停止当前应用，保证服务端句柄不再疯狂增加影响服务正常运行。 优化应用代码，解决句柄泄露问题。 建议：全局尽量使用一个Producer对
max-directory-items参数，定义单个目录下不含递归的最大目录数或者文件数，默认值1048576，取值范围1～6400000。 解决办法 确认该目录不含递归拥有100万以上文件目录是否正常，如果正常，可以将HDFS的参数dfs.namenode.fs-limits.max
自动弹性伸缩 特性简介 随着企业的数据越来越多，越来越多的企业选择使用Spark/Hive等技术来进行分析，由于数据量大，任务处理繁重，资源消耗较高，因此使用成本也越来越高。当前并不是每个企业在每时每刻在进行分析，而一般是在一天的一个时间段内进行分析汇总，因此MRS提供了弹性伸缩
(__ pc() <= s->code_end()) failed: overflowed buffer”，表示此问题是由JDK导致，需要如何解决？ 回答 修复步骤如下： 在RegionServer启动失败的某个节点执行 su - omm，切换到omm用户。 在omm用户下执行java
没有执行配置环境变量操作，且在其客户端环境变量中存在默认的JDK版本，导致在执行解密过程中调用的解密程序执行解密异常，导致用户被锁。 解决办法 使用which java命令查看默认的JAVA命令是否是客户端的JAVA。 如果不是，请按正常的客户端执行流程。 source ${c
出现这个报错可能的场景有： 开源HDFS客户端访问MRS集群的HDFS时报错。 使用jar包连接MRS集群的HDFS（包括提交任务时连接HDFS）时报错。 解决办法 方法一： 找到命令或者jar包使用的HDFS配置文件hdfs-site.xml。 修改“dfs.client.failover.proxy
创建数据连接 功能介绍 创建数据连接 调用方法 请参见如何调用API。 URI POST /v2/{project_id}/data-connectors 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 参数解释： 项目编号。获取方法，请参见获取项目ID。
伴随索引的数据存储：由于在查询中设置了过滤器，可以显著加快查询性能，减少I/O扫描次数和CPU资源占用。CarbonData索引由多个级别的索引组成，处理框架可以利用这个索引来减少需要安排和处理的任务，也可以通过在任务扫描中以更精细的单元（称为blocklet）进行skip扫描来代替对整个文件的扫描。 可选择的
/etc/hosts命令。 Windows 打开“C:\Windows\System32\drivers\etc\hosts”。 解决方法参考4。 解决办法 ZooKeeper连接地址配置错误。 修改Consumer配置中的ZooKeeper连接地址信息，保证和MRS相一致。 Flume server
(__ pc() <= s->code_end()) failed: overflowed buffer”，表示此问题是由JDK导致，需要如何解决？ 回答 修复步骤如下： 在RegionServer启动失败的某个节点执行 su - omm，切换到omm用户。 在omm用户下执行java
进入到其他ClickHouse节点也发现了同样的报错日志，由此可知Kafka消息堆积是因为ClickHouse解析Kafka数据时出现异常。 解决办法 使用以下命令修改表的“kafka_skip_broken_messages”属性： # ALTER test.user_log MODIFY
close(); Scan时的容错处理 Scan时不排除会遇到异常，例如，租约过期。在遇到异常时，建议Scan应该有重试的操作。 事实上，重试在各类异常的容错处理中，都是一种优秀的实践，这一点，可以应用在各类与HBase操作相关的接口方法的容错处理过程中。 不用Admin时，要及时关闭，Admin实例不应常驻内存
为什么多次运行Spark应用程序会引发致命JRE错误 问题 为什么多次运行Spark应用程序会引发致命JRE错误？ 回答 多次运行Spark应用程序会引发致命的JRE错误，这个错误由Linux内核导致。 升级内核版本到4.13.9-2.ge7d7106-default来解决这个问题。
su - omm jps jstack pid 如下图所示，Jstack显示一直卡在DFSClient.listPaths。 图1 异常 解决办法 如果确认是HDFS性能慢导致告警，需要排除是否为旧版本中Impala运行导致HDFS性能慢或者是否为集群最初部署时JournalNode部署不正确（部署过多，大于3个）。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
