检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Oozie连接DBservice失败或者存储在DBService中的数据遭到破坏 请参考4。 18003 HDFS服务异常 Oozie连接HDFS失败或者存储在HDFS中的数据遭到破坏 请参考7。 18005 Mapreduce服务异常 Yarn服务异常 请参考11。 检查DBService服务。 在FusionInsight
占满的问题 解决Hive分区表增加字段时间长的问题 解决rand函数在0-1直接的随机数字串只能生成0.72左右的问题 解决Hive的WebHcat进程kill后，无法自拉起，无告警上报的问题 解决Kafka在kerberos认证失败之后自动重启存在异常的问题 解决Hudi和Sp
集群配额 Clickhouse服务在ZooKeeper的数量配额使用率 ClickHouse服务在ZooKeeper上目录的数量配额使用百分比。 90% Clickhouse服务在ZooKeeper的容量配额使用率 ClickHouse服务在ZooKeeper上目录的容量配额使用百分比。
se节点上数据库、表的元信息相同。 ClickHouse赋权成功后，权限生效时间大约为1分钟。 添加ClickHouse角色 登录Manager，选择“系统 > 权限 > 角色”，在“角色”界面单击“添加角色”按钮，进入添加角色页面。 在添加角色界面输入“角色名称”，在配置资源权
的作用相当于一个容器。 SparkConf：Spark应用配置类，如设置应用名称，执行模式，executor内存等。 JavaRDD：用于在java应用中定义JavaRDD的类，功能类似于scala中的RDD(Resilient Distributed Dataset)类。 Ja
更好。 分区表的分区键不允许更新，否则会产生重复数据。 例外场景：超大维度表和超小事实表 特殊情况如存在持续大量新增数据的维度表（表数据量在200G以上或日增长量超过60M）或数据量非常小的事实表（表数据量小于10G且未来三至五年增长后也不会超过10G）需要针对具体场景来进行例外处理：
Key-Value的形式输出。 方案架构 生产者（Producer）将消息发布到Kafka主题（Topic）上，消费者（Consumer）订阅这些主题并消费这些消息。 在Kafka集群上一个服务器称为一个Broker。对于每一个主题，Kafka集群保留一个用于缩放、并行化和容错性
nettyconnector.registerserver.topic.storage：设置NettySink的IP、端口及并发度信息在第三方注册服务器上的路径（必填），例如： nettyconnector.registerserver.topic.storage: /flink/nettyconnector
Manager（MRS 3.x及之后版本），选择“集群 > 服务”。 选择“Loader”，在“Loader WebUI”右侧，单击链接，打开Loader的WebUI。 在Loader页面，单击“新建作业”。 在“连接”后单击“添加”，配置连接参数。 参数介绍具体可参见Loader连接配置说明。
Manager，具体请参见访问集群Manager，选择“集群 > 服务”。 选择“Loader”，在“Loader WebUI”右侧，单击链接，打开Loader的WebUI。 在Loader页面，单击“新建作业”。 在“连接”后单击“添加”，配置连接参数。 参数介绍具体可参见Loader连接配置说明。
场景二：NameNode启动时，启动超时后启动失败，原生页面无法打开。 原因分析 在NameNode运行日志（/var/log/Bigdata/hdfs/nn/hadoop-omm-namenode-XXX.log）中搜索“WARN”，可以看到有大量时间在垃圾回收，如下例中耗时较长63s。 2017-01-22
这里说的大表为条件过滤后的总数据量，千万级以上的数据量可定义为大表。 关联查询必须大表join小表 对于ClickHouse来说，原则上需要把多表join模型提前加工为宽表模型，但是在一些情况下，多个表，甚至是维度表变化比较频繁情况下，不太适合进行宽表加工处理，不得已必须使用Join模型以实时查询到
k.driver.extraJavaOptions，在集群节点上对应路径下找不到对应的kdc.conf文件，无法获取kerberos认证所需信息，导致ApplicationMaster启动失败。 解决办法 在客户端提交任务时，在命令行中配置自定义的spark.driver.ext
file=/home/omm/temp.bin PID，导出内存信息后重启进程进行恢复。 查看Yarn的原生界面，确认队列资源情况，以及任务是否提交到了yarn上。 Yarn的原生界面：在集群详情页选择“组件管理 > Yarn > ResourceManager WebUI > ResourceManager (主)”。
Manager的主管理节点。 在集群详情的“节点信息”页签中查看节点名称，名称中包含“master1”的节点为Master1节点，名称中包含“master2”的节点为Master2节点。 MRS Manager的主备管理节点默认安装在集群Master节点上。在主备模式下，由于Maste
hdfsFileFreeReadStatistics(stats); 断开HDFS文件系统连接。 hdfsDisconnect(fs); 准备运行环境 在节点上安装客户端，例如安装到“/opt/client”目录。 Linux中编译并运行程序 进入Linux客户端目录，运行如下命令导入公共环境变量：
hdfsFileFreeReadStatistics(stats); 断开HDFS文件系统连接。 hdfsDisconnect(fs); 准备运行环境 在节点上安装客户端，例如安装到“/tmp/client”目录。 Linux中编译并运行程序 进入Linux客户端目录，运行如下命令导入公共环境变量：
nettyconnector.registerserver.topic.storage：设置NettySink的IP、端口及并发度信息在第三方注册服务器上的路径（必填），例如： nettyconnector.registerserver.topic.storage: /flink/nettyconnector
Key（SK）。 用户已经在账号的对象存储服务（OBS）中创建了并行文件系统。 在MRS Manager，单击“系统设置”。 单击“维护”下方的“日志导出”。 “服务”选择服务，“主机”填写服务所部署主机的IP，“开始时间”与“结束时间”选择对应的开始与结束时间。 在“导出类型”选择一个
MRS组件应用安全认证说明 Kerberos认证说明 开启了Kerberos认证的安全模式集群，进行应用开发时需要进行安全认证。使用Kerberos的系统在设计上采用“客户端/服务器”结构与AES等加密技术，并且能够进行相互认证（即客户端和服务器端均可对对方进行身份认证）。可以用于防止窃听、防止r
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
