检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
节。 以客户端安装用户，登录安装客户端的节点。 执行以下命令，切换到客户端安装目录。例如路径为“/opt/client”。 cd /opt/client 执行以下命令配置环境变量。 source bigdata_env 如果集群为安全模式，执行以下命令进行用户认证。普通模式集群无需执行用户认证。
使用HDFS HDFS文件系统目录简介 HDFS用户权限管理 HDFS客户端使用实践 快速使用Hadoop 配置HDFS文件回收站机制 配置HDFS DataNode数据均衡 配置HDFS DiskBalancer磁盘均衡 配置HDFS Mover命令迁移数据 配置HDFS文件目录标签策略（NodeLabel）
解决Flink问题： 普通集群Flink jar作业提交失败。 创建只有两个英文字母的用户后，无法登录Flink WebUI页面。 FlinkServer重启策略的失败重试间隔时间单位与实际不符。 修改Flink登录用户的密码后，提交作业失败。 作业从Checkpoint恢复后一直处于提交中。
主机单核CPU平均负载”，查看主机单核CPU平均负载值是否大于3。 是，表示系统负载过高，执行3。 否，执行8。 以omm用户登录产生告警的主机节点。 执行top命令查看“%Cpu(s)”的us值是否大于80。 是：表示用户进程占用CPU过高，记录CPU占用高的进程PID，执行5。 否：执行6。 执行以下命令获取
询的结果，例如：它可以是远程数据的本地副本，单表查询或者多表join后查询的结果的行或列、行和列的子集，也可以是使用聚合函数的汇总表。 物化视图通常基于对数据表进行聚合和连接的查询结果创建。物化视图支持“查询重写”，这是一种优化技术，它将以原始表编写的用户查询转换为包括一个或多个物化视图的等效请求。
useServer节点执行失败或未执行。 处理步骤 登录FusionInsight Manager页面，选择“运维 > 告警 > 告警”，查看当前告警“定位信息”中的角色名以及确认主机名所在的IP地址。 以客户端安装用户，登录客户端的节点，执行如下命令： cd {客户端安装路径}
检查Loader和依赖组件之间的网络连接。 在FusionInsight Manager界面，选择“集群 > 待操作集群的名称 > 服务 > Loader”。 单击“实例”，显示LoaderServer实例列表。 记录“LoaderServer(主)”行的“管理IP”。 以omm用户通过21获取的I
以客户端安装用户，登录安装客户端的节点，执行如下命令： cd {客户端安装目录} source bigdata_env 如果集群已启用Kerberos认证（安全模式），执行以下命令进行用户认证。集群未启用Kerberos认证（普通模式）无需执行用户认证。 kinit 组件业务用户 执行
并参考表2设置对应的配置参数。 如果对应的Flume角色之前已经配置过服务端参数，为保证与之前的配置保持一致，在FusionInsight Manager界面选择“集群 > 待操作集群的名称 > 服务 > Flume > 实例”，选择相应的Flume角色实例，单击“实例配置”页面“flume
Core和Spark Streaming使用上表中的API接口进行程序开发。而SparkSQL模块，支持CLI或者JDBCServer两种方式访问。其中JDBCServer的连接方式也有Beeline和JDBC客户端代码两种。详情请参见Spark JDBCServer接口介绍。 spark-sql脚
sh”中的“SPARK_EXECUTOR_INSTANCES”配置项设置为合适大小。您还可以设置动态资源调度功能进行优化。 在使用spark-submit命令时，添加“--num-executors NUM”参数设置Executor个数。 配置Executor核数。 每个Execu
检查Loader和依赖组件之间的网络连接。 登录MRS集群详情页面，选择“组件管理”。 单击“Loader”。 单击“实例”，显示Sqoop实例列表。 记录所有Sqoop实例的“管理IP”。 登录6.d获取的IP地址所在的主机，执行以下命令切换用户。 sudo su - root su
r集群互信。 操作步骤 登录Kafka服务所在Manager页面，选择“系统 > 权限 > 用户 > 添加用户”，创建一个具有Kafka权限的人机用户，例如创建人机用户ck_user1，首次使用需要修改初始密码。Kafka用户权限介绍请参考Kafka用户权限说明。 选择“集群 >
并参考表2设置对应的配置参数。 如果对应的Flume角色之前已经配置过服务端参数，为保证与之前的配置保持一致，在FusionInsight Manager界面选择“集群 > 待操作集群的名称 > 服务 > Flume > 实例”，选择相应的Flume角色实例，单击“实例配置”页面“flume
x及以前版本）的处理步骤处理该故障；如果Kafka服务已停止，启动Kafka服务，执行1.g。 否，执行1.g。 登录MRS集群详情页面，选择“组件管理”。 单击“Flume > 实例”。 单击进入故障节点的Flume实例页面，查看指标“Sink速度指标”，检查其速度是否为0。 是，执行2.a。 否，处理完毕。
PI兼容性或可靠性问题，建议用户使用配套版本的API。 Spark Core常用接口 Spark主要使用到如下这几个类： pyspark.SparkContext：是Spark的对外接口。负责向调用该类的python应用提供Spark的各种功能，如连接Spark集群、创建RDD、广播变量等。
若批量导入数据时创建二级索引，还需注意： 当将列的类型设置为string时，不能设置其长度。例如“<column index="1" type="string" length="1" >COLOUMN_1</column>”，此类型不支持。 当将列的类型设置为date时，不能设置其日期格式。例如“<column
timeout.secs Spark：修改配置spark.session.maxAge的值 Hive：添加自定义配置项http.server.session.timeout.secs 保存配置项时可选择不重启受影响的服务或实例，等待业务不繁忙时再重启服务或实例。 父主题： MRS集群补丁说明
'topic' = 'test_sink', 'properties.bootstrap.servers' = 'Kafka的Broker实例业务IP:Kafka端口号', 'scan.startup.mode' = 'latest-offset', 'value.format'
ClickHouse加速TTL操作调优 ClickHouse触发TTL的时候，对CPU和内存会存在较大消耗和占用。 登录FusionInsight Manager界面，选择“集群 > ClickHouse > 配置 > 全部配置 > ClickHouseServer > 自定义 >
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
