检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
SparkLauncher程序的编译依赖包为spark-launcher_2.12-3.1.1-hw-ei-311001-SNAPSHOT.jar，请从软件发布包中Software文件夹下“FusionInsight_Spark2x_8.1.0.1.tar.gz”压缩包中的“jars”目录中获取。
kinit命令。 执行spark-shell --master yarn-client命令进入spark-shell，然后引入Hudi相关软件包并生成测试数据。 引入需要的包。 import org.apache.hudi.QuickstartUtils._ import scala
客户端软件包名称格式为：“FusionInsight_Cluster_集群ID_Services_Client.tar”。本章节仅以集群ID为1进行介绍，请以实际集群ID为准。 以客户端安装用户登录将要安装客户端的服务器。 进入安装包所在目录，执行如下命令解压软件包。 cd
例如上传至“/opt/hadoopclient”。 在jar包所在目录下创建“conf”目录，将准备集群配置文件中获取的集群客户端配置文件软件包内“Flink/config”内的配置文件上传至“conf”目录。 将应用程序待处理的源数据文件上传至NodeManager实例所在节点。
FE实例IP地址可通过登录MRS集群的Manager界面，单击“集群 > 服务 > Doris > 实例”，查看任一FE实例的IP地址。 用户也可以使用MySQL连接软件或者Doris WebUI界面连接数据库。 从远端已备份数据的仓库中恢复表或分区数据。例如： 从example_repo中恢复备份snap
DBService服务异常。 Yarn服务异常。 Mapreduce服务异常。 环境故障：网络异常，Loader服务无法与其依赖的内部服务通信，无法提供服务。 软件故障：Loader服务无法正常运行。 处理步骤 检查ZooKeeper服务状态。 登录MRS集群详情页面，选择“组件管理”。 选择“Zoo
界面，单击“集群 > 服务 > Doris > 实例”，查看任一FE或DBalancer实例的业务IP地址。 用户也可以使用MySQL连接软件或者在Doris WebUI界面连接数据库。 执行命令后输入dorisuser用户密码。 可执行以下命令查看已配置的SQL防御规则： use
DBService服务异常。 Yarn服务异常。 Mapreduce服务异常。 环境故障：网络异常，Loader服务无法与其依赖的内部服务通信，无法提供服务。 软件故障：Loader服务无法正常运行。 处理步骤 检查ZooKeeper服务状态。 在FusionInsight Manager首页，选择“集群
FE实例IP地址可通过登录MRS集群的Manager界面，单击“集群 > 服务 > Doris > 实例”，查看任一FE实例的业务IP地址。 用户也可以使用MySQL连接软件或者在Doris WebUI界面连接数据库。 执行以下命令在目标Doris集群中创建JDBC Catalog： 源集群为MySQL服务端，目标MRS
FE实例IP地址可通过登录MRS集群的Manager界面，单击“集群 > 服务 > Doris > 实例”，查看任一FE实例的IP地址。 用户也可以使用MySQL连接软件或者Doris WebUI界面连接数据库。 执行以下命令在HDFS中创建一个远程仓库example_repo： 集群已启用Kerberos认证（安全模式）
创建集群时为集群增加标签 登录MRS管理控制台。 单击“购买集群”，进入购买集群页面。 在购买集群页面，选择“自定义购买”。 参考自定义购买MRS集群配置集群软件配置和硬件配置信息。 勾选“高级配置”右侧的“现在配置”，在标签栏输入新添加标签的键和值。 图1 添加标签 为已有集群增加集群标签 登录MRS管理控制台。
d/sssd.conf”修改前ldap_uri中第一个ldapserver节点是否故障，例如业务IP不可达、网络延时过长或者部署其他异常的软件。 收集故障信息。 在FusionInsight Manager界面，选择“运维 > 日志 > 下载”。 在“服务”中勾选待操作集群的“LdapClient”。
或Hive元数据的备份恢复任务中，如果选择将数据备份在备集群HDFS中，系统将调用DistCp完成操作。主备集群请选择安装相同版本的MRS软件版本并安装集群系统。 DistCp使用Mapreduce来影响数据的分布、异常处理及恢复和报告，此工具会把指定列表中包含的多个源文件和目录
MapReduce是Hadoop的核心，是Google提出的一个软件架构，用于大规模数据集（大于1TB）的并行运算。 概念“Map（映射）”和“Reduce（化简）”都是从函数式编程语言借来的，还有从矢量编程语言借来的特性。 当前的软件实现是指定一个Map（映射）函数，用来把一组键值对映射
FE实例IP地址可通过登录MRS集群的Manager界面，选择“集群 > 服务 > Doris > 实例”，查看任一FE实例的IP地址。 用户也可以使用MySQL连接软件或者Doris WebUI界面连接数据库。 执行以下命令创建数据库： create database test_broker_load; use
“/etc/ldap.conf”修改前URI中第一个LdapServer节点，是否故障，例如业务IP不可达、网络延时过长或者部署其他异常的软件。 收集故障信息。 在FusionInsight Manager界面，选择“运维 > 日志 > 下载”。 在“服务”中勾选待操作集群的“LdapClient”。
步骤3：创建Hive表并加载OBS中数据 步骤4：基于HQL对数据进行分析 步骤1：创建MRS离线查询集群 进入购买MRS集群页面。 选择“快速购买”，填写软件配置参数。 表3 软件配置（以下参数仅供参考，可根据实际情况调整） 参数名称 参数说明 取值样例 计费模式 选择待创建的MRS集群的计费模式。 按需计费
FE实例IP地址可通过登录MRS集群的Manager界面，单击“集群 > 服务 > Doris > 实例”，查看任一FE实例的IP地址。 用户也可以使用MySQL连接软件或者Doris WebUI界面连接数据库。 如果Hive组件和Doris组件是跨集群部署，需要修改以下配置： Doris所在集群的Doris的“hadoop
sk节点弹性伸缩配置。 - 引导操作 引导操作可以在集群内指定的节点上执行脚本，来进行安装第三方软件、修改集群运行环境等自定义操作，详情说明请参考添加MRS节点引导操作安装第三方软件。 - 委托 通过绑定委托，ECS或BMS云服务将有权限来管理集群的部分资源，请根据实际业务场景需求确认是否需要配置委托。
排查LdapServer节点是否故障，例如业务IP不可达、网络延时过长等；若故障为阶段性，则需在故障时排查，并尝试执行top命令查看是否存在异常软件。 检查是否NodeAgent进程内存不足。 以root用户登录故障节点，执行以下命令查看NodeAgent进程日志。 vi /var/l
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
