检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
22客户端连接Doris为例进行演示。 前提条件 待安装MySQL客户端的节点与MRS集群网络互通。 操作步骤 以root用户登录待安装MySQL客户端的节点。 执行以下命令查看MySQL客户端依赖库ncurses-libs的版本： rpm -qa | grep ncurses 从https://downloads
算法。 流式处理（Streaming Processing）：支持秒级延迟的流式处理，可支持多种外部数据源。 查询分析（Query Analysis）：支持标准SQL查询分析，同时提供DSL（DataFrame）， 并支持多种外部输入。 Apache Spark部件架构如图1所示。本文档重点介绍Spark、Spark
创建HBase客户端连接 创建HBase表 创建HBase表Region 向HBase表中插入数据 创建HBase表二级索引 基于二级索引查询HBase表数据 修改HBase表 使用Get API读取HBase表数据 使用Scan API读取HBase表数据 使用Filter过滤器读取HBase表数据
配置Flink任务并行度 操作场景 并行度控制任务的数量，影响操作后数据被切分成的块数。调整并行度让任务的数量和每个任务处理的数据与机器的处理能力达到更优。 查看CPU使用情况和内存占用情况，当任务和数据不是平均分布在各节点，而是集中在个别节点时，可以增大并行度使任务和数据更均匀的分布在各个节点。增
操作场景 并行度控制任务的数量，影响shuffle操作后数据被切分成的块数。调整并行度让任务的数量和每个任务处理的数据与机器的处理能力达到更优。 查看CPU使用情况和内存占用情况，当任务和数据不是平均分布在各节点，而是集中在个别节点时，可以增大并行度使任务和数据更均匀的分布在各个节点。增
DataNode节点故障。 磁盘故障。 单副本写入文件。 处理步骤 在FusionInsight Manager首页，选择“运维 > 告警 > 告警”查看是否存在告警“ALM-14003 丢失的HDFS块数量超过阈值”。 是，执行2。 否，执行3。 按照ALM-14003 丢失的HDFS块数
${table_name}_ro; 读优化视图读取（Spark dataSource API为例）：和读普通的dataSource表类似。 必须指定查询类型QUERY_TYPE_OPT_KEY 为QUERY_TYPE_READ_OPTIMIZED_OPT_VAL spark.read.format("hudi")
${table_name}_ro; 读优化视图读取（Spark dataSource API为例）：和读普通的dataSource表类似。 必须指定查询类型QUERY_TYPE_OPT_KEY为QUERY_TYPE_READ_OPTIMIZED_OPT_VAL spark.read.format("hudi")
INSERT SELECT语句调优 动态分区插入场景内存优化 小文件优化 聚合算法优化 Datasource表优化 合并CBO优化 多级嵌套子查询以及混合Join的SQL调优 父主题： 使用Spark2x（MRS 3.x及之后版本）
解决的问题 MRS 2.0.6.1 修复问题列表： MRS Manager 优化补丁机制 解决偶现获取监控指标为空的问题 解决DLF+Presto查询时字段中包含换行符，数据和文件显示问题。 补丁兼容关系 无 安装补丁的影响 安装MRS 2.0.6.1补丁期间会重启MRS Manager
> 服务 > Oozie > 实例”查看。 “21003”为Oozie HTTPS请求的运行端口，可在FusionInsight Manager，选择“集群 > 服务 > Oozie > 配置”，搜索“OOZIE_HTTPS_PORT”查看。 查看检查结果。包括以下几种情况： Share
Supervisor”，进入Storm服务管理页面。 查看“角色”中是否存在状态为故障或者是正在恢复的Supervisor实例。 是，执行3。 否，执行5。 勾选状态为故障或者正在恢复的Supervisor角色实例，选择“更多 > 重启实例”，查看是否重启成功。 是，执行4。 否，执行5。 等待30秒，检查该告警是否恢复。
"obs://testhudi/cow_table/"是OBS路径，testhudi是并行文件系统名称，请根据实际情况修改。 使用datasource查看表建立成功，数据正常。 val roViewDF = spark. read. format("org.apache.hudi"). load(basePath
检查相关配置是否合理 在FusionInsight Manager首页，选择“运维 > 告警 > 告警”，查看是否存在告警ID为“19008”或“19011”的告警。 是，单击对应告警右侧的“查看帮助”并按照帮助文档进行处理，执行3。 否，执行2。 在FusionInsight Manager首页，选择“集群
alias or column reference 'xxx'. 解决方案：set hive.cbo.enable=true; Hive SQL子查询编译报错：Unsupported SubQuery Expression 'xxx': Only SubQuery expressions
创建savepoint call create_savepoint('hudi_test1', '20220908155421949'); 查看所有存在的savepoint call show_savepoints(table =>'hudi_test1'); 回滚savepoint
的表“productSalesTable”： DROP TABLE productdb.productSalesTable; 执行以下命令查询表是否被删除： SHOW TABLES; 父主题： 使用CarbonData（MRS 3.x之前版本）
使用Hue提交Coordinator定时调度作业 操作场景 该任务指导用户通过Hue界面提交定时调度类型的作业。 前提条件 提交Coordinator任务之前需要提前配置好相关的workflow作业。 操作步骤 访问Hue WebUI，请参考访问Hue WebUI界面。 在界面左
tablename（入湖时需提供）； 单条数据大小 = 平均 1KB（华为建议通过select * from tablename limit 100将查询结果粘贴在notepad++中得出100条数据的大小再除以100得到单条平均大小） 单表数据量大小(G) = 单表数据总条数*单表数据大小/1024/1024
在FusionInsight Manager首页，选择“运维 > 告警 > 告警 > Oozie进程垃圾回收（GC）时间超过阈值”，检查该告警的“定位信息”。查看告警上报的实例主机名。 在FusionInsight Manager首页，选择“集群 > 待操作集群的名称 > 服务 > Oozie >
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
