检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
MRS 1.9.3.2 修复问题列表： MRS大数据组件 解决通过sparksql和beeline进行insert overwrite操作时，旧文件无法进行trash问题 MRS 1.9.3.1 修复问题列表： MRS Manager 解决自定义集群缩容Task节点失败问题 MRS大数据组件
10。 最小处理的数据量、最大并发数、源文件的大小和当前集群BE节点的个数共同决定了本次任务导入的并发数： 本次导入并发数 = Math.min（源文件大小/最小处理量，最大并发数，当前BE节点个数） 本次导入单个BE的处理量 = 源文件大小/本次导入的并发数 通常一个导入作业支
insync.replicas可以确保多副本写入成功，只要有一个副本保持活跃状态，记录将不会丢失。 说明： 该参数在kafka客户端配置文件中配置。 min.insync.replicas 1 当Producer设置acks为-1时，指定需要写入成功的副本的最小数目。 配置高可用、高性能的影响：
lse后滚动重启HDFS服务，保证HDFS数据的高可靠； 对于确定存在单副本诉求的文件也可通过dfs.single.replication.exclude.pattern配置项设置单副本的数据文件和目录。 MRS 1.9.2.3补丁安装完成之后，需要重启OMS服务。如果集群之前安装了1
RS集群已安装Hive。 使用“Data Browsers”管理Hive中的表。需要MRS集群已安装Hive。 使用查看HDFS中的目录和文件。需要MRS集群已安装HDFS。 使用查看MRS集群中所有作业。需要MRS集群已安装YARN。 使用创建的用户第一次登录Hue WebUI，需修改密码。
必须确保配置的LDAP服务主机名或者IP与HiveServer节点互通。如果URL中配置的LDAP主机名，则需要在HiveServer节点的“/etc/hosts”文件中配置相应LDAP主机名和IP映射关系。 ldap://xxx:xxx hive.server2.authentication.ldap.userDNPattern
为了解决上面问题，需要对参数进行调整。 增大partition数，把任务切分的更小。 增大任务执行过程中的超时时间。 在客户端的“spark-defaults.conf”配置文件中配置如下参数。 表2 参数说明 参数 描述 建议值 spark.sql.shuffle.partitions shuffle操作时，shuffle数据的分块数。
为了解决上面问题，需要对参数进行调整。 增大partition数，把任务切分的更小。 增大任务执行过程中的超时时间。 在客户端的“spark-defaults.conf”配置文件中配置如下参数。 表2 参数说明 参数 描述 建议值 spark.sql.shuffle.partitions shuffle操作时，shuffle数据的分块数。
客户端安装目录 source bigdata_env 在HDFS客户端执行以下命令访问OBS： hdfs dfs -ls obs://OBS并行文件系统目录 如下表示对接成功： 父主题： 存算分离常见问题
为保证Hive服务的高可用性、用户数据的安全及访问服务的可控制，在开源社区的Hive-3.1.0版本基础上，Hive新增如下特性： 数据文件加密机制。 开源社区的Hive特性，请参见https://cwiki.apache.org/confluence/display/hive/designdocs。
7的MySQL软件包。 例如需安装的MySQL 8.0.22客户端需下载如下四个软件包： 将下载的软件包上传到待安装MySQL客户端的节点上。 在上传的文件所在目录执行以下命令，安装MySQL客户端及对应的依赖包： rpm -ivh mysql-community-client-8.0.22-1
run archivelog on $tablename; --执行archivelog合并清理元数据文件。 关于清理、归档参数的值不宜设置过大，会影响Hudi表的性能，通常建议： hoodie.cleaner.commits.retained
permissions.enabled”表示是否为HDFS启用权限检查，默认为“true”启用权限检查，请修改为“false”。修改后HDFS中的目录和文件的属主、属组以及权限信息保持不变。 单击“保存”，单击“确定”。 等待界面提示操作完成。 开启Yarn鉴权 登录FusionInsight
LDAP用户pg_search_dn的密码为系统随机生成，具体可在主节点的“/etc/sssd/sssd.conf”或“/etc/ldap.conf”文件中获取。 修改MRS集群LDAP普通用户密码 MRS 3.1.0版本： 登录FusionInsight Manager，选择“集群 > 服务
t-8.5.63/webapps/cas/WEB-INF/classes/config/application.properties”文件，在文件中新增配置“ticket.tgt.timeToKillInSeconds=28800”，其中28800为认证中心的有效时长请根据需要修
在通常的join/in/not in时候，需要在前面添加Global关键字，避免查询放大问题。 数据查询建议 建议查询指定分区 通过指定分区字段会减少底层数据库扫描的文件数量，提升查询性能，实际经验：700个分区的千列大表，需要查询一个分区中有7000万数据，其他699个分区中无数据，虽然只有一个分区有数据
该任务指导用户通过Storm业务完整迁移的方式转换并运行完整的由Storm API开发的Storm拓扑。 操作步骤 打开Storm业务工程，修改工程的pom文件，增加“flink-storm” 、“flink-core”和“flink-streaming-java_2.11”的引用。如下： <dependency>
默认值 范围 mapreduce.client.submit.file.replication MapReduce任务在运行时依赖的相关job文件在HDFS上的副本数。当集群中DataNode个数小于该参数值时，副本数等于DataNode的个数。当DataNode个数大于或等于该参数值，副本数为该参数值。
kinit MRS集群用户 例如： kinit admin 直接执行组件的客户端命令。 例如： 使用HDFS客户端命令查看HDFS根目录文件。 hdfs dfs -ls / Found 15 items drwxrwx--x - hive hive
默认值 范围 mapreduce.client.submit.file.replication MapReduce任务在运行时依赖的相关job文件在HDFS上的副本数。当集群中DataNode个数小于该参数值时，副本数等于DataNode的个数。当DataNode个数大于或等于该参数值，副本数为该参数值。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
