检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
升级，应用程序仍然可以运行旧版本的Hadoop。 配置描述 进入HDFS客户端。 以客户端安装用户，登录安装客户端的节点。 执行以下命令，切换到客户端安装目录。 cd 客户端安装路径 执行以下命令配置环境变量。 source bigdata_env 如果集群为安全模式，执行以下命
百分之百。 是，执行6。 否，执行8。 在“实例”区域中，单击“Broker > 实例配置”，进入当前节点“实例配置”页面，将“基础配置”切换为“全部配置”，查看数据目录配置参数“log.dirs”。 单击“组件管理 > Kafka > 实例”，进入“Kafka实例”页面，停止2
升级，应用程序仍然可以运行旧版本的Hadoop。 配置描述 进入HDFS客户端。 以客户端安装用户，登录安装客户端的节点。 执行以下命令，切换到客户端安装目录。 cd 客户端安装路径 执行以下命令配置环境变量。 source bigdata_env 如果集群为安全模式，执行以下命
distinct出现次数超过2就进行“提示”的规则。 图1 添加Spark SQL防御规则 登录安装有Spark客户端的节点，执行以下命令，切换到客户端安装目录。 cd /opt/hadoopclient 执行以下命令，配置环境变量。 source bigdata_env source
hoodie.datasource.hive_sync.partition_extractor_class 用于提取Hudi分区列值，将其转换成Hive分区列。 org.apache.hudi.hive.SlashEncodedDayPartitionValueExtractor
个人私有化数据，避免慢盘隔离时对业务造成影响； 自动触发慢盘隔离动作后，对于原来写两副本数据存在单副本运行的场景，存在一定风险，请知；同时华为侧运维人员会尽快对慢盘进行替换； 慢盘自动隔离能力支持单节点同时出现多个慢盘【默认配置为4】时自动隔离节点，此时该节点会变成隔离状态，客户
erver”。 进入“/udf/hetuserver”，单击上传UDF函数包。 使用HDFS命令行上传。 登录HDFS服务客户端所在节点，切换到客户端安装目录，例如“/opt/client”。 cd /opt/client 执行以下命令配置环境变量。 source bigdata_env
------+--------+-----------------+------+------+------+ 执行以下命令创建数据库，并切换至该数据库： create database test; use test; 执行以下命令创建t1、t2和t3表： create table
a。 如果告警原因为“DataNode数据目录中多个目录使用同一磁盘”，执行5.a。 检查DataNode数据目录是否创建失败。 执行以下命令切换用户： sudo su - root su - omm 使用ls命令查看DataNode数据目录中的每个目录是否存在。 是，执行7。 否，执行3
insync.replicas=2 其中192.168.1.205为ZooKeeper业务IP地址。 如果修改服务级配置需要重启Kafka，建议在变更窗口做服务级配置修改。 父主题： 使用Kafka
对磁盘健康状态进行检查，建议使用专门的磁盘检查工具。 统计存储 分批次排查集群节点磁盘数据是否均匀存储，筛选出明显数据增加或不足的硬盘，并确认硬盘是否正常。 记录变更 安排并记录对集群配置参数和文件实施的操作，为故障分析处理场景提供依据。 每月 分析日志 收集集群节点服务器的硬件日志，例如BMC系统日志，并进行分析。
proxyuser.test.groups”值为“*”：表示test用户连接后，可以使用任意代理用户，不限制代理用户所在的用户组。 修改如下参数值，切换JDBCServer实例至多实例模式： 参数名称 值 spark.scheduler.allocation.file #{conf_dir}/fairscheduler
如果告警原因为“DataNode数据目录中多个目录使用同一磁盘”，执行21。 检查DataNode数据目录是否创建失败。 执行su - omm命令，切换到omm用户。 使用ls命令查看DataNode数据目录中的每个目录是否存在。 是，执行26。 否，执行12。 使用mkdir 数据目录命令创建该目录，查看是否可以创建成功。
java。 本章节只适用于MRS产品Storm与Kafka组件间的访问。本章中描述的jar包的具体版本信息请以实际情况为准。 应用开发操作步骤 确认华为MRS产品Storm和Kafka组件已经安装，并正常运行。 参考获取MRS应用开发样例工程，获取样例代码解压目录中“src\storm-e
-- 关闭Archive操作 Spark离线完成Compaction计划的执行，以及Clean和Archive操作 在调度平台（可以使用华为的DataArts）运行一个定时调度的离线任务来让Spark完成Hudi表的Compaction计划执行以及Clean和Archive操作。
Manager的日志，具体操作如下： 下载并安装Yarn客户端（例安装目录：/opt/client）。 以客户端安装用户，登录安装客户端的节点。 执行以下命令，切换到客户端安装目录。 cd /opt/client 执行以下命令配置环境变量。 source bigdata_env 如果集群为安全模式，执
超时时长 单位：分钟 默认值：1 1 单击“删除”可以删除已增加的自定义配置参数。 单击“确定”。 登录集群客户端所在节点，执行以下命令，切换到客户端安装目录并认证用户。 cd /opt/client source bigdata_env kinit HetuEngine组件操作用户
Manager的日志，具体操作如下： 下载并安装Yarn客户端（例安装目录：/opt/client）。 以客户端安装用户，登录安装客户端的节点。 执行以下命令，切换到客户端安装目录。 cd /opt/client 执行以下命令配置环境变量。 source bigdata_env 如果集群为安全模式，执
请从Flink服务端安装目录获取相关的依赖包。 请从Kafka环境中获取Kafka依赖包。 具体依赖包请查看参考信息。 配置Maven。 参考配置华为开源镜像仓章节描述，增加开源镜像仓地址等配置信息到本地Maven的“setting.xml”配置文件。 修改完成后，在IntelliJ IDEA选择“File
Administrator权限）。如果还需对OBS文件系统中的指定路径进行更加细粒度的权限控制，可参考配置MRS集群用户的OBS的细粒度访问权限创建自定义的角色策略。 登录华为云管理控制台。 在服务列表中选择“管理与监管 > 统一身份认证服务 IAM”。 选择“委托 > 创建委托”。 设置“委托名称”，例如：mrs_ecs_obs。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
