检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
警上报的任务名。 选择“集群 > 服务 > Yarn”,单击“ResourceManager WebUI”后的链接进入Yarn原生页面。 根据告警“定位信息”中的任务名找到异常任务,查找并记录作业的“application ID”,是否可以在Yarn页面上查看到作业日志。 图1 作业的“application
I/JavaAPI等接口上不会根据用户角色进行权限控制,任何用户都有权限访问应用和集群的信息,无法满足多租户场景下的隔离要求。 增强: 安全模式下,对开源YARN提供的WebUI/RestAPI/JavaAPI等接口上进行了权限管理上的增强,支持根据不同的用户角色,进行相应的权限控制。
清除之前运行生成的目标文件和可执行文件,运行如下命令。 make clean 执行结果如下。 [root@10-120-85-2 hdfs-c-example]# make clean rm -f hdfs_test.o rm -f hdfs_test 编译生成新的目标和可执行文件,运行如下命令。
集群名称:自定义,例如“mrs_test” 版本类型:LTS版 集群版本:MRS 3.3.0-LTS 集群组件包含:Hive等。 Kerberos认证:开启 其他参数根据实际需要进行配置。 集群购买完成后安装集群全量客户端,详细操作请参考安装客户端(3.x版本)。 例如客户端安装路径为“/opt/newclient”。
警上报的任务名。 选择“集群 > 服务 > Yarn”,单击“ResourceManager WebUI”后的链接进入Yarn原生页面。 根据告警“定位信息”中的任务名找到异常任务,查找并记录作业的“application ID”,是否可以在Yarn页面上查看到作业日志。 图1 作业的“application
警上报的任务名。 选择“集群 > 服务 > Yarn”,单击“ResourceManager WebUI”后的链接进入Yarn原生页面。 根据告警“定位信息”中的任务名找到异常任务,查找并记录作业的“application ID”,是否可以在Yarn页面上查看到作业日志。 图1 作业的“application
全部配置”。在“搜索”中,输入“GC_OPTS”,确定当前“HDFS->DataNode”的“GC_OPTS”内存参数。 对系统进行调整。 根据6中的Block数量和7中DataNode配置的堆内存参数,检查当前配置的内存是否不合理。 是,执行9。 否,执行11。 单个DataNo
Manager首页,选择“集群 > 待操作集群的名称 > 服务 > HDFS > 配置 > 全部配置 > NameNode > 系统”。将“GC_OPTS”参数值根据实际情况调大。 HDFS的文件对象数量(filesystem objects=files+blocks)和NameNode配置的JVM参数的对应关系建议如下:
Kerberos服务的renewable、forwardable开关和票据刷新周期的设置在Kerberos服务的配置页面的“系统”标签下,票据刷新周期的修改可以根据实际情况修改“kdc_renew_lifetime”和“kdc_max_renewable_life”的值。 ZooKeeper原理 写请求
SQL中进行Join操作时,可以按照以下步骤进行优化。为了方便说明,设表A和表B,且A、B表都有个名为name的列。对A、B表进行join操作。 估计表的大小。 根据每次加载数据的大小,来估计表大小。 也可以在Hive的数据库存储路径下直接查看表的大小。首先在Spark的配置文件“hive-site.x
节点上ClickHouse服务数据目录的空间使用情况,单击“下一步”。 确认任务信息,确认无误后可以单击“提交”提交任务。 数据迁移工具将根据待迁移数据表的大小自动计算需要迁移的分区,数据迁移量则是计算出的需要迁移的分区总大小。 提交迁移任务成功后,单击操作列的“启动”。如果任务
单击“刷新列表”,可以获取作业的最新状态。 编辑作业 访问Loader页面,默认显示Loader作业管理页面。 单击指定作业的名称,进入编辑页面。 根据业务需要,修改作业配置参数。 单击“保存”。 左侧导航栏支持作业的基本操作,包含“运行”、“复制”、“删除”、“激活”、“历史记录”和“显示作业JSON定义”。
如需自动扩缩容,将“高级配置”中的“是否开启动态伸缩”开关置于“是”,并参考表1配置参数,开启动态伸缩: 处于“运行中”的计算实例会即时根据设置的动态伸缩参数进行扩缩容;其他状态的计算实例仅保存配置,保存的配置将在计算实例重启时生效。 表1 动态伸缩参数说明 参数 描述 取值样例
登录Manager,选择“集群 > 服务 > IoTDB > 配置”,搜索并查看“IOTDB_SERVER_RPC_PORT”的值,默认为“22260”。 (可选)根据需求可添加自定义配置。 单击“确定”。 登录集群客户端所在节点,执行以下命令,切换到客户端安装目录并认证用户。 cd /opt/client
urnalNode,则日志会保存在至少2个节点中。Standby节点监控JournalNodes的变化,并同步来自Active节点的修改。根据修改日志,Standby节点将变动应用到本地文件系统元数据中。一旦发生故障转移,Standby节点能够确保与Active节点的状态是一致的
> JVM”,将“HIVE_GC_OPTS/METASTORE_GC_OPTS”参数中“-XX:MaxDirectMemorySize”的值根据如下建议进行调整,并单击“保存”。 HiveServer的GC参数配置建议 建议将“-XX:MaxDirectMemorySize”值设置
选择“HiveServer/MetaStore > JVM”,将“HIVE_GC_OPTS/METASTORE_GC_OPTS”参数中“-Xmx”的值根据如下建议进行调整,并单击“保存”。 HiveServer的GC参数配置建议 当Hive GC时间超出阈值时,将“-Xmx”值调整为默认值的
e > JVM”,将“HIVE_GC_OPTS/METASTORE_GC_OPTS”参数中“-XX:MaxMetaspaceSize”的值根据如下建议进行调整,并单击“保存”。 HiveServer的GC参数配置建议 建议将“-XX:MaxMetaspaceSize”值设置成为“
dbservice_profile find "$DBSERVICE_DATA_DIR"/../ -type f -size +500M 是,执行11。 否,执行13。 根据实际情况处理误写入的文件。 登录FusionInsight Manager,选择“集群 > 待操作集群的名称 > 服务 > DBServi
实例”。 查看ZooKeeper角色实例的IP地址。 记录ZooKeeper角色实例其中任意一个的IP地址即可。 根据业务情况,准备好客户端,登录安装客户端的节点。 请根据客户端所在位置,参考使用MRS客户端章节,登录安装客户端的节点。 执行以下命令,切换到客户端目录,例如“/opt