检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
SparkContext对象作为其构造参数。SQLContext其中一个子类是HiveContext,相较于其父类,HiveContext添加了HiveQL的parser、UDF以及读取存量Hive数据的功能等。但注意,HiveContext并不依赖运行时的Hive,只是依赖Hive的类库。
temp_user_data; 清理临时表。 DROP TABLE IF EXISTS temp_user_data; 父主题: Spark运维管理
ResourceManager(主)”,登录Yarn的原生页面进行查看。 具体的告警处理方法可查看该告警的联机帮助文档进行处理。 父主题: 集群管理类
retainedDeadExecutors Spark UI页面显示的Lost Executor的最大个数。 100 父主题: Spark运维管理
志 此命令的参数中需要填入nodeAddress,可通过以下命令获取: yarn node -list -all 父主题: Spark运维管理
${newhostname}:表示新的hostname取值。 修改完成后,重新登录修改的节点,查看修改后的hostname是否生效。 父主题: 集群管理类
”目录下的残留目录,用户自定义修改的目录不会清理。 HDFS中的“checkpoints”目录需用户手动删除,该特性不会删除。 父主题: 管理FlinkServer作业
CDL服务包含了两个重要的角色:CDLConnector和CDLService。CDLConnector是具体执行数据抓取任务的实例,CDLService是负责管理和创建任务的实例。 CDL支持在CDLService WebUI界面创建数据同步任务和数据比较任务,使用流程如图1所示。 图1 CDL使用流程
REST接口支持对Jobs、Stages、Storage、Environment和Executors的信息进行查询,FusionInsight版本中添加了查询SQL、JDBC Server和Streaming的信息的REST接口。开源REST接口完整和详细的描述请参考官网上的文档以了解其使用方法:https://archive
ClickHouse多租户特性通过“用户 > 租户角色 > 资源profiles管理”的模型,使用户拥有对集群资源的管理能力,目前支持内存和CPU优先级管理。多租户设计模型如下图所示: 通过FusionInsight Manager服务配置和租户管理页面的操作,用户可以实现设置服务内存限额、创建租户、关联
6的补丁中修复,也可通过在MRS Manager页面给同步的提交作业用户赋予该目录“/mrs/job-properties”的写入权限进行处理。 父主题: 作业管理类
Connection reset by peer。 答: 修改作业提交参数,加上参数“executor.memoryOverhead”。 父主题: 作业管理类
MRS用户无法同步至Ranger管理界面 问题 在MRS Manager界面创建了一个账户,在Ranger管理界面无法查看到该用户,重启UserSync后,可以查看到该用户。 回答 需要修改UserSync进程的GC内存默认为“-Xms1G -Xmx1G”,需要根据业务实际情况调整该参数值:
--password 输入用户密码 ClickHouse实例IP获取方式:在集群详情页面,选择“组件管理 > ClickHouse > 实例”,获取ClickHouse的IP地址。 父主题: ClickHouse运维管理
retainedDeadExecutors Spark UI页面显示的Lost Executor的最大个数。 100 父主题: Spark运维管理
Manager Java API接口介绍 典型接口说明 以下仅对Manager REST API开发过程中的典型方法进行描述。 表1 restApiDemo.src.rest.BasicAuthAcces 方法 描述 loginAndAccess (String webUrl,String
0-LTS及后续版本。 “default”和“clickhouse”用户为普通模式(未开启kerberos认证)集群下ClickHouse默认内部管理员用户。 如果普通模式ClickHouse的默认用户“default”和“clickhouse”修改了默认密码,ClickHouseSer
MRS集群的租户资源最小值设置为0后,只能同时运行一个Spark任务吗? 答: 租户资源最小值改为0后,只能同时运行一个Spark任务。 父主题: 作业管理类
9G,如果参数设置为0,则表示不限制,那么ClickHouse服务可以使用服务器的所有物理内存。该参数最多有效位为小数点后两位。 父主题: ClickHouse多租户管理
maxError”、“spark.sql.statistics.percentile.accuracy”参数修改后需要重新下载客户端才能生效。 父主题: Spark运维管理