检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
败的情况。 当前IAM用户名中存在空格时(例如admin 01),不支持添加作业。 单击“作业管理”,在作业列表界面单击“添加”。 “作业类型”选择“SparkSubmit”,并配置其他作业信息。 图1 添加Spark作业 表1 作业配置信息 参数 描述 示例 作业名称 作业名称
0及之后版本。 告警属性 告警ID 告警级别 是否可自动清除 38013 紧急(默认阈值为60000) 重要(默认阈值为30000) 是 告警参数 类别 参数名称 参数含义 定位信息 来源 产生告警的集群名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。
max: 20g 基于序列化性能尽量使用POJO和Avro等简单的数据类型 使用API编写Flink程序时需要考虑Java对象的序列化,大多数情况下Flink都可以高效的处理序列化。SQL中无需考虑,SQL中数据都为ROW类型,都采用了Flink内置的序列化器,能很高效的进行序列化。 表1
t-Hadoop-*/hadoop/lib/native spark.ui.customErrorPage 配置网页有错误时是否允许显示自定义的错误信息页面。 true spark.httpdProxy.enable 配置是否使用httpd代理。 true spark.ssl.ui
t-Hadoop-*/hadoop/lib/native spark.ui.customErrorPage 配置网页有错误时是否允许显示自定义的错误信息页面。 true spark.httpdProxy.enable 配置是否使用httpd代理。 true spark.ssl.ui
登录集群Manager页面后,单击“集群 > 服务”,打开组件管理页面。 服务列表中包含了集群中所有已安装的组件,可显示每个组件的运行状态、配置状态、角色的类型以及对应的实例个数。 图4 查看集群组件状态 MRS 2.x及之前版本Manager界面中,单击“服务管理”打开组件管理页面。 表3 Manager组件状态说明
告警恢复。 该告警仅适用于MRS 3.5.0及之后版本。 告警属性 告警ID 告警级别 是否可自动清除 50232 提示 是 告警参数 类别 参数名称 参数含义 定位信息 来源 产生告警的集群或系统名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名称。
当同时使用-update选项时,即使被拷贝文件的内容没有被更新,它的状态信息也会被更新。 r:副本数,b:块大小,u:所属用户,g:所属用户组,p:许可,c:校验和类型,a:访问控制,t:时间戳,q:Quota信息 -i 拷贝过程中忽略失败。 -log <logdir> 指定日志路径。 -v 指定日志中的额外信息。
put(dataList); } catch (IOException e) { // 如果是RetriesExhaustedWithDetailsException类型的异常, // 说明这些数据中有部分是写入失败的这通常都是因为 // HBase集群的进程异常引起,有时也会因为有大量 // 的Region正在被转移,导致尝试一定的次数后失败
当同时使用-update选项时,即使被拷贝文件的内容没有被更新,它的状态信息也会被更新。 r:副本数,b:块大小,u:所属用户,g:所属用户组,p:许可,c:校验和类型,a:访问控制,t:时间戳,q:Quota信息 -i 拷贝过程中忽略失败。 -log <logdir> 指定日志路径。 -v 指定日志中的额外信息。
弹性云服务器需要允许用户使用密码方式登录(SSH方式)。 参考访问MRS集群Manager登录集群Manager,然后选择“服务管理 > 下载客户端”。 在“客户端类型”选择“完整客户端”。 在“下载路径”选择“远端主机”。 将“主机IP”设置为待安装客户端节点的IP地址,设置“主机端口”为“22”,并将“存放路径”设置为“/tmp”。
告警”,单击此告警所在行的,在定位信息中查看发生该告警的主机名称。 检查ntpd进程是否运行在告警节点上。使用root用户登录告警节点,用户密码为安装前用户自定义,请咨询系统管理员,执行命令:ps -ef | grep ntpd | grep -v grep,检查命令是否输出ntpd进程的信息。 是,执行24。
entConfig”,执行下列命令安装客户端。 sh install.sh /opt/client 其中“/opt/client”为用户自定义路径,此处仅为举例。 进入客户端安装目录“/opt/client”,执行下列命令初始化环境变量。 source bigdata_env Linux中编译并运行程序
=前缀。示例:\ p {Hiragana} 必须使用In前缀指定块。不支持block =和blk =前缀。示例:\p{Mongolian} 必须直接指定类别,而不能带Is,general_category =或gc =前缀。示例:\p{L} 二进制属性必须直接指定,而不是Is。示例:\p{No
1及之后版本。 告警属性 告警ID 告警级别 是否可自动清除 19032 紧急:默认阈值为2000 重要:默认阈值为1600 是 告警参数 类别 参数名称 参数含义 定位信息 来源 产生告警的集群名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。
1及之后版本。 告警属性 告警ID 告警级别 是否可自动清除 19035 紧急:默认阈值为800MB 重要:默认阈值为600MB 是 告警参数 类别 参数名称 参数含义 定位信息 来源 产生告警的集群名称。 服务名 产生告警的服务名称。 角色名 产生告警的角色名称。 主机名 产生告警的主机名。
0及之后版本支持) MRS 2.x及之前版本集群: 登录Manager,单击“服务管理”。 单击服务列表中指定的服务名称。 单击“服务配置”。 在“参数类别”选择“全部配置”,界面上将显示该服务的全部配置参数导航树,导航树从上到下的根节点分别为服务名称和角色名称。 在导航树选择指定的参数,修改
MRS支持的API授权项请参见权限策略和授权项。 如表1所示,包括了MRS的所有默认系统策略。 表1 MRS系统策略 策略名称 描述 策略类别 MRS FullAccess MRS管理员权限,拥有该权限的用户可以拥有MRS所有权限。 细粒度策略 MRS CommonOperations
setOutputPath(job, new Path(baseDir, OUTPUT_DIR_NAME)); // 设置输出键值类型 job.setOutputKeyClass(Text.class); job.setOutputValueClass(Text
Kafka结构图说明 名称 说明 Broker 在Kafka集群上一个服务器称为一个Broker。 Topic/主题 一个Topic就是一个类别或者一个可订阅的条目名称,也即一类消息。一个主题可以有多个分区,这些分区可以作为并行的一个单元。 Partition/分区 是一个有序的、