检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
设置handler的参数。 enableSSL false http协议是否启用SSL。 keystore - http启用SSL后设置keystore的路径。 keystorePassword - http启用SSL后设置keystore的密码。 常用Channel配置 Memory Channel
Hudi表属性配置-Table Type Opt Key COPY_ON_WRITE Hudi表属性配置-Hudi TableName Mapping - Hudi表属性配置-Hive TableName Mapping - Hudi表属性配置-Table Primarykey Mapping id Hudi表属性配置-Table
Channel+Kafka Sink. 前提条件 已成功安装集群,包含Kafka及Flume服务。 确保集群网络环境安全。 MRS集群管理员已明确业务需求,并准备一个Kafka管理员用户flume_kafka。 操作步骤 配置Flume的参数。 使用Manager界面中的Flume配置工具来配置Flume角色服务端参数并生成配置文件。
数据有压缩的表在执行合并后会采用Spark默认的压缩格式-Snappy。可以通过在客户端设置“spark.sql.parquet.compression.codec”(可选:uncompressed, gzip, snappy)和"spark.sql.orc.compression.
CLOUD_SDK_SK in the local environment String ak = System.getenv("CLOUD_SDK_AK"); String sk = System.getenv("CLOUD_SDK_SK");
默认取值: 不涉及 表3 Tag 参数 是否必选 参数类型 描述 key 是 String 参数解释: 标签的键。 约束限制: 不涉及 取值范围: 最大长度128个字符,不能为空字符串。 同一资源的key值不能重复。 标签的key值可以包含任意语种字母、数字、空格和_.:=+-@,但首尾不能含有空格,不能以_sys_开头。
security/proxy_ssl.cert" SSLCertificateKeyFile "${BIGDATA_ROOT_HOME}/om-server_*/Apache-httpd-*/conf/security/server.key" SSLProxyCACertificateFile
设置handler的参数。 enableSSL false http协议是否启用SSL。 keystore - http启用SSL后设置keystore的路径。 keystorePassword - http启用SSL后设置keystore的密码。 常用Channel配置 Memory Channel
要超过40个,否则可能导致界面响应时间过长。 表1 Flume角色客户端所需修改的参数列表 参数名称 参数值填写规则 参数样例 ssl 是否启用SSL认证(基于安全要求,建议启用此功能) 只有“Avro”类型的Source才有此配置项 true表示启用 false表示不启用 false
keytab”文件与“krb5.conf”文件。 生成IoTDB客户端SSL证书 若集群开启了SSL加密传输且本地Windows或Linux环境首次运行IoTDB样例代码,需执行以下操作生成客户端SSL证书。 以客户端安装用户,登录安装客户端的节点。 切换到IoTDB客户端安装目录,例如:/opt/client。
option(PRECOMBINE_FIELD_OPT_KEY, "ts"). option(RECORDKEY_FIELD_OPT_KEY, "uuid"). option(PARTITIONPATH_FIELD_OPT_KEY, "partitionpath"). option(TABLE_NAME
默认为被动模式。 PASSIVE FTP协议 设置FTP传输协议: “FTP”:FTP协议。 “SSL_EXPLICIT”:显式SSL协议。 “SSL_IMPLICIT”:隐式SSL协议。 “TLS_EXPLICIT”:显式TLS协议。 “TLS_IMPLICIT”:隐式TLS协议。
速聚合hashmap作为缓存,以提高聚合性能。hashmap替代了之前的ColumnarBatch支持,从而避免拥有聚合表的宽模式(大量key字段或value字段)时产生的性能问题。 操作步骤 要启动聚合算法优化,在Spark客户端的“spark-defaults.conf”配置文件中进行设置。
默认为被动模式。 PASSIVE FTP协议 设置FTP传输协议: “FTP”:FTP协议。 “SSL_EXPLICIT”:显式SSL协议。 “SSL_IMPLICIT”:隐式SSL协议。 “TLS_EXPLICIT”:显式TLS协议。 “TLS_IMPLICIT”:隐式TLS协议。
用于选择密钥解析方式。 org.apache.spark.om.util.FIPasswordFactory spark.ssl.ui.protocol 配置ui的ssl协议。 TLSv1.2 spark.yarn.archive Spark jars的存档,用于分发到YARN缓存。如果设置,此配置值将替换<code>
速聚合hashmap作为缓存,以提高聚合性能。hashmap替代了之前的ColumnarBatch支持,从而避免拥有聚合表的宽模式(大量key字段或value字段)时产生的性能问题。 操作步骤 要启动聚合算法优化,在Spark客户端的“spark-defaults.conf”配置文件中进行设置。
用于选择密钥解析方式。 org.apache.spark.om.util.FIPasswordFactory spark.ssl.ui.protocol 配置ui的ssl协议。 TLSv1.2 spark.yarn.archive Spark jars的存档,用于分发到YARN缓存。如果设置,此配置值将替换<code>
通过IE浏览器访问HDFS的WebUI界面,偶尔出现访问失败情况。 问题现象 访问页面失败,浏览器无法显示此页,如下图所示: 原因分析 部分低版本IE浏览器处理SSL握手有问题导致访问失败。 处理步骤 重新刷新页面或者推荐使用Google Chrome浏览器访问。 父主题: 访问MRS组件Web UI界面常见异常问题
要超过40个,否则可能导致界面响应时间过长。 表1 Flume角色客户端所需修改的参数列表 参数名称 参数值填写规则 参数样例 ssl 是否启用SSL认证(基于安全要求,建议启用此功能) 只有“Avro”类型的Source才有此配置项 true表示启用 false表示不启用 false
Manager页面,在告警列表中,单击此告警所在行的,查看告警详情中涉及的主机列表。 以omm用户登录主OMS管理节点。管理节点的主备状态及对应IP地址可在FusionInsight Manager主机管理界面查看。 依次在告警详情中的节点执行ssh命令:ssh host2(host2为告警详情中