检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
每一个主题,Kafka集群保留一个用于缩放、并行化和容错性的分区(Partition)。每个分区是一个有序、不可变的消息序列,并不断追加到提交日志文件。分区的消息每个也被赋值一个称为偏移顺序(Offset)的序列化编号。 图1 Kafka结构 操作流程 本实践操作流程如下所示:
定义 sql:DDL操作的SQL语句 def:表创建与表修改的结构定义 xid:事务唯一ID commit:数据增加/删除/修改操作是否已提交 父主题: Kafka常见问题
填写角色的名称,例如developrole。 在“配置资源权限”的表格中选择“待操作集群的名称 > Yarn > 调度队列 > root”,勾选“default”的“提交”和“管理”,单击“确定”保存。 若在对数据库/表进行相关操作时指定了HDFS路径,需参考表2在Manager中给用户添加HDFS路径的相关权限。
<value>获取AK/SK和Endpoint信息准备的OBS Endpoint</value> </property> 如果使用distcp等需要提交作业到Yarn的命令,需要在MRS客户端的Yarn目录(客户端安装目录/Yarn/config)中同步修改“core-site.xml”文件,增加以上内容。
产生告警的磁盘名。 对系统的影响 系统性能下降,慢盘会导致系统I/O性能下降,从而影响系统的响应速度和吞吐量。这可能会导致客户的业务运行变慢(例如:作业提交运行变慢、页面响应迟钝、接口响应超时等),甚至出现崩溃或错误。 系统故障:慢盘故障可能会导致系统故障,从而导致客户的业务受到影响。如果慢盘
update(RocksDBValueState.java:103) 通过开启火焰图(自定义配置rest.flamegraph.enabled=true打开火焰图)重新提交作业查看算子热点,如下图所示算子热点达到100%。 图1 通过火焰图查看算子热点 当发生RocksDB读写延迟大时,可开启RocksDB监
IoTDB可以借助HetuEngine提供的数据跨源分析能力,使用HetuEngine作为统一数据查询入口,也可以将IT数据和OT数据进行联合分析,提供复杂的IT和OT数据统一分析能力。 图2 跨源IT/OT数据统一分析 使用场景如下: 统一SQL入口 为简化应用系统对接多系统的复杂性,可在HetuEgine添加Io
/opt/client/FlinkRESTAPIJavaExample-xxx.jar --hostName xx-xx-xx-xx 运行Flink Jar作业提交SQL任务(适用于MRS 3.2.1及以后版本) yarn-session方式 启动Flink集群。 ./bin/yarn-session
apache.org/confluence/display/Hive/HiveServer2+Clients。 指定租户 一般情况下,某用户提交的客户端会连接到该用户默认所属租户的JDBCServer上,若需要连接客户端到指定租户的JDBCServer上,可以通过添加--hiveconf
er作业进行创建、更新、查询、删除、启动和停止等操作。 本章节适用于MRS 3.x及后续版本。 loader-tool工具是异步接口,命令提交后其结果不会实时返回到控制台,因此对连接器的创建、更新、查询和删除等操作,以及对Loader作业的创建、更新、查询、删除、启动和停止等操作,其成功与否需要在Loader
即可简化原先用户需要自己登录虚拟私有云添加安全组规则,获取公网IP等步骤,减少了用户操作步骤。 MRS提供了自定义引导操作,用户可以以此为入口灵活配置自己的集群,通过引导操作用户可以自动化地完成安装MRS还没支持的第三方软件,修改集群运行环境等自定义操作。 MRS支持Wrappe
自动创建。 如需对安全组规则进行查看,修改和删除操作,请单击“管理安全组规则”。 系统添加的安全组规则会在“安全组 > 入方向规则”(页面入口:单击“管理安全组规则”)页签列表中描述列自动增加“MRS Manager public ip access control rule”,便于用户识别。
-j,--jid 显示指定ID的作业信息 -n,--name 显示指定名称的作业信息 submission -j,--jid 显示指定作业的提交记录 -d,--detail 显示详细信息 示例: show server -all show option --name verbose
BC。 FlinkServer界面回显FlinkSQL时,SQL中的“password”字段将显示为空,在回显状态下需要将密码信息补齐后再提交作业。 Flink SQL与JDBC数据类型对应关系 Flink SQL数据类型 MySQL数据类型 Oracle数据类型 PostgreSQL数据类型
xx/xx/user.keytab --krb5 xx/xx/krb5.conf --principal username 运行Flink Jar作业提交SQL任务(适用于MRS 3.2.1及以后版本) yarn-session方式 启动Flink集群。 ./bin/yarn-session
-j,--jid 显示指定ID的作业信息 -n,--name 显示指定名称的作业信息 submission -j,--jid 显示指定作业的提交记录 -d,--detail 显示详细信息 示例: show server -all show option --name verbose
“全部配置”,进入HBase服务参数“全部配置”界面。 在HBase全部配置界面查看相关参数。 表1 HBase Index相关参数 配置入口 配置项 默认值 描述 “HMaster > 系统” hbase.coprocessor.master.classes org.apache
服务配置”,在下拉列表中将“基础配置”切换为“全部配置”,进入HBase服务参数“全部配置”界面。 在HBase全部配置界面查看参数。 配置入口 配置项 默认值 描述 “HMaster > 系统” hbase.coprocessor.master.classes org.apache
event。 migrateZookeeperOffsets true 当Kafka没有存储offset时,是否从ZooKeeper中查找,并提交到Kafka。 kafka.consumer.auto.offset.reset latest 当没有offset记录时,从指定的位置消费数据。
event。 migrateZookeeperOffsets true 当Kafka没有存储offset时,是否从ZooKeeper中查找,并提交到Kafka。 kafka.consumer.auto.offset.reset latest 当没有offset记录时,从指定的位置消费数据。