检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
导入并配置Flink样例工程 操作场景 Flink针对多个场景提供样例工程,包含Java样例工程和Scala样例工程等,帮助客户快速学习Flink工程。 针对Java和Scala不同语言的工程,其导入方式相同。 以下操作步骤以导入Java样例代码为例。操作流程如图1所示。 图1 导入样例工程流程
log2.txt Test log file 2!!! 写入日志文件后,执行ll命令查看文件列表,日志文件自动增加了后缀“.COMPLETED”,表示该文件已被采集。 -rw-------. 1 root root 75 Jun 9 19:59 log1.txt.COMPLETED
"OBS:*:*:object:*" ] } ] } 上述的“Resource”配置表示可访问配置的并行文件系统系统的所有资源,guardian-obs为创建OBS并行文件系统创建的OBS并行文件系统名称。 单击“下一步”,在“选择策略”页面勾选5创建的策略名称。
以导入任何格式的文件 TEXT_FILE 压缩格式 在下拉菜单中选择数据导入HDFS/OBS后保存文件的压缩格式,未配置或选择“NONE”表示不压缩数据。 NONE 输出目录 数据导入到HDFS/OBS里存储的保存目录。 说明: 路径参数可以使用宏定义,具体请参考配置项中使用宏定义。
Manager,选择“集群 > 服务 > ZooKeeper > 实例”,查看所有quorumpeer实例所在主机业务IP地址。 ZooKeeper客户端端口号:表示ZooKeeper客户端端口号。可登录FusionInsight Manager,选择“集群 > 服务 > ZooKeeper”,在“配置
if.no.acl.found”的值修改为“true”。 启动Kafka的Producer,向Kafka发送数据。 {ClassPath}表示工程jar包的存放路径,详细路径由用户指定,可参考在Linux环境中编包并运行Spark程序章节中导出jar包的操作步骤。 命令举例: java
if.no.acl.found”的值修改为“true”。 启动Kafka的Producer,向Kafka发送数据。 {ClassPath}表示工程jar包的存放路径,详细路径由用户指定,可参考在Linux环境中调测Spark应用章节中导出jar包的操作步骤。 命令举例: java
例如执行以下命令: hetu-cli --catalog gaussdb_1 --schema admin 执行以下命令,可正常查看数据库表信息或不报错即表示连接成功。 show tables; GAUSSDB数据类型映射 GAUSSDB数据类型(data type) HetuEngine数据类型(data
/opt/MRS_Services_ClientConfig/install.sh /opt/hadoopclient 查看安装输出信息,如有以下结果表示客户端安装成功: Components client installation is complete. 客户端安装目录可以不存在,系统会
引擎读取该时会丢数。 禁止指定Hudi的索引类型为INMEMORY类型。 该索引仅是为了测试使用。生产环境上使用该索引将导致数据重复。 建表示例 create table data_partition(id int, comb int, col0 int,yy int, mm int
以导入任何格式的文件 TEXT_FILE 压缩格式 在下拉菜单中选择数据导入HDFS/OBS后保存文件的压缩格式,未配置或选择“NONE”表示不压缩数据。 NONE 输出目录 数据导入到HDFS/OBS里存储的保存目录。 说明: 路径参数可以使用宏定义,具体请参考Loader算子配置项中使用宏定义。
系统动态计算转换为资源绝对值,并取两者最大值。缺省值不受限制。 租户资源分配策略示意图,如图3所示。 图3 策略示意图 其中“total”表示总资源,不是调度策略。 同开源的调度器相比,Superior Scheduler同时提供了租户级百分比和绝对值的混配策略,可以很好的适应各
NameNode业务IP 仅当集群类型为分析集群时执行8-9分别记录主备节点的IP。 在Manager页面右上方查看图形的右侧数字,确保该数字显示为“0”表示集群的运行任务数为0。 单击“主机 ”,若集群类型为分析集群,则勾选9记录的“NameNode”的业务IP所对应的主机前的复选框。若集群类
参数解释: 返回结果中每页显示条数。 约束限制: 不涉及 取值范围: ≥1 默认取值: 10 offset 否 Integer 参数解释: 表示作业列表从该偏移量开始查询。 约束限制: 不涉及 取值范围: ≥1 默认取值: 1 node_name 否 String 参数解释: 指定节点名称,支持模糊搜索。
右键单击“HdfsExample.java”文件,选择“Run 'HdfsExample.main() '”。 图3 运行程序 样例运行成功后,运行信息如下,表示相关文件操作成功执行。 ... 2217 [main] INFO org.apache.hadoop.security.UserGroupInformation
使用MRS Spark SQL访问DWS表 应用场景 华为云提供MapReduce服务(MRS),可在云上快速构建和运营全栈云原生大数据平台。它包含HDFS、Hive、HBase、Spark等大数据组件,专为分析海量企业数据而量身定制。 Spark提供了类似SQL的Spark S
234:2181/kafka --partitions 2 --replication-factor 2 --topic Topic1 执行结果输出以下信息表示创建Topic成功: Created topic Topic1. 步骤四:管理Kafka主题中的消息 以root用户登录MRS客户端所在节点(Master1节点)。
例如执行以下命令: hetu-cli --catalog oracle_1 --schema oralce 执行以下命令,可正常查看数据库表信息或不报错即表示连接成功。 show tables; Oracle与HetuEngine数据类型映射 数据映射约束: HetuEngine不支持直接读取O
参数名称 参数默认值 是否必须配置 参数描述 lookup.cache.max-rows -1 否 Lookup缓存的最大行数,默认值为:-1,表示不开启缓存。 lookup.cache.ttl 10s 否 Lookup缓存的最大时间,默认值为10s。 lookup.max-retries
配置当前策略适用的topic名,可以填写多个值。这里支持通配符,例如:test、test*、*。 “Include”策略适用于当前输入的对象,“Exclude”表示策略适用于除去当前输入内容之外的其他对象。 Description 策略描述信息。 Audit Logging 是否审计此策略。 Allow