MAPREDUCE服务 MRS-Spark2x样例工程介绍

时间：2024-06-29 14:11:28

Spark2x样例工程介绍

MRS 样例工程获取地址为https://github.com/huaweicloud/huaweicloud-mrs-example，切换分支为与MRS集群相匹配的版本分支，然后下载压缩包到本地后解压，即可获取各组件对应的样例代码工程。

当前MRS提供以下Spark2x相关样例工程：

表1 Spark2x相关样例工程
样例工程位置	描述
sparksecurity-examples/SparkHbasetoCarbonJavaExample	Spark同步HBase数据到CarbonData的Java示例程序。本示例工程中，应用将数据实时写入HBase，用于点查业务。数据每隔一段时间批量同步到CarbonData表中，用于分析型查询业务。
sparksecurity-examples/SparkHbasetoHbaseJavaExample	Spark从HBase读取数据再写入HBase的Java/Scala/Python示例程序。本示例工程中，Spark应用程序实现两个HBase表数据的分析汇总。
sparksecurity-examples/SparkHbasetoHbasePythonExample
sparksecurity-examples/SparkHbasetoHbaseScalaExample
sparksecurity-examples/SparkHivetoHbaseJavaExample	Spark从Hive读取数据再写入到HBase的Java/Scala/Python示例程序。本示例工程中，Spark应用程序实现分析处理Hive表中的数据，并将结果写入HBase表。
sparksecurity-examples/SparkHivetoHbasePythonExample
sparksecurity-examples/SparkHivetoHbaseScalaExample
sparksecurity-examples/SparkJavaExample	Spark Core任务的Java/Python/Scala/R示例程序。本工程应用程序实现从HDFS上读取文本数据并计算分析。 SparkRExample示例不支持未开启Kerberos认证的集群。
sparksecurity-examples/SparkPythonExample
sparksecurity-examples/SparkRExample
sparksecurity-examples/SparkScalaExample
sparksecurity-examples/SparkLauncherJavaExample	使用Spark Launcher提交作业的Java/Scala示例程序。本工程应用程序通过org.apache.spark.launcher.SparkLauncher类采用Java/Scala命令方式提交Spark应用。
sparksecurity-examples/SparkLauncherScalaExample
sparksecurity-examples/SparkOnClickHouseJavaExample	Spark通过ClickHouse JDBC的原生接口，以及Spark JDBC驱动，实现对ClickHouse数据库和表的创建、查询、插入等操作样例代码。
sparksecurity-examples/SparkOnClickHousePythonExample
sparksecurity-examples/SparkOnClickHouseScalaExample
sparksecurity-examples/SparkOnHbaseJavaExample	Spark on HBase场景的Java/Scala/Python示例程序。本工程应用程序以数据源的方式去使用HBase，将数据以Avro格式存储在HBase中，并从中读取数据以及对读取的数据进行过滤等操作。
sparksecurity-examples/SparkOnHbasePythonExample
sparksecurity-examples/SparkOnHbaseScalaExample
sparksecurity-examples/SparkOnHudiJavaExample	Spark on Hudi场景的Java/Scala/Python示例程序。本工程应用程序使用Spark操作Hudi执行插入数据、查询数据、更新数据、增量查询、特定时间点查询、删除数据等操作。
sparksecurity-examples/SparkOnHudiPythonExample
sparksecurity-examples/SparkOnHudiScalaExample
sparksecurity-examples/SparkOnMultiHbaseScalaExample	Spark同时访问两个集群中的HBase的Scala示例程序。
sparksecurity-examples/SparkSQLJavaExample	Spark SQL任务的Java/Python/Scala示例程序。本工程应用程序实现从HDFS上读取文本数据并计算分析。
sparksecurity-examples/SparkSQLPythonExample
sparksecurity-examples/SparkSQLScalaExample
sparksecurity-examples/SparkStreamingKafka010JavaExample	Spark Streaming从Kafka接收数据并进行统计分析的Java/Scala示例程序。本工程应用程序实时累加计算Kafka中的流数据，统计每个单词的记录总数。
sparksecurity-examples/SparkStreamingKafka010PythonExample
sparksecurity-examples/SparkStreamingtoHbaseJavaExample010	Spark Streaming读取Kafka数据并写入HBase的Java/Scala/Python示例程序。本工程应用程序每5秒启动一次任务，读取Kafka中的数据并更新到指定的HBase表中。
sparksecurity-examples/SparkStreamingtoHbasePythonExample010
sparksecurity-examples/SparkStreamingtoHbaseScalaExample010
sparksecurity-examples/SparkStructuredStreamingJavaExample	在Spark应用中，通过使用StructuredStreaming调用Kafka接口来获取单词记录，然后把单词记录分类统计，得到每个单词记录数。
sparksecurity-examples/SparkStructuredStreamingPythonExample
sparksecurity-examples/SparkStructuredStreamingScalaExample
sparksecurity-examples/SparkThriftServerJavaExample	通过JDBC访问Spark SQL的Java/Scala示例程序。本示例中，用户自定义JD BCS erver的客户端，使用JDBC连接来进行表的创建、数据加载、查询和删除。
sparksecurity-examples/SparkThriftServerScalaExample
sparksecurity-examples/StructuredStreamingADScalaExample	使用Structured Streaming，从kafka中读取广告请求数据、广告展示数据、广告点击数据，实时获取广告有效展示统计数据和广告有效点击统计数据，将统计结果写入kafka中。
sparksecurity-examples/StructuredStreamingStateScalaExample	在Spark结构流应用中，跨批次统计每个session期间发生了多少次event以及本session的开始和结束timestamp；同时输出本批次被更新状态的session。