MAPREDUCE服务 MRS-Spark与其他组件的关系:Spark和HDFS的关系
时间：2024-04-01 09:39:25
下载MAPREDUCE服务 MRS用户手册完整版
复制链接到剪贴板
分享文章到微博
分享文章到朋友圈
Spark和HDFS的关系
通常，Spark中计算的数据可以来自多个数据源，如Local File、HDFS等。最常用的是HDFS，用户可以一次读取大规模的数据进行并行计算。在计算完成后，也可以将数据存储到HDFS。
分解来看，Spark分成控制端(Driver)和执行端（Executor）。控制端负责任务调度，执行端负责任务执行。
读取文件的过程如图 读取文件过程所示。
读取文件步骤的详细描述如下所示：
- Driver与HDFS交互获取File A的文件信息。
- HDFS返回该文件具体的Block信息。
- Driver根据具体的Block数据量，决定一个并行度，创建多个Task去读取这些文件Block。
- 在Executor端执行Task并读取具体的Block，作为RDD(弹性分布数据集)的一部分。
写入文件的过程如图 写入文件过程所示。
HDFS文件写入的详细步骤如下所示：
- Driver创建要写入文件的目录。
- 根据RDD分区分块情况，计算出写数据的Task数，并下发这些任务到Executor。
- Executor执行这些Task，将具体RDD的数据写入到步骤1创建的目录下。
support.huaweicloud.com/productdesc-mrs/mrs_08_000803.html
看了此文的人还看了
CDN加速
GaussDB
文字转换成语音
免费的服务器
如何创建网站
域名网站购买
私有云桌面
云主机哪个好
域名怎么备案
手机云电脑
SSL证书申请
云点播服务器
免费OCR是什么
电脑云桌面
域名备案怎么弄
语音转文字
文字图片识别
云桌面是什么
网址安全检测
网站建设搭建
国外CDN加速
SSL免费证书申请
短信批量发送
图片OCR识别
云数据库MySQL
个人域名购买
录音转文字
扫描图片识别文字
OCR图片识别
行驶证识别
虚拟电话号码
电话呼叫中心软件
怎么制作一个网站
Email注册网站
华为VNC
图像文字识别
企业网站制作
个人网站搭建
华为云计算
免费租用云托管
云桌面云服务器
ocr文字识别免费版
HTTPS证书申请
图片文字识别转换
国外域名注册商
使用免费虚拟主机
云电脑主机多少钱
鲲鹏云手机
短信验证码平台
OCR图片文字识别
SSL证书是什么
申请企业邮箱步骤
免费的企业用邮箱
云免流搭建教程
域名价格
推荐文章
- MapReduce服务_什么是Hue_如何使用Hue
- 云数据库 GaussDB(for MySQL)与华为云其他服务的关系
- 云数据库 RDS for MySQL与华为云其他服务的关系
- MapReduce服务_什么是Loader_如何使用Loader
- MapReduce服务_什么是Flume_如何使用Flume
- 什么是Spark_如何使用Spark_Spark的功能是什么
- MapReduce服务_什么是ZooKeeper_如何使用ZooKeeper
- MapReduce服务_什么是存算分离_如何配置MRS集群存算分离
- MapReduce服务_什么是HDFS_HDFS特性
- MapReduce服务_什么是Hive_如何使用Hive
