式处理。Hadoop是可靠的，因为它假设计算单元和存储会失败，因此维护多个工作数据副本，确保对失败节点重新分布处理；Hadoop是高效的，因为它以并行的方式工作，从而加快处理速度；Hadoop是可伸缩的，能够处理PB级数据。 Hadoop主要由HDFS、MapReduce、Yarn等服务组成。

查看更多 →

华为云计算 云知识 hadoop是什么 hadoop是什么 时间：2020-09-21 09:11:56 Hadoop起源于Apache Nutch项目，始于2002年，是Apache Lucene的子项目之一。2004年，Google在“操作系统设计与实现”（Operating

查看更多 →

华为云计算 云知识 MRS 与自建Hadoop对比 MRS与自建Hadoop对比 时间：2020-09-23 14:33:16 MapReduce服务（MRS）提供租户完全可控的企业级大数据集群云服务，轻松运行Hadoop、Spark、HBase、Kafka、Storm等大数据组件

查看更多 →

华为云计算 云知识 什么是网络爬虫 ？ 什么是网络爬虫 ？ 时间：2021-03-25 19:24:07 网络爬虫是一种从互联网抓取数据信息的自动化程序; 如果我们把互联网比作一张大的蜘蛛网，数据便是存放于蜘蛛网的各个节点，而爬虫就是一只小蜘蛛（程序），沿着网络抓取自己的猎物（数据）。

查看更多 →

华为云计算 云知识 网络爬虫如何工作？ 网络爬虫如何工作？ 时间：2021-03-25 19:38:49 一、获取网页 构造一个请求并发送给服务器；接收到响应（页面源代码）并将其解析出来。 二、提取信息 网页的结构有一定的规则，采用正则表达式提取；使用Requests库，我们可以高效快速地从中提取网页信息。

查看更多 →

华为云计算 云知识 MapReduce MapReduce 时间：2020-09-23 16:42:15 MapReduce是Hadoop的核心，是Google提出的一个软件架构，用于大规模数据集（大于1TB）的并行运算。概念“Map（映射）”和“Reduce（化简）”，及他们的

查看更多 →

华为云计算 云知识 为什么使用Python编写爬虫？ 为什么使用Python编写爬虫？ 时间：2021-03-25 19:46:29 1、Python编程语言语法简洁，易于学习，快速上手； 2、Python有成熟的爬虫生态，在抓取网页本身和网页抓取后的处理都有丰富的框架和库可用（如Beautiful

查看更多 →

华为云计算 云知识 网络爬虫能做什么？ 网络爬虫能做什么？ 时间：2021-03-25 19:43:25 爬虫根据不同的用途，可以分为通用爬虫和专用爬虫，本次课程中使用的抓取图片的爬虫即为专用爬虫。爬虫的主要用途有如下几种： 1、搜索引擎：Google、Baidu等； 2、图片抓

查看更多 →

华为云计算 云知识 hadoop三大组件是什么 hadoop三大组件是什么 时间：2020-09-21 09:15:14 hadoop三大组件mapreduce分布式运算框架yarn任务调度平台hdfs分布式文件系统 1.HDFS数据存放策略：分块存储+副本存放。 2.数据拓扑结

查看更多 →

华为云计算 云知识 华为云MapReduce服务提交MapReduce作业 华为云MapReduce服务提交MapReduce作业 时间：2020-11-24 16:00:05 本视频主要为您介绍华为云MapReduce服务提交MapReduce作业的操作教程指导。 场景描述：

查看更多 →

数据来源和格式多种多样。 数据处理通常由多个任务构成，对资源需要进行详细规划。 MapReduce服务 MRS MapReduce服务（MapReduce Service）提供租户完全可控的企业级大数据集群云服务，轻松运行Hadoop、Spark、HBase、Kafka、Storm等大数据组件。包年更优惠，买1年只需付10个月费用

查看更多 →

续使用传统的 数据仓库 的上层应用，特别是商业智能BI类的应用。 MapReduce服务 MRS MapReduce服务（MapReduce Service）提供租户完全可控的企业级大数据集群云服务，轻松运行Hadoop、Spark、HBase、Kafka、Storm等大数据组件。包年更优惠，买1年只需付10个月费用

查看更多 →

华为云计算 云知识 使用Python爬虫抓取图片和文字实验 使用Python爬虫抓取图片和文字实验 时间：2020-12-01 14:30:34 本实验指导用户在短时间内，了解和熟悉 华为云产品 购买及部署操作，并利用华为云服务部署Python爬虫。 实验目标与基本要求 了解华为云产

查看更多 →

大数据分析是什么_使用MapReduce_创建MRS服务 MapReduce工作原理_MapReduce是什么意思_MapReduce流程 MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用 MapReduce服务_什么是MapReduce服务_什么是HBase

查看更多 →

华为云计算 云知识 基于鲲鹏BMS的Hadoop调优实践 基于鲲鹏BMS的Hadoop调优实践 时间：2020-12-01 14:32:39 本实验帮助指导用户在短时间内，了解大数据组件Hadoop在鲲鹏上的部署步骤，体验Hadoop组件在鲲鹏上的基本调优思路。 实验目标与基本要求

查看更多 →

华为云计算 云知识 Hadoop分布式文件系统 Hadoop分布式文件系统 时间：2020-12-15 11:15:53 HDFS是Hadoop的分布式文件系统（Hadoop Distributed File System），实现大规模数据可靠的分布式读写。HDFS针对的使用场景

查看更多 →

华为云计算 云知识 Serverless DLI 与自建Hadoop对比 Serverless DLI与自建Hadoop对比 时间：2020-09-03 15:43:59 DLI完全兼容Apache Spark、Apache Flink生态和接口，线下应用可无缝平滑迁移上云，减少迁

查看更多 →

据处理各层组件的运维，并提供监控、告警、配置、补丁升级等一站式运维能力。 MapReduce相关精选推荐 MapReduce服务 MapReduce服务入门 MapReduce服务 定价 MapReduce服务学习与资源 大数据迁移上云解决方案-详情 数字化智能平台 永洪商业智能解决方案实践

查看更多 →

大数据分析是什么_使用MapReduce_创建MRS服务 MapReduce工作原理_MapReduce是什么意思_MapReduce流程 MapReduce服务_如何使用MapReduce服务_MRS集群客户端安装与使用 MapReduce服务_什么是MapReduce服务_什么是HBase

查看更多 →

华为云计算 云知识 华为云MapReduce服务终止集群 华为云MapReduce服务终止集群 时间：2020-11-24 15:54:31 本视频主要为您介绍华为云MapReduce服务终止集群的操作教程指导。 场景描述： MapReduce服务（MapReduce Service）提

查看更多 →

云知识 华为云MapReduce服务创建MRS集群 华为云MapReduce服务创建MRS集群 时间：2020-11-24 16:03:17 本视频主要为您介绍华为云MapReduce服务创建MRS集群的操作教程指导。 场景描述： MapReduce服务（MapReduce Serv

查看更多 →