已找到以下 10000 条记录
  • 相关云服务

    对象存储服务 OBS MRS MapReduce MapReduce服务 MRS MapReduce服务 MRS

  • 企业级大数据平台构建:架构与实现》——2.3.3 Regions

    on。每个Region中包含了RowKey从开始到结束区间的所有行。这些Region被分配到的集群节点称为RegionServers,RegionServers负责提供HBase中数据的读写功能。一个Region-Server可以容纳大约1000个Region,如图2-8所示。图2-8 HBase

    作者: 华章计算机
    发表时间: 2019-06-06 16:01:07
    2288
    0
  • 企业级大数据平台构建:架构与实现》——2.2 Zookeeper

    的问题。当配置文件有更新的时候,如何快速地将运行在多台服务器上的程序配置进行同步更新?Master/Slave架构是分布式系统中常见的一种集群模式,即通过一个Master节点统一管理协调多个Slave节点。那么这里就会面临第二个问题,Master节点如何感知Slave的存在?比如

    作者: 华章计算机
    发表时间: 2019-06-06 15:47:51
    5559
    0
  • 钱塘古惑仔亮哥说大数据,谈谈云上大数据平台MRS

    很多企业的大数据业务采用Hadoop方案,因Hadoop有成熟的生态圈,开源、免费并可以有效解决问题。Hadoop生态圈中的明星计算引擎MapReduce,是解决大数据的最直接的方案之一,他的工作原理是把大块的任务切分为若干份小任务,由集群的每台服务器来计算,最后把结果合并。本期

    主讲人:亮哥,华为云技术专家,大数据平台MRS架构设计师
    直播时间:2020/09/29 周二 14:00 - 15:30
  • 企业级大数据平台构建:架构与实现》—— 1.3.3 数据存储与查询

    1.3.3 数据存储与查询在数据接入大数平台之后,就需要考虑如何存储这些海量数据的问题了。根据业务场景和应用类型的不同我们会有不同的存储需求。1.?关系型数据模型试想一下数据仓库的场景。数据仓库的定位主要是应用于联机分析处理(OLAP),它不需要支持事务性的操作,只用专注于分析

    作者: 华章计算机
    发表时间: 2019-06-06 15:29:26
    3209
    0
  • 钱塘古惑仔亮哥说大数据,谈谈云上大数据平台MRS

    本期直播特邀华为云大数据计算明星产品——MapReduce服务MapReduce Service)架构师亮哥,带领大家深入浅出快速玩转大数据

    播放量  4040
  • 企业级大数据平台构建:架构与实现》——2.4.8 使用场景

    统一的资源共享型大数平台。借助YARN我们可以真正实现通过一套资源调度系统集成所有应用组件的单一集群架构。1.?Spark任务调度Spark是一款分布式内存计算框架,在下一小节会详细介绍它。Spark可以将自身的任务调度部分委托YARN进行管理,从而实现集群资源高效整合与利用。2

    作者: 华章计算机
    发表时间: 2019-06-06 16:20:53
    5592
    0
  • 华为大数据解决方案介绍

    在当今社会,大数据已经由过去的概念阶段过渡到现在的应用阶段,那么各种大数据应用与服务也越来越多,而所有的这些大数据。所应用服务都离不开大数据的分析平台。 华为的大数平台叫Fusionlnsight,就是一个集大数据存储、处理与分析于一体的企业级统一化平台。Fusionln

    作者: 考过IE励志当攻城狮
    发表时间: 2021-12-04 13:04:37
    5079
    0
  • 数据任务调度平台设计 - 云采用框架

    数据任务调度平台设计 设计云上的大数据任务调度平台部署架构时,建议参考原则如下: 优先用大数据云服务:如果源端是自建的大数据任务调度平台和组件,在目标云平台上有对应的云服务,且功能、性能、兼容性都满足,经评估改造工作量很小,建议部署架构设计时,优先采用大数据云服务。如果目标云平

  • 基于IoT平台的自贩机销量分析 - 代码示例

    华为物联网平台提供规则引擎能力,支持将设备上报的数据转发至华为云其他云服务,可实现将海量数据通过数据接入服务(DIS)转发至MapReduce服务MRS),分析后再由数据可视化服务(DLV)读取数据呈现为可视化报表,实现数据的一站式采集、处理和分析。

  • 基于IoT平台的自贩机销量分析 - 代码示例

    华为物联网平台提供规则引擎能力,支持将设备上报的数据转发至华为云其他云服务,可实现将海量数据通过数据接入服务(DIS)转发至MapReduce服务MRS),分析后再由数据可视化服务(DLV)读取数据呈现为可视化报表,实现数据的一站式采集、处理和分析。

  • 数据仓库和Hadoop大数据平台有什么差别?

    本帖最后由 yd_65688703 于 2017-11-15 17:18 编辑 <br /> 数据仓库和Hadoop大数据平台有什么差别?

    作者: 婠
    11507
    1
  • 数据中台建设(三):数据中台架构介绍

    这些数据存储在不同的网络环境和存储平台,通过数据汇集工具可以将这些数据汇集到数据中台中。 数据开发 数据汇集到中台之后,数据都是按照原始状态堆砌在一起,业务无法使用,数据开发可以通过一整套数据加工及管理工具,将数据进行清洗处理。 数据体系 此部分主要是大数据平台数据仓库构建内容。

    作者: Lansonli
    发表时间: 2022-04-30 15:20:57
    1647
    0
  • 企业级大数据平台构建:架构与实现》——2.5 Spark

    S实现海量数据的共享存储,然后使用MapReduce以批处理的方式处理这些海量数据,这一切看起来似乎十分完美。但众口难调啊,有人觉得MapReduce的编程模型太难使用了,为什么不能使用SQL来分析数据呢?我们数据库领域已经有非常成熟的数据仓库模型了,为何不实现一个大数据技术的数

    作者: 华章计算机
    发表时间: 2019-06-06 16:22:19
    3445
    0
  • 传统大数据平台Lambda架构学习

    IoT时代数据量巨大,夜间批计算时间窗可能不够;数据源一旦变化,适配工作量巨大;这种情况下,出现有一种改良的大数据平台架构Kappa,特点是流批一体处理。能够解决的问题是改进流计算来解决批量数据处理的问题,统一业务处理逻辑,如需重新计算,需重启一个流计算实例。它的劣势在于由于采

    作者: 极客潇
    1483
    3
  • 农业农村大数据平台

    无缝连接,实现在GIS展示平台的统一展示。数据采集系统支持物理拷贝,数据采集系统支持数据文件导入,数据采集系统支持接口数据对接,数据采集系统支持数据库对接,数据采集系统支持数据采集校验数据挖掘计算软件:以简化用户使用的设计思路而构建的大数据存储计算平台,特色是海量存,高效算,一站

    交付方式: License
  • 数据工坊

    数据工坊 DWR 数据工坊 DWR 数据工坊DWR是开放的近数据处理服务。支持易用的工作流编排和开放生态的数据处理算子市场,能够实现灵活的数据及时处理。 数据工坊DWR是开放的近数据处理服务。支持易用的工作流编排和开放生态的数据处理算子市场,能够实现灵活的数据及时处理。 管理控制台

  • 乡村振兴大数据平台

    乡村振兴大数据平台覆盖农、林、牧、渔等三农产业链相关产业图谱,紧扣国家战略客群梳理,服务于银行金融机构和区域/园区政府。助力政府和产业部门借鉴其他地区农村发展经验,发现各具特色的新型农业主体,科学规划本地乡村产业发展;,促进农民就业、发展农村特色招牌,为农村产业深度发展提供决策支撑;

  • 企业级大数据平台构建:架构与实现》——2.2.7 使用场景

    特性,可以实现心跳感知的功能。例如可以在Zookeeper上创建一个根目录,如/cluster1。利用Znode临时节点类型的特性,当某个集群服务进程启动的时候,可以在/cluster1上创建代表自己服务的临时节点,用以表示其会话状态。由于临时节点是会话绑定的,所以当节点存在的时

    作者: 华章计算机
    发表时间: 2019-06-06 15:57:14
    5027
    0
  • 企业级大数据平台构建:架构与实现》——2.1.3 核心设计目标

    移动计算比移动数据更划算一个应用请求的计算,距离它操作的数据越近就越高效,在数据达到海量级别的时候更是如此。因为这样就能降低网络阻塞的影响,提高系统数据的吞吐量。将计算移动到数据附近,比将数据移动到应用所在之处显然更好。HDFS提供了将应用移动到数据附近的接口的功能。

    作者: 华章计算机
    发表时间: 2019-06-06 15:40:33
    5338
    0