内容选择
全部
内容选择
内容分类
  • 学堂
  • 博客
  • 论坛
  • 开发服务
  • 开发工具
  • 直播
  • 视频
  • 用户
时间
  • 一周
  • 一个月
  • 三个月
  • 通过数据API开放数据

    认”。 接入数据源。 配置ROMA Connect接入业务系统的数据库,确保可以正常从数据库读取数据。不同类型数据源的接入配置不同,此处以MySQL数据库为例,其他类型数据库请参考接入数据源。

  • 数据中台建设(一):数据中台出现的背景

    刻需要对活动数据进行复盘分析,这时要求数据研发在一天或者半天内做出数据需求交付,数据研发有可能跟不上这种节奏,就会导致分析的数据无法支撑业务问题,数据研发效率低下。 数据的发现效率低下 随着数据量和业务越来越多,由于没有对数据进行很好的管理,各个数据仓库中的数据表越来越多,对

    作者: Lansonli
    发表时间: 2022-04-30 09:18:52
    963
    0
  • 步骤3:数据集成

    段不匹的数据,该数据可以被记录到指定的OBS桶中。用户配置脏数据归档后,正常数据可以写入目的端,迁移作业不会因脏数据中断。在本示例中,“OBS桶”配置为在准备数据源中的桶fast-demo,您需要前往OBS控制台,在fast-demo桶中单击“新建文件夹”创建一个目录,例如err

  • 大数据ClickHouse进阶(一):ClickHouse使用场景和集群安装

    号。这里代表集群中有3个分片,每个分片有1个副本。 分片是指包含部分数据的服务器,要读取所有的数据,必须访问所有的分片。 副本是指存储分片备份数据的服务器,要读取所有的数据,访问任意副本上的数据即可。 shard: 分片,一个ClickHouse集群可以分多个分片,每个分片可

    作者: Lansonli
    发表时间: 2022-09-05 16:55:39
    369
    0
  • 数据使能】云原生数据MRS能力项

    isAuth=0&cfrom=hwcMapReduce服务MapReduce Service)提供租户完全可控的企业级一站式大数集群云服务,轻松运行Hadoop、Spark、HBase、Kafka、Storm等大数据组件。本课程为大家介绍MRS基本概念、MRS集群部署以及大数据迁移组件的基础知

    作者: 政务一网通军团王师傅
    122
    0
  • 统一元数据数据湖Catalog让大数据存算分离不再是问题

    数据资产视图,多引擎统一可视,数据无需单独映射,多引擎多版本自由选择。 数据湖Catalog独立部署,MRS集群释放不会清理元数据,元数据无需备份和迁移,节约运维管理成本,随用随释放; MRS集群可以做不同的业务,所有集群都可以很方便的实现数据共享和数据访问; MRS集群可以

    作者: ryanlunar
    发表时间: 2021-03-31 07:05:31
    5847
    1
  • MRS与自建Hadoop对比优势

    使客户完成一份数据多业务场景使用的诉求。DataArts Studio是数据全生命周期一站式开发运营平台,提供数据集成、数据开发、数据治理、数据服务、数据可视化等功能。MRS数据支持连接DataArts Studio平台,并基于可视化的图形开发界面、丰富的数据开发类型(脚本开发

  • 数据中台建设(五):打破企业数据孤岛和提取数据价值

    点击并拖拽以移动 打破企业数据孤岛和提取数据价值 一、数据汇集-打破企业数据孤岛 点击并拖拽以移动​ 要构建企业级数据中台,第一步就是将企业内部各个业务系统的数据实现互联互通,打破数据孤岛2,主要通过数据汇聚和交换来实现。 企业采集的数据可以是线上数据采集、线下数据采集、互联网数据采集、内部数

    作者: Lansonli
    发表时间: 2022-05-04 14:58:06
    568
    0
  • 支持的大数据组件简介

    支持的大数据组件简介 在华为云大数据存算分离方案中,OBS除了可以与大数平台对接外,还可以直接与开源的大数据组件对接。 当前支持的大数据组件如下: Hadoop Hive Spark HBase Presto

  • 离线大数据迁移(五) HBase数据迁移到华为云MRS服务

    查询指定时间段内的数据进行对比。二  HBase增量数据迁移   在业务切割前,如果老集群上有新增数据,需要定期将新增数据搬迁到新集群。一般每天更新的数据量相对来说不大,可以使用CDM的“整库迁移”指定时间段的方式每天进行HBase新增数据迁移。  

    作者: kevin_chen
    发表时间: 2020-04-27 09:18:17
    4842
    0
  • 分析图数据

    参考访问图和分析图,对导入的图数据进行可视化分析。本例以图探索功能为例,查看用户William相关的用户与电影情况,如图2所示。 图2 分析图数据 父主题: 基于MRS Hive表构建图数据并自动导入GES

  • 干货 | 政务大数平台搭建方案

    近年来,各政务系统为贯彻落实国家大数据战略,推进数据资源开放共享,助力城市经济从高速增长转向高质量发展,建设市级政务大数平台,整合城市全时空、全方位、全要素的数据资源,打通数据壁垒、促进数据流通、加快数据开放、创新数据应用、提升数据价值,开始与各各数据服务平台合力搭建政务大数平台,全面推动智慧

    作者: 马哥说数据
    发表时间: 2021-04-25 10:01:47
    2842
    0
  • 企业级大数平台构建:架构与实现》——2.4 YARN

    1 概述随着Hadoop生态的发展,开源社区出现了多种多样的技术组件。有用来构建数据仓库的Hive,也有基于内存的计算框架Spark,还有我们之前介绍过的NoSQL数据库HBase等。这些技术组件的出现,极大地丰富了大数据的生态体系,但同时也引出了一些新的问题。作为一个大数据底层支撑平台,同时部署Hive、HBa

    作者: 华章计算机
    发表时间: 2019-06-06 08:09:27
    2111
    0
  • 大数标准化体系建设规划

    化贵州省大数据地方标准管理,培育发展大数据领域团体标准、企业标准,完善贵州省大数标准体系,积极参与国际标准化活动,加强国家技术标准创新基地(贵州大数据)建设,突出政府指导作用,发挥市场主体作用,加强大数标准化相关制度建设,完善大数标准化公共服务体系,推动大数标准化实施与监

    作者: sparktest
    3266
    1
  • 企业级大数平台构建:架构与实现》——2.3.2 数据模型

    2.3.2 数据模型HBase是一个NoSQL数据库,它通过一个四维数据模型定义数据,如图2-7所示。RowKey:HBase中的每行数据都必须拥有一个唯一的行键,它类似于关系型数据库中的主键。Column Family:HBase中的每个列都归属于一个列簇,它类似于子表的概念。

    作者: 华章计算机
    发表时间: 2019-06-06 08:00:03
    2036
    0
  • 企业级大数平台构建:架构与实现》——2.2.4 数据模型

    2.2.4 数据模型Zookeeper将Znode的数据保存在内存中,这是它能实现高吞吐量和低延迟性能的重要原因。为了增强可靠性,Zookeeper会同时将这些数据以操作日志和快照的形式持久化到磁盘之上,以免进程重启的时候数据丢失。Znode节点分为三种类型,它们分别是:Persistent

    作者: 华章计算机
    发表时间: 2019-06-06 07:51:57
    2001
    0
  • 数据管理

    时提供数据筛选、数据分析、数据处理、智能标注、团队标注以及版本管理等功能,AI开发者可基于该框架实现数据标注全流程处理。如图1所示。 图1 数据标注全流程 数据管理平台提供了聚类分析、数据特征分析、数据清洗、数据校验、数据增强、

  • 创建数据集成作业

    始样例数据需要导入OBS中,并标准化为点数据集和边数据集。 3. MySQL到MRS Hive迁移作业:正式业务流程中,需要将MySQL中的原始样例数据需要导入MRS Hive中,并标准化为点数据集和边数据集。 创建集群 批量数据迁移集群提供数据上云和数据入湖的

  • 大数据安全

    平台,为Hadoop、Hortonworks、Cloudera以及国产大数据架构提供了数据访问审计、数据访问控制、数据加密、数据脱敏等安全功能。能够穿透企业生产系统,只针对企业数据资产实施安全防护,不再需要更改和对接已有的系统便可完成部署并独立运行。更精细化、系统性的保护了数据资产的安全。

    作者: 数据库安全
    发表时间: 2019-11-19 07:46:36
    3542
    0
  • MES数据接收

    MES数据接收 访问语帧平台 数字化精益平台是为本实验搭建的真实环境,作为对接IoT边缘平台的MES子系统,用户按照前面的操作后,IoT边缘将采集到的数据上报到数字化精益平台,您可在该平台查看数据同步结果并对数据进行后续管理。 使用浏览器,登录MES

总条数: 10000