检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据集成 数据集成概述、工具介绍及入湖范围 数据集成前探查 全量数据同步 增量数据同步 父主题: 实施步骤
发人员非常方便地找到目标数据,用于指导其进行数据管理和开发工作,提高工作效率。元数据管理模块是数据治理的基石,支持创建自定义策略的采集任务,采集数据源中的技术元数据、全链路的血缘管理。 采集任务 单击左侧导航树上“元数据采集>任务管理”,右侧区域显示任务管理界面。 图2 采集任务1
防范的同时,需要重点关注数据质量的监控以及数据质量的整体提升。 数据质量监控模块是对数据库里的数据质量进行质量管理的工具。可从完整性、有效性、及时性、一致性、准确性、唯一性六个维度进行单列、跨列、跨行和跨表的分析。并能够根据数据标准自动生成质量作业。需要注意的是,数据质量的提升是
yunpi_htest1 华北-北京四,通用可用区 6 2142.30 4 云数据库RDS 主备 8 vCPUs | 32 GB yunpi_rds 华北-北京四,通用可用区 1 2064 5 文档数据库DDS(Mongdb) 副本集 8 vCPUs | 32 GB 1T yunpi_mdb
'@DBName_Target'; @ DBName_Source:源数据库,指定要备份的数据库名。 @ DBName_Target:目标数据库,指定要恢复的数据库名。 将数据库testDB_1复制出一个新的数据库testDB_2,示例如下: EXEC msdb.dbo.rds_copy_database
servers为三个节点的主机IP,三个节点修改的一致 bootstrap.servers=IP1:9092,IP2:9092,IP3:9092 图18 主机IP1 2# 修改key.converter.schema.registry.url为三个节点的主机IP,三个节点修改的一致 key.converter
ver:先启动两台机器的NameServer,再启动两台机器的Borker,关机的时候顺序相反,先关闭两台机器的Broker,再关闭两台机器的Nameserver。 命令行输入: cd /usr/local/rocketmq/ 启动name server,执行 nohup sh bin/mqnamesrv
业务专员 负责本业务领域的数据的业务含义、术语定义、业务流程梳理优化、数据架构管理、数据标准制定,对数据的真实性、准确性、一致性等数据管理工作负责。 业务专员一般由部门各处室具体业务领域的负责同志担任。 数据专员 数据专员是首席数据官的助手,是数据管理工作的具体执行者,负责信息化项
其他组件(华为提供) 表1 其他组件 文档数据库服务DDS 对象存储服务OBS 弹性文件服务SFS MRS服务 分布式消息服务 DMS Kafka版 数据仓库服务DWS 父主题: 实施步骤
共享交换平台的部署 将前端上传至服务器/usr/local/web下前端包 包名为:yunpi-web 将前端包上传至服务器/usr/local/web下 修改/yunpi-web/config文件夹下的config.js Vim config.js 修改网关地址 图1 上传 后台服务的启动与配置。
规范设计 配置中心 流程设计 主题设计 码表管理 数据标准 关系建模 业务指标 技术指标 维度建模 父主题: 实施步骤
DWR层基础数据作业顺序排列。 业务指标未用到的逻辑数据实体,将5个逻辑数据实体放在一个画布中,包括ODS层、DWI层,然后按照ODS层作业 > DWI层作业顺序排列,注意使用Dummy空算子进行作业间的关联。 每个作业使用作业开发算子,每个算子关联对应的ETL脚本。 每个开发算子的失败策略为“终止后续节点执行计划”
开启数据库代理 功能介绍 为指定实例开启数据库代理。 该接口计划于2024-04-30下线。 调用接口前,您需要了解API 认证鉴权。 调试 您可以在API Explorer中调试该接口。 接口约束 如果您需要使用该功能,请联系客服提交开启数据库代理权限的申请。 该接口支持仅支持RDS
仓引擎的支持情况决定的。由于不同类型的数仓支持的更新表的能力不同,在规范设计控制台中所做的表更新操作,如果数仓不支持,则无法确保数据库中的表和规范设计中的表是一致的。 重建数据表:先删除数据库中已有的表,再重新创建表。选择该选项可以确保数据库中的表和规范设计中的表是一致的,但是由
Redis的部署 redis服务安装: 上传redis安装包 将安装包上传至服务器:如/opt下 服务名称:redis 程序安装路径:/usr/local/redis 安装步骤 进入/opt/(上传安装包路径) 命令行界面输入: cd /opt/ 图1 进入 解压redis安装包
充最低层级主题的描述信息。 数据owner部门 数据的拥有者所在部门。对于最低层级主题,此项参数为必选。在导入文件中应补充最低层级主题的数据owner部门信息。 *数据owner人员 数据的拥有者,支持填写多个,中间以逗号分隔。 上传模板,单击添加文件,选择填写后的主题模板,然后上传文件即可。
经过数据调研和需求分析之后,根据需求落地指标。指标是衡量目标总体特征的统计数值,是能表征某一业务活动中业务状况的数值指示器。指标一般由指标名称和指标数值两部分组成,指标名称及其涵义体现了指标质的规定性和量的规定性两个方面的特点,指标数值反映了指标在具体时间、地点、条件下的数量表现。业务指标用于指导技术指标,而技术指标是对业务指标的具体实现。
上级流程 第一层的流程,其上级流程为空,不用填。 非第一层的流程,其上级流程不能为空。上级流程为多级流程时,流程之间以“/”分隔。 *名称 流程名称。 *责任人 流程的责任人,可以手动输入名字或直接选择已有的责任人。 描述 流程的描述信息。 上传模板,单击添加文件,选择填写后的流程模板,然后上传文件即可。
准设计、数据分级设计、数据指标设计九大步骤,通过以上步骤完成数据架构规划设计。 数据架构规划设计是一体化政务大数据建设过程非常重要环节,有利于数据资源的梳理以及后续数据资源的管理。 数据调研 业务域L1和主题域L2定义 梳理业务流程 业务流程活动 业务对象L3梳理和数据owner确定
数据开发包含脚本开发和作业调度,脚本开发主要是指SQL的ETL脚本,数据从贴源层到集市层的加工和流动,作业是对数据入湖、ETL脚本、数据质量等进行时间编排和按照计划周期性执行。 连接管理 登录管理中心 > 单击右侧数据连接 > 单击创建数据连接 > 选择对应的数据库类型 > 进行用户密码验证 > 单击测试通过