检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
资源和成本规划 该解决方案主要部署如下资源,不同产品的花费仅供参考,实际以收费账单为准,具体请参考华为云官网价格: 表1 资源和成本规划 华为云服务 配置示例 每月预估花费 数据治理中心 DataArts Studio 区域:华北-北京四 计费模式:包年包月 版本:初级版 规格:cdm
血缘采集概述 通过血缘采集,可以建立起数据元素之间的关系和依赖关系,从而形成一个清晰的数据血缘图。 目前支持血缘采集的文件类型以及采集须知,参见下表。 文件类型 采集须知 DataArts作业 需要提前导出DataArts作业到华为云OBS桶,并将桶的读写权限委托给迁移中心。 SQL作业
创建目的端连接 创建执行机连接 创建目的端云服务连接 创建目的端组件连接 父主题: 大数据校验
Spark应用的Driver内存,参数配置例如:2G, 2048M。该配置项会替换“sc_type”中对应的默认参数,使用时必须带单位,否则会启动失败。 父主题: 大数据数据迁移
Application Firewall,WAF)、Anti-DDoS流量清洗(Anti-DDoS)等安全防护服务中获取必要的安全事件记录,进行大数据挖掘和机器学习,智能AI分析并识别出攻击和入侵,帮助用户了解攻击和入侵过程,并提供相关的防护措施建议。更多说明请参见态势感知与其他安全服务之间的关系与区别。
规范设计 配置中心 流程设计 主题设计 码表管理 数据标准 关系建模 业务指标 技术指标 维度建模 父主题: 实施步骤
创建的大数据迁移项目。 在左侧导航栏选择“实施>大数据校验”,进入大数据校验页面。 首次使用大数据校验功能时,需要先启用MgC Agent。单击“选择并启用迁移中心Agent”按钮,在弹窗的下拉列表中,选择完成准备工作时与迁移中心连接成功的MgC Agent。 在进行大数据校验时,请确保MgC
作业开发 作业是指将SQL脚本或者数据集成、数据质量作业等进行编排并进行周期性的调度。 脚本作业配置 为了精细化管理和便于运维,ETL作业配置规则如下: 按逻辑数据实体创建调度作业画布。 业务指标用到的逻辑数据实体,将每个逻辑数据实体放在一个画布中,包括ODS层、DWI层、DWR层基础数据,然后按照ODS层作业
脚本开发 数据连接创建成功后,进行脚本开发,按照数仓分层规范和《数据湖开发规范》进行关系建模开发和维度建模开发。 创建spark sql脚本 在“脚本开发”功能下,在对应的脚本文件夹下创建spark sql脚本。 图1 脚本开发1 SQL脚本右上角配置数据连接和数据库 图2 脚本开发2
单击“导出管理”按钮,右侧弹出导出管理窗口。 当导出进度为导出成功后,单击操作列的“下载”,可以将导出结果下载到本地。 图2 下载导出结果 父主题: 大数据数据迁移
SQL队列的连接和连接到DLI通用队列的连接。 前提条件 已完成准备工作。 操作步骤 登录迁移中心控制台。 在左侧导航栏选择“实施>大数据数据迁移”,进入大数据数据迁移页面。在页面左上角的当前项目下拉列表中选择在完成准备工作时所创建的迁移项目。 单击页面右上角的“连接管理”按钮,进入连接管理页面。
安全组概述 安全组 安全组是一个逻辑上的分组,为具有相同安全保护需求并相互信任的云服务器提供访问策略。安全组创建后,用户可以在安全组中定义各种访问规则,当云服务器加入该安全组后,即受到这些访问规则的保护。 您也可以根据需要创建自定义的安全组,或使用默认安全组,系统会为每个用户默认
数据资产 概述 数据统一资产视图包括技术资产,业务资产和指标资产。通过元数据采集,将各种数据源元数据信息采集到数据资产模块,作为技术资产呈现。同时支持采集规范设计创建的数据模型,作为业务资产呈现,并与技术资产自动关联。规范设计中创建的指标也会采集并作为指标资产呈现。 图1 数据地图
Doris凭证,类型选择“大数据-Doris”,认证方式选择“用户名/密码”。凭证的添加方法请参考添加资源凭证。 在MgC控制台左侧导航栏选择“实施 > 大数据校验”,进入大数据校验页面。在左侧导航栏的项目下拉列表中选择步骤4.创建的项目。 首次使用大数据校验功能时,需要先启用MgC
创建安全报告 本小节主要介绍如何新建安全报告,以及通过复制已创建的报告快速创建报告。 约束限制 目前分析报告功能处于公测(beta)阶段,如有问题,请联系华为云技术支持进行处理。 仅专业版支持使用分析报告功能。 默认创建定期周报和月报各一个,可免费生成2期报告。专业版最多可创建12个安全报告,可多次生成报告。
登录迁移中心管理控制台。在左侧导航栏的项目下拉列表中选择在完成准备工作时创建的大数据迁移项目。 在左侧导航栏选择“实施>大数据数据迁移”,进入大数据数据迁移页面。 单击页面右上角的“连接管理”按钮,进入迁移准备页面。 首次使用大数据数据迁移功能时,需要先启用MgC Agent。单击页面左上角的
数据分类、属性L5梳理和数据标准设计、数据分级设计、数据指标设计九大步骤,通过以上步骤完成数据架构规划设计。 数据架构规划设计是一体化政务大数据建设过程非常重要环节,有利于数据资源的梳理以及后续数据资源的管理。 数据调研 业务域L1和主题域L2定义 梳理业务流程 业务流程活动 业务对象L3梳理和数据owner确定
技术指标 技术指标是为了支撑业务指标的具体实现。 原子指标 原子指标是对指标统计逻辑、具体算法的一个抽象。为了从根源上解决定义、开发不一致的问题,指标定义明确设计统计逻辑(即计算逻辑),不需要重复开发,从而提升了开发效率,也保证了统计结果的一致性。 衍生指标 衍生指标是原子指标通
mysql的部署 mysql服务安装: 上传mysql安装包 表1 上传mysql安装包 安装服务器 gx01节点 程序名称 Mysql 上传路径 /opt 程序安装路径 /usr/local/mysql 安装步骤 进入/opt/(上传安装包路径) 命令行界面输入: cd /opt/
其他组件(华为提供) 表1 其他组件 文档数据库服务DDS 对象存储服务OBS 弹性文件服务SFS MRS服务 分布式消息服务 DMS Kafka版 数据仓库服务DWS 父主题: 实施步骤