检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
这里重点介绍数据迁移方案和任务迁移方案的设计。 设计数据迁移方案 大数据的数据迁移涉及到3类数据,如下表: 表1 大数据迁移的三类数据 分类 说明 元数据 Hive元数据或外置元数据 存量数据 历史数据,短期内不会变化 增量数据 数据定期更新 这3类数据的迁移方法如下: 表2 大数据三类数据的迁移方式
控制台与API接口,并最终实现用户对资源的使用权限、计费与管理高效结合。关于TMS的具体功能和使用说明请参考官网文档。 父主题: 设计标签方案
用DCS迁移服务的备份文件导入方式进行迁移。此种迁移方式属于全量迁移方式,在迁移过程中产生的新增数据无法进行迁移。 源端容量大于10G的情况下,该迁移方式的迁移效率会大大折扣,故当源端内存使用量大于10G的情况下,不建议使用该迁移方案。 图1 Redis离线迁移方案 迁移过程如下:
请参考官网文档。 云数据迁移(Cloud Data Migration,简称CDM) 云数据迁移(Cloud Data Migration, 简称CDM),是一种高效、易用的数据集成服务。 CDM围绕大数据迁移上云和智能数据湖解决方案,提供了简单易用的迁移能力和多种数据源到数据湖
影响。设计切换方案时,对于不同的业务场景和停服要求,会面临多种方案的选择,下面详细介绍如何合适的切换方案。 业务系统从源端切换到目的端,切换方案可以分为3类,即停服切换、停写不停读切换和不停服切换。每类切换方案优缺点具体如下表: 表1 切换方案比较 切换类型 方案说明 数据一致性风险
略。例如,决定是使用 HuaweiCloud、huaweicloud 还是 Huaweicloud,应保持相同的规则。 父主题: 设计标签方案
问或操作某些敏感资源。 协助灾备恢复:为灾备时需要快速恢复的应用建立标签,以确保灾难发生后这些应用能够第一时间被重启。 父主题: 设计标签方案
大数据架构设计 设计原则 大数据集群设计 大数据任务调度平台设计 大数据参考架构 华为云大数据组件 父主题: 方案设计
制化修改,以更符合企业业务。 架构模板查找 登录华为云官网,在上方导航栏选择“解决方案>通用解决方案>Haydn解决方案数字化平台”进入Haydn解决方案数字化平台首页,在页面右下角点击“解决方案加速场>架构模板”可进入架构模板页面。 支持输入架构模板名称、适用行业、适用场景等关键字对架构模板进行查找;
批次规划 概述 迁移批次规划的方法 大数据迁移批次规划说明 父主题: 方案设计
设计原则 大数据的部署架构设计包括大数据集群、大数据任务调度平台和大数据应用,其中大数据应用的部署架构请参考应用架构设计。 图1 大数据架构设计分类 大数据架构设计同样要考虑架构设计的6要素: 成本 可用性 安全性 可扩展性 可运维性 性能 图2 架构设计6要素 父主题: 大数据架构设计
几个概念:迁移组、迁移批次、迁移优先级、迁移批次规划。 迁移组:是一组具有依赖关系(含环境依赖)的应用程序和基础架构的集合,包括APP、主机、存储、数据库、中间件。 迁移批次:是指一组具有相同的预期开始日期和结束日期的一个或多个迁移组的组合,一个迁移批次可能含有多个迁移组。 迁移优先级:是指应用程序的迁移顺序。
云平台上没有对应的大数据集群组件,部署架构设计时,可以考虑继续采用自建的方案。如果目标云平台上有对应的大数据集群组件,但兼容性较差,经评估可能需要较大的改造工作量,部署架构设计时,可以考虑继续采用自建的方案。 最小改造原则:如无特别的业务驱动,要尽量避免进行大规模改造。大数据集群
应用层迁移实施 主机迁移 主机迁移是典型的Rehost迁移方式,虽然主机(服务器)上可以承载各种系统应用如Nginx代理、数据库、容器、中间件、大数据等,但由于数据库/中间件/大数据等应用是以数据为核心,对于这类数据层面的迁移我们通常会采用独立的数据迁移方式而非主机迁移,这里讲的
和网络延迟信息,不同AZ间可能在物理位置上相隔较远,导致网络延迟增加,实施跨AZ高可用方案要优先选择距离较近的AZ,可以降低网络延迟并提高应用的响应速度。 延迟验证 在正式实施双AZ高可用方案前,需要充分的测试和验证来评估应用程序在不同AZ之间的延迟情况。通过模拟真实负载的压力测
大数据参考架构 下图是典型的大数据架构,从数据集成、存储、计算、调度、查询和应用,构成了一个完整的数据流。 图1 大数据参考架构 大数据架构通常包括以下几个核心组件和流程,企业可以根据实际需要选择云服务或自建大数据组件: 业务数据源: 业务数据源是大数据平台的数据输入来源,可以是
上没有对应的大数据任务调度组件,部署架构设计时,可以考虑继续采用自建的方案。如果目标云平台上有对应的大数据任务调度组件,但兼容性较差,经评估可能需要较大的改造工作量,部署架构设计时,可以考虑继续采用自建的方案。 最小改造原则:如无特别的业务驱动,要尽量避免进行大规模改造。大数据任
设计方法论,可以关注其架构开发方法(ADM)、四个架构设计领域、最佳实践和工具,有助于设计出更加高效、灵活和可扩展的上云架构。 父主题: 方案设计
快速创建成本预算,同时用户可以为预算任务创建预算报告,华为云会在报告日为您发送预算情况报告。详情请参考华为云成本中心帮助文档。 父主题: 方案设计
应用上云迁移遵循如下的流程: 图1 应用迁移小循环 上述流程的执行对象是应用迁移分组,一个迁移批次通常包含一个或多个应用迁移分组,需要重复执行上述流程,才能将一个迁移批次的所有应用迁移到云端,如下图: 图2 分批迁移流程 用小循环的每个阶段概述如下: 调研:对应用的技术架构进行详细的调研,详细到具体的技术组件和版本信息。