检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
大数据集群设计 设计云上的大数据集群部署架构时,建议参考原则如下: 优先用大数据云服务:如果源端是自建的大数据集群,在目标云平台上有对应的云服务,且功能、性能、兼容性都满足,经评估改造工作量很小,建议设计大数据集群部署架构时,优先采用大数据云服务。如果目标云平台上没有对应的大数据
队全权负责应用的整个生命周期管理。中心IT团队仅负责制定统一IT标准,在应用系统的架构设计环节,中心IT团队对其提出架构、运维和安全等方面的IT标准建议,并监管应用系统的执行情况,但没有办法强制应用系统执行这些标准。 图3 去中心化运营模式的ALM 集中化运营模式 在该模式下的应
大数据任务调度平台设计 设计云上的大数据任务调度平台部署架构时,建议参考原则如下: 优先用大数据云服务:如果源端是自建的大数据任务调度平台和组件,在目标云平台上有对应的云服务,且功能、性能、兼容性都满足,经评估改造工作量很小,建议部署架构设计时,优先采用大数据云服务。如果目标云平
大数据迁移批次规划说明 大数据迁移上云时,是选择整体迁移还是分批迁移,原则如下: 整体迁移的场景: 规模小:大数据平台数据量少(TB级),计算任务数量不多,可以采用整体迁移的方法,先在云上部署大数据平台,然后全量迁移元数据、数据和任务。 关联关系复杂:大数据任务之间的关联关系很复杂,很难拆分,此时也可以选择整体迁移。
型的关键业务事件。 数字化转型: 企业进行数字化转型,需要更先进的IT技术和平台支撑,云平台可以提供丰富的数字化工具和服务。 数据中心退役:现有数据中心即将到期或设备老化,需要进行更新换代,迁移上云成为一个具有吸引力的选择。 合并和拆分: 企业收购、合并或拆分会对IT基础设施产生
云项目经理 云项目经理在指导委员会的授权下,负责领导和管理整个云化转型项目,确保项目在预算内按时完成,并符合质量标准。其主要职责包括: 项目计划与目标设定: 制定云化转型的整体计划,包括项目范围、目标、时间计划、预算和验收要求等。 项目执行与进度管理: 监督项目的执行过程,确保各
更精确的成本控制:合理且标准的标签,可以使财务人员更准确地追踪每一个资源的实际使用成本。这有助于识别和优化高成本的资源使用,从而实现成本节约。 更有效的预算管理:财务人员将云支出分配到具体的预算类别中,使得制定和调整预算更加科学合理。同时,也可以更容易地监控实际支出 更透明的费用分配:对于多
和培训等费用。 硬件维护成本 硬件设备的维护、维修、更新换代费用。 软件维护成本 软件更新、补丁、技术支持等费用。 机房维护成本 除硬件和软件维护之外,针对安保系统、电力供应系统和冷却系统等为维持机房正常运转所必须的维护费用。 能源成本 运行整个数据中心的能源和电力费用。 机架租赁成本
运营模式还包括组织结构、运营流程、角色和职责等要素。简单来讲,IT运营模式是指IT部门如何运作的方式。传统的IT运营模式侧重于部署在自建数据中心或IDC机房的IT基础设施,包括IT硬件和虚拟化等基础软件,企业通常需要一次性购买IT硬件和基础软件资产,支撑业务系统的安全稳定运行。I
DNS 缓存刷新时间,一般为分钟级,如果采用 GSLB 自动探测切换可进一步降低故障恢复时间。 图1 三AZ高可用设计 设计要点: 生产数据中心和容灾中心分别部署在华为云 2 个不同 Region。 生产中心采用双AZ部署(双活、热备),容灾中心单AZ。 在生产和容灾中心分别部署RDS数据库实例,数据库
应用云化流程优化、Landing Zone设计、平台工程设计、云运营模式设计等。 建立云治理框架:负责制定云平台的治理框架、治理策略、安全标准、合规性要求等,确保云基础设施和应用系统的安全、稳定和合规。 提供云技术支持: 为企业内部提供云技术方面的培训、咨询和支持,帮助各部门更好地理解和应用云技术。
Platform)来优化软件交付和生命周期管理的工程学科。其目标是通过标准化和自动化的方式,减少开发人员与底层基础设施之间的复杂交互,从而提高开发效率和交付速度。Gartner在2023年和2024年连续将其列为十大重要战略技术趋势,并预测到2026年将有80%的大型软件工程组织将建
品可靠性和可维护性的综合反映。服务可用性一般会用SLA(Service-Level Agreement)来衡量,各类云服务都有承诺的SLA标准。不同SLA级别对应的停机时间如下表所示: 表1 SLA级别表 SLA 每周故障时间 每月故障时间 每年故障时间 99% 1.68 小时 7
切换 大数据的切换主要是指大数据应用的切换,其切换演练和正式切换的步骤请参考章节切换。本节重点介绍大数据应用切换的3个切换点,以便更好的指导大数据应用的切换。 双跑场景:大数据应用分别在源环境和目标环境各部署一套,实现双跑,切换点在域名,业务切换时只需要进行域名的切换,将业务流量切换到新应用。
调研 大数据迁移是指将大数据集群、大数据任务调度平台和大数据应用从一个运行环境迁移到另一个运行环境的过程。它包含如下三个模块,本节重点介绍的是大数据集群和大数据任务调度平台的迁移,大数据应用的迁移方法请参考应用迁移上云,本节只介绍差异部分。 大数据集群迁移:将大数据集群(包括存储
保障 在大数据迁移的保障阶段,需要执行以下任务来确保顺利过渡到新的云环境: 监控和警报设置:建立实时监控系统,监测集群、任务调度平台和应用程序的运行状态。设置警报,以便及时发现潜在的问题并采取措施。 优化集群性能:对大数据集群进行性能评估和调优。监视资源使用情况,优化配置参数、调整集群大小和资源分配,以提高整体性能。
云卓越中心 云卓越中心简介 指导委员会 应用团队 云架构团队 云实施团队 云运维团队 云安全团队 云治理团队 FinOps团队 云项目经理 云卓越中心的演进 父主题: 顶层规划
部署 大数据平台部署 大数据平台的部署可以参考如下方法: 大数据集群部署 基于架构设计的原则,云上大数据集群一般采用云服务。华为云MRS是一个在华为云上部署和管理Hadoop系统的服务,一键即可部署Hadoop集群。MRS提供租户完全可控的企业级大数据集群云服务,轻松运行Hado
迁移 数据迁移 Hadoop数据迁移到华为云MRS服务 如图所示,将IDC机房或者其他公有云的Hadoop集群中的数据迁移到华为云MRS服务。详细操作指导请参考官网文档。 图1 Hadoop数据迁移 HBase数据迁移到华为云MRS服务 将IDC机房或其他公有云的HBase集群中
验证 数据校验 数据库的对比方法有数据库内容对比、对象对比、行数对比,文件的对比方法有文件数量对比,大小对比,内容对比。具体的数据对比的方法请参考章节数据验证的内容。 任务验证 大数据任务迁移后,要确保作业能够正常运行、产生准确的结果,并且满足性能要求。一般从如下三方面验证: 验证作业执行的成功率