检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
调研任务调度平台支持的任务类型,包括Jar类任务、SQL类任务、脚本类任务(Python、Shell)等。 调研任务调度平台是否提供可视化和管理界面,以方便任务调度的配置、监控和管理。 了解任务调度平台的容错机制,包括任务失败后的重试机制、故障恢复策略等。 调研数据流: 调研大数据平台及业务的架构图及数据流图,如下图:
建议实现端到端的双AZ部署,如下图所示。 图1 双AZ高可用设计 设计要点: 业务模块:集群部署的业务,资源分别部署到 2 个AZ内,并通过 ELB 实现双AZ的负载均衡;单点业务ECS可通过 SDRS 作AZ级容灾。 云服务高可用:主备节点分别双AZ部署。 数据库同步:云上使用
华为云大数据组件 常用的华为云大数据服务组件如下,设计大数据部署架构时可参考: MapReduce服务(MapReduce Service,简称MRS) MRS是一个在华为云上部署和管理Hadoop系统的服务,一键即可部署Hadoop集群,完全兼容开源接口,轻松运行Hadoop、S
述如何进行成本优化和持续成本运营。 新增收入 云计算不仅可以降低成本,还可以帮助企业创造新的收入来源: 缩短产品上市时间: 云平台可以快速部署和扩展应用,帮助企业更快地推出新产品和服务,抢占市场先机,从而获得更多的市场份额和收入。 拓展新市场: 云平台的全球覆盖能力,使得企业更容
设计原则 大数据的部署架构设计包括大数据集群、大数据任务调度平台和大数据应用,其中大数据应用的部署架构请参考应用架构设计。 图1 大数据架构设计分类 大数据架构设计同样要考虑架构设计的6要素: 成本 可用性 安全性 可扩展性 可运维性 性能 图2 架构设计6要素 父主题: 大数据架构设计
设计云上的大数据集群部署架构时,建议参考原则如下: 优先用大数据云服务:如果源端是自建的大数据集群,在目标云平台上有对应的云服务,且功能、性能、兼容性都满足,经评估改造工作量很小,建议设计大数据集群部署架构时,优先采用大数据云服务。如果目标云平台上没有对应的大数据集群组件,部署架构设计时,
合规遵从 不合规造成的经济损失,包括赔偿和罚款。 提升可持续性 碳排放减少量。 技术驱动力 提升资源弹性 资源利用率。 资源扩容速度、资源部署时间。 提升系统韧性 RPO、RTO。 P1、P2、P3、P4事件数量。 提升扩展性 系统扩容速度。 提升安全性 安全事件数量。 安全事件导致的经济损失,包括赔偿和罚款。
大数据参考架构 下图是典型的大数据架构,从数据集成、存储、计算、调度、查询和应用,构成了一个完整的数据流。 图1 大数据参考架构 大数据架构通常包括以下几个核心组件和流程,企业可以根据实际需要选择云服务或自建大数据组件: 业务数据源: 业务数据源是大数据平台的数据输入来源,可以是
图所示。在这种运营模式中,所有业务系统都由专门的应用团队独立运营,应用团队不仅负责应用的设计、开发、测试、部署和运维工作,还需要负责业务系统所需IaaS和PaaS资源的部署和运维,同时要确保业务系统的安全性和云资源的成本管理。中心IT团队仅负责制定统一IT标准和IT流程,通过发文
为什么需要Landing Zone 为了实现业务单元的安全和故障隔离,华为云的推荐做法是将不同业务单元的应用系统分别部署在不同的账号中。华为云账号具备以下三个属性。 华为云账号是一个资源容器,用户可以在其中部署任意云资源和上层业务应用系统,不同的账号相当于不同的资源容器,账号之间是完全隔离的。因此在一个
成本和可运维性遵循基础环境的设计进行适配即可。 大数据架构设计:大数据的部署架构设计包括大数据集群部署架构设计、大数据任务调度平台部署架构设计和大数据应用部署架构设计,其中大数据应用的部署架构可以参考应用部署架构的设计方法。大数据架构设计同样要考虑架构设计的6要素。 在做云上架构
障相互隔离。企业可在此基础上构建如下场景的高可用体系: 单AZ部署:通常情况云上不建议单AZ部署,除非是对时延特别敏感的业务,无法接受同Region的AZ间时延,这种情况可以考虑单AZ部署,利用云服务主备、集群化部署模式来满足单个业务节点故障时快速恢复业务的需求,主要利用集群内节
应用架构设计 应用部署架构概述 可用性设计 可扩展性设计 性能设计 应用部署参考架构 父主题: 方案设计
务系统上线管理涵盖环境准备、组织宣贯、风险应急和割接上线实施等环节。 业务系统割接上线前云环境准备通常包含业务环境部署,数据同步(如迁移场景)、周边业务系统协同配置、内外部连通性确认等等,通过这些前提准备提前完成业务系统正常运行的基础平台环境的搭建,确保业务系统上线所需的基础环境处于就绪状态。
大数据迁移上云时,是选择整体迁移还是分批迁移,原则如下: 整体迁移的场景: 规模小:大数据平台数据量少(TB级),计算任务数量不多,可以采用整体迁移的方法,先在云上部署大数据平台,然后全量迁移元数据、数据和任务。 关联关系复杂:大数据任务之间的关联关系很复杂,很难拆分,此时也可以选择整体迁移。 分批迁移的
应用架构、部署架构、依赖关系等信息。 负责设计和管理业务系统在云上的应用架构,包括应用的架构模式、技术选型、部署方式等,确保应用的性能、可扩展性、安全性和可靠性。 与数据架构师和云架构师紧密合作,确保应用架构与数据架构和云架构的兼容性。 指导开发团队进行应用开发和部署。 深入理解
擎服务实现业务容器化部署,可通过CCE工作负载弹性伸缩能力实现APP业务的水平扩展,随着负载增加,APP业务POD能自动扩展,随着负载的降低,APP业务POD自动减容,支持配套应用性能监控(AOM)实现告警策略自动触发扩容或减容; 若应用层使用ECS进行部署,则可通过华为云弹性伸
ganizations服务构建一个清晰、有序、易于管理的云上组织架构,然后将企业的不同业务单元(如子公司、业务系统、产品线、部门、项目等)部署在各自独立的云账号中。这种方式不仅能够与公司现有的治理架构完美匹配,还能够实现高效的故障和安全隔离,将单个业务单元的故障和风险限制在其自身的范围内,减少“减少爆炸半径”。
大数据迁移 调研 设计 部署 迁移 验证 切换 保障 父主题: 采用实施
采用实施 概述 组建实施团队 基础设施部署 应用迁移上云 大数据迁移 应用现代化 云上创新 采用实施的反模式