检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
平台调研 大数据调研简介 大数据迁移是指将大数据集群、大数据任务调度平台和大数据应用从一个运行环境迁移到另一个运行环境的过程。 图1 大数据调研的对象 大数据迁移需要调研4部分信息: 大数据平台调研,包括大数据集群、任务调度平台、数据流向。 数据调研,包括待迁移的数据类型、数据量、元数据、数据权限、数据更新频率等。
以确保数据的一致性和准确性。 数据存储: 大数据平台需要具备高效的数据存储能力,以承载海量的数据。常见的数据存储技术包括分布式文件系统(如HDFS)、列式数据库(如HBase)等。这些存储系统提供高可靠性、可扩展性和容错性,以支持大规模数据的存储和访问需求。 大数据计算: 大数据
迁移实施常见问题 关于迁移实施过程中的常见问题及答案,请查看如下链接。 主机迁移服务SMS的常见问题。 Redis数据迁移常见问题。 对象存储迁移服务OMS的常见问题。 数据库迁移的常见问题。 父主题: 迁移
为什么需要Landing Zone 为了实现业务单元的安全和故障隔离,华为云的推荐做法是将不同业务单元的应用系统分别部署在不同的账号中。华为云账号具备以下三个属性。 华为云账号是一个资源容器,用户可以在其中部署任意云资源和上层业务应用系统,不同的账号相当于不同的资源容器,账号之间是完全隔离的。因此在一个
业需要持续监控系统性能指标,优化应用程序和基础设施的配置,利用缓存等技术提高响应速度,并定期评估和调整架构设计。 成本优化支柱 成本优化支柱旨在提升云资源的成本效益,消除不必要的开销和资源浪费。它鼓励企业采用经济高效的资源配置,利用计费模式优化、资源优化和架构优化等手段持续提升成
内容对比。具体的数据对比的方法请参考章节数据验证的内容。 任务验证 大数据任务迁移后,要确保作业能够正常运行、产生准确的结果,并且满足性能要求。一般从如下三方面验证: 验证作业执行的成功率 在任务迁移完成后,对迁移后的大数据任务进行验证。这包括运行作业并检查作业的执行成功率。验证
设计云上的大数据集群部署架构时,建议参考原则如下: 优先用大数据云服务:如果源端是自建的大数据集群,在目标云平台上有对应的云服务,且功能、性能、兼容性都满足,经评估改造工作量很小,建议设计大数据集群部署架构时,优先采用大数据云服务。如果目标云平台上没有对应的大数据集群组件,部署架构设计时,
施工作,包括数据迁移、应用迁移、系统配置、业务割接等,确保迁移过程的数据一致性、安全性和性能。迁移实施工作属于一次性工作,经常会外包给云服务商或者云实施专业服务提供商。 云架构师:来自IT架构部门或具备深厚云技术背景的专家,负责云上架构的部署和优化,为实施团队提供技术支持和指导。
所以3种切换方案各有优缺点,不存在风险小、投入少、中断时间短的完美方案,企业需根据业务场景、停服要求和投入产出选择合适的方案。关于如何选择停服不停服,您可以从以下几个方面考虑: 根据行业选择 不同行业有各自的行业标准和要求,例如部分电商零售行业,在凌晨后,交易数量大幅度减少,甚至没有交易,停服后也不
云项目经理是一个综合管理角色,不仅需要有扎实的项目管理能力,还要求具备一定的云技术知识和业务理解能力,其技能要求如下: 项目管理技能: 具备扎实的项目管理知识和经验,熟悉PMBOK项目管理方法论,能够熟练运用项目管理工具和技术。 云技术知识: 深入理解云计算的概念、架构和服务,熟悉不同的云部署模型(公有云、私有云、混合云),了解主流云平台的特点和优势。
调研应用上云需求 调研内容包括当前应用上云的需求和约束条件: 迁移时间窗 切换时间窗 目标架构的要求(功能、性能、可用性、安全、成本、可扩展性、可运维性) 回退要求 业务的关联关系确认。 调研方式包括人工访谈或Workshop头脑风暴,可以与前面2项调研内容合并调研,减少调研次数。
为什么要上云试点 上云迁移试点是企业在进行大规模上云迁移之前的重要步骤,它能够帮助企业在大规模迁移之前充分了解和评估各种因素,通过试点上云迁移流程与相关配置,企业可以提前识别出相关风险,为后续大规模上云迁移提供经验。 风险控制:上云迁移是一个复杂的过程,涉及到不同的系统和业务。通过进行迁移试点
的成本效益,实现业务价值最大化。FinOps团队通常包含FinOps教练、云成本运营工程师,职责和技能要求如下表所示。 表1 FinOps团队的角色和职责 角色 职责 技能要求 来源 FinOps教练 指导和培训团队成员理解和应用FinOps原则和最佳实践,不断学习云成本优化的新方法并进行推广。
切换 大数据的切换主要是指大数据应用的切换,其切换演练和正式切换的步骤请参考章节切换。本节重点介绍大数据应用切换的3个切换点,以便更好的指导大数据应用的切换。 双跑场景:大数据应用分别在源环境和目标环境各部署一套,实现双跑,切换点在域名,业务切换时只需要进行域名的切换,将业务流量切换到新应用。
面开展安全意识教育 意识教育普及:定期开展信息安全意识教育学习,要求员工持续学习信息安全知识,了解相关政策和制度,知道哪些行为是可以接受,哪些是不能接受的,意识到即使主观上没有恶意,也要对自己的行为负责,并承诺按要求执行。 宣传活动开展:面向全员开展形式多样的信息安全宣传活动,包
应用架构、部署架构、依赖关系等信息。 负责设计和管理业务系统在云上的应用架构,包括应用的架构模式、技术选型、部署方式等,确保应用的性能、可扩展性、安全性和可靠性。 与数据架构师和云架构师紧密合作,确保应用架构与数据架构和云架构的兼容性。 指导开发团队进行应用开发和部署。 深入理解
等服务,按照就近部署原则集中部署在网络运营账号,以保护网络运营账号中的NAT网关和弹性公网IP等网络连接资源。 统一合规审计 审计人员以日志账号为中心对所有成员账号进行统一的操作审计,而无需逐个登录到成员账号,如下图所示。统一的操作审计包括对所有成员账号统一配置追踪器和关键操作通知。
为必要的团队成员。 调研评估工程师:由IT主管指派,来自IT部门,对企业现有的IT基础设施、业务系统、应用架构、数据存储、安全策略等进行全面调研和评估,包括硬件配置、网络架构、软件版本、依赖关系等;分析这些设施与云服务的兼容性和迁移难度,评估将现有系统迁移到云平台的可行性。调研评
建议实现端到端的双AZ部署,如下图所示。 图1 双AZ高可用设计 设计要点: 业务模块:集群部署的业务,资源分别部署到 2 个AZ内,并通过 ELB 实现双AZ的负载均衡;单点业务ECS可通过 SDRS 作AZ级容灾。 云服务高可用:主备节点分别双AZ部署。 数据库同步:云上使用
修改目的端Kafka的内网域名-》华为云实例IP 启动配置中心、定时任务调度服务、JOB注册、开启kafka消费开关 8.1 启动配置中心 8.2 启动定时任务调度服务 8.3 批量发布配置中心配置(执行JOB注册) 8.3 批量发布配置中心配置(开启kafka的消费开关) 8.4 检查阿配置中心和定时任务调度服务的开关是否正确