检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如果一直有数据写入OBS的情况下,使用OMS服务如何保证数据一致性? 该问题可分为以下两种情况来说明: 如何保证增量数据如何迁移过来? 参见增量迁移对象数据。 源端数据有更新,如何同步过来? 需要重新全量迁移,OMS会自动识别更新后对象进行覆盖,具体覆盖条件请参考迁移是否会影响目的端桶的已有数据。
记录到失败对象列表中。 目的端对象的加密状态与任务是否开启KMS加密的状态一致,状态不一致的处理方法请参见:如何解决KMS状态错误导致的迁移任务失败? 源端与目的端对象的大小一致。 目的端对象的最后修改时间不早于源端对象的最后修改时间。 父主题: 产品咨询
我如何能知道迁移任务的速度? 一般情况,对象存储服务的迁移速度的参考值是10-20TB每天。由于迁移速度受源端对象个数、大小以及公网传输距离影响,建议用户创建一个实际数据的迁移任务来测试实际迁移速度,实际最大迁移速度为单个任务平均速度的5倍(单个Region内并发任务数最大为5)。
MgC支持多种云平台对象存储、文件存储服务的迁移,同时也支持自建网络文件服务的迁移。 迁移方式二 创建迁移任务或迁移任务组时,选择源端数据源为“HTTP/HTTPS数据源”,如图1所示。 图1 选择HTTP/HTTPS数据源 选择创建“迁移任务”还是“迁移任务组”,可参见迁移任务与迁移任务组的适用场景是什么?。
单击“确定”,完成触发器的创建。 源端同步请求函数工作流创建与配置完成后,需要配置测试事件来进行检验。 单击“代码”页签,在代码源区域的下拉菜单中选择“配置测试事件”,弹出配置测试事件页面,如图6所示。配置相关参数,参见表4。 图6 配置测试事件 表4 参数配置说明 参数 配置说明 配置测试事件 选择创建新的测试事件
HTTP/HTTPS 数据源迁移至华为云OBS教程 背景信息 准备工作 创建迁移任务 创建迁移任务组 父主题: 各云服务商迁移教程
迁移时不会对源端的对象进行锁定。 迁移完成后,不会删除源端的数据。 迁移可能会对用户业务产生影响 迁移过程中如果速度过快,可能对源端计费(CDN)或业务造成一定影响。建议根据实际业务添加限速策略,具体操作请参见创建单个迁移任务中“流量控制”说明。 迁移中源端产生的相关费用用户未提
存储类型介绍 各云厂商的对象存储服务针对用户业务对存储性能、成本的不同诉求,将对象的存储级别进行了区分,区分的普遍依据是对象的访问频度、访问时延、最低存储时间、最低存储单元、数据可靠性、数据可用性等。根据以上依据,华为云OBS提供了以下四种存储类型: 标准存储 访问时延低和吞吐量
数据保护技术 OMS通过以下方式,保障数据迁移的安全性和完整性。 完整性校验:数据迁移完成后,默认通过对象大小/最后修改时间完成数据的完整性校验。详细介绍请参见一致性校验策略。 个人数据加密保护:为了确保您个人数据的安全性,OMS系统通过加密存储个人数据、控制个人数据访问权限以及
迁移网络模型 对象存储迁移服务(OMS)的网络模型设计考虑了数据的传输效率、安全性和可靠性。OMS支持大文件分片、大量数据的快速迁移。同时,它还支持断点续传功能,即使在迁移过程中遇到网络中断等异常情况,也能从断点处继续传输,确保数据的完整性和迁移的连续性。 图1 网络模型图 场景一:跨Region/跨云迁移
创建迁移任务 本节介绍创建迁移任务的操作步骤。 OMS默认会将等待超过30天未调度的任务自动设置为失败,并且会自动清除该任务的AK/SK。为防止大量任务阻塞在等待中,请控制创建任务的频率。 如果单个对象大小超过500G,建议您通过提交工单的方式,开通并发分片白名单配置,提升迁移速率。
根据迁移配置,华为云OMS服务会开始从源端存储系统拉取数据。同时,服务会确保数据的完整性和一致性,避免在迁移过程中出现数据丢失或损坏的情况。服务还支持断点续传功能,当迁移过程中出现网络中断或其他异常情况时,服务可以从断点处恢复传输,确保数据的完整性和迁移的连续性。 父主题: 迁移工作原理
创建迁移任务组 本节介绍创建迁移任务组的操作步骤。 OMS默认会将等待超过30天未调度的任务自动设置为失败,并且会自动清除该任务的AK/SK。为防止大量任务阻塞在等待中,请控制创建任务的频率。 如果单个对象大小超过500G,建议您通过提交工单的方式,开通并发分片白名单配置,提升迁移速率。
配置方式 基于源端云服务商的对象存储服务和函数工作流服务,通过配置源端云服务商的对象存储服务和函数工作流服务来触发新增、修改对象的同步请求。 操作步骤 登录阿里云函数计算控制台,在左侧导航栏,单击函数。 在顶部菜单栏,选择地域,然后在函数页面,单击创建函数。 创建的函数需要与源端桶在同一区域。
中心MgC的存储迁移工作流进行迁移。迁移中心MgC提供独享的集群资源,能够动态扩展迁移性能,最高支持20Gbit/s带宽。 迁移速度受源端对象个数、大小,带宽以及公网传输距离影响,建议用户创建一个含有实际数据的迁移任务来测试迁移速度,实际最大迁移速度为单个任务平均速度的5倍(单个
"***secret_key***" region = 'ap-beijing' 选择测试事件(COS 对象存储的 PUT 事件模板、COS 对象存储的 POST 事件模板),单击“测试”。 在返回结果为true表示测试成功。若测试失败,请检查参数配置和云函数权限配置。 父主题: 各云服务商配置同步请求教程
中心MgC的存储迁移工作流进行迁移。迁移中心MgC提供独享的集群资源,能够动态扩展迁移性能,最高支持20Gbit/s带宽。 迁移速度受源端对象个数、大小,带宽以及公网传输距离影响,建议用户创建一个含有实际数据的迁移任务来测试迁移速度,实际最大迁移速度为单个任务平均速度的5倍(单个
对象名称写入URL列表文件,并将生成的URL列表文件存放在与目的端桶处于同一区域的OBS桶中。 创建迁移任务组:将待迁移的文件URL和目的端对象名称写入URL列表文件,并将生成的URL列表文件存放在与目的端桶处于同一区域的OBS桶指定目录(文件夹)下。指定目录(文件夹)只能存放URL列表文件。
数据识别与准备 在迁移开始前,华为云OMS服务会先对源端存储系统中的数据进行识别,包括对象大小、最后修改时间以及位置等关键信息。基于这些信息,服务会为用户生成一个对应的迁移任务配置,确保迁移过程的高效性和准确性。 父主题: 迁移工作原理
在弹出的窗口中,配置恢复模式和副本有效天数。 快速取回:需要的时间最短,通常只需要1 - 5分钟即可恢复归档存储类型的文件。快速取回模式不支持恢复深度归档存储类型的文件。 标准取回:使用标准取回模式,对于归档存储类型的文件一般可以在3 - 5小时内完成恢复,对于深度归档类型的文件一般可以在12小时内完成恢复。