检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
迁移任务组。 使用函数工作流自动检查并重启失败的迁移任务。 本方案指导用户使用函数工作流检查指定任务id的迁移任务,若该任务迁移失败则自动重启。 该方案只提供参考,需要根据实际情况做出调整,函数工作流的使用方式请参见函数工作流 FunctionGraph。 图1 逻辑架构图 启动
OMS服务请求获取源端对象元数据。 源端响应对象元数据。 OMS服务请求获取目的端对象元数据。 目的端响应对象元数据。 根据对象元数据判断对象是否需要迁移。 若迁移任务配置“同名对象覆盖方式”选择“不覆盖”或者“全覆盖”,则步骤5~7跳过。 OMS服务请求获取源端对象数据。 源端响应对象数据。 OMS服务将对象数据写入目的端。
对象存储迁移服务支持迁移以下的源端云服务商或数据源类型: 华为云 亚马逊云(中国) 阿里云 微软云 腾讯云 谷歌云 七牛云 青云 百度云 金山云 优刻得 HTTP/HTTPS数据源 本节以华为云为源端数据源为例进行介绍,其余云服务商创建迁移任务的详细步骤,您可以参考各云服务商迁移教程。 迁移过
可以通过华为云对象存储服务提供的客户端工具OBS Browser+来移动迁移的数据。 请参见下载OBS Browser+获取工具。 登录工具,选中要移动的数据(单个或多个目录或文件),单击“移动”。 进入存储数据的桶,单击“粘贴”即可把之前选中的数据移动过来,原来桶中的数据已不存在。 对象较多 推荐使用obsutil工具修改对象路径。
SHA1、CRC64以及基于MD5的HMAC算法的使用,存在因源端发生hash碰撞,导致要迁移的数据和实际迁移的数据不一致的风险,为确保数据一致性,可以在迁移后再次对源端、目的端数据进行完整的内容校验。 父主题: 安全
高级选项 表4 高级选项参数说明 参数 说明 元数据迁移方式 选择是否迁移元数据。 选择“忽略元数据”,OMS只迁移源端Content-Type、Content-Encoding元数据。 选择“保留元数据”,OMS会迁移支持范围内的元数据。 须知: 仅支持中文字符、英文字符、数字和中
ID/object_lists”路径下,OMS会自动将接收到的待同步对象名称汇总后保存在txt类型的对象列表文件中。 页面展示的统计数据并非实时数据,大约存在一个小时左右的延迟,仅供参考。 父主题: 同步任务
OMS是否支持批量桶迁移? 目前OMS单个任务(迁移任务/迁移任务组)仅支持迁移单桶数据,不支持批量桶迁移。 如果涉及到多桶数据迁移,推荐使用华为云迁移中心MgC,创建存储迁移工作流进行批量桶迁移。 父主题: 产品咨询
单击“下一步”,设置任务参数。具体选项参见表4。 表4 任务参数 参数 说明 元数据迁移方式 忽略元数据:OMS只迁移源端Content-Type、Content-Encoding元数据。 保留元数据:OMS会迁移支持范围内的元数据。支持中文字符、英文字符、数字和中划线【-】迁移。除上述字符外,其他所有字符均不支持。
迁移任务与迁移任务组的适用场景是什么? 迁移任务 适用于单个桶数据量不超过3 TB或对象个数不超过500万的对象存储迁移场景,通过创建对象存储迁移任务,可将对象数据进行快速迁移。创建方式参见创建迁移任务。 迁移任务组 适用于单个桶数据量大于3 TB或对象个数大于500万的对象迁移场景,迁
发器,当出现对象新增或修改时,通过函数工作流服务,主动调用OMS服务的数据同步接口,及时将数据同步到华为云OBS侧。 目前只支持华北-北京四、华东-上海一地区。 支持的源端云服务商 同步任务支持迁移的源端云服务提供商包括: 华为云 亚马逊云(中国) 阿里云 微软云 腾讯云 谷歌云
阿里云OSS配置同步请求 背景信息 创建同步任务后,您需要在源端配置同步请求,以确保源端云服务商的对象存储服务可以针对源端新增、修改对象实时调用OMS同步接口(例如,通过消息通知或函数计算服务方式),以完成对源端新增、修改对象数据的同步迁移。 配置条件 实时获取源端新增、修改对象名称。 调用OMS同
腾讯云COS配置同步请求 背景信息 创建同步任务后,您需要在源端配置同步请求,以确保源端云服务商的对象存储服务可以针对源端新增、修改对象实时调用OMS同步接口(例如,通过消息通知或函数计算服务方式),以完成对源端新增、修改对象数据的同步迁移。 配置条件 实时获取源端新增、修改对象名称。 调用OMS同
解冻源端归档数据 当源端对象存储有数据处于归档状态,直接使用OMS迁移,解冻时间长导致迁移时间较长,推荐您提前进行解冻操作,待解冻完成后再创建迁移任务。具体操作参见恢复归档存储对象。 若您源端有解冻中的数据,待解冻完成后再进行迁移,否则这些数据会迁移失败。 父主题: 华为云OBS之间迁移教程
迁移网络模型 对象存储迁移服务(OMS)的网络模型设计考虑了数据的传输效率、安全性和可靠性。OMS支持大文件分片、大量数据的快速迁移。同时,它还支持断点续传功能,即使在迁移过程中遇到网络中断等异常情况,也能从断点处继续传输,确保数据的完整性和迁移的连续性。 图1 网络模型图 场景一:跨Region/跨云迁移
/SK)并授权 源端谷歌云: 请参考如下步骤生成密钥文件,并为用户添加相应的谷歌云权限,权限包括:列举桶,获取桶位置,列举对象,获取对象元数据,获取对象内容。 使用谷歌账户登录Google Cloud控制台。 在控制台中,选择您想要为其创建访问密钥的特定项目。然后,导航到IAM和管理部分,并单击“服务账号”模块。
端同步迁移。 源端同步请求配置方式 基于源端云服务提供商的对象存储服务和函数工作流服务:通过配置源端云服务提供商的对象存储服务和函数工作流服务来触发新增、修改对象的同步请求。 客户需要在源端云服务提供商的函数工作流服务中,创建OMS数据同步函数,然后在对象存储服务中设置基于函数工
败,重试迁移依然校验失败,并且目的端对象最后修改时间一直保持不变。 问题分析 出现该问题可能是因为并行系统存在元数据mtime(可以设置最后修改时间),如果存在元数据mtime则目的端最后修改时间被固定,因此导致校验失败,该问题并不影响对象的正常迁移,您可以忽略该问题。 父主题:
延、最低存储时间、最低存储单元、数据可靠性、数据可用性等。根据以上依据,华为云OBS提供了以下四种存储类型: 标准存储 访问时延低和吞吐量高,因而适用于有大量热点文件(平均一个月多次)或小文件(小于1MB),且需要频繁访问数据的业务场景,例如:大数据、移动应用、热点视频、社交图片等场景。
如何获取源端桶权限和目的端桶权限? 源端桶权限获取 以华为云OBS源端桶为例,如果源端桶为其他云服务商,请联系对应的云服务商工程师。 源端桶对应账户需要的权限包括:列举桶,获取桶位置,列举对象,获取对象元数据,获取对象内容。 源端权限获取方式分为两种,可任选一种方式获取。 基于系统策略获取OBS