检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
迁移并行文件系统对象时,一致性校验失败如何处理? 问题描述 迁移并行文件系统对象时,源端对象最后修改时间晚于目的端对象,导致一致性校验失败,重试迁移依然校验失败,并且目的端对象最后修改时间一直保持不变。 问题分析 出现该问题可能是因为并行系统存在元数据mtime(可以设置最后修改
表待迁移的文件夹,非“/”结尾的字符串代表待迁移的文件。); 任务类型为前缀迁移任务时,表示待迁移前缀。 整桶迁移时,此参数设置为[""]。 最小长度:0 最大长度:1024 数组长度:0 - 500 list_file 否 ListFile object 列表文件配置,当tas
ListFile object 列表文件配置,当task_type为list或url_list时,list_file为必选参数。 表11 ListFile 参数 参数类型 描述 list_file_key String 对象列表文件或URL列表文件对象名。 最小长度:1 最大长度:1024
对象存在且具有访问权限”。 问题分析 出现该问题可能是因为对象文件不在源端桶的根目录下,存在目录路径。 解决方案 当对象文件存在目录路径,添加对象前缀时,需要在对象前缀前添加对象文件所在的目录路径。格式为:桶名/文件夹/对象前缀。 父主题: 异常恢复
本章节指导用户通过API创建迁移任务。API的调用方法请参见如何调用API。 创建迁移任务时,支持的任务类型有:URL列表迁移、对象前缀迁移、对象列表迁移、文件/文件夹迁移。本节我们以创建文件/文件夹迁移任务为例,介绍如何创建迁移任务。 涉及接口 获取IAM用户Token(使用密码):用于鉴权认证。 创建迁移任务:通
ListFile object 列表文件配置,当task_type为list或url_list时,list_file为必选参数。 表8 ListFile 参数 参数类型 描述 list_file_key String 对象列表文件或URL列表文件对象名。 最小长度:1 最大长度:1024
请前往迁移中心MgC,并使用其提供的存储迁移工作流进行迁移。迁移中心 MgC支持多种云平台对象存储、文件存储服务的迁移,同时也支持自建网络文件服务的迁移。 迁移方式二 创建迁移任务或迁移任务组时,选择源端数据源为“HTTP/HTTPS数据源”,如图1所示。 图1 选择HTTP/HTTPS数据源 选择创建“迁移任务”
CDN鉴权秘钥,如果CDN需要进行鉴权,则此选项为必选。 无需授权:无需配置此项。 Qiniu:无需配置此项。 Aliyun:根据authentication_type指定的鉴权方式配置此项。 KingsoftCloud:无需配置此项。 最小长度:0 最大长度:255 authentication_type
S支持大文件分片、大量数据的快速迁移。同时,它还支持断点续传功能,即使在迁移过程中遇到网络中断等异常情况,也能从断点处继续传输,确保数据的完整性和迁移的连续性。 图1 网络模型图 场景一:跨Region/跨云迁移 OMS服务通过公网从源端对象存储服务读取文件对象,并将文件对象写入
为什么显示已传输量在增加,但是迁移进度没有增加? OMS对于不同的迁移方式计算迁移进度的方式不同: 文件/文件夹/对象前缀迁移:按照已传输容量计算迁移进度。 对象/URL列表迁移:按照已传输对象数量计算进度。 如果选择的是通过对象/URL列表方式迁移,可能会出现已传输量在增加,但是迁移进度没有增加的情况。
表1 OMS最佳实践一览表 最佳实践 使用场景 优势 使用“回源配置方案”迁移增量对象数据 大批量数据迁移场景使用,优先选择此方案。此方案受OBS限制,具体的约束请见数据回源。 业务零中断,增量迁移间未同步的数据通过回源配置保证用户无感知。 可靠性高:割接前用户业务校验充分,增量迁移时全量扫描校验确保数据无遗漏。
通常在调用API的鉴权过程中,您需要用到账号、用户和密码等信息。 区域(Region) 从地理位置和网络时延维度划分,同一个Region内共享弹性计算、块存储、对象存储、VPC网络、弹性公网IP、镜像等公共服务。Region分为通用Region和专属Region,通用Region
单击对象列表链接,跳转至OBS控制台,获取对象列表。 如有成功对象列表,可在对象列表中找到“success_object_lists”文件夹,下载相应的txt文件,查看成功对象列表。 成功对象列表路径说明:oms/sync_task/同步任务ID/success_object_lists/同步子任务名称/时间戳
同步任务 创建同步任务 源端配置同步请求 监控同步任务状态
产品功能 对象选择 选择源端对象:支持多种对象选择方式,包括文件/文件夹、对象列表、指定对象前缀。 按条件过滤源端对象:支持迁移指定时间后的源端对象。 多任务创建 对于大容量、大规模的对象迁移,对象存储迁移服务提供了创建迁移任务组功能,能够自动划分并创建迁移任务,最大化利用服务的并发性能。
创建URL列表文件并上传至OBS桶 创建迁移任务:将待迁移的文件URL和目的端对象名称写入URL列表文件,并将生成的URL列表文件存放在与目的端桶处于同一区域的OBS桶中。 创建迁移任务组:将待迁移的文件URL和目的端对象名称写入URL列表文件,并将生成的URL列表文件存放在与目的
建迁移任务”页面。 在源端访问秘钥、私有访问秘钥中填写A账号的AK/SK,目的端访问秘钥、私有访问秘钥中填写B账号的AK/SK。 其他参数配置请参考创建单个迁移任务。 一个区域迁移OBS桶数据到另一区域请参见如何从一个区域迁移OBS桶数据到另一区域?。 父主题: 产品咨询
BandwidthPolicyDto objects 配置流量控制策略。数组中一个元素对应一个时段的最大带宽,最多允许5个时段,且时段不能重叠。 数组长度:0 - 5 task_priority 否 String 任务优先级配置,存在高中低三个优先级档次,限制仅在等待中、已暂停、已失败的任务进行修改
并发执行同步中的任务数量最多为5个。 对象列表文件 对象列表文件大小不能超过1024MB。 对象列表文件必须是“.txt”类型的文件,并且该文件元数据中的“ContentType”只能为:“text/plain”。 对象列表文件必须是UTF-8无BOM格式编码格式。 对象列表文件中每行只能包含一个对象名称,并且对象名称使用URL
时,不做对比直接跳过迁移。SIZE_LAST_MODIFIED_COMPARISON_OVERWRITE:大小/最后修改时间对比覆盖。默认配置。迁移前源端对象与目的端对象同名时,通过对比源端和目的端对象大小和最后修改时间,判断是否覆盖目的端,需满足源端/目的端对象的加密状态一致。