检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
HTTP/HTTPS 数据源迁移至华为云OBS教程 背景信息 准备工作 创建迁移任务 创建迁移任务组 父主题: 各云服务商迁移教程
TP/HTTPS数据源”,如图1所示。 图1 选择HTTP/HTTPS数据源 选择创建“迁移任务”还是“迁移任务组”,可参见迁移任务与迁移任务组的适用场景是什么?。 源端数据源选择“HTTP/HTTPS数据源”,迁移方式默认为“指定URL列表”。 创建“HTTP/HTTPS数据源
使用“回源配置方案”迁移增量对象数据 本节指导用户使用回源配置方案迁移增量对象数据。 优势 此方案优势在于: 业务零中断,增量迁移间未同步的数据通过回源配置保证用户无感知。 可靠性高,割接前可提前验证,迁移后可校验。 操作流程 “回源配置方案”迁移增量对象数据流程图,如图1所示。
r.uri = r.uri + "?" + queryString (可选)展开“高级配置”,您可以根据实际需求修改环境配置、权限配置、层配置、网络配置等,详情参见函数相关配置。 配置触发器,在“创建触发器”中选择自定义创建。 触发方式:选择“COS触发”。 COS Bucket:选择同步任务的源端桶。
档对象,支持批量解冻。 obsutil工具支持Windows、Linux和macOS等操作系统,您可以根据实际情况下载和安装合适的版本。 操作步骤 下载并安装obsutil。 解冻归档存储对象。 解冻完成后,参考华为云OBS之间迁移教程,将数据迁移到华为云OBS。 父主题: 归档数据迁移方案
CDN鉴权秘钥,如果CDN需要进行鉴权,则此选项为必选。 无需授权:无需配置此项。 Qiniu:无需配置此项。 Aliyun:根据authentication_type指定的鉴权方式配置此项。 KingsoftCloud:无需配置此项。 最小长度:0 最大长度:255 authentication_type
能,降低您使用SDK的难度,推荐使用。 SDK列表 表1提供了OMS服务支持的SDK列表,您可以在GitHub仓库查看SDK更新历史、获取安装包以及查看指导文档。 表1 SDK列表 编程语言 Github地址 参考文档 Java huaweicloud-sdk-java-v3 Java
源端同步请求函数工作流创建与配置完成后,需要配置测试事件来进行检验。 单击“代码”页签,在代码源区域的下拉菜单中选择“配置测试事件”,弹出配置测试事件页面,如图6所示。配置相关参数,参见表4。 图6 配置测试事件 表4 参数配置说明 参数 配置说明 配置测试事件 选择创建新的测试事件
解冻完成后,请参考腾讯云COS迁移至华为云OBS教程,将数据迁移到华为云OBS。 COSCMD工具解冻 执行pip命令,安装coscmd工具。 pip install coscmd 执行config命令生成配置文件。 coscmd config -a ak -s sk -b bucket -r region
是否启用HTTPS (y or n) ? n 是否启用代理(y or n):n 配置文件 [ config1 ] 已修改 是否使用该配置作为默认配置(当前默认配置为:< config >)(y or n)? 首次创建的配置文件时会自动将该配置作为默认配置。 配置加密只加密
config 使用交互式配置生成配置文件。 输入配置命令。 ./ossutil64 config 根据提示设置配置文件路径。 建议直接按回车使用默认配置文件的路径。 根据提示设置工具的语言。 请输入语言CH或EN。工具使用的语言默认与操作系统保持一致。该配置项将在此次config命令设置成功后生效。
各云服务商配置同步请求教程 阿里云OSS配置同步请求 腾讯云COS配置同步请求
COL、HTTP/HTTPS数据源迁移。 逻辑架构图 图1 存储迁移逻辑架构图 迁移流程实施 准备工作 创建目的端对象桶或者弹性文件系统。 评估集群 根据源端文件数量,自行评估集群大小及规格,将用于工作流中新建集群。 开始配置工作流 基于存储迁移工作流模板配置更加详细的参数,帮助您完成迁移工作。
AK/SK。为防止大量任务阻塞在等待中,请控制创建任务的频率。 如果单个对象大小超过500G,建议您通过提交工单的方式,开通并发分片白名单配置,提升迁移速率。 在迁移过程中,系统将自动在目的端桶创建一个名为“OMS”的临时文件夹。严禁手动操作此文件夹,包括但不限于修改、删除或添加
请确保URL列表文件所在桶与目的端桶处于同一区域,否则后续将无法选择对象列表文件。 请确保URL列表文件中的URL可通过HEAD和GET请求正常访问。 父主题: HTTP/HTTPS 数据源迁移至华为云OBS教程
修订记录 发布日期 修订记录 2024-05-07 第十五次正式发布。 新增阿里云OSS配置同步请求 新增腾讯云COS配置同步请求 2024-03-22 第十四次正式发布。 新增自动检查并重启失败的迁移任务 新增青云QingStor迁移至华为云OBS教程 新增谷歌云storage迁移至华为云OBS教程
阿里云OSS配置同步请求 背景信息 创建同步任务后,您需要在源端配置同步请求,以确保源端云服务商的对象存储服务可以针对源端新增、修改对象实时调用OMS同步接口(例如,通过消息通知或函数计算服务方式),以完成对源端新增、修改对象数据的同步迁移。 配置条件 实时获取源端新增、修改对象名称。
AK/SK。为防止大量任务阻塞在等待中,请控制创建任务的频率。 如果单个对象大小超过500G,建议您通过提交工单的方式,开通并发分片白名单配置,提升迁移速率。 在迁移过程中,系统将自动在目的端桶创建一个名为“OMS”的临时文件夹。严禁手动操作此文件夹,包括但不限于修改、删除或添加
error_code String 错误码。 请求示例 输入源端、目的端的AK/SK,启动已经暂停的非URL列表迁移任务。 POST https://{endpoint}/v2/{project_id}/tasks/{task_id}/start { "src_ak" : "src_ak"
单个任务失败对象列表最多记录10万个失败对象。 说明: 失败对象超过10万个的场景,建议基于已有失败对象列表,分析处理后重新迁移。 父主题: HTTP/HTTPS 数据源迁移至华为云OBS教程