检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
本章节介绍如何在华为云对象存储服务OBS之间进行跨账号、跨地域、以及同地域内的数据迁移。 使用备份软件实现本地数据备份至OBS 本章节描述了备份本地数据至OBS的背景以及OBS支持的备份软件,并以Commvault备份软件为例,介绍了备份本地数据至OBS的基本流程。 在ECS上通过内网访问OBS E
Browser+、obsutil)、主流备份软件、云存储网关或数据快递服务DES,备份至对象存储服务OBS。OBS提供生命周期功能实现对象存储类别自动转换,以降低存储成本。在需要时,可将OBS中的数据恢复到云上的灾备主机或测试主机。 同步客户端:适用于单数据库/程序场景,手工备份,成本最低 备份软件:适用于多应用、多主机场景,自动备份,兼容性强
事件网格EG对事件参数进行转换,通过JSONPath从事件中提取参数,然后把这些参数路由到事件目标。 参数 如下所示。 需要转换的参数。 模板 如下所示。 自定义一个包含所需变量的模板,事件网格EG按照模板定义的形式进行转换。 本示例中,“参数”请填写如下内容: { "eventVersion": "$.data
方式来实现。 具体的Data+工作流视图如图1所示。 图1 Data+工作流视图 资源和成本 算子就是具有数据处理能力的函数,详情参见预置模板参数说明。 表1 资源和成本规划 资源 资源说明 数量 每月费用 OBS 算子请求OBS API。 1 通过算子对数据进行处理,都会涉及到对OBS
obsfs适用于Linux操作系统,具体说明和操作指导如表1所示。 表1 获取obsfs的方式 方式 说明 适用的Linux发行版 操作指导 直接下载 直接下载官方提供的软件包,在Linux配置运行环境后即可使用obsfs。 Ubuntu 16、CentOS 7 下载并安装obsfs
int 参数解释: 列表条数 默认取值: 无 graphs Array GraphItem Json结构体 结构体说明 参数解释: 工作流模板列表信息列表 默认取值: 无 nextStart int 参数解释: 下一次查询的起始位置 默认取值: 无 isTruncated bool
可视化视图创建自定义策略:无需了解策略语法,按可视化视图导航栏选择云服务、操作、资源、条件等策略内容,可自动生成策略。 JSON视图创建自定义策略:可以在选择策略模板后,根据具体需求编辑策略内容;也可以直接在编辑框内编写JSON格式的策略内容。 具体创建步骤请参见:创建自定义策略。本章为您介绍常用的OBS自定义策略样例。
`json:"input,omitempty"` //转码后的视频文件存储地址。 Output *FileAddr `json:"output"` //转码模板ID,数组 TransTemplateID []int `json:"trans_template_id,omitempty"` //
请求使用的桶资源路径,在整个系统中唯一标识一个桶。 可选 domain 存放资源的服务器的域名或IP地址。 必选 port 请求使用的端口号。根据软件服务器的部署不同而不同。缺省时使用默认端口,各种传输协议都有默认的端口号,如HTTP的默认端口为80,HTTPS的默认端口为443。 OB
oad。 目前不支持解压任务完成后给用户发送消息通知。 目前仅支持解压压缩算法为deflated的ZIP包,此处的压缩算法与WINRAR等软件提供的Store、Normal等压缩方法不等同。 解压路径加上压缩包解压出文件的文件名,总字符长度不可超过512,否则会导致解压失败。 目前不支持解压加密ZIP包。
大数据场景下使用OBS实现存算分离方案概述 应用场景 随着大数据技术的飞速发展,对数据价值的认识逐渐加深,大数据已经融入到了各行各业。根据相关调查报告数据显示,超过39.6%的企业正在应用大数据并从中获益;超过89.6%的企业已经成立或计划成立相关的大数据分析部门;超过六成的企业
效力 允许 被授权用户 被授权用户:所有账号 授权资源 资源范围:指定对象 资源路径:*(*表示桶内所有对象) 授权操作 动作范围:模板配置 模板:对象只读 单击“创建”,完成桶策略创建。 权限配置信息可以在桶策略列表查看。 图3 查看桶策略列表权限配置信息 在左侧导航栏,单击“概览”,进入“概览”页面。
Endpoint OBS中桶所在区域的区域域名(终端节点)。 各区域的终端节点详情请参见地区和终端节点。 必选 Port 请求使用的端口号。根据软件服务器的部署不同而不同。缺省时使用默认端口,各种传输协议都有默认的端口号,如HTTP的默认端口为80,HTTPS的默认端口为443。 OB
Endpoint OBS中桶所在区域的区域域名(终端节点)。 各区域域名详情请参见地区和终端节点。 必选 Port 请求使用的端口号。根据软件服务器的部署不同而不同。缺省时使用默认端口,各种传输协议都有默认的端口号,如HTTP的默认端口为80,HTTPS的默认端口为443。 OB
工作流进行自动化处理(如解析、转码、截图等)。 Data+提供图形化界面,方便用户直观便捷的构建数据处理流程,同时提供了预置的数据处理服务模板和自定义函数能力,覆盖数据处理的各种场景。 Data+已下线,如果需要使用数据处理服务,可使用数据工坊 DWR。 发布区域:华北-北京一、
迁移HDFS数据至OBS 操作场景 在华为云大数据存算分离方案中,对象存储服务OBS作为统一数据湖存储数据。如果用户数据仍存储在本地HDFS中,则需要先将HDFS的数据迁移至OBS。 用户可以使用以下迁移方案中的任意一种完成数据迁移,包括:Distcp方式迁移、CDM方式迁移和OMS方式迁移。
如何解决DNS解析失败 该问题属于网络问题,需要借助日志详情文件帮助定位。打开日志文件obssdk.log文件,查看最近日志,可看到关键报错信息如下所示: 可按照以下步骤排查解决问题: 检查本地DNS服务器是否填写有误,查看windows平台的DNS服务配置步骤如下。 在 "控制面板"
OBS、EVS和SFS有什么区别? 对象存储服务OBS、云硬盘EVS与弹性文件服务SFS之间的对比如表1所示。 表1 OBS、EVS、SFS服务对比 对比维度 对象存储服务 云硬盘 弹性文件服务 概念 提供海量、安全、高可靠、低成本的数据存储能力,可供用户存储任意类型和大小的数据。
obsutil性能调优最佳实践 obsutil对大于50MB的文件/对象默认采用分段方式进行上传、下载和复制,与分段任务相关的参数在.obsutilconfig配置文件中,如表1所示。 表1 多段参数 参数 描述 defaultBigfileThreshold 开启分段任务的阈值
使用DIS发送OBS事件通知 本节介绍如何在OBS控制台配置DIS通知。 您可以新建DIS通知规则,也可以从同区域的其他桶复制已有DIS通知规则。 背景知识 OBS提供的DIS通知功能,主要面向大数据场景,要求OBS与数据接入服务(DIS)及其他大数据相关服务结合使用。 仅支持华