检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
详细操作请参考本地Windows主机使用FTP上传文件到Windows/Linux云服务器。 使用OBS上传文件 OBS可供用户存储任意类型的数据。将图片、视频等数据存储至OBS后,在ECS上可以访问OBS,下载桶中的图片或视频等数据。
详细操作请参考本地Windows主机使用FTP上传文件到Windows/Linux云服务器。 使用OBS上传文件 OBS可供用户存储任意类型的数据。将图片、视频等数据存储至OBS后,在ECS上可以访问OBS,下载桶中的图片或视频等数据。
本地Linux主机使用FTP上传文件到Linux云服务器 操作场景 本文介绍如何在 Linux 系统的本地机器上使用 FTP 服务,将文件从本地上传到云服务器中。 前提条件 已在待上传文件的云服务器中搭建 FTP 服务。
本地Linux主机使用FTP上传文件到Linux云服务器 操作场景 本文介绍如何在 Linux 系统的本地机器上使用 FTP 服务,将文件从本地上传到云服务器中。 前提条件 已在待上传文件的云服务器中搭建 FTP 服务。
图2 创建事件触发器 上传文件触发工作流执行 登录OBS服务控制台,进入桶“piccomp”对象列表页面上传图片,如图3所示。 上传图片至piccomp桶后OBS会自动生成事件触发工作流运行,将图片压缩。 触发器执行存在一定的延时,大概5分钟生效。 图3 上传文件 查看图片压缩效果
本地Windows主机使用FTP上传文件到Windows/Linux云服务器 操作场景 本节操作介绍如何在Windows操作系统的本地主机上使用FTP上传文件到云服务器。 前提条件 云服务器已绑定弹性公网IP,且安全组入方向开启TCP协议的21端口。
本地Linux主机使用SCP上传文件到Linux云服务器 操作场景 本节操作介绍本地Linux操作系统主机通过SCP向Linux云服务器传输文件的操作步骤。 操作步骤 登录管理控制台,在ECS列表页面记录待上传文件的云服务器的弹性公网IP。
本地Linux主机使用SCP上传文件到Linux云服务器 操作场景 本节操作介绍本地Linux操作系统主机通过SCP向Linux云服务器传输文件的操作步骤。 操作步骤 登录管理控制台,在ECS列表页面记录待上传文件的云服务器的弹性公网IP。
使用限制 区域限制 当前支持使用的区域为:北京四、上海一、上海二、广州、新加坡。 使用限制 当前仅支持OBS对象桶,不支持并行文件系统。 当前仅支持创建串行的工作流。 一个事件触发器仅支持关联一个工作流,一个工作流可同时被多个事件触发器关联。 当前暂不支持创建重名工作流,即使工作
本地Linux主机使用SFTP上传文件到Linux云服务器 操作场景 本节操作以CentOS操作系统为例,介绍配置SFTP、使用SFTP上传或下载文件、文件夹的操作步骤。 操作步骤 以root用户登录云服务器。 执行以下命令查看ssh版本,OpenSSH版本大于等于4.8p1。
本地Linux主机使用SFTP上传文件到Linux云服务器 操作场景 本节操作以CentOS操作系统为例,介绍配置SFTP、使用SFTP上传或下载文件、文件夹的操作步骤。 操作步骤 以root用户登录云服务器。 执行以下命令查看ssh版本,OpenSSH版本大于等于4.8p1。
上传文件到云服务器缓慢怎么办? 上传文件到云服务器时,您可能会遇到上传速度慢的问题。该问题可能是由于网络带宽限制、文件大小和类型、服务器负载过高、上传方式和工具以及优化网络连接等原因所致。 本文介绍上传文件慢的可能原因与处理措施,帮助您提高云服务器的上传速度,提升用户体验。
说明: 当前缀和后缀都不配置时,事件触发器将作用于桶中所有对象。 后缀 使事件触发器生效的对象后缀。 说明: 文件夹是以“/”结尾的,“/”前的字符为文件夹名称。若要对文件夹进行后缀匹配,后缀必须以“/”结尾。 当前缀和后缀都不配置时,事件触发器将作用于桶中所有对象。 单击“确定”,完成事件触发器创建。
根据算子市场上提供的分类进行选择。 算子logo 支持主流图片格式 图2 算子基本信息 请参考模板上传所需文件。 上传文件包括:算子代码包、中文和英文帮助文档、中文和英文开源声明、中文和英文服务协议文档、中文和英文测试报告。 图3 上传文件 配置算子参数。 参数 说明 Inputs参数(可选) 提供算子入参中
根据算子市场上提供的分类进行选择。 算子logo 支持主流图片格式。 图2 算子基本信息 上传算子文件。 上传文件包括:算子代码包、中文和英文帮助文档、中文和英文服务协议文档、中文和英文开源声明、中文和英文测试报告。 图3 上传文件 配置算子参数。 参数 说明 Inputs参数(可选) 提供算子入参中
触发器执行存在一定的延时,大概5分钟生效。 图2 创建事件触发器 上传文件触发工作流执行 登录OBS服务控制台,进入桶“piccomp”对象列表页面上传视频,如图3所示。 上传视频至piccomp桶后OBS会自动生成事件触发工作流运行,进行媒资转码。 图3 上传视频 查看媒资转码结果 转码后的视频存放在
触发器执行存在一定的延时,大概5分钟生效。 图2 创建事件触发器 上传文件触发工作流执行 登录OBS服务控制台,进入桶“piccomp”对象列表页面上传视频,如图3所示。 上传视频至piccomp桶后OBS会自动生成事件触发工作流运行,进行视频解析。 图3 上传视频 查看视频解析结果 解析后的视频参数存
一个事件触发器可以设置多个前缀或者后缀吗? 如果您需要使用一个工作流处理多种后缀的文件,可以为该工作流创建多条事件触发器来实现支持多个前缀或者后缀。 当前一个事件触发器支持设置一个前缀或者后缀,一个桶支持绑定10个触发器。 例如:对于媒资转码工作流,用户需要对后缀mp4和mov两
ir目录中以.png结尾的文件。 事件源触发器分两大类: ObjectCreated :监听包括上传,更新,复制等操作。 ObjectRemoved:监听删除对象操作。 事件源存储桶:触发器监听桶,只有当其中对象内容发生变化时才能触发工作流执行。 上传对象触发工作流执行 完成触发
事件源存储桶:“dataplus-test” 事件源类型:“ObjectCreated” 前缀:“perfix” 后缀:“suffix” 上传对象。 上传对象时带上自定义对象元数据,具体代码如下: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
"key": "exampleobject.docx",//对象名 "oldpsxpth": "",//文件在并行文件系统中rename前的路径 "sequencer": "1",//确定某个特定对象事件顺序的标识
发布算子 当完成算子开发、算子在工作流中的测试后,即可在DWR上将算子发布到算子市场。 操作步骤 在DWR控制台的“发布算子”页面,单击界面右上角的“发布公共算子”。 配置算子基本信息。 表1 配置基本信息 参数 说明 算子名称 不能与本用户已有的算子重名。 算子提供方 - 算子描述
案例概述 场景介绍 DWR平台除了提供面向使用者的平台功能,同时也支持合作伙伴将自有功能包装成算子发布到DWR平台上,帮助伙伴快速搭建用户的数据处理工厂。 算子发布流程 图1 算子发布流程图 部署服务:算子提供方需要将自身服务部署在华为云,同时对外提供API,方便用户进行调用。
创建详情参见创建事件函数。 函数类型选择“事件函数”,该类型函数可以被事件触发,在DWR的使用过程中为OBS的事件,例如上传对象事件,下载对象事件等。 代码上传方式选择“默认代码”。创建成功后FunctionGraph平台会自动生成一个python代码。 图1 创建函数界面 编辑python代码。
所有开发者均可以创建用于数据处理的算子,审核通过后发布至DWR算子市场,开放给所有华为云用户使用。 发布之前请按要求提供算子的基本信息、上传算子所需文件、配置算子参数。 发布区域:北京四、上海一、上海二、广州、新加坡 发布算子 OBS 2.0支持创建工作流 工作流主要是对算子进行编排
例如:输入abc或abc/,均表示视频存放在abc文件夹下,如果文件夹不存在,会自动新建。输出路径为空表示存放在桶的根目录。 tar 是否压缩抽帧图片生成tar包。 sync 是否同步处理,同步处理是指不下载全部文件,快速定位到截图位置进行截图。 type 采样类型,可选择如下类型:
服务类别 服务名称 交互关系 存储服务 对象存储服务(Object Storage Service,OBS) OBS作为DWR数据处理的数据源,当上传至OBS或存储在OBS的数据产生的事件满足触发器规则时,DWR将自动启动关联的工作流进行数据处理。 函数服务 函数工作流(FunctionGraph)
{//执行算子的输出结果 "tasks": [ {body}, // 直接返回body字符串 ] } } 返回方式2:文件流数据 { "execution_name":"84a3dd2bd67f43aa9b98cdd74604ca68", //工作流实例名称
独立组件无优化,效率低 端到端垂直优化,数据处理路径长,效率较高 端到端垂直优化,算子下推路径短,效率高 复杂度 业务流程复杂,复杂度高 业务流程复杂,复杂度高 图形化编排工具,一站式运维平台,复杂度低 DWR的优势 高效:数据处理时间缩短60% 近数据计算:调用算子提供商设定好的云服务器API来执行算子,函数化调用,路径短。
基本概念 工作流 工作流是DWR运行单位,其中可以包含一个或多个算子,客户可通过加入不同算子到工作流中实现高度自由化的数据处理功能。 算子 算子是DWR中的执行单位,是一个具有输入输出的完成功能模块。算子既有华为云提供的内置官方算子,也有经过华为云审核后的第三方算子。用户可以根据