检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
成长地图 | 华为云 数据工坊 数据工坊(Data Workroom,DWR)是一款近数据处理服务,通过易用的数据处理工作流编排和开放生态的数据处理算子,能够在云上实现各种灵活的数据处理业务。
应用场景 未来几年时间,数据量将会呈数倍增长趋势,海量数据的快速处理是企业数据变现的核心诉求。DWR提供的高效、开放、易用的近数据处理能力,让视频处理、图片审核、文档压缩、灾难防治、数据搜索和推荐、办公协同、基因测序等场景的海量数据快速产生价值。
处理数据 入门流程 示例:图片质量变换
华为算子的能力源是华为云数据处理相关的云服务,如媒体处理MPC、图像识别Image等,DWR将云服务提供的各种数据处理能力通过函数生成算子并在算子市场发布。
数据处理介绍 DWR如何实现数据处理 DWR提供的近数据处理能力,可以对OBS内存储的数据,按照用户编排的工作流进行自动化处理(如解析、转码、截图等)。
图解数据工坊服务
数据处理 数据处理介绍 创建工作流 启动工作流
什么是数据工坊 数据工坊(Data Workroom,DWR)是一款近数据处理服务,通过易用的数据处理工作流编排和开放生态的数据处理算子,能够在云上实现图像、视频、文档、图片等数据处理业务。 如图1所示,DWR主要对外提供开放的算子库和数据处理引擎。
进入“视频解析“算子工作流 打开控制台,在“服务搜索“框内搜索“DWR/数据工坊“并选择加载建议信息 选择“视频解析“算子 单击“创建工作流“ 在DWR服务中创建工作流 将“视频解析”算子拖拽至编排区域进行串联编排,并填写相关属性配置信息,如图1所示。
开放:算子库能力无上限 丰富算子生态:可调用海量华为云自有算子及第三方算子,免开发。 开放式自助注册:第三方算子轻松上架,引流增收。
在函数唯一标识中搜索上文中创建的测试算子。 图1 编排自定义工作流 配置DWR动态参数(dynamic_source) 上文算子测试时我们通过dynamic_source获取了两个参数值bucketname以及object。
进入“媒资转码“算子工作流 打开控制台,在“服务搜索“框内搜索“DWR/数据工坊“并选择加载建议信息 选择“媒资转码“算子 单击“创建工作流“ 在DWR服务中创建工作流 将“媒资转码”算子拖拽至编排区域进行串联编排,并填写相关属性配置信息,如图1所示。
父主题: 处理数据
人脸搜索 模板作用:在已有的人脸库中,查询与目标人脸相似的一张或者多张人脸,并返回相应的置信度。该模板实际调用的是FRS服务的人脸搜索接口。 表4 人脸搜索属性配置说明 属性类别 参数名称 参数说明 基本属性 名称 任务的名称,修改后将体现在工作流编排区域。
通过算子对数据进行处理,都会涉及到对OBS API的调用,每调用一次API都计算一次请求次数。对象存储服务OBS会根据调用API的请求次数进行费用收取,收取详情参见OBS请求费用说明。
操作步骤 在OBS服务中创建桶 在OBS服务控制台创建两个桶,一个用于上传待处理的数据对象,一个用于存储处理后的数据对象。桶的详细介绍参见创建桶。 数据输入桶:“piccomp” 数据处理后输出桶:“piccomp-output” 这里创建两个桶是为了防止无限循环。
启动工作流 通过事件触发器异步启动工作流 通过API异步启动工作流 通过API同步启动工作流 父主题: 数据处理
创建工作流 操作场景 工作流主要是对算子进行编排,这样DWR就可以按照用户编排的工作流对OBS中的数据进行自动化处理(如视频解析、图片转码、视频截图等)。 操作步骤 登录管理控制台。在左侧导航栏上方,单击,选择“存储 > 数据工坊DWR”。 进入DWR页面。
最新动态 本文介绍了数据工坊各特性版本的功能发布和对应的文档动态,欢迎体验。 序号 功能名称 功能描述 阶段 相关文档 1 数据工坊全新公测上线 数据工坊通过易用的数据处理工作流编排和开放生态的数据处理算子,能够在云上实现各种灵活的数据处理业务。 公测 什么是数据工坊
1 通过算子对数据进行处理,可能会使用到函数工作流的资源,比如算子执行时长,函数工作流会根据资源使用情况进行收费,收费详情参见函数工作流计费说明。 父主题: 抽帧截图(自定义算子)