检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
产品优势 数据处理方式对比 传统线下处理方式：硬件为用户自建IDC，软件为自研或集成商的数据处理软件，通过数据处理软件完成数据处理。 传统云上处理方式：使用云上存储服务和数据处理服务，数据写入存储服务后，再调用数据处理服务接口实现数据处理。 云上近数据处理方式：使用云上存储服务和
应用场景 未来几年时间，数据量将会呈数倍增长趋势，海量数据的快速处理是企业数据变现的核心诉求。DWR提供的高效、开放、易用的近数据处理能力，让视频处理、图片审核、文档压缩、灾难防治、数据搜索和推荐、办公协同、基因测序等场景的海量数据快速产生价值。 DWR的应用场景包括但不限于以下典型场景。
操作场景 工作流主要是对算子进行编排，这样DWR就可以按照用户编排的工作流对OBS中的数据进行自动化处理（如视频解析、图片转码、视频截图等）。 操作步骤 登录管理控制台。在左侧导航栏上方，单击，选择“存储 > 数据工坊DWR”。 进入DWR页面。 在左侧导航栏选中“工作流”，进入
最新动态 本文介绍了数据工坊各特性版本的功能发布和对应的文档动态，欢迎体验。 序号 功能名称 功能描述 阶段 相关文档 1 数据工坊全新公测上线 数据工坊通过易用的数据处理工作流编排和开放生态的数据处理算子，能够在云上实现各种灵活的数据处理业务。 公测 什么是数据工坊
使用限制 当前支持使用的区域为：北京四、上海一、上海二、广州、新加坡。 操作步骤 在OBS服务中创建桶 在OBS服务控制台创建两个桶，一个用于上传待处理的数据对象，一个用于存储处理后的数据对象。桶的详细介绍参见创建桶。 数据输入桶：“piccomp” 数据处理后输出桶：“piccomp-output”
当前暂不支持创建重名工作流，即使工作流被删除后，也不能再创建与之重名的工作流。 同一桶内的触发器名称不允许重复。 工作流及工作流中使用的FunctionGraph、数据处理服务、消息通知服务、OBS桶等均需要在相同区域的默认项目下。 细粒度授权不支持企业项目。 一个桶支持绑定10个事件触发器。 当前发布算子功能仅支持IAM主账号。
资源 资源说明 数量 每月费用 OBS 算子请求OBS API。 1 通过算子对数据进行处理，都会涉及到对OBS API的调用，每调用一次API都计算一次请求次数。对象存储服务OBS会根据调用API的请求次数进行费用收取，收取详情参见OBS请求费用说明。 FunctionGraph函数
在OBS服务控制台创建两个桶，一个用于上传待处理的数据对象，一个用于存储处理后的数据对象。桶的详细介绍参见创建桶。 数据输入桶：“piccomp” 数据处理后输出桶：“piccomp-output” 这里创建两个桶是为了防止无限循环。因为处理后的数据如果放在源桶，又跟事件触发器执行的条件匹配，会继续触发工
保账号及资源的安全性，有关IAM的详细介绍请参见IAM用户。此处介绍如何创建一个具有DWR访问权限的IAM用户。如果您不需要使用IAM用户，可以略过此部分内容。 在华为云官网，单击页面右上角的“控制台”，使用注册账号登录控制台。 在“控制台”页面，鼠标移动至右上方的用户名，在下拉列表中选择“统一身份认证”。
所有开发者均可以创建用于数据处理的算子，审核通过后发布至DWR算子市场，开放给所有华为云用户使用。 当算子被华为云用户使用之后，算子发布者将会获得相应的收益，详情参见计费说明。 算子从API上线、开发、到发布的整个流程如图1所示，本节主要介绍如何使用DWR发布已开发好的算子到算子市场。
算子市场介绍 算子市场即为DWR提供的算子库，提供方包括华为和第三方。 华为云自有算子的能力源是华为云数据处理相关的云服务，如媒体处理MPC、图像识别Image等，DWR将云服务提供的各种数据处理能力通过函数生成算子并在算子市场发布。 第三方算子是基于DWR的算子注册能力，由第三方开发者
所有开发者均可以创建用于数据处理的算子，审核通过后发布至DWR算子市场，开放给所有华为云用户使用。 当算子被华为云用户使用之后，算子发布者将会获得相应的收益，详情参见计费说明。 算子从API上线、开发、到发布的整个流程如图1所示，本节主要介绍如何使用DWR发布已开发好的算子到算子市场。
启动工作流 通过事件触发器异步启动工作流 通过API异步启动工作流 通过API同步启动工作流 父主题： 数据处理
针对使用DWR做视频转码的场景，如果需要每个对象转码任务的参数不同，可通过给对象增加对象元数据（例如：x-obs-meta-transcode-commands: base64(commands)），再使用DWR集成自定义函数的方式来实现视频转码。 具体的工作流视图如图1所示。 图1
访问其他数据处理服务的权限不会在统一授权时添加，系统会在您创建工作流时，根据工作流函数使用到的服务按需添加。 如果账号的下的IAM用户需要使用DWR，则需要给IAM用户配置FunctionGraph、数据处理服务（如MPC）、SMN等服务的访问权限。具体配置的权限需要和委托的权限保
通过API异步启动工作流 DWR支持通过API异步启动已有工作流，详情参见API异步启动工作流。 父主题： 启动工作流
p1对应的值为v1，p2对应的值为v2。 注意： 当参数名和值中包含下划线时，需将下划线转义为“%5F”。 如：工作流名称为test-workflow，参数名p1为thumb_samp_maxlen，p1的值v1为500，参数名p2为thumb_samp_dots，p2的值v2为11，则请求为：<对象url>
媒资转码”函数的转码输出桶为桶A。然后，在桶A上配置触发器关联工作流workflowA。如果自定义函数输出的对象前缀或后缀匹配触发器triggerA的前后缀条件（比如：前缀和后缀不配置，或者对象满足触发器条件），则转码的输出会再次触发工作流，从而导致用户工作流不停的执行，出现“无限循环”。
权限管理 创建用户并授权使用DWR DWR自定义策略
算子管理 算子市场介绍 发布算子 官方算子一览
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
