检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
运行成功后，登录MRS manager后在YARN上查看日志，发现有hello python的输出。 图9 查看YARN上日志 父主题： 使用教程
获取SQL节点的输出结果值 当您在数据开发模块进行作业开发，需要获取SQL节点的输出结果值，并将结果应用于后续作业节点或判断时，可参考本教程获取SQL节点的输出结果。 场景说明 使用EL表达式#{Job.getNodeOutput("前一节点名")}获取的前一节点的输出结果时，输出结果为二维数组形式
DataArts Studio数据架构的流程如下： 图1 数据架构流程 准备工作： 添加审核人：在数据架构中，业务流程中的步骤都需要经过审批，因此，需要先添加审核人。只有工作空间管理员角色的用户才具有添加审核人的权限。 管理配置中心：数据架构中提供了丰富的自定义选项，统一通过配置中心
人进行管理。 审批人管理 选择“数据权限 > 审批中心”，在“审批人管理”页签“新建”和“删除”审批人，如图1。审批人数据来源于工作空间中添加的人。 图1 管理审批人 待我审批 选择“数据权限 > 审批中心”，单击“待我审批”页签。 在此页面查看当前需要用户审批的申请单。 单击操
到的迁移数据复制导出并导入目的端。 图6 配置where子句 where子句配置如下： dt > '${maxtime}' 父主题： 使用教程
模板，系统支持可以引用多个模板。 参数名称及参数值会自动展示出来，如下图所示。 图5 单任务Flink Jar引用参数模板 父主题： 使用教程
见主机连接参数说明。 连接主机的用户需要具有主机/tmp目录下文件的创建与执行权限。 Shell或Python脚本可以在该ECS主机上运行的最大并发数由ECS主机的/etc/ssh/sshd_config文件中MaxSessions的配置值确定。请根据Shell或Python脚本
FTP/SFTP连接适用于从线下文件服务器或ECS服务器上迁移文件到数据库。 当前仅支持Linux操作系统的FTP 服务器。 作业运行中禁止修改密码或者更换用户。在作业运行过程中修改密码或者更换用户，密码不会立即生效且作业会运行失败。 连接FTP或SFTP服务器时，连接参数相同，如表1所示。
查找数据源路由表 在路由表界面中选择“基本信息”页签，单击“添加路由”，目的地址指向Migration资源组VPC网段（例如172.16.0.0/19），下一跳跳至此前已配置好的企业路由器。 图6 数据源路由表添加路由 企业路由器中添加路由。 登录企业路由器控制台，在左侧导航栏，选择“企业路由器
} } } 获取Token后，再调用其他接口时（以数据开发组件的“查询连接列表”接口为例），您需要在请求消息头中添加“X-Auth-Token”，其值即为Token。例如Token值为“ABCDEFJ....”，则调用接口时将“X-Auth-Token:
在分页查询时，您可以通过参数（参数名use_total_num）控制是否计算并返回数据总条数。 例如，第一次查询时添加入参use_total_num=1获取数据总条数，后续再次请求接口时添加入参use_total_num=0不获取数据总条数。 图2 数据总条数 父主题： 数据服务
单击创建好的网关名称，然后选择“添加SNAT规则”。 图1 添加SNAT规则 选择子网和弹性IP，如果没有弹性IP，需要先申请一个。 完成之后，就可以到CDM控制台，通过Internet迁移公网的数据上云了。例如：迁移本地数据中心FTP服务器上的文件到OBS、迁移第三方云上关系型数据库到云服务RDS。
查看数据血缘 首先在数据目录组件完成元数据采集任务，当数据开发作业满足自动血缘解析要求或已手动配置血缘，然后成功完成作业调度后，则可以在数据目录模块可视化查看数据血缘关系。 约束限制 数据血缘关系更新依赖于作业调度，数据血缘关系是基于最新的作业调度实例产生的。 对于同一版本的数据
通过MRS Spark Python节点实现在MRS中执行预先定义的Spark Python作业。 MRS Spark Python算子的具体使用教程，请参见开发一个MRS Spark Python作业。 参数 用户可参考表1，表2和表3配置MRS Spark Python节点的参数。 表1
通过数据目录查看数据血缘关系 数据血缘方案简介 配置数据血缘 查看数据血缘 父主题： 数据目录典型场景教程
地数据治理方法论。 根据业务需求设计关系模型、维度模型，在数据架构模块中，逐步建立模型中的对象，例如维度、事实表、指标、汇总表等。 添加审核人 添加审核人 管理配置中心 管理配置中心 流程设计 流程设计 主题设计 主题设计 码表管理 新建码表 制定数据标准 新建数据标准 关系建模
数据血缘方案简介 什么是数据血缘 大数据时代，数据爆发性增长，海量的、各种类型的数据在快速产生。这些庞大复杂的数据信息，通过联姻融合、转换变换、流转流通，又生成新的数据，汇聚成数据的海洋。 数据的产生、加工融合、流转流通，到最终消亡，数据之间自然会形成一种关系。我们借鉴人类社会中
该IF判断条件表示，仅当从DIS通道获取的消息逗号后的部分为“21”时，即每月21日时，才执行后续的作业节点。 如果您需要匹配多条消息记录，可以添加多个Dummy节点并分别添加到Subjob节点的IF条件，然后将数据开发组件配置项中的“多IF策略”设置为“逻辑或”即可。 图4 编辑参数表达式 测试运
示例场景说明 本示例是一个DataArts Studio全流程入门教程，旨在介绍如何在DataArts Studio平台完成端到端的全流程数据运营。 本案例基于某市的出租车出行数据，选择MRS Hive作为数据湖底座，使用DataArts Studio实施全流程数据治理。期望通过实施数据治理达到以下目标：
本端子网除了需要添加中转VPC的子网之外，还需要添加实时资源组的VPC网段。 购买和配置虚拟专用网络VPN的相关操作，可以参考通过企业版站点入云VPN实现数据中心和VPC互通。其中在创建VPN网关时，虚拟私有云选择步骤2所创建的中转VPC，本端子网除了需要添加中转VPC的子网之外，还需要添加实时资源组的VPC网段。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
