检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
"iam:permissions:revokeRoleFromGroup" ] } ] } 图2 创建IAM相关自定义策略 再次单击“创建自定义策略”,在弹出的创建自定义策略页面中,切换到JSON视图,填写MRS权限管理所需的MRS和C
表1 OBS作为目的端时的作业参数 参数类型 参数名 说明 取值样例 基本参数 桶名 写入数据的OBS桶名。 bucket_2 写入目录 写入数据到OBS服务器的目录,目录前面不加“/”。 该参数支持配置为时间宏变量,且一个路径名中可以有多个宏定义变量。使用时间宏变量和定时任务配合
分别用于实时数据导入到DLI、实时数据导出到OBS。 创建实时数据导入到DLI的通道,通道名称为“dis-alarm-input”。 图2 创建input通道 创建实时数据导出到OBS的通道,通道名称为“dis-alarm-output”。 图3 创建output通道 为dis
`fare_amount` DECIMAL(10,2) COMMENT '', `extra` DECIMAL(10,2) COMMENT '', `mta_tax` DECIMAL(10,2) COMMENT '', `tip_amount` DECIMAL(10,2) COMMENT ''
存、CPU核数等),用于优化资源使用效率,提升作业的执行性能。 说明: 若集群为MRS 1.8.7版本或MRS 2.0.1之后版本,需要配置此参数。 MRS Hive SQL作业的运行程序参数,请参见《MapReduce用户指南》中的“运行HiveSql作业 > 表2 运行程序参数”。
在东八区某地,日志显示时间比本地时区时间少8个小时。因此在CDM迁移数据到云搜索服务的时候,如果是通过CDM自动创建的索引和类型(例如图2中,目的端的“date_test”和“test1”在云搜索服务中不存在时,CDM会在云搜索服务中自动创建该索引和类型),则CDM默认会将时间
Python作业。 MRS Spark Python算子的具体使用教程,请参见开发一个MRS Spark Python作业。 参数 用户可参考表1,表2和表3配置MRS Spark Python节点的参数。 表1 属性参数 参数 是否必选 说明 节点名称 是 节点名称,可以包含中文、英文字母
校验文件个数以及文件大小。 在MRS中恢复HBase表并验证。 准备数据 项目 数据项 说明 取值示例 DES盒子 挂载地址 DES盒子在客户的虚拟机挂载的地址。 //虚拟机IP/huawei 存储管理系统 DES盒子的存储管理系统,与管理IP相关。 https://管理IP:8088/device
SQLServer同步到DWS作业配置 SQLServer建议使用版本:企业版2016、2017、2019、2022版本;标准版2016 SP2及以上版本、2017、2019、2022版本。 DWS建议使用版本:8.1.3、8.2.0及以上版本(除DWS 3.0)。 Hadoop:MRS
该作业默认使用工作空间级委托。您也可从委托列表中,选择其他已创建的委托。创建委托和配置权限,请参见参考:创建委托和参考:配置委托权限。 图2 配置作业委托 修改已有作业的委托 在数据开发主界面的左侧导航栏,选择“数据开发 > 作业开发”。 在作业目录处,双击选中已有作业。在节点编
免由于连接失败导致业务受损。 当前DataArts Studio不支持对接“Kerberos加密类型”为“aes256-sha2,aes128-sha2”的MRS集群。如需对接MRS集群,请注意“Kerberos加密类型”应为“aes256-sha1,aes128-sha1”。
迁移文件或对象时支持文件级增量迁移(通过配置跳过重复文件实现),但不支持断点续传。 例如要迁移3个文件,第2个文件迁移到一半时由于网络原因失败,再次启动迁移任务时,会跳过第1个文件,从第2个文件开始重新传,但不能从第2个文件失败的位置重新传。 文件迁移时,单个任务支持千万数量的文件,如果待迁移目录下文
dlg_agency授权 在授权框中,分别搜索并勾选“Security Administrator”和“DLI FullAccess”,单击“下一步”。 图2 勾选Security Administrator 单击“确定”,给委托完成授权。授权后,等待15-30分钟,权限可正常同步到DLI。 父主题:
DLF数据开发V1接口:dayu-dlf.{region_id}.myhuaweicloud.com,具体如表2所示。 DLF数据开发V2接口:dayu.{region_id}.myhuaweicloud.com,具体如表2所示。 DataArts Studio其他组件接口(如管理中心、数据架构、数据质量、
选择集群操作列中的“更多 > 删除”。 选中需要删除的集群,单击删除按钮。 输入“DELETE”后单击“确定”,即开始删除CDM集群。 图2 删除集群1 父主题: 创建并管理CDM集群
图1 文件敏感数据检测页面 在文件敏感数据检测页面,单击“新建”,创建文件敏感数据检测任务。在弹出的窗口中填写任务名称,选择文件。 图2 文件敏感数据检测页面 单击确定,任务自动运行。等待任务运行完成,即可查看检测结果。 图3 查看检测结果 父主题: 敏感数据治理
适用组件勾选数据集成后,呈现此参数。 Hive的版本。根据服务端Hive版本设置。 说明: HIVE_3_X支持Hive服务端版本为3.x的连接,HIVE_2_X支持Hive服务端版本为2.x的连接。使用不匹配的连接版本,测试连接有可能正常,也可能会出现查询库表为空,或者作业失败等不正常场景。 属性配置 hive
维度建模实现数据标准化,通过统一指标平台建设,实现规范化指标体系,消除歧义、统一口径、统一计算逻辑,对外提供主题式数据查询与挖掘服务。 图2 数据架构 DataArts Studio数据架构主要包括以下三个部分: 主题设计 构建统一的数据分类体系,用于目录化管理所有业务数据,便于
运行程序参数 否 为本次执行的作业配置相关优化参数(例如线程、内存、CPU核数等),用于优化资源使用效率,提升作业的执行性能。 说明: 若集群为MRS 1.8.7版本或MRS 2.0.1之后版本,需要配置此参数。 表2 高级参数 参数 是否必选 说明 节点状态轮询时间(秒) 是 设置轮
SQL脚本和Flink作业。 MRS Flink Job节点的具体使用教程,请参见开发一个MRS Flink作业。 参数 用户可参考表1和表2配置MRS Flink节点的参数。 表1 属性参数 参数 是否必选 说明 节点名称 是 节点名称,可以包含中文、英文字母、数字、“_”、“-