检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
dpoint Administrator权限。 网络环境准备 如图1所示,专享版集群创建后,资源位于资源租户区,由ELB统一对集群节点进行负载均衡。 专享版集群创建后,您可以通过如下途径访问集群API: 内网地址:内网地址为用户VPC内的终端节点IP地址,默认具备。 外网地址(可
”参数,推荐在此处配置即可。 如果作业节点配置了重试,并且配置了超时时间,该节点执行超时后,系统支持再重试。 当前节点失败后,后续节点处理策略 是 节点执行失败后的操作: 终止后续节点执行计划:停止后续节点的运行,当前作业实例状态显示为“失败”。 终止当前作业执行计划:停止当前作
物理模型、维度模型、数据集市,都是模型,在数仓规划进行统一管理。 数仓规划支持细粒度权限管控,在数据安全模块对数据架构模型目录权限管控策略进行配置。 新建数仓分层 数仓分层支持用户根据实际业务场景进行自定义。具体操作如下: 进入数据架构主页面。 在数据架构控制台,单击左侧导航树中的“模型设计
ReadOnlyAccess MRS Administrator MRS Admin MRS User MRS Viewer Self Define(任意自定义策略) DWS数据源的用户同步任务有如下约束: 仅当DWS集群guest_agent版本为8.2.1,或在8.2.1以上、9.0.0以下时,才
Finish(Dummy节点):不执行任何操作,只作为结束点的标识。 作业编排完成后,单击,测试运行作业。 如果作业测试运行正常,单击右侧的“调度配置”,配置作业的调度策略。 图10 调度配置 说明: 调度方式:本示例中选择“周期调度”。 调度属性:2022/02/09至2022/02/28,每天1点执行一次作业。
通用添加安全组规则方法:打开数据源服务界面,进入用户集群,找到网络部分,单击安全组,跳转到安全组编辑页面,单击入方向规则,添加规则。可参考如下示例放通资源组网段。 优先级 策略 类型 协议端口 源地址 1 允许 IPv4 全部协议
通用添加安全组规则方法:打开数据源服务界面,进入用户集群,找到网络部分,单击安全组,跳转到安全组编辑页面,单击入方向规则,添加规则。可参考如下示例放通资源组网段。 优先级 策略 类型 协议端口 源地址 1 允许 IPv4 全部协议
量包创建集群后使用。 说明: 数据服务共享版当前仅限于华东-上海一、华北-北京四、华南-广州的存量用户调测使用,受限于服务稳定性和生命周期策略,不建议用于生产环境。 DataArts Studio实例中默认不包含数据服务专享集群,如果您需要使用数据服务专享版,请创建数据服务专享集群增量包。
包括结构化、半结构化和非结构化数据。 数据处理工具,则分为两大类: 第一类工具,聚焦如何把数据“搬到”湖里。包括定义数据源、制定数据同步策略、移动数据、编制数据目录等。 第二类工具,关注如何对湖中的数据进行分析、挖掘、利用。数据湖需要具备完善的数据管理能力、多样化的数据分析能力
通用添加安全组规则方法:打开数据源服务界面,进入用户集群,找到网络部分,单击安全组,跳转到安全组编辑页面,单击入方向规则,添加规则。可参考如下示例放通资源组网段。 优先级 策略 类型 协议端口 源地址 1 允许 IPv4 全部协议
目的端需要配置的作业参数 同步场景 目的端需要配置参数 字段映射 单表 基本参数 高级属性 支持 分库分表 基本参数 高级属性 支持 整库迁移 选择库匹配策略和表匹配策略 不支持 配置字段映射关系。 配置作业源端参数和目的端参数后,需要配置源端和目的端列的映射关系,配置字段映射关系后,任务将根据字段映
用数据开发中定义的参数值。 字段名 仅用于异常表。配置字段名称用于异常表数据。 示例:column1,column2,column3 失败策略 选择是否勾选“忽略规则错误”。 选择字段 当“规则类型”选择“字段级规则”,需要配置该参数。此处选择对应数据表中的字段。 说明: 数据质
String 算法名称。 algorithm_parameters 否 String 参数。 failure_policy 否 String 失败策略。 枚举值: SKIP:跳过, 即不做处理 INTERRUPT_AND_EXCEPTION:中断并抛出异常 SET_NULL:置空 DEFAULT_VALUE:默认值
图10 查看从属角色 目录权限:在角色详情页面,单击“目录权限”进入目录权限页签。 目录权限通过从Ranger组件获取对应角色的HDFS策略,从而显示该角色具有权限的HDFS路径,并支持查看对该路径有哪些操作权限。如果想查询某路径下的权限,则可以使用搜索功能进行查看,注意当前仅支持精确匹配。
API的节点编码分别为NormalApi_3ad5c、NormalApi_01e7e。 单击画布上的并行处理算子打开配置面板,可以配置失败策略及分支超时时间(此处无需特殊配置,报错默认即可)。当并行处理分支被执行时,SupplierInformation和SalesRating两个分支会被同时调度。
S、Hive、HBase、Kafka、Storm等进行细粒度的数据访问控制。用户可以利用Ranger提供的前端WebUI控制台通过配置相关策略来控制用户对这些组件的访问权限 。 MapReduce服务(MRS Hudi) Hudi是一种数据湖的存储格式,在Hadoop文件系统之上
r权限,才能在管理中心创建连接。 仅具备Manager_tenant或Manager_auditor权限,无法创建连接。 建议用户名的密码策略设置为永不过期,避免由于密码过期导致连接失败,引起业务受损。 密码 是 MRS集群的访问密码,通过代理连接的时候,是必选项。 开启ldap
选择“数据质量监控 > 规则模板”,单击“导入”,弹出“导入规则模板”对话框。 图10 导入规则模板 在“导入配置”页签,选择模板名称重名策略。 终止:如果模板名称有重复,则全部导入失败。 跳过:如果模板名称有重复,会忽略后继续导入。 单击“上传文件”,选择准备好的数据文件。 可通过如下两种方式填写数据文件:
某一个表字段作为DISTRIBUTE BY字段,可选取多个字段。 DWS表当前支持复制(Replication)和散列(Hash)两种分布策略。 REPLICATION:在每一个DN节点上存储一份全量表数据。这种存储方式的优点是每个DN上都有此表的全量数据,在join操作中可以避
String 算法名称。 algorithm_parameters 否 String 参数。 failure_policy 否 String 失败策略。 枚举值: SKIP:跳过, 即不做处理 INTERRUPT_AND_EXCEPTION:中断并抛出异常 SET_NULL:置空 DEFAULT_VALUE:默认值