检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
网或者专线打通网络。通过公网互通时,需确保GDS-kafka集群已绑定EIP,数据源所在的主机可以访问公网且防火墙规则已开放连接端口。 GDS-kafka集群与云上服务同区域情况下,同虚拟私有云、同子网、同安全组的不同实例默认网络互通;如果同虚拟私有云但是子网或安全组不同,还需配
在HDFS文件系统上,从而提高整体导出性能。 准备环境 已创建DWS集群,需确保MRS和DWS集群在同一个区域、可用区、同一VPC子网内,确保集群网络互通。 创建MRS分析集群 登录华为云控制台,选择“大数据 > MapReduce服务”,单击“购买集群”,选择“自定义购买”,填写软件配置参数,单击“下一步”。
执行导出数据 前提条件 需要确保每一个CN和DN所在服务器到GDS服务器的IP和端口是互通的。 导出操作语法 执行数据导出语法: 1 INSERT INTO [foreign table 表名] SELECT * FROM [源表名]; 编写批处理任务脚本,实现并发批量导出数
特定的区域、可用分区创建资源。 区域(Region):从地理位置和网络时延维度划分,同一个Region内共享弹性计算、块存储、对象存储、VPC网络、弹性公网IP、镜像等公共服务。Region分为通用Region和专属Region,通用Region指面向公共租户提供通用云服务的Re
不会加速单个SQL任务。gds -t缺省值为8,上限值为200。在使用管道功能进行导入导出时,-t参数应不低于业务并发数。如果是双集群互联互通场景,-t参数应不低于业务并发数的两倍。 由于管道“读取即删除”的特点,需确保导入或导出过程中除GDS程序外无其他程序读取管道文件,避免导
0形态8.2.1.300及以上集群版本。 LakeFormation基于VPC终端节点服务对接,因此创建LakeFormation数据源时也会获取当前DWS集群VPC下的终端节点,如果不存在则需要重新创建,VPC终端节点会产生额外费用。 前提条件 有可用的LakeFormation
数据库与外部网络隔离 GaussDB(DWS)在单独的虚拟私有云VPC网络中,各VPC之间相互隔离。数据库作为一个组件,按照防火墙安全区域的划分是属于内部用户接口网络区域内,即受信类区域,不涉及其他区域的划分。客户端和对外服务节点CN之间的通信(命令行工具、GUI Tool及基于客户端
支持两个GaussDB(DWS)集群之间的数据互访互通。通过Foreign Table方式实现跨DWS集群的数据访问和导入。 适用于多套GaussDB(DWS)集群之间的数据同步。 基于GDS的跨集群互联互通 - 通过GDS进行数据中转,实现多个集群之间的数据同步。 适用于多套GaussDB(DWS)集群之间的数据同步。
用于协同分析、跨集群互联互通,表示将要连接的远端集群的数据库名字。 username 用于协同分析、跨集群互联互通,表示将要连接的远端集群的用户名。 password 用于协同分析、跨集群互联互通,表示将要连接的远端集群的用户名密码。 syncsrv 仅用于跨集群互联互通,表示数据同步过
用于协同分析、跨集群互联互通,表示将要连接的远端集群的数据库名字。 username 用于协同分析、跨集群互联互通,表示将要连接的远端集群的用户名。 password 用于协同分析、跨集群互联互通,表示将要连接的远端集群的用户名密码。 syncsrv 仅用于跨集群互联互通,表示数据同步过
步骤二:创建GaussDB(DWS)集群 创建集群,同时为确保网络连通,GaussDB(DWS)集群的区域、VPC选择与RDS实例保持一致,本实践为“华北-北京四”,虚拟私有云与上面创建RDS的虚拟私有云保持一致。 在GaussDB(DWS)控制台的“专属集群 > 集群列表”页面,单击指定集群所
DWS Administrator DWS数据库管理员权限,拥有对数据仓库服务的所有执行权限。 拥有VPC Administrator权限的GaussDB(DWS)用户可以创建VPC或子网。 拥有云监控Administrator权限的GaussDB(DWS)用户,可以查看GaussDB(DWS)集群的监控指标信息。
导入数据到GaussDB(DWS)数据仓库的过程。 了解DLI请参见数据湖产品介绍。 本实践预计时长60分钟,实践用到的云服务包括虚拟私有云 VPC及子网、数据湖探索 DLI、对象存储服务 OBS和数据仓库服务 GaussDB(DWS),基本流程如下: 准备工作 步骤一:准备DLI源端数据
用于协同分析、跨集群互联互通,表示将要连接的远端集群的数据库名字。 username 用于协同分析、跨集群互联互通,表示将要连接的远端集群的用户名。 password 用于协同分析、跨集群互联互通,表示将要连接的远端集群的用户名密码。 syncsrv 仅用于跨集群互联互通,表示数据同步过
使用公网IP连接GaussDB(DWS)集群时如何设置白名单? 用户可以登录VPC管理控制台手动创建一个安全组,然后回到GaussDB(DWS)创建集群页面,单击“安全组”下拉列表旁边的按钮,刷新后在“安全组”下拉列表中选择新建的安全组。 为了使GaussDB(DWS)客户端可以
例如ECS和DWS都部署在“北京四”下,但是ECS在VPC1下,DWS在VPC2下,此时需要将VPC1和VPC2建立对等连接后,ECS即可通过DWS的内网IP进行访问。 检查通信的基本要点是ECS出方向规则、DWS入方向规则、两个VPC已建立对等连接,检查步骤如下: 检查ECS出方向规则:
"dws:*:list*", "vpc:vpcs:list", "vpc:ports:create", "vpc:ports:get", "vpc:ports:update", "vpc:subnets:get", "vpc:subnets:update", "vpc:subnets:create"
约束限制 确保VPC、ECS、OBS、Kafka、DLI和DWS服务在同一个区域内,例如华北-北京四。 确保Kafka、DLI、DWS网络互通。本实践将Kafka和DWS创建在同一个区域和虚拟私有云下,同时在Kafka和DWS的安全组中放通了DLI的队列所在网段,确保网络互通。 为确保
集群所在VPC与子网网段。 登录虚拟私有云管理控制台,在左侧导航栏选择“我的VPC”,找到需要建立对等连接的VPC。 在虚拟私有云左侧导航栏下选择“对等连接”,在页面右上角单击“创建对等连接”。 在弹出页面中选择“本端VPC”为集群VPC,“对端VPC”为ELB所在VPC,确认无误后,单击“确定”。
"vpc:*:get*", "vpc:*:list*", "vpc:*:create*", "vpc:*:delete*"