华为云用户手册

  • WAN链路数据规划 规划ZTP(Zero Touch Provisioning,零配置部署)开局配置所需的数据。 表1 站点及ZTP配置(总部站点) 参数 数据 备注 站点 Hub1 Hub2 - ZTP模式 URL/U盘 URL/U盘 - 多子接口 OFF OFF - 设备配置 模板导入 Double_RR_Mix Double_RR_Mix - 设备 Hub1_1 Hub1_2 Hub2_1 Hub2_2 - 链路名称 Device1_internet Device1_internet1 Device2_internet Device2_internet1 Device1_internet Device1_internet1 Device2_internet Device2_internet1 - VN实例 underlay_1 underlay_2 underlay_3 underlay_4 underlay_1 underlay_2 underlay_3 underlay_4 - 接口协议类型 IPoE IPoE IPoE IPoE IPoE IPoE IPoE IPoE - 链路接入网络方式 静态 静态 静态 静态 静态 静态 静态 静态 - IP地址/掩码 20.1.1.1/24 110.1.1.1/24 20.1.2.1/24 110.1.2.1/24 30.1.1.1/24 120.1.1.1/24 30.1.2.1/24 120.1.2.1/24 url开局链路配置完成后不可修改 网关 20.1.1.2 110.1.1.2 20.1.2.2 110.1.2.2 30.1.1.2 120.1.1.2 30.1.2.2 120.1.2.2 url开局链路配置完成后不可修改 公网IP 20.1.1.1 110.1.1.1 20.1.2.1 110.1.2.1 30.1.1.1 120.1.1.1 30.1.2.1 120.1.2.1 该链路上外部可访问的IP地址,分支通过该IP地址注册到RR站点。当RR站点在NAT设备后时,需要规划。 NAT穿越 ON ON ON ON ON ON ON ON - URL开局配置 ON ON ON ON ON ON ON ON 配置完成后开局链路不可修改,非开局链路支持删除和新增。 控制器南向接入服务 Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access WAN链路默认均使用默认南向接入服务(即Public Default South Access)。 上行容量(Mbps) 1000 1000 1000 1000 1000 1000 1000 1000 需要根据客户实际购买的链路带宽设置。 下行容量(Mbps) 1000 1000 1000 1000 1000 1000 1000 1000 表2 站点及ZTP配置(分支站点) 参数 数据 备注 站点 Site1 - ZTP模式 URL/U盘 - 多子接口 OFF - 模板导入 Double_CPE_Mix - 设备 Site1_AR_1 Site1_AR_2 - 链路名称 Device1_internet Device2_internet1 - VN实例 underlay_1 underlay_2 - 接口协议类型 IPoE IPoE - 链路接入网络方式 静态 静态 - IP地址/掩码 50.1.1.1/24 140.1.1.1/24 url开局链路配置完成后不可修改 网关 50.1.1.2 140.1.1.2 url开局链路配置完成后不可修改 NAT穿越 ON ON - URL开局 ON ON 配置完成后开局链路不可修改,非开局链路支持删除和新增。 控制器南向接入服务 Public Default South Access Public Default South Access WAN链路默认均使用默认南向接入服务(即Public Default South Access)。 上行容量(Mbps) 20 20 需要根据客户实际购买的链路带宽设置。 下行容量(Mbps) 100 100 表3 分支站点连接RR站点的规划 分支站点 连接到RR Site1 Hub1、Hub2 父主题: 开局部署数据规划
  • WAN链路数据规划 规划ZTP(Zero Touch Provisioning,零配置部署)开局配置所需的数据。 表1 站点及ZTP配置(总部站点) 参数 数据 备注 站点 Hub1 Hub2 - ZTP模式 URL/U盘 URL/U盘 - 多子接口 OFF OFF - 设备配置 模板导入 Double_RR_internet_links Double_RR_internet_links - 设备 Hub1_1 Hub1_2 Hub2_1 Hub2_2 - 链路名称 Device1_internet Device2_internet Device1_internet Device2_internet - VN实例 underlay_1 underlay_2 underlay_1 underlay_2 - 接口协议类型 IPoE IPoE IPoE IPoE - 链路接入网络方式 静态 静态 静态 静态 - IP地址/掩码 20.1.1.1/24 20.1.2.1/24 30.1.1.1/24 30.1.2.1/24 url开局链路配置完成后不可修改 网关 20.1.1.2 20.1.2.2 30.1.1.2 30.1.2.2 url开局链路配置完成后不可修改 公网IP 20.1.1.1 20.1.2.1 30.1.1.1 30.1.2.1 该链路上外部可访问的IP地址,分支通过该IP地址注册到RR站点。当RR站点在NAT设备后时,需要规划。 NAT穿越 ON ON ON ON - URL开局配置 ON ON ON ON 配置完成后开局链路不可修改,非开局链路支持删除和新增。 控制器南向接入服务 Public Default South Access Public Default South Access Public Default South Access Public Default South Access WAN链路默认均使用默认南向接入服务(即Public Default South Access)。 上行容量(Mbps) 1000 1000 1000 1000 需要根据客户实际购买的链路带宽设置。 下行容量(Mbps) 1000 1000 1000 1000 表2 站点及ZTP配置(分支站点) 参数 数据 备注 站点 Site1 - ZTP模式 URL/U盘 - 多子接口 OFF - 设备配置-公共项 - 模板导入 Single_CPE_Mix - 设备 Site1_AR - 链路名称 Internet_1 Internet_2 - VN实例 underlay_1 underlay_2 - GE接口的规划项 接口协议类型 IPoE - - 链路接入网络方式 静态 - - IP地址/掩码 40.1.1.1/24 - url开局链路配置完成后不可修改 网关 40.1.1.2 - url开局链路配置完成后不可修改 LTE接口的规划项 APN - CTLTE 需要向运营商获取。 用户名 - Enterprise_site1 需要向运营商获取。 密码 - 1234567 需要向运营商获取。 优先级 - 100 默认值100,值越大,优先级越高。 鉴权方式 - CHAP 需要向运营商获取。 其他公共项 NAT穿越 ON ON - URL开局 ON ON 配置完成后开局链路不可修改,非开局链路支持删除和新增。 控制器南向接入服务 Public Default South Access Public Default South Access WAN链路默认均使用默认南向接入服务(即Public Default South Access)。 上行容量(Mbps) 20 20 需要根据客户实际购买的链路带宽设置。 下行容量(Mbps) 100 100 表3 分支站点连接RR站点的规划 分支站点 连接到RR Site1 Hub1、Hub2 父主题: 开局部署数据规划
  • 网络信息规划 本案例中规划的网络数据、业务数据等均为示例,仅供参考,请根据实际项目要求调整参数值。 表1 网络物理链路规划表 源设备 源设备Eth-Trunk接口 源设备Eth-Trunk成员接口 目的设备 目的设备Eth-Trunk接口 目的设备Eth-Trunk成员接口 第三方路由器1 第三方设备,不做描述 第三方设备,不做描述 Core Eth-Trunk1 XGE1/1/0/5 第三方设备,不做描述 Core XGE2/1/0/5 第三方路由器2 第三方设备,不做描述 第三方设备,不做描述 Core Eth-Trunk2 XGE1/1/0/6 第三方设备,不做描述 Core XGE2/1/0/6 Core Eth-Trunk3 XGE1/1/0/1 LSW1 Eth-Trunk3 GE0/0/2 XGE2/1/0/1 GE0/0/4 Core Eth-Trunk4 XGE1/1/0/2 LSW2 Eth-Trunk4 GE0/0/2 XGE2/1/0/2 GE0/0/4 WAC1 Eth-Trunk5 XGE0/0/5 Core Eth-Trunk5 XGE1/1/0/7 XGE0/0/6 XGE2/1/0/7 WAC2 Eth-Trunk6 XGE0/0/5 Core Eth-Trunk6 XGE1/1/0/8 XGE0/0/6 XGE2/1/0/8 表2 网络信息规划 设计项 设计要点 设计内容 管理员设计 租户帐户 租户帐号名称:test@huawei.com 租户帐号密码:Admin@1234 架构规划 网络拓扑 见图1 设备选型 核心交换机:S12700E 接入交换机:S5735-L WAC:AC6805 Fit AP:AirEngine5760-51 站点 站点名称:Site1 站点类型:LSW、WAC/FitAP 设备接口互联 见图1 设备上线规划 核心交换机注册上线方式 采用命令行配置 华为乾坤云平台南向IP地址为:139.9.137.139,端口号为:10020 WAC注册上线方式 采用Web网管配置 华为乾坤云平台URL地址为:device.qiankun-saas.huawei.com,端口号为:10020 无线CAPWAP源接口:VLANIF 4070 HSB互通:VLANIF 4060 WAC1: VLANIF 4070 接口IP:192.168.10.1/24 优先级:120 抢占时间:1200秒 HSB主备服务:VLAN4060;本端IP地址为192.168.20.1,对端IP地址为192.168.20.2,本端及对端端口号均为10241。 恢复延迟时间:60秒 WAC2: VLANIF 4070 接口IP: 192.168.10.2/24 HSB主备服务:VLAN4060;本端IP地址为192.168.20.2,对端IP地址为192.168.20.1,本端及对端端口号均为10241。 恢复延迟时间:60秒 核心交换机下挂的设备获取IP地址方式 IP地址获取方式:DHCP动态获取,核心交换机作为DHCP Server 有线管理子网: 网关接口:VLANIF 4080 网关接口IP地址及掩码:192.168.100.254/24 DHCP服务器功能:开启 自动协商控制器地址功能:开启 无线管理子网: 网关接口:VLANIF 4090 网关接口IP地址及掩码:192.168.200.254/24 DHCP服务器功能:开启 自动协商WAC地址功能:开启,WAC地址为192.168.10.3 和WAC的CAPWAP互通VLAN:4070,IP地址和掩码:192.168.10.254/24 核心交换机下挂的设备注册上线方式 DHCP Option148方式:在华为乾坤云平台配置,配置对象是核心交换机 用户上线规划 用户接入 员工(无线接入,802.1X认证) 访客(无线接入,Portal认证) 哑终端(有线接入,MAC认证) 用户终端的IP地址 IP地址获取方式:DHCP动态获取,核心交换机作为DHCP Server IP地址范围: − 员工:10.1.2.0/24 − 访客:10.1.4.0/24 − 哑终端:10.1.6.0/24 用户所属的VLAN 员工:VLAN 10 访客:VLAN 20 哑终端:VLAN 30 终端接入与认证方式 员工Wi-Fi:SSID名称为Employee,802.1X认证 访客Wi-Fi:SSID名称为Guest,Portal认证(短信认证) 哑终端:有线子网DumbDevice,MAC认证 核心交换机和第三方路由器互联配置 互联VLAN:VLAN 5 互联网段:10.1.10.0/28 路由方式:静态路由 用户业务规划 QoS 单个员工终端带宽限制:5Mbit/s 单个访客终端带宽限制:5Mbit/s
  • 组网需求 某手机生产商在全国各地市都部署了多家终端体验门店。 门店网络内终端类型包含有线接入终端和无线接入终端。 门店数据通过专线/互联网VPN回传至总部。 门店之间不需要互访。 华为乾坤云管理网络多分支LAN-WAN融合方案可以满足上述企业的网络建设诉求。如果客户没有IT人员,可以选择由MSP进行代建和代维。如果客户有IT人员,可以选择由租户进行自建和自维。 该手机生产商的企业网络架构如图1所示。 门店内网络部署交换机和云AP。 门店出口部署华为AR路由器,使用Intenet网络和LTE链路(4G网络),实现分支门店与总部数据中心之间的安全互联。 图1 企业网络架构图 父主题: LANWAN融合-接入交换机+云AP+HubSpoke组网
  • 站点和设备数据规划 各个站点的设备,需要先添加到云平台,管理员才能对设备进行配置和管理。 表1 站点规划 站点名称 设备类型 Hub1 AR Hub2 AR Site1 AR、LSW、云AP 表2 设备信息 所属站点 设备名称 设备型号 设备角色 设备ESN数据 备注 Hub1 Hub1_1 AR6280 网关+路由反射器 请从设备的物理标签上获取 设备名称可修改。 说明: “设备型号”均为举例,请以实际为准。 Hub1_2 AR6280 网关+路由反射器 请从设备的物理标签上获取 Hub2 Hub2_1 AR6280 网关+路由反射器 请从设备的物理标签上获取 Hub2_2 AR6280 网关+路由反射器 请从设备的物理标签上获取 Site1 Site1_AR AR651 网关 请从设备的物理标签上获取 Site1_ACC S5735-L48P4X-A1 接入 请从设备的物理标签上获取 Site1_AP 假设:AirEngine5761R-11 AP 请从设备的物理标签上获取 父主题: 开局部署数据规划
  • 网络信息规划 本案例中规划的网络数据、业务数据等均为示例,仅供参考,请根据实际项目要求调整参数值。 表1 网络信息规划 设计项 设计要点 设计内容 管理员设计 租户帐户 租户帐号名称:test@huawei.com 租户帐号密码:Admin@1234 架构规划 网络拓扑 见图1 设备选型 FW:USG6525E 核心交换机:S5731-H 接入交换机:S5735-L AP:按场景选AP款型,参见官网的WLAN网络规划指导 站点 站点名称:Site1 站点类型:FW、LSW、云AP 设备接口互联 见图1 设备上线规划 FW接入Internet的方式 采用Web网管配置 主用接口:GE0/0/1接口,PPPoE拨号 备用接口:GE0/0/2接口,PPPoE拨号 FW注册上线的方式 采用Web网管配置 华为乾坤云平台URL地址为:device.qiankun-saas.huawei.com,端口号为:10020 FW下挂的设备获取IP地址方式 IP地址获取方式:DHCP动态获取,FW作为DHCP Server IP地址范围:10.1.1.0/24 FW下挂的设备注册上线方式 DHCP Option148方式:在华为乾坤云平台配置,配置对象是FW NAT 在出口网关FW上开启NAT功能 用户上线规划 用户接入 员工(无线接入,portal认证) 哑终端(有线接入,MAC认证) 用户终端的IP地址 IP地址获取方式:DHCP动态获取,核心LSW作为DHCP Server IP地址范围: 员工:10.1.2.0/24 哑终端:10.1.6.0/24 用户所属的VLAN 员工:VLAN 10 哑终端:VLAN 30 终端接入与认证方式 员工Wi-Fi:SSID名称为Employee,Portal(短信认证) 哑终端:有线子网DumbDevice,MAC认证 核心交换机和FW互联配置 互联VLAN:VLAN 5 互联网段:10.1.10.0/28 路由方式:静态路由 用户业务规划 QoS 单个员工终端带宽限制:5Mbit/s 单个访客终端带宽限制:5Mbit/s
  • 终端接入与认证方式规划 员工通过无线接入,采用802.1X认证;访客通过无线接入,采用Portal+短信认证;哑终端通过有线接入,采用MAC认证。 表1 终端接入认证 用户分类 终端接入方式 SSID 接入认证方式 业务VLAN 员工 无线接入 Employee 802.1X认证 10 访客 无线接入 Guest Portal认证(短信认证) 20 哑终端 有线接入 - MAC认证 30 员工 有线接入 - 802.1X认证 40 父主题: LAN侧网络数据规划
  • 组网需求 某仓储企业构筑智慧仓储业务,部署有线及无线网络业务,支持终端有线接入及员工无线接入。 该仓储企业具有如下特点和诉求: 网络设备即插即用,上电即通 远程自动化业务发放和运维,避免专业技术人员上站 Wi-Fi组网打造无线极致体验,无线覆盖强 自动打通分支仓储与总部数据中心连接,实现仓储数据上传 云 管理网络平台 帮助实现智能运维,全网质量可视,故障自动分析 基于仓储业务的诉求及其实际情况,可采用华为乾坤云管理网络进行网络建设。由于一般仓储总部自己有IT人员,可以选择由总部网管人员进行自建和自维。 该网络架构如图1所示,部署一台防火墙作为出口网关,防火墙下挂一台核心交换机,作为有线和无线接入的用户网关。具体说明如下: 网络层:网络层由物理设备组成,主要包括FW、交换机、AP等网络设备。 FW:作为出口网关,提供出口特性和安全防护以及VPN连接。 核心交换机:有线和无线接入的用户网关。 接入交换机:连接有线终端,同时为AP提供POE供电。 AP:部署在室内,用于接入无线终端,根据需求按需部署。 终端层:终端层是指接入智慧仓储网络的各种终端设备,例如PC机、手机、打印机、摄像头等。 图1 FW+核心LSW+接入LSW+云AP组网拓扑图示例 父主题: 防火墙+核心交换机+接入交换机+云AP组网场景
  • VN数据规划 企业内部多个部门业务有隔离要求,需要通过部门(即VN)来构建多个Overlay网络。保证不同的部门转发独立,转发互相不能访问,从而实现不同部门业务在网络转发层面的安全隔离。 表1 Overlay网络VN的基本信息 参数 数据 备注 VN名称 VPN1 界面展示使用。 IPSec加密 ON - 站点名称 Hub1、Hub2、Site1 - 拓扑模式 Hub-Spoke 不建议修改,触发全网路由重新编排,业务中断。 中心站点 主:Hub1 备:Hub2 - 父主题: 站点互联数据规划
  • 网络物理链路规划 图1 网络物理链路规划图 表1 网络物理链路规划表 站点 源设备 源设备接口 目的设备 目的设备接口 总部DC1 Hub1_1/Hub1_2 GE0/0/1 Internet侧设备 - Hub1_1 GE0/0/5 GE0/0/6 Hub1_2 GE0/0/5 GE0/0/6 总部DC2 Hub2_1/Hub2_2 GE0/0/1 Internet侧设备 - Hub2_1 GE0/0/5 GE0/0/6 Hub2_2 GE0/0/5 GE0/0/6 分支 Site1_AR GE0/0/8 Internet侧设备 - LTE0/0/0(Cellular0/0/0) Internet - GE0/0/1 Site1_ACC GE0/0/24 Site1_ACC GE0/0/2 Site1_AP GE0/0/0 GE0/0/1 有线哑终端 - GE0/0/12 有线终端 - 父主题: 数据规划
  • 站点及ZTP开局数据规划 添加多个站点时,往往需要配置相同的网关类型、WAN链路条数和传输网络。通过定制链路模板可以将这些重复的配置信息模块化。 配置站点在WAN侧的物理链路,是进行开局的前提条件。站点配置或激活后,可新增或删除WAN侧链路。 表1 站点模板(RR设备) 参数 数据 模板名 Double_RR_Mix 单/双网关 双网关 WAN链路 名称 internet mpls internet1 mpls1 设备 Device1 Device2 端口 GE0/0/1 GE0/0/2 GE0/0/1 GE0/0/2 Overlay隧道 ON ON ON ON 传输网络(路由域) Internet MPLS Internet MPLS 角色 Active Active Active Active Inter-CPE链路 使用LAN侧二层物理口 OFF VLAN ID 4086~4094 设备1端口 GE0/0/3 GE0/0/4 设备2端口 GE0/0/3 GE0/0/4 表2 站点模板(CPE设备) 参数 数据 模板名 Single_CPE_Mix Double_CPE_Mix Single_CPE_Internet 单/双网关 单网关 双网关 单网关 WAN链路 名称 internet mpls internet mpls internet internet_5g 设备 Device1 Device1 Device1 Device2 Device1 Device1 端口 GE0/0/8 GE0/0/9 GE0/0/8 GE0/0/8 GE0/0/8 LTE1/0/0 Overlay隧道 ON ON ON ON ON ON 传输网络(路由域) Internet MPLS Internet MPLS Internet Internet_5G 角色 Active Active Active Active Active Standby Inter-CPE链路 使用LAN侧二层物理口 - - OFF - - VLAN ID - - 4086~4094 - - 设备1端口 - - GE0/0/1 GE0/0/2 - - 设备2端口 - - GE0/0/1 GE0/0/2 - - 为了便于用户管理设备和提升业务部署效率,同一个租户下,同一个网络的设备可以规划到一个站点中。 表3 站点及ZTP配置(1) 参数 数据 创建后,是否可以修改 备注 站点 Hub1 Hub2 是 站点名称可修改 是否开启RR功能 ON ON - - 单/双网关 双网关 双网关 - - 设备 Hub1_1 Hub1_2 Hub2_1 Hub2_2 - - 多子接口 OFF OFF OFF OFF 否 - RDB方式开局 OFF OFF OFF OFF 否 后续如果需要修改WAN链路,则需要打开该开关 WAN链路模板 Double_RR_Mix Double_RR_Mix - - 链路名称 internet mpls internet1 mpls1 internet mpls internet1 mpls1 否 配置完成后不可修改 VN实例 underlay_1 underlay_2 underlay_3 underlay_4 underlay_1 underlay_2 underlay_3 underlay_4 否 配置完成后不可修改 接口协议类型 IPoE IPoE IPoE IPoE IPoE IPoE IPoE IPoE - - 链路接入网络方式 静态 静态 静态 静态 静态 静态 静态 静态 - - IPv4地址/掩码 20.1.1.1/24 110.1.1.1/24 20.1.2.1/24 110.1.2.1/24 30.1.1.1/24 120.1.1.1/24 30.1.2.1/24 120.1.2.1/24 否 配置完成后不可修改 IPv4网关 20.1.1.2 110.1.1.2 20.1.2.2 110.1.2.2 30.1.1.2 120.1.1.2 30.1.2.2 120.1.2.2 否 配置完成后不可修改 IPv4公网IP 20.1.1.1 - 20.1.2.1 - 30.1.1.1 120.1.1.1 30.1.2.1 120.1.2.1 是 可以修改。公网IP为该链路上外部可访问的IP地址,分支可通过该地址注册到RR站点,当RR在NAT设备后或RR在云上部署时,需要填写映射到外部的外网IP。 上行容量(Mbps) 1000 1000 1000 1000 1000 1000 1000 1000 - 需要根据客户实际购买的链路带宽设置。 下行容量(Mbps) 1000 1000 1000 1000 1000 1000 1000 1000 - URL开局配置 ON ON ON ON ON ON ON ON 否 配置完成后开局链路不可修改,非开局链路支持删除和新增。 南向接入服务 Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access 否 WAN链路默认均使用默认南向接入服务,也可选择其他自定义接入服务,开局后不可更改。 南向接入优先级 低 低 低 低 低 低 低 低 否 - 表4 站点及ZTP配置(2) 参数 数据 站点 Site1 Site2 Site3 是否开启RR功能 OFF OFF OFF 连接到RR Hub1、Hub2 Hub1、Hub2 Hub1、Hub2 单/双网关 单网关 双网关 单网关 多子接口 OFF OFF OFF RDB方式开局 OFF OFF OFF 站点模板 Single_CPE_Mix Double_CPE_Mix Single_CPE_Internet 设备 Site1_1 Site2_1 Site2_2 Site3_1 链路名称 internet mpls internet mpls internet internet_5g VN实例 underlay_1 underlay_2 underlay_1 underlay_2 underlay_1 underlay_2 接口协议类型 IPoE IPoE IPoE IPoE IPoE - 链路接入网络方式 静态 静态 静态 静态 动态 5G IPv4地址/掩码 40.1.1.1/24 130.1.1.1/24 50.1.1.1/24 140.1.1.1/24 - - IPv4网关 40.1.1.2 130.1.1.2 50.1.1.2 140.1.1.2 - - NAT穿越 ON OFF ON OFF ON ON 上行容量(Mbps) 20 20 20 20 20 20 下行容量(Mbps) 100 100 100 100 100 100 URL开局 ON ON ON ON ON OFF 南向接入服务 Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access Public Default South Access 南向接入优先级 低 低 低 低 低 低 父主题: 开局部署数据规划
  • NTP数据规划 AR设备上报性能数据时,会携带时间戳,如果AR的时间和云平台不一致,则会导致管理员在查看该设备的性能数据时,性能数据的时间与实际不符,站点流量和质量数据无法显示。所以云平台通过配置NTP,使站点设备和云平台的时间保持一致。 RR角色的Hub站点的NTP需要“手动配置”,分支站点NTP为“自动与RR站点同步”,规划数据如下表所示。 表1 RR角色的Hub站点的NTP信息(与网络设计参数规划中的NTP信息一致) 参数 数据 备注 时区 (UTC+08:00)北京,重庆,香港特别行政区,乌鲁木齐 需要客户提供NTP服务器地址,并且云平台和CPE(customer-premises equipment,客户终端设备)与NTP服务器网络可达。 NTP认证 OFF NTP客户端模式 手动配置 NTP服务器 10.10.1.1 认证模式 HMAC-SHA256 认证密码 ntp123 认证ID 123456 表2 分支站点NTP信息 参数 数据 时区 (UTC+08:00)北京,重庆,香港特别行政区,乌鲁木齐 NTP客户端模式 自动与RR站点同步 父主题: 开局部署数据规划
  • 网络信息规划 本案例中规划的网络数据、业务数据等均为示例,仅供参考,请根据实际项目要求调整参数值。 表1 网络信息规划表 设计项 设计要点 设计内容 管理员设计 MSP MSP帐号名称:huawei-partner@huawei.com MSP帐号密码:mspUser@123 架构规划 网络拓扑 见图 AR+交换机+AP组网拓扑图示例 设备选型 AR:AR651W-8P 交换机:S5735-L24P4S-A-V2 AP:AirEngine5761-11W 站点 站点名称:test_hotel 站点类型:AR、LSW、云AP 设备接口互联 见图 AR+交换机+AP组网拓扑图示例 设备上线规划 AR接入Internet的方式 采用Web网管配置 主用接口:GE0/0/1接口,PPPoE拨号 备用接口:GE0/0/2接口,PPPoE拨号 AR注册上线的方式 采用Web网管配置 华为乾坤云平台URL地址为:device.qiankun-saas.huawei.com,端口号为:10020 AR下挂的设备获取IP地址方式 IP地址获取方式:DHCP动态获取,AR作为DHCP Server IP地址范围:10.1.1.0/24 AR下挂的设备注册上线方式 DHCP Option148方式:在华为乾坤云平台配置,配置对象是AR NAT 在出口网关AR上开启NAT功能 用户上线规划 用户接入 员工(无线接入) 访客(无线接入) 哑终端(有线接入) 用户终端的IP地址 IP地址获取方式:DHCP动态获取,AR作为DHCP Server IP地址范围: 员工:10.1.2.0/24 访客:10.1.4.0/24 哑终端:10.1.6.0/24 用户所属的VLAN 员工:VLAN 10 访客:VLAN 20 哑终端:VLAN 30 终端接入与认证方式 员工Wi-Fi:SSID名称为test-emp;PSK认证 访客Wi-Fi:SSID名称为test-guest;Portal认证(短信认证) 哑终端:有线子网test-dumb;不认证 用户业务规划 QoS 单个员工终端带宽限制:5Mbit/s 单个访客终端带宽限制:5Mbit/s
  • LAN侧接入数据规划 站点网关与LAN侧网络对接时,需要配置相应对接参数。 本章节及后续所有章节数据规划,无特殊说明,均以办公业务VN(OA)为例。 表1 站点LAN接口信息 参数 数据 创建后,是否可以修改 备注 VN OA - - 站点 Hub1 Hub2 Site1 Site2 - - 设备 Hub1_1 Hub1_2 Hub2_1 Hub2_2 Site1_1 Site2_1 Site2_2 - - 网关接口 L3 L3 L3 L3 L2 L2 L2 - - VLANID - - - - 400 300 300 是 子接口ID不能与内联的ID重复。 接口 GE0/0/6 GE0/0/6 GE0/0/6 GE0/0/6 GE0/0/6 GE0/0/6 GE0/0/6 是 建议总行统一分配,以便对上线站点做预配置,后续进行批量开局,以及业务割接。 模式 - - - - Untag Untag Untag - - 信任模式 信任 信任 信任 信任 信任 信任 信任 - - IPv4地址 170.1.1.10/24 170.1.1.20/24 180.1.1.10/24 180.1.1.20/24 33.1.1.10/24 22.1.1.10/24 22.1.1.20/24 - - VRRP VRRP ID - - - - - 1 1 - - 虚拟IP - - - - - 22.1.1.1 22.1.1.1 - - 默认角色 - - - - - Master Backup - - 优先级 - - - - - 120 100 - VRRP备份组中,优先级最高的成为Master设备(主设备),其余为Backup设备(备设备)。 抢占延迟(s) - - - - - 0 0 - - 认证方式 - - - - - 不认证 不认证 - - DHCP DHCP类型 - - - - Server Server Server - - Exclude IPv4 - - - - - 22.1.1.20~22.1.1.20 22.1.1.10~22.1.1.10 - - 租约时间 - - - - - - - - - 父主题: 站点互联数据规划
  • 自动发送周报 在项目进行过程中,可通过解决方案工作台配置周报自动发送,通知项目组相关成员项目进展和风险。 项目负责人(如项目经理“解决方案工作台Trial_PM”)在“实施管理”中选择“周报管理”功能。 图59 周报管理入口 配置周报发送信息。 表3 周报发送配置 参数 说明 是否自动发送 必选项。开关打开代表自动发送,提交之后会立即发送一次,之后按照设定的频率定期发送;关闭代表手动发送,提交之后只会立即发送一次,不会定期发送。 发送频次 打开自动发送之后必选项。包含每周和每月。 发送时间 选择发送频次后必选项。发送频次为每周,则发送时间为周一至周天的整点;发送频次为每月,则发送时间为每月1日至31日的整点。 邮件接收人 必填。您也可以下拉选择空间成员,只有已经在解决方案工作台空间订阅了邮件的账号才能够接收到周报邮件,没有订阅则不会接收到邮件;您也可以输入邮箱,发送给指定邮箱人员。 邮件抄送人 必填。您也可以下拉选择空间成员,只有已经在解决方案工作台空间订阅了邮件的账号才能够接收到周报邮件,没有订阅则不会接收到邮件。您也可以输入邮箱,发送给指定邮箱人员。 项目背景 选填。 本周工作进度 必填。总结本周工作进度。 下周工作计划 必填。输入下周计划。 添加自定义工作项 选填。自定义添加的工作项。 图60 配置周报信息 相应人员接收到邮件通知。 图61 邮件通知
  • 实施质量检查 实施质量检查包含 数据实例 实施过程中的工具,用户可以根据检查结果进行相应作业的优化,旨在帮助客户在进行 数据治理 过程中,能够更好地监控实施过程中的质量。 表2 实施质量检查功能介绍 功能模块 子模块 说明 数据模型设计检测 表命名规范检查 附加字段规范检查 数据治理时,数据会分层建设,数据集成方式(增量,全量)、集成周期都不一样,按照这些对每张表按其统一规范命名。扩展字段是为了对其每条数据做更好的运维统计,例如加了版本批次号、经过哪个ETL脚本而来的、数据入仓更新时间、软删除等等。 源系统和SDI层数据一致性检测 表数量对比 表内容对比 源系统表结构监控 在数据集成时,最重要的是数据不丢失、不失真、不乱码、源表数据结构不变化,否则会造成数据指标计算不准确。而数据集成服务的网络往往非常复杂,依赖于源系统和网络,因此在监控检测源系统和 数据湖 的SDI层的数据一致性,可以快速给问题定界定位。 DGC命名规范检测 作业命名 节点命名 脚本命名 环境变量命名 数据连接命名 DGC是 数据治理中心 ,尤其是数据开发模块,数据的ETL脚本的逻辑和任务调度编排均在DGC上。因此,一个规范统一的命名规范显得尤为重要,统一而规整,加强数据治理的专业性。 脚本规范检测 脚本注释 排版规范 语句规范 脚本承载着数据ETL的逻辑,定期运行。增强脚本的可读性,有助于数据开发阶段的人员定位问题、交流以及后期的运维。 DGC作业监控 作业运行时间监控 节点运行时间监控 作业运行时长的影响因素包含计算资源的影响和处理数据的影响,因此,当作业运行时间波动很大时,表明计算资源或者表数据有问题。例如,临时表没有清理,表数据发散等等,到最后都会造成重大问题。本功能模块可以在这些bug产生较小的影响情况下发现并及时修改。 表命名规范检查 在“作业管理”下选择“实施质量检查作业”页签,在“数据模型设计”下选择“表命名规范”,添加监控对象。如,本实践需要检查目标端 MRS Hudi的表命名是否符合规范,则可选择该数据连接。 图34 添加监控对象 解决方案工作台为每类实施质量检查作业预置通用的检查规则,如上图中表命名规范检查作业,解决方案工作台预置了部分规范标准,用户可在【规则配置】里根据需要修改或新增规则。 添加采集信息,对需要进行规范检查的DB、Schema进行配置,配置规则名根据需要选择解决方案工作台预置的或新增的规范标准。 图35 添加采集信息 预览监控对象配置信息,并将该信息复制到5中的配置文件application.properties内,运行探源工具,获取监控信息。 图36 预览监控对象配置信息 查看检查结果。 若运行探源工具的服务器可访问公网,则检查结果可在线上报,点击界面右侧的刷新按钮即可查看;若运行探源工具的服务器仅能在内网运行,可通过【导入】的方式将探源工具获取的结果进行导入。本实践通过导入的方式进行离线导入。 图37 探源工具运行结果 图38 导入检查结果 附加字段规范检查 与表命名规范检查一样,可以添加需要监控的对象后配置需要采集信息的数据库、表,用户可根据需要修改/新增附加字段规范。同样,本功能模块需要运行探源工具获取检查结果。 图39 探源工具运行结果 图40 查看检查结果 源系统和SDI层数据一致性检查 若在完成 CDM 作业一键生成后开启了同步生成质量检查作业,则此处会同步生成检查作业;用户也可以根据需要自己添加监控对象。同样,本功能模块需要运行探源工具获取检查结果。 图41 源系统和SDI层数据一致性检查作业 图42 探源工具检查结果 图43 检查结果 DataArts Studio 作业命名检查 检查DataArts Studio作业是否符合项目定义的规范。 编辑作业命名规范。解决方案工作台预置了批处理作业和实时检查作业的检查规范,用户可以根据需要修改。 新建监控对象。选择本账号下要检查的DataArts Studio实例。 图44 添加监控对象 点击刷新按钮,查看结果结果。 图45 查看检查结果 DataArts Studio作业节点命名检查 检查DataArts Studio作业中的作业节点(CDM JOB、MRS Kafka等)命名是否符合项目定义的规范。同样,用户可根据需要修改解决方案工作台预置的节点命名检查规范后,添加指定的监控对象进行检查。 图46 作业节点命名检查 DataArts Studio脚本命名检查 检查DataArts Studio脚本命名是否符合项目定义的规范。 图47 脚本命名检查 DataArts Studio环境变量命名检查 图48 环境变量命名检查 DataArts Studio数据连接命名检查 检查DataArts Studio数据连接(Oracle、MRS Hudi、Hive、DWS等)命名是否符合项目定义的规范。 图49 数据连接命名检查 脚本规范检测 检查DataArts Studio脚本是否符合项目定义的规范。 图50 添加脚本检测规范 图51 查看检查结果 DataArts Studio作业监控 图52 作业监控配置 图53 作业监控结果
  • 基础资源开通 基础设施部署作业支持对方案设计中涉及的云服务资源进行手工部署/在线化部署。本次方案中的部署架构设计为手工部署,因此需要手工开通资源。 在“作业管理”下选择“基础设施部署作业”页签,新建部署作业,新建时可与需求关联起来。本实践中的基础资源开通与交付需求创建中的“构建智慧门店数据中台”需求关联。 图54 新建部署作业 点击【资源变更】,开通资源。 图55 资源变更 在弹窗中填写资源部署详情,支持上传附件。 图56 资源部署详情 完成后点击【确定】即可。
  • 实施进度及附件管理 实施责任人“解决方案工作台Trial_TE”对实施进度进行管理,支持将需求实施的交付件上传到对应的需求记录上。 图57 更新进度 针对不同需求的实施进度,更新记录后可提交审核,由实施审核责任人“解决方案工作台Trial_TD”进行审核。 实施审核责任人收到审核待办,可对需求进行审核。 图58 实施管理审核 支持多个实施责任人并行进行交付作业实施,各责任人按实际情况更新实施进度并提交审核; 支持空间内成员下载实施详情中的附件。
  • ETL Mapping 数据治理中心DataArts Studio是针对企业数字化运营诉求提供的具有数据全生命周期管理和智能数据管理能力的一站式治理运营平台。解决方案工作台集成DataArts Studio,支持将方案设计中“ETL映射设计”部分形成的ETL脚本同步到DataArts Studio作业指定的目录。 前提: 已在实施责任人“解决方案工作台Trial_TE”所属账号下开通DataArts Studio服务。 已在该DataArts Studio服务中创建MRS Hudi数据连接(本实践中的数据连接名称“spark_hudi_proxy_cnt”,名称可自定义),以便基于数据连接同步作业以及后续在DataArts Studio中执行脚本。 为了后续能正确执行脚本,请创建与ETL映射中需要用到的数据库类型相同的连接,如,本实践中的ETL映射需要同步的数据来源与目标端均为MRS Hudi,则在DataArts Studio服务中需要创建MRS Hudi连接。 步骤: 在“作业管理”下选择“ETL Mapping作业”页签,添加数据治理实例。选择本账号下的数据治理(DataArts Studio)所属region、实例以及空间。 图29 添加数据治理实例 同步ETL Mapping。 图30 同步ETL Mapping 配置ETL Mapping。本实践中,需要将ETL映射配置好的ETL映射同步至DataArts Studio中。 实施作业名称:自定义; 关联需求:可选,可与交付需求创建的相关需求关联起来(本实践与需求“数据治理”下的“构建智慧门店数据资产”关联),关联后该ETL作业将会自动在实施进度管理中展示; ETL Mapping名称:选择ETL映射中配置好的ETL映射; DataArts Studio目录:选填需要将该ETL映射同步至DataArts Studio的具体目录; 连接名称:选择在DataArts Studio中创建好的MRS Hudi连接。 图31 配置ETL Mapping 点击【同步历史】,查看同步结果。 图32 查看同步结果 您也可以进入该DataArts Studio实例中查看同步结果并执行脚本。 图33 查看同步结果
  • CDM作业一键生成 云数据迁移 CDM,是一种高效、易用的数据集成服务。解决方案工作台集成CDM,支持批量生成CDM作业并在指定的CDM实例中运行。 前提: 已在实施责任人“解决方案工作台Trial_TE”所属账号下创建CDM集群。 已在该CDM服务中创建数据连接,以便后续把在解决方案工作台上生成的CDM作业同步至创建好的CDM集群中并执行作业。本实践中涉及两个源端MySQL数据库、一个目标端MRS Hudi,则需要先把这三个数据连接创建完成,参考新建CDM数据连接。 注意:在CDM中创建的数据连接名称需要和解决方案工作台上的数据连接名称一致,以便CDM作业能正确同步过去。 图20 CDM数据连接 步骤: 在“作业管理”下选择“CDM作业”页签,添加CDM实例。 图21 添加CDM实例 点击【一键生成作业】,进入作业配置详情页。 图22 一键生成作业 配置作业详情。可手工添加或批量增加,若已在数据调研中生成入湖清单,则支持从入湖清单导入。 源连接名称:选择源端系统连接,即,在数据调研中创建两个源端MySQL数据连接; 目的连接名称:选择在数据调研中MRS-Hudi数据连接。 图23 从入湖清单导入 配置完成后点击【提交】。可选择是否同步生成质量检查作业,若开启,则将会在实施质量检查中生成检查作业。 图24 提交作业配置 图25 作业信息 要运行CDM作业,请确保有相应的数据连接以及连接的数据库存在,如,目标端MRS Hudi数据库要存在。 一键同步作业:将配置好的CDM作业同步至CDM集群中,以便后续可在CDM集群中执行作业。 图26 一键同步作业 您可以点击【同步历史】,查看同步结果。 图27 查看同步历史 您也可以进入CDM集群中查看作业并运行作业。 图28 查看CDM集群作业
  • 数据调研 在项目交付进行方案设计和实施开发之前,需要梳理当前项目中的原始数据有哪些,即数据调研。本实践的数据源如下: 表1 数据源信息 归属系统 数据类型 DB&表 说明 源端-门店系统 MySQL store_mgmt.t_user_store_info 源端门店基本信息表,需要通过数据调研的方式获取表结构。 源端-订单系统 MySQL order_mgmt.t_trade_order 源端订单基本信息表,需要通过数据调研的方式获取表结构。 目标端-数据中台 MRS-Hudi t_trade_order t_user_store_info 目标端系统,不需要做数据调研,但是由于后续做数据迁移入湖时需要用到,因此可以在本章节统一创建数据连接。 实施责任人(本实践设置为“解决方案工作台Trial_TE”)在交付空间内左侧导航栏选择“交付中心-实施管理”,在相应的项目下点击【实施交付】按钮,进入后切换至“作业管理”TAB页下的“数据调研作业”页面。 图2 数据调研作业页面 点击【管理应用系统和数据连接】,创建公司组织架构信息。 在开始对调研对象进行监控前,需要创建应用系统列表,用于展示公司的组织架构信息。后续的数据连接以及监控等需要按照组织架构进行划分。 图3 创建组织架构信息 如上图所示,创建了三个应用系统,分别表示源端的门店和订单系统、以及目标端的数据中台管理系统。 创建数据连接。 按照公司组织架构,根据对应的连接系统和数据库连接类型管理用户的数据连接,以便完成数据调研以及后续的数据实施。 图4 创建数据连接 在本实践中,需要将客户源端的MySQL数据迁移至云上MRS,如下图所示为本实践配置的数据连接,分别是源端的两个MySQL连接和目标端的一个MRS Hudi连接。 图5 数据连接清单 添加监控对象,配置想要采集的数据连接的库表信息,以及所需采集的空值字段的表名和表字段名。 图6 配置调研规则入口 为了做源端数据调研,需要对源端系统进行监控,若需要对字段的空置率进行检测,则可配置要检测的字段名。 进入“配置调研规则”页面后,点击【添加监控对象】。如下图添加了两个源端连接(订单系统、门店系统)作为监控对象。 图7 添加监控对象 点击右下角的【下一步】,配置鉴权码。本实践选择【关闭】。 数据调研结果可在线上报或离线导入。若运行调研工具的服务器可访问公网,则可在此选择【开启】鉴权码,将开启状态的鉴权码配置到数据调研的配置文件中,数据调研结果将会在线上报至解决方案工作台;否则需要离线导入,此时可选择【关闭】鉴权码。 图8 配置鉴权码 点击右下角的【下一步】,配置采集规则。 解决方案工作台支持使用调研工具对源系统进行数据调研,支持配置数据调研规则,包含DB、表信息等采集周期和具体时间,若未配置,则按默认规则进行数据采集。 DB采集:配置数据库采集时间,如:数据库类型,数据库表数,数据总量,采集时间。 表信息采集:配置表的采集时间。 字段采集:配置字段采集时间。 上报采集:配置库、表、字段采集信息的上报时间。 删除字段:各项目根据自己公司的实际情况,配置表在软删除时删除字段的名称。 图9 配置采集规则 点击【确定】,将会自动下载配置文件application.properties。您可以将配置文件保存至本地并补充待调研系统的数据库登录信息。 配置文件中包含了前面配置的规则、数据源信息等,用户可以修改配置文件中的信息。由于解决方案工作台不记录数据库密码,因此下载配置文件后可自行在文件中补充数据库登录密码。 图10 下载配置文件 图11 更新配置文件 返回“数据调研作业”页面,下载探源工具示例代码,结合下载的配置文件按照探源工具指导对源系统进行数据调研。 下载探源工具示例代码 图12 下载探源工具示例代码 将下载的压缩包解压缩。jar包已提供为分段压缩包,把子压缩包放在一个文件夹中解压即可得到完整jar包。同时支持通过修改代码,重新编译打包。 将jar包放入远端服务器中,即环境准备中用来做调研的服务器中。例如,本最佳实践需要对两个MySQL数据库进行数据调研,则可将本探源工具放入准备好的某台linux服务器中,只需保证该服务器网络可访问到这两个MySQL数据库即可。 将5中下载的配置文件application.properties放入该远端服务器中。注意,需要和jar包在同一个目录下。 图13 探源工具 运行启动脚本:run_agent.sh 启动后,将会按照5中配置文件application.properties的规则进行数据调研,获取指定数据库的数据结构。更多说明,请参考探源工具示例代码中的指导。 探源工具通过查询指定数据库的系统表获取相关信息,对数据库压力较小,但为了保证不影响业务,建议将探源工具的定时任务设置在凌晨等压力较小的时间段进行。 查看监控对象数据调研结果。数据调研结果可在线上报或离线导入:若运行探源工具的服务器可访问公网,则支持在线上报;否则需要离线导入。 在线上报 按照5中配置文件application.properties的采集和上报规则,调研结果可在线上报到解决方案工作台(要求运行探源工具的服务器可访问公网)。在图15中点击刷新按钮即可。 离线导入 若调研的系统仅能在客户侧内网运行,则可通过离线导入的方式将调研结果(6运行后会在相同目录下生成数据压缩包)导入到解决方案工作台。 图14 探源工具运行结果 图15 查看调研结果 点击表名可查看详细表结构,包括表行数、表数据量、空值率检测(该表是否进行了空置率检测)等。 图16 数据探源结果 生成入湖清单 对于探源到的数据,可将需要的数据配置生成入湖清单,后续基于入湖清单可直接生成CDM迁移入湖作业。如,本实践中需要将探源到的订单系统和门店系统进行数据迁移,通过CDM迁移至云上MRS Hudi,则可选择这两个系统下的表生成入湖清单,目标端选择MRS Hudi。 图17 新增入湖清单 图18 配置入湖清单 图19 入湖清单
  • 获取帮助 使用指南 使用指南主要包括入门指南、常见问题和最佳实践,支持输入关键字进行搜索。 用户指南:解决方案工作台操作指导,包含各个模块的操作和介绍。选择/搜索对应的界面会跳转到解决方案工作台文档中的用户指南。 快速入门:解决方案工作台快速入门指导,通过简单的案例快速了解解决方案工作台的使用。 常见问题:主要是多数用户在使用中的常见问题及解决方法。选择对应中心之后跳转到解决方案工作台文档中的常见问题。 最佳实践:预置了基于解决方案工作台快速完成方案验证的最佳实践,如基于解决方案工作台完成联营认证测试的最佳实践。点击之后跳转到解决方案工作台文档中的最佳实践。 图7 使用指南界面 解决方案工作台客服
  • 我的足迹 我的足迹由我的收藏空间和最近访问的工作空间组成,优先展示我的收藏空间,最多同时展示4个。 图5 我的足迹 在我的足迹版块,可以通过单击空间卡片内的蓝色按钮进行快捷操作,例如点击工作空间名称,则会进入该工作空间主页;点击【方案注册】按钮,则会进入该空间的方案注册的详细页。 如果用户的全部空间不足4个,则我的足迹板块只展示现有空间,通过单击空白卡片处的“新建空间”或“收藏空间”按钮,可以快速进入到工作空间主页进行空间管理的操作。
  • Postman导入脚本 解决方案工作台 API自动化测试支持导入Postman的Collections文件。 导出postman的Collections文件,进入postman,选择Collections选项,点击设置按钮,选择导出。 图4 postman界面 参考新建API自动化用例,进入到脚本编辑页面,点击页面末端的【Postman】导入按钮,选择上一步在postman导出的文件,导入至解决方案工作台,提交即可。 图5 导入postman文件
  • 新建性能自动化用例 支持用例设计人新建性能自动化测试用例。 进入用例列表,切换至【性能自动化】页签,选中测试需求并点击【新建】按钮。 图1 新建性能自动化用例 新建性能自动化用例,填写相关内容,如需要手工步骤补充执行内容,请打开【手工测试步骤】开关并填写步骤描述和预期结果,否则请关闭。完成后点击【确定】。 表1 性能自动化用例新建参数说明 参数 说明 需求描述 必填。下拉选择需求描述,即选择该用例的归属需求。 用例名称 必填。自定义测试用例名称。建议规范用例命名,在用例名称中能体现出用例所测功能点。 部署环境 必填。下拉选择该用例部署的底座环境,底座环境与关联的需求相关。 优先级 必填。下拉选择该用例的重要程度。 描述 自定义对于该用例的描述信息。 前提条件 自定义输入执行该用例的前提条件。 预期结果 输入该步骤执行后的预期结果。 用例附件 上传该用例需要用到的关联文件。 图2 新建性能自动化用例 编写脚本入口。 完成上一步后,在弹窗中点击【确定】,开始编写性能自动化脚本。 图3 前往编写脚本 或者在用例管理界面,点击用例的【更多】按钮,选择编辑脚本。 图4 前往编写脚本 配置性能测试步骤,完成后点击【保存】。 报文:应用程序之间发送的数据,详细操作请查看操作指导。 思考时间:操作之间等待的时间,详细操作请查看操作指导。 响应提取:前一个报文的输出提取出来,作后一个报文的输入,详细操作请查看操作指导。 图5 脚本编写 编辑性能测试压力配置并保存。 图6 压力配置
  • 新建指标参数 指标参数是衡量性能自动化测试结果是否通过的标准(如延时、错误率、RPS等),本步骤在执行性能自动化用例前完成即可。 点击性能自动化页签下【指标参数】,进入性能自动化指标参数管理页面。 点击“添加指标参数”,自定义参数名称,新建指标参数。 选择某个指标参数名称,在右侧页面为该参数分组创建指标,如成功率。 指标参数分组的图钉符号表示该分组是默认分组,后续执行性能自动化用例时如无指定则默认使用该分组参数。 图7 新建性能自动化指标参数
  • DataArts Studio作业监控 作业运行时长的影响因素包含计算资源的影响和处理数据的影响,因此,当作业运行时间波动很大时,表明计算资源或者表数据有问题。例如,临时表没有清理,表数据发散等等,到最后都会造成重大问题。本功能模块的作可以在这些bug产生较小的影响情况下发现并及时修改。 一般先查看作业的运行时间,如果时间有异常,再查看作业的哪些节点是否有异常。 作业监控规则配置 作业运行时间波动范围:某个作业相对于历史平均运行时间的上下波动范围值。 节点运行时间波动范围:作业的每个节点的相对于历史平均运行时间的上下波动范围值。 创建监控对象:选择对应的Region、 IAM 项目、DataArts studio实例、DataArts studio空间 图19 创建监控对象 添加作业监控 图20 添加作业监控 查看检查结果 平均运行时间:该作业历史30天内执行的平均时间(中间的虚线)。 最大波动执行时间:根据波动范围所求的,相对与平均值最大波动时间(最上方的虚线)。 最小波动执行时间: 根据波动范围所求的,相对与平均值最小波动时间(最下方的虚线) 在最大和最小波动时间内的作业,属于根据项目实际情况可接受的波动范围。超过波动则认为该作业有异常,需要通知相关人员进行定位。 图21 DataArts Studio作业监控
  • 源系统和SDI层数据一致性检测 在数据治理过程中,从源数据库实时/定时抽取指定表的数据到目的数据库中的指定位置时,会存在数据抽取问题: 数据记录条数丢失(源表和目标表数据记录条数不一致),因此需要此功能来定时检查数据抽取是否一致 数据库表字段丢失(源表与目的表表字段不同),原因是在项目的进行过程中,存在源系统表字段的增删改,导致数据实时同步的时候出现异常。 数据库表内容不一致(源与目的的表内容不一致),在数据的抽取过程中由于源表和目的表存在内容的格式问题,导致数据转码,造成源端与目的端数据不同。 本模块提供源系统和SDI层数据一致性检测,旨在通过以下功能解决上述问题: 表记录:对比源端与目的端表的记录条数是否一致,如果源目的数据记录条数在一个容忍范围内,则认为是一致的。 表字段:在数据迁移过程中,由于业务的变化,可能存在源端数据库部分表的字段会存在添加和删除的情况。通过配置每个表的时间戳与容忍记录数来判断表字段一致性(如果没有时间戳则查询所有的记录数)。 本模块的操作步骤同数据模型设计。 图10 表记录检查结果
  • DataArts Studio命名规范检测 DGC是数据治理中心,尤其是数据开发模块,数据的ETL脚本的逻辑和任务调度编排均在DGC上。因此,一个规范统一的命名规范显得尤为重要,统一而规整,数据治理的专业性强。 作业命名检查 检查DataArts Studio作业是否符合项目定义的规范。 编辑作业命名规范。解决方案工作台预置了批处理作业和实时检查作业的检查规范,可点击【规则配置】根据需要修改。 新建监控对象。选择本账号下要检查的DataArts Studio实例。 图11 添加监控对象 点击刷新按钮,查看检查结果。 图12 查看检查结果 作业节点命名检查 检查DataArts Studio作业中的作业节点(CDM JOB、MRS Kafka等)命名是否符合项目定义的规范。同样,用户可根据需要修改解决方案工作台预置的节点命名检查规范后,添加指定的监控对象进行检查。 图13 作业节点命名检查 脚本命名检查 检查DataArts Studio脚本命名是否符合项目定义的规范。 图14 脚本命名检查 环境变量命名 检查DataArts Studio环境变量命名是否符合项目定义的规范。主要用于对脚本中的环境变量进行检查。 图15 环境变量命名检查 数据连接命名规则 检查DataArts Studio数据连接(Oracle、MRS Hudi、Hive、DWS等)命名是否符合项目定义的规范。 图16 数据连接命名检查
  • 数据模型设计 数据治理过程中,每层的表命名都有其规范,在数据集成增量集成过程中也会多增加些表字段如ext_delete_flag (删除)、ext_updated_at (数据入仓时间)。实施人员可以通过运行此功能,检测到项目中不满足要求的表,即时整改。 表命名规范检查 表命名规范检查功能用于检查目的端(DWS、MRS-HUDI等)数据库中的表命名是否符合项目中的规范要求。项目中大多表是根据数据模型的层进行开头命名的,如: 贴源层命名:ods/sdi_业务名 维表命名:dim_{domain/subject} 主题层 dwi_{domain/suject}_(business_info)_[suffix] 、domain/suject:多为业务主题域 明细层:dwr_{domain/suject}_(business_info)_[suffix] 汇总层:dws_{domain/suject}_(business_info)_[suffix] 集市层:dm_{domain/suject}_(business_info)_[suffix] 图1 表命名规范检查 操作步骤: 参考管理应用系统和数据连接,创建需要进行检查的数据连接; 点击【规则配置】,可查看到解决方案工作台预置的表命名规范检查规则,用户可根据需要修改或新增。 添加监控对象,选择要监控的数据连接类型和连接名称。 图2 添加监控对象 添加采集信息,对需要进行规范检查的DB、Schema进行配置,配置规则名根据需要选择解决方案工作台预置的或新增的规范标准。 图3 添加采集信息 预览监控对象配置信息,并将该信息保存到本地,另存为配置文件application.properties。 图4 预览监控对象配置信息 下载探源工具。 图5 探源工具下载入口 将探源工具解压缩为jar包,并与配置文件application.properties一起放在远端服务器同一目录下。要求:该服务器为Linux操作系统,且网络上能访问到要进行质量检查的数据库。 图6 探源工具 运行启动脚本:run_agent.sh。启动后,探源工具将会按照配置文件application.properties的规则进行数据质量检查。 探源工具通过查询指定数据库的系统表获取相关信息,对数据库压力较小,但为了保证不影响业务,建议将探源工具的定时任务设置在凌晨等压力较小的时间段进行。 查看检查结果。 如果运行探源工具的服务器可访问公网,则检查结果可在线上报,点击界面右侧的刷新按钮即可查看;如果运行探源工具的服务器仅能在内网运行,可通过【导入】的方式将探源工具获取的结果进行导入。 图7 探源工具运行结果 图8 查看检查结果 附件字段检查 与表命名规范检查一样,可以添加需要监控的对象后配置需要采集信息的数据库、表,用户可根据需要修改/新增附加字段规范。同样,本功能模块需要运行探源工具获取检查结果。 图9 附件字段检查
共100000条