数据通道
数据接入服务是什么
数据接入服务 是什么?数据采集是什么通过数据采集、传输、传输标准化 数据仓库 、API能力,将这些数据转换成数据处理工作。数据接入服务(DataIngestionService,简称DLI),是完全托管的 数据管理服务 。数据接入服务的主要功能是从CloudTable中获取数据,作为数据清洗、数据清洗、数据开发模块的应用程序完成数据开发过程,提供海量数据信息处理服务。DIS的更多信息,请参见数据接入简介。DIS的更多信息,请参见《数据接入服务用户指南》。topic是数据通道的唯一标识。partition_name是数据输出通道的名称。local_partition_name是数据输出通道名称,可以自定义。partition_key否数据输出分组的属性名,多个属性用逗号分隔。当该参数没有配置的时候默认输出空。说明:若该参数已存在时,则会使用默认值。目前只支持partition_count否数据输出分组的属性。当该参数没有配置的时候默认读取所有partition。partition_range否指定作业从DIS通道读取的分区范围。该参数和partition_count参数不能同时配置。partition_range=''时,表示读取的分区范围是2-5,包括分区2和分区5。若编码格式为“json”,则需配置“json_config”属性。
数据监测平台
数据监测平台通过配置数据通道,对数据进行实时监测和监控。前提条件用户必须开通一个华为云账号并进行实名认证。服务实例所创建的数据已完成数据订阅。当用户需要将本地的数据接入通道中已经部署在公有云上,用户既可以从专线下的数据中心的流数据完成采集上云。用户也可以通过数据采集任务将数据下载到本地,无需再将本地的数据上传至OBS。数据采集在云上创建数据接入服务和数据接入的具体操作流程如下:登录 云专线 服务管理控制台。在左侧导航栏,选择“数据接入服务”。在页面右上角单击“创建数据接入通道”。在弹出的“创建数据接入通道”页面中,填写相关参数。“密钥”填写创建数据通道的相关配置信息。待采集的FIHDFS数据源名称填写用户自定义。KMS密钥存储使用的密钥名称。分隔符用户数据存储FIHDFS数据源的文件格式。分隔符填写FIHDFS数据源的分隔符。存储块大小(M)选择FIHDFS数据源的数据存储类型。存储类型选择写入MRSHDFS数据源的数据存储类型,可选择“Textfile”。批次号用户自定义批次号,该批次号字段不能和Mapping信息中的目标字段重复。该字段值将为一个随机数,用来标识同一批次的数据,同一批次插入的数据具有相同的批次号,表示这些数据是同一批次插入的,可以用来定位或者解析回滚。元数据定义写入到目标端文本数据的数据字段,不同数据字段通过“分隔符”进行分隔。源端有多少个字段需要集成,则目标端需要定义相同个数的元数据。