-
配置样例工程 - 数据接入服务 DIS
Editor > Font” ,设置字体背景色等 在左侧导航栏中选择“File > Settings > > Project Interpreter”“, 添加Python。 选取合适的project Interpreter,单击“ok”。 图1 添加python 在左侧导航栏中选择“File
-
通道列表简介 - 数据接入服务 DIS
通道列表中可查看当前用户的已创建的所有通道信息。通道信息包括: 名称/ID:用户发送或者接收数据时,需要指定通道名称,通道名称不可重复。通道名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 状态:通道的运行状态。 通道类型:普通和高级。 普通通道单分区容量:最高发送速度可达
-
添加CloudTable转储任务 - 数据接入服务 DIS
常量或通道内用户数据的JSON属性名称。 取值范围:1~32,只能包含英文字母、数字和下划线。 表12 OpenTSDBTags 参数 是否必选 参数类型 描述 name 是 String 存储该通道数据的OpenTSDB数据的tag名称。 取值范围:1~32,只能包含英文字母、数字和下划线。 type 是 String
-
查询转储任务详情 - 数据接入服务 DIS
常量或通道内用户数据的JSON属性名称。 取值范围:1~32,只能包含英文字母、数字和下划线。 表19 OpenTSDBTags 参数 参数类型 描述 name String 存储该通道数据的OpenTSDB数据的tag名称。 取值范围:1~32,只能包含英文字母、数字和下划线。 type String
-
在线安装DIS Logstash Plugin - 数据接入服务 DIS
在线安装DIS Logstash Plugin 安装DIS Logstash Plugin有在线和离线安装两种方式: 在线安装无需下载插件包,直接连接公网即可安装。 前提条件 已安装PuTTY工具。 安装logstash-input-dis 使用PuTTY工具(或其他终端工具)远程登录Logstash服务器。
-
添加DLI转储任务 - 数据接入服务 DIS
DliDestinationDescriptorRequest 参数 是否必选 参数类型 描述 task_name 是 String 转储任务的名称。 任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 agency_name 是 String 在统一身份认证服务(IAM)中创建委托的名
-
使用DIS实时分析车辆位置 - 数据接入服务 DIS
udTable Service,简称CloudTable)中,用户可以使用CloudTable查询指定车辆在指定时间段的车辆位置。 图1 业务流程图 本次实践基本流程如下所示: 申请CloudTable集群 在CloudTable中创建数据表 申请DIS通道 添加转储任务 获取认证信息
-
转储至DLI - 数据接入服务 DIS
表1 转储相关配置参数 参数 说明 取值 任务名称 用户创建转储任务时,需要指定转储任务名称,同一通道的转储任务名称不可重复。任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 - DLI数据库 单击“选择”,在“选择DLI数据库”窗口选择一个数据库。 此配置项仅支持选择,不可手动输入。
-
添加MRS转储任务 - 数据接入服务 DIS
MRSDestinationDescriptorRequest 参数 是否必选 参数类型 描述 task_name 是 String 转储任务的名称。 任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 agency_name 是 String 在统一身份认证服务(IAM)中创建委托的名
-
步骤1:开通DIS通道 - 数据接入服务 DIS
指的是云服务所在的物理位置。您可以在下拉框中选择并切换区域。 华北-北京1 基本信息 通道名称 用户发送或者接收数据时,需要指定通道名称,通道名称不可重复。通道名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 dis-Tido 通道类型 普通通道单分区容量:最高发送速度可达1MB/秒或1000
-
步骤1:开通DIS通道 - 数据接入服务 DIS
指的是云服务所在的物理位置。您可以在下拉框中选择并切换区域。 华北-北京1 基本信息 通道名称 用户发送或者接收数据时,需要指定通道名称,通道名称不可重复。通道名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 dis-Tido 通道类型 普通通道单分区容量:最高发送速度可达1MB/秒或1000
-
添加DWS转储任务 - 数据接入服务 DIS
DWSDestinationDescriptorRequest 参数 是否必选 参数类型 描述 task_name 是 String 转储任务的名称。 任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 agency_name 是 String 在统一身份认证服务(IAM)中创建委托的名
-
转储至MRS - 数据接入服务 DIS
转储Text格式文件的配置参数 参数 说明 取值 任务名称 用户创建转储任务时,需要指定转储任务名称,同一通道的转储任务名称不可重复。任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 - MRS集群 单击“选择”,在“选择集群”窗口选择一个MRS集群。仅支持转储至非Kerberos认证的MRS集群。
-
转储至OBS - 数据接入服务 DIS
转储Text格式文件的配置参数 参数 说明 取值 任务名称 用户创建转储任务时,需要指定转储任务名称,同一通道的转储任务名称不可重复。任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 - 数据转储地址 存储该通道数据的OBS桶名称。桶名称在“对象存储服务”中“创建桶”时创建。
-
转储至DWS - 数据接入服务 DIS
表1 转储相关配置参数 参数 说明 取值 任务名称 用户创建转储任务时,需要指定转储任务名称,同一通道的转储任务名称不可重复。任务名称由英文字母、数字、中划线和下划线组成。长度为1~64个字符。 - DWS集群 存储该通道数据的DWS集群名称。 单击“选择”,在“选择DWS集群”窗口选择一个集群。
-
配置Plugin - 数据接入服务 DIS
endpoint 是 DIS对应Region的数据接口地址。 请根据实际情况配置 group.id 是 DIS App名称,用于标识一个消费组,由英文字符、数字、-、_组成。 请根据实际情况配置 配置DIS Sink 表2 DIS Sink配置项说明 配置项 是否必填 说明 默认值 channel
-
离线安装DIS Logstash Plugin - 数据接入服务 DIS
离线安装DIS Logstash Plugin 安装DIS Logstash Plugin有在线和离线安装两种方式: 离线安装需要获取插件包并执行安装脚本。 前提条件 已安装PuTTY工具。 操作步骤 使用PuTTY工具(或其他终端工具)远程登录Logstash服务器。 进入到Logstash的安装目录。
-
使用DIS采集增量驾驶行为日志数据 - 数据接入服务 DIS
Mileage string 里程数 BaiDuLongitude string 百度地图经度 BaiDuLatitude string 百度地图纬度 BaiDuAdress string 百度地图地址 Carnum string 车牌号 IsRapidlySpeedup string
-
配置DIS Agent - 数据接入服务 DIS
为此,用户也可以在dis-agent程序安装路径下的conf文件夹修改log4j2.xml文件,自定义log文件的存放位置(如下图红框所示位置修改)。 图2 log4j2 父主题: 使用Agent上传数据
-
应用场景 - 数据接入服务 DIS
停车场开放时长和交通资源的调配。 图1 场景示例图 实时文件传输 实时检测客户应用系统中产生的文件,并采集上传到云上,进行离线分析、存储查询及机器学习,对客户进行分类和信息查询,识别出大型客户,加强服务,进一步提升客户满意度。 图2 场景示例图 数据接入备份 将大量滚动日志文件传