检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
据类型,可修改创建通道时已设置的源数据类型。或者选择待修改源数据类型通道对应的操作列,选择“更多 > 变更源数据类型”,弹出变更源数据类型对话框,修改创建通道时已设置的源数据类型。 “源数据类型”为“BLOB”、“JSON”、“CSV”的通道,当该通道无转储任务 , 才可修改源数据类型。
左侧页签栏选择“Java Build Path”,右侧对话框显示“Java Build Path”页面。 在“Java Build Path”页面选择“Libraries”页签,单击“Add Library”,弹出“Add Library”对话框。 选择“JRE System Librar
据Schema。 在左侧文本框中输入JSON或者CSV格式的源数据样例,也可单击导入源数据样例。 在左侧文本框中单击,可删除左侧文本框中已输入或导入的源数据样例。 在左侧文本框中单击,可在右侧文本框中根据源数据样例生成Avro schema。 在右侧文本框中单击,可删除已生成的Avro
据Schema。 在左侧文本框中输入JSON或者CSV格式的源数据样例,也可单击导入源数据样例。 在左侧文本框中单击,可删除左侧文本框中已输入或导入的源数据样例。 在左侧文本框中单击,可在右侧文本框中根据源数据样例生成Avro schema。 在右侧文本框中单击,可删除已生成的Avro
据Schema。 在左侧文本框中输入JSON或者CSV格式的源数据样例,也可单击导入源数据样例。 在左侧文本框中单击,可删除左侧文本框中已输入或导入的源数据样例。 在左侧文本框中单击,可在右侧文本框中根据源数据样例生成Avro schema。 在右侧文本框中单击,可删除已生成的Avro
DIS Agent概述 DIS Agent是数据接入服务(DIS)提供的一个客户端程序,具有如下功能: 持续查询文本文件,实时收集增量数据按分隔符解析并上传到DIS通道(通道源数据类型为BLOB/JSON/CSV)。 DIS Agent安装流程如图1所示。 图1 安装流程 父主题:
打开IntelliJ IDEA,选择“File > Open” 在弹出的对话框中,选择huaweicloud-dis-kafka-adapter-X.X.X-demo目录,并双击pom.xml确定。 当弹出如下对话框,请选择“Open as Project”,作为工程打开。 单击“New
打开IntelliJ IDEA,选择“File > Open” 在弹出的对话框中,选择huaweicloud-dis-kafka-adapter-X.X.X-demo目录,并双击pom.xml确定。 当弹出如下对话框,请选择“Open as Project”,作为工程打开。 单击“New
partitionNumber 否 通道的分区数量。 用于计算batchSize的大小。 1 batchSize 否 一个Flume事务内批量处理的数据集大小。 (“partitionNumber”配置的值)*250 sendingThreadSize 否 发送线程数。默认单线程发送。 说明:
在通道详情页面的右上角单击“扩缩容”按钮,弹出“变更分区数目”对话框。 修改“目标分区数”,单击“确认”。 在左侧列表栏中选择通道管理。 针对待扩缩容的通道,选中“操作”列中的“更多”下拉列表中的“扩缩容”。 弹出“变更分区数目”对话框。 修改“目标分区数”,单击“确认”。 查看扩缩容日志
左侧页签栏选择“Java Build Path”,右侧对话框显示“Java Build Path”页面。 在“Java Build Path”页面选择“Libraries”页签,单击“Add Library”,弹出“Add Library”对话框。 选择“JRE System Librar
左侧页签栏选择“Java Build Path”,右侧对话框显示“Java Build Path”页面。 在“Java Build Path”页面选择“Libraries”页签,单击“Add Library”,弹出“Add Library”对话框。 选择“JRE System Librar
单击管理控制台左上角的,选择区域和项目。 在左侧列表栏中选择“通道管理”。 在需要删除的通道中单击操作列的“删除”,弹出“删除DIS通道”对话框。 单击“确认”,删除选中的通道。 父主题: 管理通道
单击“源数据Schema”后的“导入文件”。 在左侧文本框中输入JSON或者CSV格式的源数据样例,也可单击导入源数据样例。例如: 导入源数据样例时,仅支持导入“.txt”,“.json”,“.csv”和“.java”的文件格式。 左侧文本框中单击,可在右侧文本框中根据源数据样例生成Avro schema。例如:
图1 上传下载数据 单击“上传”,在上传文本框中输入上传内容后,确认上传。 系统提示上传数据成功,并在界面回显当前数据上传成功记录的序列号。 图2 上传数据 单击“下载”,选择游标类型并输入对应的序列号,确认完成。下载成功后,您可以文本形式获取响应体。 输入的序列号,需要在分区
骤 4~步骤 6。 删除订阅 在“事件管理”页面中单击“订阅” 。 在指定订阅名称所在行的“操作”列,单击“更多 > 删除”,弹出确认删除对话框,如图1所示。 图1 确认删除 单击“确定”,删除该订阅。 父主题: 事件通知
打开IntelliJIDEA,选择“File > Open”。选择解压至本地的dis-spark-streaming-demo目录,双击pom.xml。 当弹出如下对话框,请选择“Open as Project”,作为工程打开。 单击“New Window”,在新窗口打开此工程。 在新打开的IDEA窗口中,单击“File
一步提升客户满意度。 图2 场景示例图 数据接入备份 将大量滚动日志文件传输到云端做备份,用于数据丢失或异常后的恢复和故障分析。同时大量小文本文件可合并转储为大文件,提高数据处理性能。 图3 场景示例图 IOT分析应用 通过在车载设备中集成IoTDA,并配置数据转发到DIS,实时
在左侧列表栏中选择“通道管理”。 单击通道名称,进入所选通道的管理页面。 选择“授权管理”,单击“添加授权策略”, 选择授权模式,再在“被授权用户”文本框中,设置用户信息。 支持通配符"*",表示授权所有账号; 支持添加多账号,用","隔开 支持授权某账号下的特定用户,输入账号名,单击"查询用户"按钮,选择用户。
配置代理密码。 请根据实际情况配置 [flows] 监控的文件信息,可同时配置多个监控文件信息。 当前支持如下模式上传: DISStream:持续监控文本文件,实时收集增量数据按分隔符解析并上传到DIS通道(通道源数据类型为BLOB/JSON/CSV),配置项说明请参见表3。 具体配置格式可以参见版本包中的“agent