数据接入服务 DIS-添加转储任务:添加转储到数据湖探索服务(DLI)的转储任务

时间:2025-02-12 14:55:05

添加转储到 数据湖探索 服务( DLI )的转储任务

 1 2 3 4 5 6 7 8 9101112131415161718192021222324252627
CreateTransferTaskRequest request = new CreateTransferTaskRequest();// 配置通道名称:用户在 数据接入服务 (简称DIS)控制台创建通道request.setStreamName(streamName);// 添加DLI转储任务,并设置任务名称UqueryDestinationDescriptorRequest descriptor = new UqueryDestinationDescriptorRequest();descriptor.setTransferTaskName(taskName);// 配置DLI相关信息:数据库和内表名称。可通过 数据湖 探索(简称DLI)控制台创建和查询,DLI表需为内表descriptor.setDliDatabaseName("dis_dli");descriptor.setDliTableName("dis_test");// 转储DLI通过OBS服务中转,需配置OBS桶名和子文件夹名,此目录也用于保存转储失败的源数据文件。可通过OBS控制台或客户端创建桶和文件夹descriptor.setObsBucketPath("obs-dis");descriptor.setFilePrefix("transfertask");// 转储周期,单位sdescriptor.setDeliverTimeInterval(900);// 可选:在DIS管理页面自动创建dis_admin_agency委托后,默认采用此委托。如未创建过 IAM 委托,请用主账户登录DIS控制台并创建通道,点击“添加转储任务”,前往授权。descriptor.setAgencyName("dis_admin_agency");// 设置从DIS通道拉取数据时的初始偏移量: 默认LATEST,从通道内最新上传的记录开始读取; TRIM_HORIZON,从通道内最早的未过期记录开始读取descriptor.setConsumerStrategy(PartitionCursorTypeEnum.LATEST.name());request.setDliDestinationDescriptor(descriptor);
support.huaweicloud.com/sdkreference-dis/dis_06_0111.html