检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
只能包含数字、字母、中划线“-”、下划线“_”。 最小长度:0 最大长度:43 响应参数 无 请求示例 给指定通道添加标签 POST https://{Endpoint}/v2/{project_id}/stream/{stream_id}/tags { "tag" : {
内扩容或缩容操作有一次成功则最近一小时内不允许再次进行扩容或缩容操作。 最小值:0 响应参数 无 请求示例 变更通道分区数量 PUT https://{Endpoint}/v2/{project_id}/streams/{stream_name} { "stream_name"
在左侧文本框中输入JSON或者CSV格式的源数据样例,也可单击导入源数据样例。例如: 导入源数据样例时,仅支持导入“.txt”,“.json”,“.csv”和“.java”的文件格式。 左侧文本框中单击,可在右侧文本框中根据源数据样例生成Avro schema。例如: 右侧文本框中单击,可修改已生成的Avro
转储任务创建时间。 last_transfer_timestamp Long 转储任务最近一次转储时间。 请求示例 查询转储任务列表 GET https://{Endpoint}/v2/{project_id}/streams/{stream_name}/transfer-tasks 响应示例
序列号,用来记录该通道的消费检查点。 metadata String 用户消费程序端的元数据信息。 请求示例 查询Checkpoint详情 GET https://{Endpoint}/v2/{project_id}/checkpoints 响应示例 状态码: 200 正常返回 { "sequence_number"
commit_checkpoint_stream_names Array of strings 关联通道列表。 请求示例 查询App列表 GET https://{Endpoint}/v2/{project_id}/apps 响应示例 状态码: 200 正常返回 { "total_number"
consumer_strategy 否 String 偏移量。 LATEST:最大偏移量,即获取最新的数据。 TRIM_HORIZON:最小偏移量,即读取最早的数据。 缺省值:LATEST 枚举值: LATEST TRIM_HORIZON dws_cluster_name 是 String 存储该通道数据的DWS集群名称。
转储相关问题 DIS如何实现转储数据至DWS的特定列 Schema如何支持字段缺省或者为NULL 如何专线接入DIS 读取通道数据时,如何区分不同类型数据?
应用场景 实时数据处理 实时收集城市各交通枢纽的车辆通行数据,缓存在通道中,分析平台周期读取通道中的数据分析后将结果应用到调度系统,实现对停车场开放时长和交通资源的调配。 图1 场景示例图 实时文件传输 实时检测客户应用系统中产生的文件,并采集上传到云上,进行离线分析、存储查询及
日志转储的状态。 已完成 失败 异常 读取记录数 从通道内读取的用户记录数。 写入记录数 写入目标服务(如MRS)的记录数,例如通道内的一条用户记录可能转换为多条记录写入MRS服务的opentsdb。 转储文件名 转储到目标服务的文件名称。 从通道内读取的用户记录会写入文件后,再通过文
查询分区监控数据 GET https://{Endpoint}/v2/{project_id}/streams/{stream_name}/partitions/{partition_id}/metrics 响应示例 无 SDK代码示例 SDK代码示例如下。 Java Python Go
对已有分区进行缩容操作后,缩容成功的分区不再进行计费也不参与配额控制。在步骤1:开通DIS通道中配置的“生命周期”时间内,缩容成功的分区可以读取数据不可写入数据,超过此时间则不可读取/写入数据。 执行自动扩缩容操作 使用注册账户登录DIS控制台。 单击管理控制台左上角的,选择区域和项目。 按照如下方法进行自动扩缩容。
时间戳对应的监控值。 请求示例 查询通道监控数据 GET https://{Endpoint}/v2/{project_id}/streams/{stream_name}/metrics 响应示例 无 SDK代码示例 SDK代码示例如下。 Java Python Go 更多 1 2 3
否 String 值。 对应的是企业项目ID,需要在企业管理页面获取。 36位UUID。 响应参数 无 请求示例 创建通道 POST https://{Endpoint}/v2/{project_id}/streams { "stream_name" : "newstream"
调用说明 数据接入服务提供了REST(Representational State Transfer)风格API,支持您通过HTTPS请求调用。 调用方法请参见如何调用API。 父主题: 使用前必读
d value String 值。 对应的是企业项目ID,需要在企业管理页面获取。 36位UUID。 请求示例 查询通道列表 GET https://{Endpoint}/v2/{project_id}/streams 响应示例 状态码: 200 正常返回 { "total_number"
d value String 值。 对应的是企业项目ID,需要在企业管理页面获取。 36位UUID。 请求示例 查看通道详情 GET https://{Endpoint}/v2/{project_id}/streams/{stream_name} 响应示例 状态码: 200 正常返回
String 授权影响类型。 accept:允许该授权操作。 枚举值: accept 响应参数 无 请求示例 给租户添加权限策略 POST https://{Endpoint}/v2/{project_id}/streams/{stream_name}/policies { "stream_id"
配置样例工程 样例代码请查看:https://github.com/huaweicloud/huaweicloud-sdk-python-dis/tree/master/dis_sdk_python_demo。 操作步骤 huaweicloud-python-sdk-dis已发布到
artifactId> <version>1.2.18</version> </dependency> 使用DIS样例工程 在https://dis-publish.obs-website.cn-north-1.myhuaweicloud.com/中下载DIS的kafka-adapter压缩包。