检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Spark Streaming的相关环境 准备DIS应用开发环境 参考步骤1：开通DIS通道准备相应DIS环境。 安装Maven并配置本地仓库地址。 安装scala-sdk。 配置DIS Spark Streaming依赖 项目中可通过以下配置引入DIS Spark Streaming依赖：
在“API凭证”页面，查看账号名和账号ID、IAM用户名和IAM用户ID，在项目列表中查看项目和项目ID。 获取endpoint 终端节点（Endpoint）即调用API的请求地址，不同服务不同区域的终端节点不同。本服务的Endpoint可从终端节点Endpoint获取。 准备DIS应用开发环境 具体操作请参见准备DIS应用开发环境。
已开通企业项目服务的用户，可以使用企业项目管理华为云上的云服务资源。 绑定企业项目 用户可以在创建通道时为通道选择所属的企业项目，从而将DIS通道与企业项目进行关联，详情请参见步骤1：开通DIS通道。在选择“企业项目”的下拉列表中，将显示用户在企业项目服务中已创建的项目。系统还内置了一个缺省的企业
前提条件 您需要规划数据接入服务所在的区域信息，并根据区域确定调用API的Endpoint。 终端节点（Endpoint）即调用API的请求地址，不同服务不同区域的终端节点不同。本服务的Endpoint您可以从终端节点Endpoint获取。 创建通道 如下示例是创建通道最简单的配置。
在“事件管理”页面中单击“事件”，默认显示当前所有通道或转储任务已发生的事件。 在事件列表右上方的下拉列表中通过选择不同的筛选条件搜索事件。可从事件级别和事件源两个维度进行筛选。 在下拉列表中选择“所有事件级别”、“正常”或“警告”。 在下拉列表中选择“事件源”，在输入框中输入通道或转储任务名称，例如“demo”。
“创建源数据Schema”进行创建，参见图2。 创建通道时，关闭“Schema开关”。待通道创建成功后，选择“通道管理”页签，单击已创建的通道名称，进入所选通道的管理页面。选择“转储任务”页签，单击“添加转储任务”按钮，在弹出的“添加转储任务”页面进行创建，参见图3。 图1 创建Schema1
Set<TopicPartition> assignment() 接口 支持 获取consumer消费的通道与分区信息 Set<String> subscription() 接口 支持 获取consumer已订阅的通道名称 void assign(Collection<TopicPartition>
Set<TopicPartition> assignment() 接口 支持 获取consumer消费的通道与分区信息 Set<String> subscription() 接口 支持 获取consumer已订阅的通道名称 void assign(Collection<TopicPartition>
设置偏移量提交时间间隔 手动提交 在有些场景可能对消费偏移量有更精确的管理，以保证消息不被重复消费以及消息不被丢失。假设对拉取到的消息需要进行写入数据库处理，或者用于其他网络访问请求等等复杂的业务处理，在这种场景下，所有的业务处理完成后才认为消息被成功消费，此时必须手动控制偏移量的提交。使用手动提交相关参数设置如下：
“高级配置”页签，选择“现在配置”，展开标签页。 输入新添加标签的键和值。 系统支持添加多个标签，最多可添加10个标签，并取各个标签的交集，对目标通道进行搜索。 图1 添加标签 您也可对现有通道增加标签，详见管理标签。 搜索目标通道 在现有通道列表页，按标签键或标签值搜索目标通道。 登录管理控制台。
设置偏移量提交时间间隔 手动提交 在有些场景可能对消费偏移量有更精确的管理，以保证消息不被重复消费以及消息不被丢失。假设对拉取到的消息需要进行写入数据库处理，或者用于其他网络访问请求等等复杂的业务处理，在这种场景下，所有的业务处理完成后才认为消息被成功消费，此时必须手动控制偏移量的提交。使用手动提交相关参数设置如下：
用。(例如上传一条数据到新分区，其sequenceNumber起始为0，上传100条之后，则最后一条的sequenceNumber为99；如超过生命周期之后，0~99的数据则不可用) 分区的数据有效范围可以通过调用describeStream(查询通道详情)接口获取，其seque
告警规则”，在页面右侧单击“创建告警规则”。 根据界面提示设置DIS通道的告警规则，当前仅支持“自定义创建”。 设置完成后，单击“立即创建”。当符合规则的告警产生时，系统会自动进行通知。 更多关于DIS通道监控规则的信息，请参见《云监控用户指南》。 父主题： 使用CES监控DIS
目前每个租户默认Partition配额范围为1～50个，租户可以根据需要配置Partition个数。 若需扩大配额，请提交工单增加配额，具体上限需要根据集群的实际负载情况进行计算。 父主题： 一般性问题
此处路径仅支持选择，不可手动输入。 配置此项必须已配置“MRS集群”。 转储文件目录 在MRS中存储通道文件的自定义目录，多级目录可用“/”进行分隔，不能以“/”开头。 取值范围：0~50个字符。 默认配置为空。 - 偏移量 最新：最大偏移量，即获取最新的有效数据。 最早：最小偏移量，即读取最早的有效数据。
10MB/秒，单次请求的记录总大小不能超过5MB（不包含partitionKey数据大小） 分区数量：分区是DIS数据通道的基本吞吐量单位。通道的多个分区可以并发进行数据传输，以提升效率。 源数据类型：BLOB、JSON、CSV。 生命周期（小时）：存储在DIS中的数据保留的最长时间，超过此时长数据将被
从该通道开始返回通道列表，返回的通道列表不包括此通道名称。 如果需要分页查询，第一页查询时不传该字段。返回结果has_more_streams为true时，进行下一页查询，exclusiveStartStreamName传入第一页查询结果的最后一条通道名称。 该demo中start_Stream_
修改订阅 在“事件管理”页面中单击“订阅” 。 在指定订阅名称所在行的“操作”列，单击“更多 > 修改”。 在“订阅设置”页面，选择要更改的参数项进行修改。具体修改方法参见创建订阅中的步骤 4～步骤 6。 删除订阅 在“事件管理”页面中单击“订阅” 。 在指定订阅名称所在行的“操作”列，单击“更多
建DIS应用程序，用以读取和处理来自DIS数据通道的数据。 Project：用于将OpenStack的资源（计算资源、存储资源和网络资源）进行分组和隔离。Project可以是一个部门或者一个项目组。一个账户中可以创建多个Project。账户是租户对应的账号。一个Region有n个
项目内的资源管理、成员管理。 您可以选择默认的企业项目“default”或其他已有的企业项目。如果要创建新的企业项目，请登录企业管理控制台进行创建，详细操作请参考《企业管理用户指南》。 - 现在配置 单击“现在配置”，呈现添加标签。 添加标签具体请参考管理通道标签。 - 暂不配置
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
