检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
从不同的数据源(input)迁移数据到不同的目的端(output)。 约束限制 创建的配置文件大小不能超过100k。 Logstash集群允许最多配置50个配置文件,最多可以同时存在5个“状态”为“校验中”的配置文件。 前提条件 创建配置文件前,必须先获取数据源和目的端的服务器或
使用华为云Logstash迁移Elasticsearch集群的Logstash配置文件样例 本文以源端和目的端是相同类型的CSS Elasticsearch集群为例,介绍使用Logstash进行集群迁移的配置文件样例。当源端和目的端的Elasticsearch集群类型不同时,可以参考本文样例中的input和output模块自由组合出合适的配置文件。
更多与订单相关操作所需要的授权项请见费用中心细粒度策略。 CSS FullAccess 系统策略 基于策略授权的CSS服务的所有权限,拥有该权限的用户可以完成基于策略授权的CSS服务的所有执行权限。 该策略部分权限有依赖,如果要使用对应的功能,需要在同项目中勾选依赖的权限。 CSS ReadOnlyAccess
参数 说明 注意事项 “OBS桶” 选择日志存储的OBS桶。单击右侧的“创建桶”支持新建OBS桶。 OBS桶的所在区域必须跟集群的所在区域保持一致。 “备份路径” 填写日志在OBS桶中的存放路径。 备份路径配置规则: 备份路径不能包括符号“\:*?"<>|”。 备份路径不能以“/”开头。
参数 说明 注意事项 “OBS桶” 选择日志存储的OBS桶。单击右侧的“创建桶”支持新建OBS桶。 OBS桶的所在区域必须跟集群的所在区域保持一致。 “备份路径” 填写日志在OBS桶中的存放路径。 备份路径配置规则: 备份路径不能包括符号“\:*?"<>|”。 备份路径不能以“/”开头。
聚合增强常见的使用场景请参见表1。 表1 聚合增强的使用场景 场景 描述 相关文档 低基字段聚合 表示对具有较少不同值的列进行聚合,如对一个存储类别的列进行聚合。 低基字段分组聚合 高基字段聚合 表示对具有较多不同值的列进行聚合,如对一个存储时间的列进行按天的时间聚合。 高基字段直方图聚合
提高数据迁移的效率。 并发同步技术:利用slice并发同步技术,可以提高数据迁移的速度和性能,尤其是在处理大规模数据时。 配置简单:华为云Logstash的配置相对简单直观,通过配置文件即可实现数据的输入、处理和输出。 强大的数据处理功能:Logstash内置了丰富的过滤器,可以
ts收集的最大事件数,该值较大通常更有效,但会增加内存开销,默认为125。 batchDelayMs Integer 每个event被pipeline调度等待的最小时间。 单位毫秒。 queueType String 用于事件缓冲的内部队列模型。memory为基于内存的传统队列,
ts收集的最大事件数,该值较大通常更有效,但会增加内存开销,默认为125。 batchDelayMs Integer 每个event被pipeline调度等待的最小时间。 单位毫秒。 queueType String 用于事件缓冲的内部队列模型。memory为基于内存的传统队列,
} else { fmt.Println(err) } } 更多编程语言的SDK代码示例,请参见API Explorer的代码示例页签,可生成自动对应的SDK代码示例。 状态码 状态码 描述 200 请求已成功。 400 非法请求。 建议直接修改该请求,不要重试该请求。
} else { fmt.Println(err) } } 更多编程语言的SDK代码示例,请参见API Explorer的代码示例页签,可生成自动对应的SDK代码示例。 状态码 状态码 描述 200 请求已成功。 400 非法请求。 建议直接修改该请求,不要重试该请求。
敏感字符替换,输入需要隐藏的敏感字串列表。配置隐藏字符串列表后,在返回的配置内容中,会将所有在列表中的字串隐藏为***(列表最大支持20条,单个字串最大长度512字节)。 表3 setting 参数 是否必选 参数类型 描述 workers 否 Integer 并行执行管道的Filters+
敏感字符替换,输入需要隐藏的敏感字串列表。配置隐藏字符串列表后,在返回的配置内容中,会将所有在列表中的字串隐藏为***(列表最大支持20条,单个字串最大长度512字节)。 表3 setting 参数 是否必选 参数类型 描述 workers 否 Integer 并行执行管道的Filters+
String 参数解释: 快照每天执行的时间点。 indices String 参数解释: 要备份的索引。 totalShards Integer 参数解释: 要备份的索引的总shard数。 failedShards Integer 参数解释: 备份失败的shard数。 version String
Tenant和Global Tenant空间的数据,如果需要访问其他用户的Tenant空间,则需要通过管理员账户在test用户的Role中定义其他空间的index_pattern、dashboard等信息的访问权限。 使用管理员账户admin在集群的Global Tenant中创建ind
性能说明 通过Elasticsearch官方提供的benchmark脚本rally1.0.0,对云搜索服务的集群(版本:7.6.2) 进行性能测试。 本次测试采用官方提供的geonames,大小3.2G,11396505个doc。索引采用6个shard(默认为5个)。性能指标说明