检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Logstash在将数据发送到Elasticsearch之前,对数据进行必要的处理,如解析结构化日志、过滤无用信息等。 数据存储 Elasticsearch作为核心存储组件,Elasticsearch索引和存储来自Logstash的数据,提供快速搜索和数据检索功能。 数据分析与可视化 使用Kibana对El
强大的数据处理功能:Logstash内置了丰富的过滤器,可以在迁移过程中对数据进行清洗、转换和丰富。 灵活的迁移策略:根据业务需求,可以灵活选择全量迁移或增量迁移,优化存储使用和迁移时间。 性能影响 使用Logstash迁移集群依托于Scroll API,此API能够高效读取源集群的索引数据,并批量同步至目标
配置Elasticsearch集群内核监控 场景描述 表1 集群内核监控介绍 集群内核监控增强 描述 支持的集群版本 相关文档 P99时延监控 开源Elasticsearch在监控search请求时仅提供了平均延迟指标,这不足以准确反映集群的实际搜索性能。为了改进这一点,CSS服
是否保持常驻。- true:开启保持常驻。- false:关闭保持常驻。开启“保持常驻”适用于需要长期运行的业务。开启“保持常驻”以后,将会在每个节点上面配置一个守护进程,当logstash服务出现故障的时候,会主动拉起并修复。“保持常驻”不适用于短期运行的业务,因为多次主动拉起logstash服务会导致数据迁移重复。
String 指定查询集群ID。 请求参数 表2 请求Body参数 参数 是否必选 参数类型 描述 instanceName 是 String 节点名称。通过查询集群详情获取instances中的name属性。 level 是 String 日志级别。可查询的日志级别为:INFO,ERROR,DEBUG,WARN。
集群间数据迁移 通过备份与恢复实现华为云Elasticsearch集群间数据迁移:仅适用于源集群和目标集群都是CSS服务的集群,且依赖对象存储服务OBS。 通过S3插件备份与恢复迁移自建Elasticsearch集群至华为云:通过S3插件可以实现自建Elasticsearch集群
项目ID。获取方法请参见获取项目ID和名称。 cluster_id 是 String 指定待升级的集群ID。 inst_type 是 String 指定待升级的节点类型,当前仅支持all。 请求参数 表2 请求Body参数 参数 是否必选 参数类型 描述 target_image_id 是 String
存中的文档数量。 迁移完成后,为什么源集群和目标集群的索引数据存储量不一致? ESM迁移集群后,两个集群的数据存储量不一致是正常的,这是由Elasticsearch的内部存储机制决定的。Elasticsearch存储是有多个shard,每个shard又有多个segment,由于E
表1 配置自定义词库 参数 说明 OBS桶 选择词库文件存储的OBS位置。 单击“创建桶”可以跳转到创建桶页面新建OBS桶,新建OBS桶必须和集群在相同“区域”,且“默认存储类别”只支持“标准存储”或“低频访问存储”。 主词词库 主词词库是用户自定义的词库,初始状态为空。默认选择“不更新”表示不配置该词库。
表1 配置自定义词库 参数 说明 OBS桶 选择词库文件存储的OBS位置。 单击“创建桶”可以跳转到创建桶页面新建OBS桶,新建OBS桶必须和集群在相同“区域”,且“默认存储类别”只支持“标准存储”或“低频访问存储”。 主词词库 主词词库是用户自定义的词库,初始状态为空。默认选择“不更新”表示不配置该词库。
readthedocs.io/en/stable/summary_report.html#summary-report。 节点规格为ess.spec-4u16g、节点数为3的集群性能测试结果如下。 Metric Task Value Unit Cumulative indexing time
请求Body参数 参数 是否必选 参数类型 描述 bucketName 是 String 词库文件存放的OBS桶(桶类型必须为标准存储或者低频存储,不支持归档存储)。 mainObject 否 String 主词词库文件对象,必须为UTF-8无BOM编码的文本文件,一行一个分词,文件大小最大支持100M。
小或文档数等信息的变化来自动触发周期性的管理操作。通过ISM插件可以自定义索引策略,实现自动处理索引的滚动或删除,以优化集群搜索性能或降低存储成本。ISM的使用流程: 创建生命周期策略:在Kibana创建索引的生命周期策略Policy。 索引关联生命周期策略:将索引关联上创建的生命周期策略,生成索引策略。
详细介绍请参见通过成本标签维度查看成本分配。 使用成本单元进行成本分配 企业可以使用成本中心的“成本单元”来拆分公共成本。公共成本是指多个部门共享的计算、网络、存储或资源包产生的云成本,或无法直接通过企业项目、成本标签分配的云成本。这些成本不能直接归属于单一所有者,因此不能直接归属到某一类别。使用拆分
更改OpenSearch集群安全模式 集群创建完成后,可以参考本文更改集群的安全模式。 场景描述 CSS服务支持创建多种安全模式的集群,不同集群的差异请参见表1。 表1 集群类型介绍 集群类型 集群描述 适用场景 非安全集群 非安全模式的集群 非安全模式的集群无需安全认证即可访问
更改Elasticsearch集群安全模式 集群创建完成后,可以参考本文更改集群的安全模式。 场景描述 CSS服务支持创建多种安全模式的集群,不同集群的差异请参见表1。 表1 集群类型介绍 集群类型 集群描述 适用场景 非安全集群 非安全模式的集群 非安全模式的集群无需安全认证即
0/{project_id}/clusters/{cluster_id}/extend css:cluster:scaleOut √ √ 扩容实例的数量和存储容量 POST /v1.0/{project_id}/clusters/{cluster_id}/role_extend css:cluster:expand
日志备份ID,通过系统UUID生成。 clusterId String 参数解释: 集群ID。 obsBucket String 参数解释: 用于存储日志的OBS桶的桶名。 agency String 参数解释: 委托名称,委托给CSS,允许CSS调用您的其他云服务。 updateAt Long
备份路径的总长度不能超过512字符 action不等于real_time_log_collect时必选。 logBucket 是 String 用于存储日志的OBS桶的桶名。action不等于real_time_log_collect时必填。 index_prefix 否 String 日
和分析能力。 日志分析与检索:将MySQL中的日志数据同步到Elasticsearch,进行快速检索和分析。 应用性能监控:将应用性能数据存储在MySQL中,通过Logstash同步到Elasticsearch,进行实时监控和性能分析。 数据备份与恢复:通过Logstash将My