检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
DSL加工是LTS为您提供的一站式日志加工平台,基于领域自定义的脚本语言和200多个内置函数,您可以在LTS控制台实现端到端的日志规整、富化、流转、脱敏、过滤等加工任务。 云日志服务支持DSL(Domain Specific Language)仪表盘模板,DSL加工任务监控中心主要展示加工任务ID、加工任务名称、输入行数、输出行数等信息。
产品功能 在使用云日志服务LTS之前,建议您先通过表1了解LTS提供的主要功能。 表1 产品功能 功能 说明 端云全场景日志接入 支持40+云服务、主机/容器、移动端、跨云、多语言SDK、多账号汇聚,满足全场景客户丰富的日志接入需求。 实时采集日志 云日志服务提供实时日志采集功能
构建字典与表格进行数据富化 字典和表格是对数据进行富化时主要使用的两种数据结构,本文档主要介绍这两种数据结构的常见构建方式,并对比不同构建方式的优缺点。 字典构建 不同字典构建方式对比参考如下: 表1 不同字典构建方式对比 构建方式 优点 缺点 直接构建 直观、简单、方便。 如果
使用DSL加工函数处理日期时间 处理日期时间,将方便您对日志后续查询与可视化展示。本文档主要介绍使用函数进行日期时间数据类型转换和日期时间偏移。 概念解释 数据类型转换和转换函数 日期时间对象和Unix时间戳的相互转换 日期时间字符串和Unix时间戳的相互转换 日期时间对象和日期时间字符串的相互转换
请确保替换正确的AK/SK,否则将无法安装ICAgent。 跳板机连接IP:使用EIP方式连接,为跳板机弹性公网IP,使用云专线VPC对等连接方式,为跳板机VPC内网IP。 复制命令root用户登录阿里云ECS,执行ICAgent安装命令进行安装,当显示“ICAgent install
应的云服务中关闭上报日志的开关。例如在ELB服务控制台,配置ELB访问日志时关闭日志记录,详细操作请参考访问日志。虚拟私有云VPC关闭上报日志请参考开启/关闭VPC流日志。 父主题: 计费FAQ
日志转储至DWS 数据仓库服务GaussDB(DWS) 是一种基于华为云基础架构和平台的在线数据处理数据库,提供即开即用、可扩展且完全托管的分析型数据库服务。转储至数据仓库服务GaussDB(DWS) ,可以将日志中的结构化字段转储到DWS数据库表中,您可以根据业务场景选择是否使用DWS进行日志转储。
式搜索和分析引擎,被广泛用于构建实时的、可扩展的搜索和分析应用程序。它的主要作用是存储、搜索和分析大量的数据。ElasticSearch的日志是记录其运行过程中各种信息的重要工具,主要有以下两种类型: 主要日志(cluster-name.log,以集群名称命名:记录了Elasti
应用管理与运维平台 ServiceStage云主机日志 ServiceStage云主机日志接入LTS - 39 VPC 虚拟私有云 VPC流日志(VPC) 虚拟私有云VPC接入LTS VPC流日志 40 WAF Web应用防火墙 攻击日志 访问日志 Web应用防火墙WAF接入LTS - 父主题:
采集第三方云厂商、互联网数据中心、华为云其他Region的Kubernetes日志到LTS 采集Syslog汇聚服务器日志到LTS 将自建ELK日志导入云日志服务LTS 基于VPN打通网络实现API或SDK跨云上报日志到LTS 使用Flume采集器上报日志到LTS 通过ECS接入LTS采集Zabbix数据 采集多渠道日志数据到LTS
概念解释 LTS DSL语法中的日期时间处理主要涉及三种数据类型:日期时间字符串、日期时间对象和Unix时间戳。 日期时间字符串:日期时间字符串的主要用途是为了便于展示以及提升用户可读性。 LTS DSL语法中的日期时间字符串主要分为两种形式: 带有时区信息的日期时间字符串,如2018-06-02
rch(简称ES)迁移到LTS中。 日志接入 基于VPN打通网络实现API或SDK跨云上报日志到LTS 本实践主要介绍基于VPN快速打通网络,实现API或SDK跨云上报日志。 日志接入 使用Flume采集器上报日志到LTS 本实践主要介绍使用Flume系统采集日志,并且通过LTS侧提供的KAFKA协议方式上报日志。
表1 系统模板 模板名称 字段名称 字段类型是否可修改 字段是否可删除 ELB模板 根据ELB资料中提供的日志字段被定义。 否 否 VPC模板 根据VPC资料中提供的日志字段被定义。 否 否 CTS模板 字段名称为json日志中的key。 否 否 APIG模板 根据APIG资料中提供的日志字段被定义。
表1 系统模板 模板名称 字段名称 字段类型是否可修改 字段是否可删除 ELB模板 根据ELB资料中提供的日志字段被定义。 否 否 VPC模板 根据VPC资料中提供的日志字段被定义。 否 否 CTS模板 字段名称为json日志中的key。 否 否 APIG模板 根据APIG资料中提供的日志字段被定义。
中间件-Redis日志 Redis的日志主要用于记录Redis服务器的运行状态、相关事件以及客户端执行的命令等信息。Redis的日志主要有系统日志和慢查询日志。 系统日志(System Log): 记录Redis服务器的启动、关闭、配置加载、持久化操作(如 RDB 和 AOF)等系统级事件。
DMS仪表盘模板 分布式消息服务Kafka版(Distributed Message Service for Kafka)是一款基于开源社区版Kafka提供的消息队列服务,向用户提供计算、存储和带宽资源独占式的Kafka专享实例。重平衡日志记录Rebalance的详情,包括Reb
使用DSL加工函数进行事件判断 通过事件判断可以更好地对符合特定条件的数据进行相应操作,让加工逻辑更可靠。本文主要介绍使用函数进行事件判断的常见场景和最佳方案示例。 场景一:判断字段是否存在 原始日志 { "a": "a_value" } 加工规则 e_if(e_has("a")
安全 责任共担 身份认证与访问控制 数据保护技术 审计与日志 服务韧性 监控安全风险 认证证书
服务韧性 LTS服务提供了3级可靠性架构,通过AZ内实例容灾、双AZ容灾、日志数据多副本技术方案,保障服务的持久性和可靠性。 表1 LTS服务可靠性架构 可靠性方案 简要说明 AZ内实例容灾 单AZ内,LTS实例通过多实例方式实现实例容灾,快速剔除故障节点,保障LTS实例持续提供服务。
的原子操作提供给用户使用。ZooKeeper的主要功能包括配置维护、域名服务、分布式同步、组服务等。它提供了一个分布式独享锁、选举、队列的接口,主要用来解决分布式系统中一致性、可用性和并发控制等问题。 ZooKeeper 的日志主要分为三种:系统日志(System Logs)、事务日志(Transaction