检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用DSL加工函数清洗LTS日志数据 您可以通过日志加工函数清洗您所采集的海量日志数据,实现数据格式标准化。本文介绍调用函数清洗数据的常见场景和相关操作。 DSL加工的功能在邀测中,支持华北-北京四、华东-上海一、华南-广州局点,仅针对用户内测使用,后续将全网开放,敬请期待! 场景一:过滤LTS日志
除服务发现规则的权限策略,控制其对服务发现规则资源的使用范围。 如果华为账号已经能满足您的使用需求,不需要创建独立的IAM用户进行权限管理,您可以跳过本章节,不影响您使用LTS的其它功能。 IAM是华为云提供权限管理的基础服务,无需付费即可使用,您只需要为您账号中的资源进行付费。
云数据库GaussDB接入LTS 支持云数据库 GaussDB日志接入LTS。 具体接入方法请参见对接LTS并查看数据库审计日志。 父主题: 使用云服务接入LTS
接收潜在的告警事件并响应。 高可用性与可靠性。 依托于LTS的高可用性与数据可靠性,告警服务的可用性达到99.9%,告警相关的数据可靠性高于99.99999999%。 低成本与免运维。 目前LTS暂时不收取告警规则、告警管理等其他费用,降低告警系统的运维成本和运维人员的时间成本。
logstorage 以下截图仅供参考,请以实际的日志流ID查询结果为准。 图2 查询资源账单 关于查询账单的详细参数介绍请参见流水与明细账单。 示例:通过流水和明细账单查看并核对资源用量 以下例子提到价格仅为参考示例,实际计算请以价格计算器中的价格为准。 云日志流水账单 云日志服务按需
转储流量会统计非压缩的转储数据量,以转储DMS流量统计为例: 若用户转储原始日志:LTS会统计转储的原始日志的大小(非压缩),那么统计的转储流量是length("192.168.0.1 200 190 /check")=26字节 若用户转储结构化解析后的日志:LTS会统计转储日志的KEY和V
获取日志组和日志流ID 登录云日志服务LTS管理控制台。 在“日志管理”页面,将鼠标悬浮在日志组名称上,即可查看日志组ID。 单击日志组名称对应的按钮,将鼠标悬浮在日志流名称上,即可查看日志流ID。 父主题: 附录
流lts-system/lts-icagent-statistics,然后您可以使用采集诊断功能查看ICAgent运行状态,及时发现异常情况,此功能仅支持5.12.196及以上版本的ICAgent。详细请参考采集诊断仪表盘模板。 父主题: LTS配置中心管理
方法1:更新表在元数据库中的分区信息 登录DLI控制台。 左侧导航栏选择“作业管理-SQL作业”。 单击对应队列的操作列“编辑”,进入详情页,在编辑框输入命令“MSCK REPAIR TABLE table_name”,table_name为有分区表的表名称。例如更新表名称为lts_qpg_dli的分区表。
String 是 被解码的值。 format String 否 Base64解码协议。默认为format=RFC3548,还可以配置为format=RFC4648。 说明: RFC4648的Base64解码协议使用等号(=)将被解码的值填充到4字节的倍数。 返回结果 返回解码后的字符串。 函数示例
通过流程控制函数中的e_if函数、事件检查函数中的e_not_has函数删除不存在srcaddr和dstaddr字段的日志。 通过流程控制函数中的e_if函数、操作符函数中的op_not函数、事件检查函数中的e_match函数删除srcaddr和dstaddr字段不符合IP地址格式的日志。
折线图需要统计数据具备时序字段,依据时间顺序组织与聚合指标。可直观反映指标随时间的变化趋势。 饼图 饼图描述的是不同分类的占比情况,通过扇区大小来衡量各分类项的占比情况。错误码占比情况分析等占比统计场景适用。 数字图 数字图描述的是单个指标,一般选择具备有业务价值的关键性指标。统计天、周、月PV、UV等单指标场景适用。
支持对前100000条日志进行分析。 快速分析的目的是快速返回字段值的分布情况和变化趋势,并没有对全量数据进行分析,是一种采样结果。 支持通过查询时间和查询条件过滤日志进行分析。 快速分析是对通过查询语句查询到的日志进行分析,当查询到的日志数目为零时,快速分析没有结果。 支持将快速分析生成查询语句。 单击快速
0.23 新增支持快应用上报。 1.0.21 废弃config方法,优先使用new SDK创建一个新的实例。 去除代码中对三方包的依赖和存在的中文符号。 1.0.19 修改时间阈值的范围从1-60改为1-1800,其默认值从30改为3。 1.0.18 调整日志级别等级。 支持labels嵌套。
出方向的流量进行过滤,所关联的查询分析语句如下所示: 过滤源IP图,所关联的查询分析语句如下所示: SELECT DISTINCT(srcaddr) 过滤目的IP图,所关联的查询分析语句如下所示: SELECT DISTINCT(dstaddr) 过滤协议类型图,所关联的查询分析语句如下所示:
关闭索引后,历史索引的存储空间将在当前日志流的数据保存时间到期后,自动被清除。 云日志服务默认已为部分内置保留字段创建字段索引,请参见内置保留字段。 不同的索引配置,会产生不同的查询和分析结果,请根据您的需求,合理创建索引。全文索引和字段索引互不影响。 索引配置修改后,对新写入的日志数据生效,历史日志数据不会生效。
关闭索引后,历史索引的存储空间将在当前日志流的数据保存时间到期后,自动被清除。 云日志服务默认已为部分内置保留字段创建字段索引,请参见内置保留字段。 不同的索引配置,会产生不同的查询和分析结果,请根据您的需求,合理创建索引。全文索引和字段索引互不影响。 索引配置修改后,对新写入的日志数据生效,历史日志数据不会生效。
便快捷的方式进行查询。 日志查询与分析:对采集的日志数据,可以通过关键字查询、模糊查询等方式简单快速地进行查询,适用于日志实时数据分析、安全诊断与分析、运营与客服系统等。 日志监控与告警:支持对存储在云日志服务中的日志数据进行关键词统计,通过在一定时间段内日志中关键字出现次数,实时监控服务运行状态。
多个项目时,具体的项目人员只需要查看所属项目对应的日志组下的日志流即可,其它项目的日志流不会对其产生干扰。 LTS支持按照业务需求对不同的日志组添加对应的标签,方便运维人员管理业务。 前提条件 如果您使用华为账号创建的IAM用户进行操作,IAM用户需要具备足够的权限才能使用云日志
记录MySQL服务器接收到的所有客户端连接和执行的SQL语句。 可以用于分析查询的性能和执行情况。 需要手动启动,默认情况下不启用。 慢查询日志(Slow Query Log): 记录执行时间超过指定阈值(long_query_time)的查询语句。 可以用于找出执行时间较长的查询语句,以便进行性能优化。