检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
功能。 提供如下转储日志样例,方便进行流量统计举例说明:原始日志:"192.168.0.1 200 190 /check" 该日志被结构化解析后为:{"ip":"192.168.0.1","status":200,"cost_time":190,"url":"/check"} 日志基础转储流量
流量统计、流日志条数等信息。 前提条件 已采集ER流量日志,详情请参见企业路由器ER接入LTS。 日志配置结构化,详情请参见设置云端结构化解析日志。 ER流量日志中心 登录云日志服务控制台。 在左侧导航栏中选择“仪表盘 ”。 在仪表盘模板下方,选择“ER仪表盘模板 > ER流量日志中心”,查看图表详情。
支持采集Logstash、Flume、Beats开源软件中的数据。 支持通过HTTP、HTTPS、Syslog、Kafka等标准协议接入数据。 应用场景 某个外卖平台型电商网站(包括用户、餐厅、配送员等),用户可以在网页、App、微信、支付宝等进行下单点菜,商家拿到订单后开始加工,并自动通知周围的快递员,最后由快递员将外卖送到用户手中。
详细加工语法请参考DSL数据加工语法(邀测)。 前提条件 已成功采集到日志。 对源日志内容已完成结构化配置,具体操作请参考设置云端结构化解析日志。 创建DSL加工任务 登录云日志服务控制台。 在左侧导航栏中选择“日志加工>DSL加工”,单击“新建DSL加工任务” 。 在基本信息
建数据流管道,主要解决云服务外的数据实时传输到云服务内的问题。数据接入服务每小时可从数十万种数据源(如IoT数据采集、日志和定位追踪事件、网站点击流、社交媒体源等)中连续捕获、传送和存储数TB数据。 数据仓库服务 GaussDB(DWS) 数据仓库服务(Data Warehouse
优化容器日志结构化性能。 解决CCE场景错误诊断偶现上报失败的问题。 解决虚机场景不活跃文件采集失效的问题。 2024-10-17 5.12.232 解析标准输出日志用到的json库替换为sonic,降低CPU使用率。 LTS发送日志出现超时,解决超时问题。 2024-10-14 5.12.231
消费开始时间,纳秒值 Long 必填 - stopTime 消费结束时间,纳秒值 Long 选填 - jsonParse 是否对原始日志做json解析 Boolean 选填 false 类型映射 表3 类型映射 Flink字段类型 LTS字段类型 VARCHAR STRING 代码示例
标日志组和日志流名称,进入日志详情页面。 系统获取ELB原始日志,在日志搜索页面查看具体日志。 单击右上角,在弹出页面中,选择“云端结构化解析”。 选择结构化模板,根据ELB模板进行结构化配置。其他日志内容可选择其他结构化模板。 在“可视化”页签下输入SQL查询语句对相应的字段进行查询,即可返回所需的日志内容。
搜索与分析限制 本文介绍云日志服务查询与分析的限制。 搜索 表1 日志搜索限制 限制项 说明 备注 日志采集到搜索时延 从日志产生到日志在控制台能被搜索到的时间间隔小于2分钟(非阻塞情况下)。 不涉及。 关键词个数 关键词,即单次查询时布尔逻辑符外的条件个数。每次查询最多30个。
选择“连通LTS后端方式”为“VPCEP”时: 配置VPCEP域名。请您在华为云网络工程师的协助下,在区域外云上配置VPCEP的DNS域名解析规则,将VPCEP的域名解析到指定IP。配置完成后,在“安装ICAgent”页面根据界面提示复制命令: ping {VPCEP域名} 选择一台待采集日志
主要展示加工任务ID、加工任务名称、输入行数、输出行数等信息。 前提条件 已创建DSL加工任务。 日志配置结构化,详情请参见设置云端结构化解析日志。 DSL加工任务监控中心 登录云日志服务控制台,在左侧导航栏中选择“仪表盘”。 在仪表盘模板下方,选择“DSL仪表盘模板 > DSL加工任务监控中心”,查看图表详情。
志没有实际含义,不一定能匹配到日志。 前提条件 快速分析的对象为结构化日志中提取的关键字段,创建快速分析前请先对原始日志进行设置云端结构化解析日志。 创建快速分析 快速分析以日志流为单位,请参考如下步骤创建快速分析。 登录云日志服务控制台,进入“日志管理”页面。 单击目标日志组或日志流名称,进入日志详情页面。
如果上一步的值是一个列表或JSON列表格式的字符串,则按照此列表分裂并结束处理。否则使用sep、quote或lstrip将上一步的值进行CSV解析,根据解析后的多个值进行分裂并结束处理。 参数说明 参数名称 参数类型 是否必填 说明 字段名 String 是 需要分裂的字段名。 sep String
可能会根据使用的日志框架而有所不同,例如 Log4j,所以本文提供一个基于典型日志框架(如 Log4j)的示例,并对其中的一些通用字段进行解析。 系统日志示例。 2023-10-23 15:33:45,123 INFO [KafkaServer id=0] onBrokerStartup
IP地址函数 本文介绍IP地址函数的语法规则,包括参数解释、函数示例等。 函数列表 表1 IP地址函数 函数 描述 ip_to_domain函数 判断目标IPv4地址是内网地址还是外网地址。 ip_prefix函数 获取目标IPv4地址的前缀。 is_prefix_subnet_of函数
SQL IP函数 使用限制 LTS提供的IP与地域之间的关系,来自于第三方IP库,且数据是周期性更新(约半年),不承诺IP与地域关系完全正确;后续LTS会优化,缩短IP库的更新周期,为用户提供更好的体验。 单IP函数聚合查询的数据量上限为500万,查询的数据超出上限可能导致查询超时。
Boolean 是否解析 index Integer 字段序号 表6 tag_fields_info 参数 参数类型 描述 fieldName String 字段名称 type String 字段类型 content String 内容 isAnalysis Boolean 是否解析 index
看WAF访问日志中心。 前提条件 已采集WAF日志,详情请参考Web应用防火墙WAF接入LTS。 日志配置结构化,详情请参见设置云端结构化解析日志。 查看WAF安全日志中心 登录云日志服务控制台,在左侧导航栏中选择“仪表盘 ”。 在仪表盘模板下方,选择“WAF仪表盘模板 > WAF安全日志中心”,查看图表详情。
日志字段值(Value)的数据类型,可选值为string、long、float、json。 字段json类型只对ICAgent结构化解析生效,对云端结构化解析不生效。 long类型和float类型不支持设置大小写敏感、包含中文和分词符。 大小写敏感 查询时是否区分英文字母的大小写。 打
日志字段值(Value)的数据类型,可选值为string、long、float、json。 字段json类型只对ICAgent结构化解析生效,对云端结构化解析不生效。 long类型和float类型不支持设置大小写敏感、包含中文和分词符。 大小写敏感 查询时是否区分英文字母的大小写。 打