检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
0:00~19:00:00的日志数据。 自定义:表示查询指定时间范围的日志数据 在“步骤2 输入Nginx日志配置”中需要输入Nginx日志配置,根据输入或选择的日志进行配置。其中有默认配置可使用,单击“默认Nginx配置”即可。 标准Nginx配置文件中,日志配置的部分通常以log_format开头。
数据富化 从OBS获取csv文件进行数据富化 使用e_dict_map、e_search_dict_map函数进行数据富化 构建字典与表格进行数据富化 使用DSL加工函数过滤VPC流日志公网流量 父主题: 日志加工(邀测)
DCS审计日志 根据DCS资料中提供的日志字段被定义。 否 否 TOMCAT 根据TOMCAT官网提供的字段名称进行nginx解析的名称。 否 否 NGINX 根据NGINX资料中提供的日志字段被定义。 否 否 GAUSSV5审计日志 根据GAUSSV5资料中提供的日志字段被定义。 否
DCS审计日志 根据DCS资料中提供的日志字段被定义。 否 否 TOMCAT 根据TOMCAT官网提供的字段名称进行nginx解析的名称。 否 否 NGINX 根据NGINX资料中提供的日志字段被定义。 否 否 GAUSSV5审计日志 根据GAUSSV5资料中提供的日志字段被定义。 否
使用e_dict_map、e_search_dict_map函数进行数据富化 本文介绍使用映射富化函数e_dict_map、e_search_dict_map进行数据富化的实践案例。 背景信息 日志服务数据加工映射富化函数包括普通映射函数和搜索映射函数,两者区别如下所示: 普通映
基于VPN打通网络实现API或SDK跨云上报日志到LTS 方案概述 云上用户经常会遇到多云采集日志场景,需要将自建IDC、第三方云厂商、华为云其他region的日志采集到华为云LTS。支持基于VPN快速打通网络,实现API或SDK跨云上报日志。 本方案依赖云上VPN服务,可通过在数据中心建立
user_defined_name String json及nginx方式中字段自定义别名 表7 TagFieldNew 参数 参数类型 描述 field_name String 字段名称 content String 字段示例内容 type String 字段数据类型。 可选范围:string、long、float
文本解析 解析Nginx日志 提取字符串动态键值对 解析CSV格式日志 加工复杂JSON数据 解析与更新JSON数据 父主题: 日志加工(邀测)
您分散存储数据,面临日志数据不完善时,您可以从OBS中获取数据。日志服务数据加工支持使用res_obs_file函数从OSS中获取数据,再使用tab_parse_csv函数构建表格,最后使用e_table_map函数进行字段匹配,返回指定字段和字段值,生成新的日志数据。 实践案例
已创建的集群名称。 test 数据库名称 集群的数据库名称。有两种数据库,分别是“gaussdb”和“postgres”。默认集群数据库为“gaussdb”。 gaussdb 用户名 数据库的管理员用户名。 lts-test 密码 数据库的管理员密码。 - schema名称 数据库对象的集合名称。
式可分为全文查询和字段查询,根据查询精确程度可分为精确查询和模糊查询。详细请参考表1。 SQL是用于访问和处理数据库的标准计算机语言。管道符提供了使用SQL语句进行数据分析的能力,具体请参考SQL92语法标准。 使用SQL语句进行查询时,建议SQL语句中的字段名或别名使用双引号,例如:select
使用DSL加工函数清洗LTS日志数据 您可以通过日志加工函数清洗您所采集的海量日志数据,实现数据格式标准化。本文介绍调用函数清洗数据的常见场景和相关操作。 DSL加工的功能在邀测中,支持华北-北京四、华东-上海一、华南-广州局点,仅针对用户内测使用,后续将全网开放,敬请期待! 场景一:过滤LTS日志
上图和上表展示了三种数据类型之间的六种转换,转换过程涉及两种方式,一种使用智能转换函数,另一种使用该转换的专用函数。 智能转换函数 以dt_parse函数为代表的智能转换函数可以接收Unix时间戳、日期时间对象以及日期时间字符串等不同类型的参数,实现智能转换。 专用函数 智能
默认名称field1、field2、field3……,可进行修改。 是 是 Nginx 根据Nginx配置生成,可定义别名。 是 是 自定义模板 用户自定义。 是 是 正则分析(手动输入)、JSON格式、分隔符、Nginx和自定义模板的字段名称需要满足如下要求: 只支持输入英文、数字、中划线、下划线及小数点。
默认名称field1、field2、field3……,可进行修改。 是 是 Nginx 根据Nginx配置生成,可定义别名。 是 是 自定义模板 用户自定义。 是 是 正则分析(手动输入)、JSON格式、分隔符、Nginx和自定义模板的字段名称需要满足如下要求: 只支持输入英文、数字、中划线、下划线及小数点。
DSL数据加工语法(邀测) 概述 操作符函数 全局操作函数 父主题: 日志消费与加工
云数据库GaussDB接入LTS 支持云数据库 GaussDB日志接入LTS。 具体接入方法请参见对接LTS并查看数据库审计日志。 父主题: 使用云服务接入LTS
CSE仪表盘模板 DCS仪表盘模板 DDS仪表盘模板 DMS仪表盘模板 DSL仪表盘模板 ELB仪表盘模板(共享型) ELB仪表盘模板(独享型) ER仪表盘模板 METRIC仪表盘模板 NGINX仪表盘模板 VPC仪表盘模板 WAF仪表盘模板 采集诊断仪表盘模板 父主题: 使用仪表盘将日志可视化
1GB,推荐规格为2vCPUs | 4GB。 弹性负载均衡 ELB 购买弹性负载均衡 ELB时,选择与弹性云服务器 ECS相同的VPC。 新建弹性公网IP作为跳板机连接的IP。 根据业务量购买带宽,并进行适配 。 在华为云华东-上海一购买ELB和云主机作为跳板机 登录云服务控制台,购买弹性云服务器
构造请求 本节介绍REST API请求的组成,并以调用IAM的管理员创建IAM用户说明如何调用API。 您还可以通过这个视频教程了解如何构造请求调用API:https://bbs.huaweicloud.com/videos/102987。 请求URI 请求URI由如下部分组成。