检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
LogCollectionSwitchOperation 创建ELB日志桶 elbPailType createElbPail 修改ELB日志桶 elbPailType updateElbPail 删除ELB日志桶 elbPailType deleteElbPail 添加日志路径采集规则 logPathCollectionType
云日志服务提供数据加工功能,用于数据的规整、富化、脱敏和过滤。 数据规整:针对混乱格式的日志进行字段提取、格式转换,获取结构化数据以支持后续的流处理、数据仓库计算。 数据富化:对日志(例如订单日志)和维表(例如用户信息表)进行字段连接(JOIN),为日志添加更多维度的信息,用于数据分析。
使用Flume采集器上报日志到LTS Flume是一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方的能力。 用户使用Flume系统采集日志,并且
使用Flume采集器上报日志到LTS Flume是一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方的能力。 用户使用Flume系统采集日志,并且
供的一系列常用实践。 表1 常用最佳实践 实践 描述 对华为云ELB日志进行分析 该解决方案介绍将ELB日志接入LTS后,配置日志结构化后,即可进行日志搜索分析。 通过仪表盘可视化分析ELB日志 该解决方案介绍当ELB日志接入云日志服务后,您可以通过SQL语句查询分析日志,将日志
检查已获取的AK/SK是否正确,且AK/SK没有被删除。 执行netstat -nap | grep icagent命令,查看主机网络连接状态为ESTABLISHED代表网络连接正常。 若日志接入方式为“CCE接入”时,ICAgent安装完成后在主机页面不显示,请参考如下步骤排查: 确保CCE集群已安装ICAgent。
日志搜索与分析 在LTS页面分析华为云ELB日志 通过LTS仪表盘可视化ELB日志分析结果 在LTS页面分析华为云WAF日志 在LTS页面分析Log4j格式的应用运行日志 将LTS日志查询页面嵌入用户自建系统 分页显示查询分析结果 使用时间函数将日志时间字段转换为指定格式
将指定的元素添加到数组的末尾。 mv_slice函数 返回从start到end索引的数组。 mv_to_string函数 通过str指定分隔符连接arr所有元素。 string_to_mv函数 使用指定的分隔符str2将str1拆分为数组 mv_offset函数 返回所提供的基于0的索引处的数组元素。
__time: 2023-02-14T02:35:56.706Z 查询和分析语句 select __time,CURRENT_DATE, CURRENT_TIMESTAMP,CURRENT_TIMESTAMP 查询和分析结果 表2 查询和分析结果 __time CURRENT_DATE CURRENT_TIMESTAMP
日志流中。 其他账号 填写委托名称、委托人账号名称,选择日志组和日志流。关于委托信息请参考创建委托。 目标日志流 单击“添加目标日志流”,填写目标日志流名称(目标日志流在数据加工函数中作为入参时的代称),选择日志组和日志流。 加工范围 白名单功能,数据加工的时间范围。选择“某时间
CDN仪表盘模板 CFW仪表盘模板 CSE仪表盘模板 DCS仪表盘模板 DDS仪表盘模板 DMS仪表盘模板 DSL仪表盘模板 ELB仪表盘模板(共享型) ELB仪表盘模板(独享型) ER仪表盘模板 LTS仪表盘模板 METRIC仪表盘模板 NGINX仪表盘模板 VPC仪表盘模板 WAF仪表盘模板(默认搜索方式)
kafka实例前,需要在安全组中,开放入方向规则198.19.128.0/17和9011端口。 如果DMS kafka实例的子网配置了ACL,则需要在该子网的网络ACL中,开放入方向规则198.19.128.0/17和9011端口。 调用方法 请参见如何调用API。 URI POST /
“日志管理>配额设置”查看已采集的日志量。 云服务日志:如需停止云服务的日志上报,请在对应的云服务中关闭上报日志的开关。例如在ELB服务控制台,配置ELB访问日志时关闭日志记录,详细操作请参考访问日志。虚拟私有云VPC关闭上报日志请参考开启/关闭VPC流日志。 父主题: 计费FAQ
置类型时,可以通过单击“添加自定义绕接规则”来进行匹配,避免重复采集和绕接时的日志丢失。 内置类型为{basename}{连接符}{绕接标识}.后缀,{basename}.{后缀}{连接符}{绕接标识}。其中连接符为-._绕接标识为非字母符号,后缀为字母。 自定义绕接规则为{ba
本实践介绍采集多渠道日志数据到LTS。 日志搜索与分析 在LTS页面分析华为云ELB日志 本实践主要介绍将ELB日志接入LTS后,配置日志结构化后,即可进行日志搜索分析。 日志搜索与分析 通过LTS仪表盘可视化ELB日志分析结果 本实践主要介绍将ELB日志接入LTS后,配置日志结构化后,支持使用仪表盘将日志可视化,可以更直观的分析日志数据。
表应写成“123”。 INNER JOIN 两个表的结果(elb1,elb2)交集数据 示例 有两个表,access表示主机的接入指标包含路径,时延,状态码,host为主机指标包含cpu和内存。通过JOIN可以关联接入和主机指标,查看相同主机的不同维度的指标情况。 LEFT JOIN
与目标数据字典进行映射,根据输入的字段映射一个新字段。支持和其他函数组合使用。 e_table_map 与目标表格进行映射,根据输入的字段名称返回字段值。支持和其他函数组合使用。 搜索映射 e_search_dict_map 对关键字(查询字符串)以及其匹配的值的字典数据进行映射。支持和其他函数组合使用。 e_search_table_map
例等。 函数列表 类型 函数 说明 多字符串操作 str_format 按照指定格式对字符串进行格式化。 str_join 通过连接符将输入的字符串连接生成一个新的字符串。 str_zip 将两个值或表达式的字符串进行并发分裂然后再合并成一个字符串。 排序、反转、替换 str_sort
上报日志会被LTS删除。 注意事项 建议设置上报周期小于1分钟(例如50秒)上报一次,设置1分钟或超过1分钟上报一次,可能会出现连接失败,因为SDK连接默认1分钟超时。 由于LogBack-SDK默认对SK明文存储,不符合某些对于安全有更高要求的用户,LTS提供了一种用户自定义的
crc32_encoding(v("test"))) 加工结果 str_crc32:1434103726 test:aatest 示例2:将字段test1和test2连接后进行MD5编码,最后计算其循环冗余校验码。 测试数据 { "test1": "test1", "test2": "test2" }