检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
数据加工完成后,您可以在目标日志流中查看加工后的数据。 功能特性 云日志服务提供数据加工功能,用于数据的规整、富化、脱敏和过滤。 数据规整:针对混乱格式的日志进行字段提取、格式转换,获取结构化数据以支持后续的流处理、数据仓库计算。
接入LTS 图引擎服务GES接入LTS 云数据库 TaurusDB接入LTS 云数据库GeminiDB接入LTS 云数据库GeminiDB Mongo接入LTS 云数据库GeminiDB Cassandra接入LTS 华为HiLens接入LTS 设备接入IoTDA接入LTS AI开发平台
转储数据可靠性 某批次数据格式合法时,保证转储数据至少一次(At Least Once)。当DWS集群负载较高、网络错误时,会有写入响应超时,可能导致数据重复,因此无法保障数据精确一次(Exactly Once)。 不涉及。
数据量 单个日志流单次最大分析24GB数据。 如果您的数据量远超LTS提供的分析规格,请您购买DWS服务,配置日志转储DWS,使用数据仓库分析。 开启模式 默认不开启。 不涉及。 数据生效机制 日志结构化只对新增结构化配置之后写入的数据生效。 不涉及。
支持用户使用SDK消费LTS日志,可以获取全量日志数据,可以作为流计算的数据源(SDK消费功能邀测中,暂未开放)。
SQL Server 云数据库RDS for SQLServer接入LTS PostgreSQL 云数据库RDS for PostgreSQL接入LTS 云数据库 GaussDB 数据仓库服务GaussDB(DWS)接入LTS 云数据库 GeminiDB 云数据库GeminiDB
或SDK跨云上报日志到LTS 使用Flume采集器上报日志到LTS 通过ECS接入LTS采集Zabbix数据 采集多渠道日志数据到LTS
返回结果 返回字典形式数据。 函数示例 单个IP查询。
使用DSL加工函数清洗LTS日志数据 使用DSL加工函数进行事件判断 使用DSL加工函数处理日期时间 使用DSL加工函数对LTS日志数据脱敏 文本解析 数据富化
数据传输不可靠:移动端日志数据量多且频繁,传输速度慢,也极易出现丢失,对业务分析造成一定影响。 数据处理不方便:原始数据不方便处理,不方便快速与大数据平台实现对接。
日志接入 通过ECS接入LTS采集Zabbix数据 本实践介绍将Zabbix中的监控数据采集到云日志服务的日志流中。 日志接入 采集多渠道日志数据到LTS 本实践介绍采集多渠道日志数据到LTS。
在概览页签,单击工作空间下方的数据开发,进入数据开发详情页面。 在作业开发页面,单击新建作业,按照提示填写参数后,单击“确定”。详细操作请参考新建作业。 在已创建成功的作业页面,将DLI SQL拖动到空白区域。
查询数据失败。 请根据sqlite3 error code查询具体情况。 LTS.0108 Close database failed, code=%@. 关闭数据库失败。 请根据sqlite3 error code查询具体情况。
标准存储层数据保存时间 开启智能冷存储后,需要设置标准存储层数据的保存时间。 标准存储数据至少需保存7天才能转换为智能冷存储层数据。当日志保存时间大于标准存储层数据保存时间,且小于日志存储时间时,日志数据将自动转换为智能冷存储层数据存储。
函数示例 测试数据:无 加工规则 e_set("str_strip", str_lstrip("**123**", "*")) 加工结果 str_strip: 123** str_rstrip 删除字符串结尾指定的字符。
说明 该函数支持自动转换数据类型,输入string或者int类型的数据即可。 函数格式 op_div_true(value1, value2) 参数说明 参数名称 参数类型 是否必填 说明 value1 数字字符串/ Number 是 待计算的值。
函数示例 示例1: 测试数据 { "ctx1": 123, "ctx2": 234 } 加工规则 e_set("op_or", op_or(v("ctx1"),v("ctx2"))) 加工结果 ctx1: 123 ctx2: 234 op_or: true 示例2: 测试数据
同时大量小文本文件可合并转储为大文件,提高数据处理性能。 数据接入服务(Data Ingestion Service,简称DIS) 通过AOM服务,可以进行站点访问统计,可以将相关日志上报给AOM,对其进行监控与告警。
检查数据库实例状态 父主题: 附录
日志搜索与分析 查看LTS实时最新日志,每一次加载数据时延是多久? 无法查看上报到LTS的日志怎么办? 在LTS控制台如何手动删除日志数据? 在LTS页面无法搜索日志时怎么办?