检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
提取字符串动态键值对 本文档介绍如何使用不同方案提取字符串键值对。 常用方案比较 字符串动态键值对提取分为关键字提取、值提取、关键字加工和值加工，常用方案为采用e_kv函数、e_kv_delimit函数和e_regex函数等。不同提取场景的三种方案如下： 方案 关键字提取 值提取
字段值提取函数 本文介绍字段值提取函数的语法规则，包括参数解释、函数示例等。 函数列表 类型 函数 说明 正则提取 e_regex 根据正则表达式提取字段的值并赋值给其他字段。支持和其他函数组合使用。 JSON提取 e_json 对特定字段中的JSON对象进行JSON操作，包括J
数据类型转换和转换函数 日期时间字符串、日期时间对象和Unix时间戳的相互转换方式和对应转换函数如下图所示。 上图所示的转换场景和对应的转换函数具体描述如下表所示。 转换场景 转换函数 日期时间对象和Unix时间戳的相互转换 日期时间对象转为Unix时间戳。 dt_parseti
类型转换函数 本文介绍类型转换函数的语法规则，包括参数解释、函数示例等。 函数列表 表1 类型转换函数 函数 描述 cast函数 将值从一种数据类型转换为另一种数据类型，并将数据类型提供给动态参数。 cast函数 将值从一种数据类型转换为另一种数据类型，并将数据类型提供给动态参数。
转换函数 本文主要介绍操作符函数的语法规则，包括参数说明、函数示例等。 函数列表 表1 转换函数列表 类型 函数名称 功能描述 基础类型转换 ct_int 将字段或表达式的值转换为整数。 ct_float 将字段或表达式的值转换为浮点数。 ct_str 将字段或表达式的值转换为字符串。
场景四：转换日志参数类型（v函数、cn_int函数和dt_totimestamp函数） 场景1：调用op_add函数进行字符拼接和数据相加。 op_add函数既可以接收字符串类型，也可以接受数值类型，因此不需要做参数类型转换。 示例如下所示： 原始日志 { "a":"1"
解析与更新JSON数据 本文介绍如何使用数据加工对包含JSON对象的日志进行解析与更新。 场景一：展开和提取JSON对象 日志中包含JSON对象时，您可以通过e_json函数展开和提取对象。 示例：指定字段名精确提取JSON对象值，例如展开data字段值中的第一层键值对。 原始日志 { "data":
日期时间对象和日期时间字符串的相互转换 处理函数 dt_parse智能转换函数可以将日期时间字符串或Unix时间戳转换为日期时间对象。 dt_astimezone函数返回一个带新时区信息的日期时间对象。 场景1：不带时区信息的日期时间字符串转换成指定时区的日期时间对象。 对于不带
使用时间函数将日志时间字段转换为指定格式 在日志搜索分析中往往需要对日志中的时间字段进行处理，例如将日志的时间戳转换成指定格式等，本文介绍时间字段的常用转换示例。 本示例属于白名单功能，支持华北-北京四、华东-上海一、华南-广州、亚太-新加坡、拉美-墨西哥城二区域的白名单用户使用
String、JSON 是 传入待提取字段的JSON表达式或字段。 jmes String 是 JMES表达式，表示提取的字段。 default String 否 如果提取字段不存在，则返回此处设置的值。默认为None，表示不返回字段。 restrict Bool 否 提取字段的值不是合法的JSON格式时，是否严格限制加工。
日期时间对象和Unix时间戳的相互转换 处理函数 推荐dt_parse函数将Unix时间戳转换为日期时间字符串。 e_set函数中的tz参数设置会将不带时区的日期时间对象处理为带时区的，或将原时区的转换为目标时区。 Unix时间戳转换成带时区的时间字符串对象。 原始日志 {
日期时间字符串和Unix时间戳的相互转换 处理函数 dt_str智能转换函数，可以将Unix时间戳、日期时间对象和日期时间字符串转化为指定格式的日期时间字符串。 dt_strftimestamp函数只支持将Unix时间戳转化为日期时间字符串。 dt_parsetimestamp智能转换函数，可以将日期
日志结构化是以日志流为单位，通过不同的日志提取方式将日志流中的日志进行结构化，提取出有固定格式或者相似程度较高的日志，过滤掉不相关的日志，以便对结构化后的日志按照SQL语法进行查询与分析。 日志结构化解析是一种将日志数据从非结构化或半结构化形式转换为结构化格式的过程，以便于更好地存储、
日志结构化是以日志流为单位，通过不同的日志提取方式将日志流中的日志进行结构化，提取出有固定格式或者相似程度较高的日志，过滤掉不相关的日志，以便对结构化后的日志按照SQL语法进行查询与分析。 日志结构化解析是一种将日志数据从非结构化或半结构化形式转换为结构化格式的过程，以便于更好地存储、
类型：string、boolean、int、long、float、double。 日志转储过程中，会将云日志服务中的日志字段由string类型转换为ORC目标类型。如果转换到非string类型失败，int/long/float/double类型会置为默认值0。 - 无效字段填充 转储格式选择ORC时支持设置无效字段填充。
JSON函数用于解析JSON对象或JSON数组，并从中提取值。 语法格式 SELECT json_extract(Results, '$.[0].EndTime') JSON函数语句 表1 JSON函数语句 语句 说明 示例 返回值类型 json_extract 用于从JSON对象或JSON数组中提取一组JSON值（数组或对象）。
分割目标字符串，返回被分割后的子串合集。 regexp_extract函数 提取目标字符串中符合正则表达式的子串。 提取并返回目标字符串中符合正则表达式的第一个子串。 语法：regexp_extract(expr, regularExpr) 提取并返回目标字符串中符合正则表达式的第n个子串。 语法：regexp_extract(expr
有以下缺点： 用户有多条日志流需要转换成不同的日志流结构，一个函数只能转换一个日志流，使用不方便，有新增日志结构的时候就需要新增函数，功能繁琐，使用不够灵活。 函数加工需要使用函数工作流服务，且还需要独立收费，长期使用增加成本。 应用场景 提取结构化的数据，方便后续检索分析，生成仪表盘等。
的一致性。 函数列表 类型 函数 说明 通用日期时间转换 dt_parse 将值或时间表达式的值转换为日期时间对象。 dt_str 将值或时间表达式的值转换为字符串。 dt_parsetimestamp 将值或时间表达式的值转换为Unix时间戳。 dt_prop 获取值或时间表达
概述 字段提取检查与覆盖模式，介绍字段提取模式mode参数的不同取值以及说明。请参考DSL加工（邀测）创建加工任务。 DSL加工的功能在邀测中，仅支持华北-北京四、华东-上海一、华南-广州局点的内测用户使用，其他局点暂不支持。 表1 参数说明 参数值 说明 fill 当目标字段不存在或者值为空时，设置目标字段。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
