检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ICAgent：ICAgent是华为云日志服务的日志采集器，通过在主机上安装ICAgent，您可以将日志采集到LTS。安装ICAgent前，请确保本地浏览器的时间、时区与主机的时间、时区一致。 网络互通： 场景一：自建IDC或者第三方云厂商与华为云之间网络互通的典型方式是云专线D
创建消费组 您可以在华为云LTS控制台为日志流创建消费组，使用集成云日志服务Java SDK通过消费组消费数据。您无需关注SDK的实现细节以及消费者之间的负载均衡等，只需要关注业务逻辑。 云日志服务通过消费组消费数据，使用消费组功能之前，您需要了解以下基本概念。 目前此功能在邀测中，暂不支持申请开通。
概述 字段提取检查与覆盖模式，介绍字段提取模式mode参数的不同取值以及说明。请参考DSL加工（邀测）创建加工任务。 表1 参数说明 参数值 说明 fill 当目标字段不存在或者值为空时，设置目标字段。 fill-auto 当新值非空，且目标字段不存在或者值为空时，设置目标字段。
建议日志服务Project和OBS Bucket处于同一地域，使用华为云内网获取数据。 函数格式 res_obs_file(endpoint,bucket,file) 参数说明 参数名称 数据类型 是否必填 说明 endpoint String 是 OBS中保存的文件地址。如obs.cn-north-4
加工复杂JSON数据 本文档主要为您介绍如何使用云日志服务数据加工功能对复杂的JSON数据进行加工。 多子键为数组的复杂JSON数据加工 程序构建的日志会以一种统计性质的JSON格式写入，通常包含一个基础信息以及多个子键为数组的数据形式。例如一个服务器每隔1分钟写入一条日志，包含
获取当前日期时间对象。 dt_today 获取当前日期，不含时间。 dt_utcnow 获取当前时区的当前日期时间对象。 dt_fromtimestamp 将Unix时间戳转换为日期时间对象。 dt_utcfromtimestamp 将Unix时间戳转换为当前时区的日期时间对象。 dt_strptime
FlinkLtsLogProducer用于将数据写到云日志服务中。producer只支持Flink at-least-once语义，在发生作业失败的情况下，写入云日志服务中的数据有可能会重复，但是绝对不会丢失。 用法示例如下，我们将模拟产生的字符串写入云日志服务： // 将数据序列化成日志服务的数据格式
va SDK通过消费组消费数据。 目前此功能在邀测中，暂不支持申请开通。 前提条件 使用云日志SDK前，您需要注册华为云账号，并开通云日志服务。 确认云日志服务的区域，请用户根据所在区域，获取regionName。 获取华为账号的AK/SK。 获取华为云账号的项目ID（project
html_encoding 对数据进行HTML编码。 html_decoding 对数据进行HTML解码。 URL类型 url_encoding 对数据进行URL编码。 url_decoding 对数据进行URL解码。 压缩与解压缩 Gzip压缩库 gzip_compress 对数据进行压缩并编码。
使用DSL加工函数清洗LTS日志数据 您可以通过日志加工函数清洗您所采集的海量日志数据，实现数据格式标准化。本文介绍调用函数清洗数据的常见场景和相关操作。 DSL加工的功能在邀测中，支持华北-北京四、华东-上海一、华南-广州局点，仅针对用户内测使用，后续将全网开放，敬请期待！ 场景一：过滤LTS日志
字符串函数 概述 多字符串和排序、反转、替换 常见操作 查找判断、切分和格式化 字符集判断 父主题： 操作符函数
归档日志（用于等保合规）：典型保存180天以上，用于安全合规审计，该日志一般转储存放到对象存储中。使用对象存储的迁移工具，将第三方云厂商保存在对象存储中的文件迁移到华为云对象存储服务OBS即可。详细操作请参考迁移第三方云厂商数据至OBS。 父主题： 产品咨询问题
e_search_dict_map 对关键字（查询字符串）以及其匹配的值的字典数据进行映射。支持和其他函数组合使用。 e_search_table_map 对某列（查询字符串）以及其匹配的值的表格数据进行映射。 e_dict_map 与目标数据字典进行映射，根据输入的字段映射一个新字段。 函数格式 e_dict_map(data
查看LTS实时最新日志，每一次加载数据时延是多久？ 在LTS控制台查看LTS实时最新日志，正常情况下，每隔5秒加载一次。如果这5秒内没有产生日志，则不显示；5秒后会继续调用接口，刷新出产生的日志数据。即如果每5秒都有日志数据产生，则加载数据时延为5秒。 父主题： 日志搜索与分析
JSON提取 e_json 对特定字段中的JSON对象进行JSON操作，包括JSON展开、JMES提取或者JMES提取后再展开。支持和其他函数组合使用。 分隔符提取 e_csv、e_psv、e_tsv 使用自定义的分隔符与预定义的字段名，从特定字段中提取多个字段。 e_csv：默认分隔符为半角逗号（
示例1：将k2满足正则表达式，输出到target2中。 测试数据 { "k1": "v1", "k2":"v2", "x1":"v3" , "x5": "v4" } 加工规则 此处e_drop()函数的作用是把e_if()函数过滤掉的数据做删除处理。如果不添加该函数，则被过滤的数据被投递到默认的存储目标中。创
ua_parse_device(value) 参数说明 参数名称 数据类型 是否必填 说明 value String 是 待解析的User-Agent字符串。 返回结果 返回JSON类型的数据集。 函数示例 测试数据 { "http_user_agent":"Mozilla/5
drop_packed Boolean 否 打包数据后是否删除被打包的原数据，默认为true。 true（默认值）：输出结果中删除被打包的原数据。 false：输出结果中不删除被打包的原数据。 返回结果 返回被打包后的日志数据。 函数示例 示例1：将日志所有字段打包到test字段，默认删除被打包的原始字段。
云日志服务可以帮助您快捷地完成数据采集、消费、投递以及查询分析，提升运维和运营效率，建立海量日志处理能力。 LTS-Flink-Connector工具支持以下表1。 表1 功能说明 功能 说明 支持类型 源表和结果表 运行模式 仅支持流模式 API种类 SQL 是否支持更新或删除结果表数据 不支持更新和删除结果表数据，只支持插入数据。
安装ICAgent（区域外主机） 区域外主机指的是华为云非当前Region或非华为云主机，例如自建IDC（Internet Data Center，互联网数据中心）、第三方云厂商或华为云跨Region主机等。如果您想使用云日志服务对区域外主机进行日志采集，那么您需要先保证区域外主机与华为云当前区域LTS网络互
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
