检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
日志数据可分为结构化数据和非结构化数据。结构化数据指能够用数字或统一的数据模型加以描述的数据,具有严格的长度和格式。非结构化数据指不便于用数据库二维逻辑表来表现的数据,数据结构不规则或不完整,没有预定义的数据模型。 日志结构化是以日志流为单位,通过不同的日志提取方式将日志流中的日志
条件的日志。根据索引配置方式可分为全文查询和字段查询,根据查询精确程度可分为精确查询和模糊查询。详细请参考表1。 SQL是用于访问和处理数据库的标准计算机语言。管道符提供了使用SQL语句进行数据分析的能力,具体请参考SQL92语法标准。 使用SQL语句进行查询时,建议SQL语句中
停止。 特定时间范围:指定数据加工任务的起止时间,加工任务执行到指定时间后自动停止。 高级配置 对于加工语句中需要使用的密码信息(例如数据库连接密码),日志服务支持使用键值对形式保存在密钥对中。 单击“添加密钥”,填写key值、Value值。 在编辑加工语句页面中,参考规则语句样
服务器-DNS日志 DNS(Domain Name System,域名系统)是互联网的一项服务,它作为将域名和IP地址相互映射的一个分布式数据库,能够使人更方便地访问互联网。当用户在浏览器中输入域名时,DNS会将其解析为对应的IP地址,以便计算机能够找到正确的服务器并获取所需的信息。
CS自建数据库以及线下数据库的异构数据进行探索。 基于转储DLI功能,您可以轻松将LTS中的日志按照字段映射关系转储到DLI数据库表中,进行后续的大数据分析工作。 前提条件 日志已接入云日志服务(LTS)。 日志流已配置结构化规则。 已在DLI中创建数据库和表,创建数据库表时数据
PostgreSQL接入LTS 云数据库 GaussDB 数据仓库服务GaussDB(DWS)接入LTS 云数据库 GeminiDB 云数据库GeminiDB接入LTS 云数据库GeminiDB Mongo接入LTS 云数据库GeminiDB Cassandra接入LTS 移动端 iOS、And
选择“虚拟专用网络 > 企业版-VPN连接”,单击“创建VPN连接”。 此处网关IP为数据中心的网关IP地址且需要放通UDP端口4500。 图3 创建VPN连接 配置VPN链接。 选择“虚拟专用网络 > 企业版-VPN连接”,单击“创建VPN连接”。 配置连接参数如下: 连接模式选择策略模式,对端
函数工作流FunctionGraph接入LTS 云数据库GaussDB接入LTS 图引擎服务GES接入LTS 云数据库 TaurusDB接入LTS 云数据库GeminiDB接入LTS 云数据库GeminiDB Mongo接入LTS 云数据库GeminiDB Cassandra接入LTS
database failed, code=%@. 关闭数据库失败。 请根据sqlite3 error code查询具体情况。 LTS.0109 Reduce database size failed, code=%@, error=%@. 减小数据库大小失败。 请根据sqlite3 error
sources.r1.channels = c1 a1.sinks.k1.channel = c1 使用Flume采集数据库表数据并且上报至LTS 使用Flume采集数据库表数据并且上报至LTS,实现对表数据变动监控。以下示例中的参数介绍请参考使用KAFKA协议上报日志。 在https://github
sources.r1.channels = c1 a1.sinks.k1.channel = c1 使用Flume采集数据库表数据并且上报至LTS 使用Flume采集数据库表数据并且上报至LTS,实现对表数据变动监控。以下示例中的参数介绍请参考使用KAFKA协议上报日志。 在https://github
自定义绕接规则”来进行匹配,避免重复采集和绕接时的日志丢失。 内置类型为{basename}{连接符}{绕接标识}.后缀,{basename}.{后缀}{连接符}{绕接标识}。其中连接符为-._绕接标识为非字母符号,后缀为字母。 自定义绕接规则为{basename}+绕接文件的特
SQL页面,填写SQL语句“MSCK REPAIR TABLE table_name”,table_name为有分区表的表名称,数据库名称和队列名称选择用户配置转储DLI创建的数据库和队列。 更多DLI SQL属性信息请参考开发SQL脚本。 设置完成DLI SQL属性后,单击空白处,单击“调度配
ER流量日志中心 登录云日志服务控制台。 在左侧导航栏中选择“仪表盘 ”。 在仪表盘模板下方,选择“ER仪表盘模板 > ER流量日志中心”,查看图表详情。 过滤实例ID图,所关联的查询分析语句如下所示: SELECT DISTINCT(instance_id) 过滤连接ID图,所关联的查询分析语句如下所示:
志加工 云日志服务提供函数加工,您可以基于函数服务提供的函数模板或者自定义函数,实现日志规整、流转、脱敏、过滤等功能。 进入函数模板页面 登录云日志服务控制台。 在左侧导航栏中选择“日志加工 >函数加工”,进入函数模板页面。 根据实际需要,选择函数模板创建函数。 具体的操作步骤,请参见函数工作流《用户指南》。
自定义绕接规则”来进行匹配,避免重复采集和绕接时的日志丢失。 内置类型为{basename}{连接符}{绕接标识}.后缀,{basename}.{后缀}{连接符}{绕接标识}。其中连接符为-._绕接标识为非字母符号,后缀为字母。 自定义绕接规则为{basename}+绕接文件的特
获取AK/SK,请参考获取华为账号的AK/SK。 输入跳板机连接IP(注意需要填入ECS弹性公网IP),生成ICAgent安装命令。 请确保替换正确的AK/SK,否则将无法安装ICAgent。 跳板机连接IP:使用EIP方式连接,为跳板机弹性公网IP,使用云专线VPC对等连接方式,为跳板机VPC内网IP。
中间件-Kafka日志 Kafka的系统日志(也称为应用日志或运行日志)主要记录了Kafka集群在运行过程中产生的各种信息,例如启动和停止信息、配置加载、节点连接和断开、请求处理等。 采集方法 使用ICAgent采集日志,接入前请参考安装ICAgent(区域内主机)完成ICAgent安装。然后再通过
177 解决绕接死循环问题。 2024-03-28 5.12.176 zip流式解析优化:检查转储文件是否结束。 限制podlb每个主机最大连接数。 2024-03-18 5.12.175 解决了结构化日志采集性能瓶颈问题。 2024-03-13 5.12.172 优化支持的绕接方式。
增加设置调试日志级别接口:setLogLevel。 在控制台输出配置项、上报接口参数、请求发送内容。 上报接口参数labels支持嵌套。 请求发送控制、数据库大小限制等优化。 iOS10、Xcode11及以上。 1.0.15 单击下载 单击下载 首次发布,提供四个接口:初始化 initWithConfig、配置