检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
on的日志采集到华为云LTS。支持基于VPN快速打通网络,实现API或SDK跨云上报日志。 本方案依赖云上VPN服务,可通过在数据中心建立主备两条VPN连接,提高网络连通的可靠性。 当前仅支持华北-北京四、华东-上海一、华南-广州、西南-贵阳一。 图1 方案架构 约束与限制 VP
is_desc:顺序或者倒序查询,默认为false(顺序查询)。 在分页读取时,从上一次的查询结果中获取line_num,设置search_type决定是向前翻页还是向后翻页,设定每次查询的日志条数limit,决定日志的时间排序is_desc。并且结果的isQueryComplete为true状态,则表示读取了所有数据。
日志生成指标使用限制说明 类别 限制项 说明 备注 日志生成指标 1个账号的日志生成指标-规则总数 单个账号的日志生成指标规则数,默认限制<=10,该限制是软件层面的元数据限制。 说明: 每个日志生成指标规则后台会默认分配1个后台执行任务,单个后台执行任务能处理的源日志流量有一定的性能规格。如果
2(存储膨胀)*2(50%磁盘冗余) = 13200GB磁盘。 搭建ES最小典型配置是3台ECS(16U64G5TB),kafka双副本能支持缓存最近12小时的日志。 表1 自建ELK 大类 小类 月成本(合计:12597元) 费用占比 搭建ES 3 * ECS(C6 16U64G) 3*1999=5997元 47
DN节点日志 操作系统messages日志 审计日志 数据仓库服务GaussDB(DWS)接入LTS - 16 ECS 弹性云服务器 全量日志(ICAgent采集文本日志) 云主机ECS文本日志接入LTS - 17 ELB 弹性负载均衡 7层访问日志(ELB) 弹性负载均衡 ELB接入LTS
返回网络运营商的名称。 ip_to_domain函数 判断目标IPv4地址是内网地址还是外网地址。 语法:ip_to_domain (expr) 表2 参数说明 参数名称 描述 类型 是否必选 expr IP地址 String 是 返回值类型:String类型 示例:SELECT IP_TO_DOMAIN('10
崩溃)的情况,请确认您配置的日志采集路径下是否有大量的日志文件,建议您定时清理,以减少ICAgent在收集日志过程中带来的系统资源占用。若还是无法解决,请联系技术支持协助。 父主题: 日志接入
管理日志组 日志组(LogGroup)是云日志服务进行日志管理的基本单位,用于对日志流进行分类,一个日志组下面可以创建多个日志流。日志组本身不存储任何日志数据,仅方便您管理日志流,每个账号下可以创建100个日志组。 一个日志组通常对应公司内的某一个项目/业务,建议将某个项目/业务
的场景。 基本要求 您的产品及服务需要尊重用户隐私,遵守国家的数据保护法律和法规。禁止参与任何干扰、干涉、损害、未授权访问任何终端设备、服务器、网络的活动。 (一)隐私政策要求 您需根据法律要求以自身名义发布隐私政策,并就个人信息的处理行为获取用户同意或取得其他合法性基础。隐私政策的要求包括不限于如下:
/var/logs/service/a2.log 采集路径如果配置的是目录,示例:/var/logs/,则只采集目录下后缀为“.log”、“.trace”和“.out”的文件。 如果配置的是文件名,则直接采集对应文件,只支持内容是文本格式的文件。 允许文件多次采集。(暂不支持Windows场景)
什么是云日志服务 云日志服务(Log Tank Service,简称LTS)是高性能、低成本、功能丰富、高可靠的日志平台。提供全栈日志采集、百亿日志秒搜、PB级存储、日志加工、可视化图表、告警和转储等功能,满足应用运维、等保合规和运营分析等应用场景需求。 介绍视频 LTS的核心价值
FLUME_HOME/lib/ 添加采集MySQL的conf文件。 # a1表示agent的名称 # source是a1的输入源 # channels是缓冲区 # sinks是a1输出目的地,本例子sinks使用了kafka a1.channels = c1 a1.sources = r1
通过ICAgent接入LTS后无法采集到日志? 通过ICAgent接入LTS后无法采集到日志,需要等待1~5分钟,日志才会开始上报,如果还是没有查看到日志,请按如下方法进行排查。 操作步骤 在云日志服务控制台的“配置中心”页面,检查是否开启“ICAgent采集开关”。若“ICAg
身份认证与访问控制 身份认证 无论用户通过LTS控制台还是API访问LTS,都会要求访问请求方出示身份凭证,并进行身份合法性校验,同时提供登录保护和登录验证策略加固身份认证安全。LTS服务基于统一身份认证服务(IAM),支持三种方式身份认证方式:用户名密码、访问密钥、临时访问密钥。同时还提供登录保护及登录验证策略。
FLUME_HOME/lib/ 添加采集MySQL的conf文件。 # a1表示agent的名称 # source是a1的输入源 # channels是缓冲区 # sinks是a1输出目的地,本例子sinks使用了kafka a1.channels = c1 a1.sources = r1
和结构化字段都会统计在内。云端结构化解析会消耗LTS服务端算力,未来会按照日志大小收取日志加工流量费用。 ICAgent结构化是在采集侧做结构化,利用的是用户节点上的资源,将结构化完成的数据上报到LTS。ICAgent结构化解析支持插件组合解析,单个日志流的多个采集配置支持不同结
Know 今天是星期一。 如果不设置任何分词符,整条日志被作为一个词I Know 今天是星期一,您只能通过完整字符串message:I Know 今天是星期一或模糊查询message:I Know 今天是*查找该日志。 如果设置分词符为空格,则原始日志被拆分为I、Know、今天是星期一3
Know 今天是星期一。 如果不设置任何分词符,整条日志被作为一个词I Know 今天是星期一,您只能通过完整字符串message:I Know 今天是星期一或模糊查询message:I Know 今天是*查找该日志。 如果设置分词符为空格,则原始日志被拆分为I、Know、今天是星期一3
参数名称 描述 类型 是否需要填写 groupId 日志组id long 是 streamId 日志流id String 是 log 日志结构 struct log 是 参数获取方式 上线区域表,使用华为云主机时参考以下信息: 表2 区域表 区域名称 RegionName Endpoint
参数 是否必选 参数类型 描述 project_id 是 String 项目ID,获取方式请参见:获取项目ID,获取账号ID,日志组ID、日志流ID 表2 Query参数 参数 是否必选 参数类型 描述 logGroupId 是 String 日志组ID,获取方式请参见:获取项目I