检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
使用消费组管理消费数据(邀测) 创建消费组 使用Java SDK管理消费组 Flink消费 LTS-Flink-Connector参数说明 父主题: 日志消费与加工
S,支持日志搜索引擎、SQL分析引擎、日志加工引擎,详细请参考图1。 端云全场景日志接入:40+云服务、主机/容器、移动端、跨云、多语言SDK、多账号汇聚,满足全场景客户丰富的日志接入需求。 海量日志存储搜索:百亿日志秒级搜索,千亿日志迭代搜索,PB级智能冷存储。 SQL统计和可
使用定时SQL进行日志加工 使用FunctionGraph服务提供的函数模板进行日志加工 日志生成指标(邀测) 使用消费组管理消费数据(邀测) 使用SDK-API消费日志(邀测)
日志规整、富化、脱敏、过滤、分裂等功能;另外结合定时SQL统计,可以对数据实现聚合统计。 支持用户使用SDK消费LTS日志,可以获取全量日志数据,可以作为流计算的数据源(SDK消费功能邀测中,暂未开放)。
Transfer)风格API,支持您通过HTTPS请求调用,调用方法请参见如何调用API。 同时云日志服务还提供多种编程语言的SDK供您使用,SDK的使用方法请参见使用SDK接入LTS。 终端节点 终端节点即调用API的请求地址,不同服务在不同区域的终端节点不同,您可以从地区和终端节点中查询所有服务的终端节点。
从Elasticsearch(简称ES)迁移到LTS中。 日志接入 基于VPN打通网络实现API或SDK跨云上报日志到LTS 本实践主要介绍基于VPN快速打通网络,实现API或SDK跨云上报日志。 日志接入 使用Flume采集器上报日志到LTS 本实践主要介绍使用Flume系统采
志才能使用匿名写入,需要提交工单开通白名单。 打开匿名写入则表示该日志流打开匿名写入权限,不会经过有效鉴权,可能产生脏数据。关于SDK使用请参考SDK接入。 使用匿名写入采集日志功能仅支持华北-北京四、华东-上海一、华南-广州区域的白名单用户使用,如有需要,请提交工单,其他区域暂不支持申请开通。
的白名单用户使用,如有需要,请提交工单,其他区域暂不支持申请开通。 时间字段 时间字段类型 云日志服务的保留字段__time:用API/SDK写入日志数据时指定的日志时间,该字段可用于日志投递、查询、分析。 日志中原有的时间字段:日志在生成时,用于记录日志事件发生时间的字段,是原始日志的字段。
eat等开源采集器采集日志。 LTS:使用ICAgent采集日志,有提供向导页面,上手难度低。 多语言SDK日志采集 ☆☆☆ 无 ELK:不支持。 LTS:提供java SDK直接上报日志到LTS 主机组管理(主机动态扩缩容) ☆☆☆☆☆ 无 ELK:不支持。 LTS:提供主机管
志才能使用匿名写入,需要提交工单开通白名单。 打开匿名写入则表示该日志流打开匿名写入权限,不会经过有效鉴权,可能产生脏数据。关于SDK使用请参考SDK接入。 使用匿名写入采集日志功能仅支持华北-北京四、华东-上海一、华南-广州区域的白名单用户使用,如有需要,请提交工单,其他区域暂不支持申请开通。
"delivered" < 1000 THEN concat( cast( "delivered" AS VARCHAR ), '行' ) WHEN "delivered" < 1000 * 1000 THEN concat( cast( round( "delivered"/
云日志服务LTS支持采集多种移动端日志,融合大数据完成业务运营分析,基于LTS可以实现: 端侧日志全面采集接入:集成LTS提供的多种移动端SDK,实现了缓存发送、异常重试、批量发送等稳定功能,用户快速集成即可全面采集移动端日志到LTS。 秒级上报,高可靠:端侧采集日志后,经传输链路
CDN仪表盘模板 CDN(Content Delivery Network,内容分发网络)记录了所有域名(包括已删除域名,如果您开通了企业项目,则已删除域名不支持此功能)被网络用户访问的详细日志,您可以将日志接入LTS,对您的业务资源被访问情况进行详细分析。 CDN仪表盘模板支持
Once语义,在使用时,用户无需关心日志流中shard数量的变化,FlinkLtsLogConsumer会自动感知。 Flink中每一个subtask启动一个LTS SDK的consumer worker负责消费日志流中部分shard,如果日志流中shard发生split或者merge,consumer worker消费的shard也会随之改变。
安装ICAgent(区域内主机) 区域内主机是指用户登录云日志服务控制台所在Region区内的主机,例如北京四。如果您想使用云日志服务对区域内主机进行日志采集,例如主机指标、容器指标、采集节点日志、采集容器日志、采集标准输出日志等日志,那么您需要在区域内主机上需要安装ICAgen
查看日志管理 在日志管理首页提供资源统计、日志应用、我的收藏/我的收藏(本地缓存)、最近访问、告警统计、最新告警、功能上线公告等信息的展示。 资源统计 在日志资源统计页面,支持查看资源统计、资源详情。日志资源统计是对日志进行分类统计及日志数据的可视化展示,统计日志资源的数据量仅供参考。
使用Flume采集器上报日志到LTS Flume是一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方的能力。 用户使用Flume系统采集日志,并且
使用Flume采集器上报日志到LTS Flume是一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方的能力。 用户使用Flume系统采集日志,并且
使用ICAgent插件采集ECS文本日志到云日志服务 云日志服务(Log Tank Service,LTS)提供一站式的日志数据解决方案,支持日志的采集、日志存储、搜索分析、日志加工、可视化仪表盘、日志告警等功能。LTS提供稳定可靠的服务,您可无需关注扩缩容等资源问题,同时降低了
ICAgent结构化解析规则说明 云日志服务LTS支持通过ICAgent采集方式进行日志上报。在创建日志接入时设置采集配置策略,例如解析规则、白名单规则、黑名单规则、上传原始日志等参数,实现定制化的采集策略。ICAgent采集配置定义了如何在服务器上采集同类日志并解析、发送到指定的日志流上。