检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
管理日志流 云日志服务是以日志流(LogStream)作为日志管理维度。日志采集后,以日志流为单位,将不同类型的日志分类存储在不同的日志流上,方便对日志进一步分类管理。如果日志较多,需要分门别类,建议您创建多个日志流,并给日志流做好命名,方便后续快速查找日志。例如,您可以将操作日
K。 输入跳板机连接IP(注意需要填入ECS弹性公网IP),生成ICAgent安装命令。 请确保替换正确的AK/SK,否则将无法安装ICAgent。 跳板机连接IP:使用EIP方式连接,为跳板机弹性公网IP,使用云专线VPC对等连接方式,为跳板机VPC内网IP。 复制命令root
*版本,如果安装时提示找不到python请在服务器上安装python版本后重试。 前提条件 已收集需要安装ICAgent的所有服务器的IP地址、root密码,按照iplist.cfg格式整理好,并上传到已安装过ICAgent机器的/opt/ICAgent/目录下。iplist.cfg格式示例如下所示,IP地址与服务器root密码之间用空格隔开:
新建弹性公网IP作为跳板机连接的IP。 根据业务量购买带宽,并进行适配 。 在华为云华东-上海一购买ELB和云主机作为跳板机 登录云服务控制台,购买弹性云服务器 ECS。 非华为云上的服务器安装ICAgent,需要先在华为云上购买一台弹性云服务器作为跳板机。 购买弹性负载均衡 ELB,并添加TCP监听器和后端服务器组。
Vista及以上的操作系统。 开启结构化解析配置,详细操作请参考ICAgent结构化解析规则说明。 支持组合解析,一个日志流的每个采集配置可以配置不同的结构化解析规则。 若已经配置了云端结构化解析,请先删除云端结构化解析后再配置ICAgent结构化解析。 图1 ICAgent结构化解析配置 其他配置。 表2
自定义设置。只支持输入英文、数字、中文、中划线、下划线及小数点,且不能以小数点、下划线开头或以小数点结尾。 testECS 主机组类型 默认选择IP。 创建IP地址的主机组类型:在主机组中添加服务器的IP地址,通过IP地址识别服务器。 IP 主机类型 默认选择Linux主机。此处的主机类型与步骤二:安装ICAgent中安装系统保持一致。
虚拟私有云VPC接入LTS 支持虚拟私有云VPC日志接入LTS。 前提条件 购买并使用华为云VPC实例。 使用限制 目前支持的弹性云服务器,请参见VPC流日志简介。 设置VPC接入 云日志服务接入方式为虚拟私有云 VPC时,按照如下操作完成接入配置。 登录云日志服务控制台。 在左侧导航栏中,选择“接入
desc TOP 访问IP图表所关联的查询分析语句如下所示: select remote_addr as "来源IP",ip_to_country(remote_addr) as "国家",ip_to_province(remote_addr) as "省份",ip_to_city(remote_addr)
服务。用户不需要管理任何服务器,即开即用。支持标准SQL/Spark SQL/Flink SQL,支持多种接入方式,并兼容主流数据格式。数据无需复杂的抽取、转换、加载,使用SQL或程序就可以对云上CloudTable、RDS、DWS、CSS、OBS、ECS自建数据库以及线下数据库的异构数据进行探索。
ndjson),用于保存监控数据。 步骤二:配置ECS接入LTS 在左侧导航栏中,选择“接入 > 接入中心”,单击“云主机 ECS-文本日志”进行主机接入配置。 进入选择日志流页面。 单击“所属日志组”后的目标框,在下拉列表中选择具体的日志组(例如lts-group-ECS)。 单击“所属日志流”后的
验确保正则表达式的正确性。 组合解析:适用于多格式嵌套的日志(例如:分隔符+JSON)。当您的日志结构太过复杂,涉及多种解析模式,单种解析模式(如 Nginx 模式、完整正则模式、JSON 模式等)无法满足日志解析需求时,您可以使用组合解析格式解析日志,此模式支持用户在控制台输入代码(json
Secret>" } 场景5:IP地址脱敏 日志中包含IP地址信息,可同时运用regex_replace函数,对IP地址进行正则捕获后而脱敏。 原始日志 { "content":"ip is 192.0.2.10" } 加工规则 e_set("ip_encrypt",rege
PC和用户数据中心待互通的子网不能相同。 VPN网关和对端网关的IKE策略、IPsec策略、预共享密钥需要相同。 VPN网关和对端网关上配置的本端接口地址和对端接口地址需要互为镜像。 VPC内弹性云服务器安全组允许访问对端和被对端访问。 基于VPN打通网络实现API或SDK跨云上报日志到LTS
VPC等自定义网络环境中,可能出现不同服务器IP地址冲突的问题,导致日志服务无法管理ICAgent。使用自定义标识可以避免此类情况的发生。 多台服务器通过同一个自定义标识实现主机组弹性伸缩。您只需为新增的服务器配置相同的自定义标识,日志服务可自动识别,并将其添加至主机组中。 创建主机组(IP地址) 登录管理控制台,选择“管理与部署
图1 方案流程图 将自建ELK日志导入云日志服务LTS 登录云日志服务控制台。 请参考安装ICAgent在ECS主机安装ICAgent。 配置ECS日志接入云日志服务,请参考ECS接入。 脚本执行前期准备。以下示例仅供参考,请以实际信息填写为准。 首次使用python,需要安装python环境。
完善的自我保护机制。为保证运行在服务器上的ICAgent,不会明显影响您服务器上其他服务的性能,ICAgent在CPU、内存及网络使用方面都做了严格的限制和保护机制。 ICAgent结构化解析规则 日志接入前,您需要提前了解ICAgent采集的结构化解析规则,方便快速操作。支持组合解析,一个日志流的
type=syslogudp #host_port为syslog服务器的端口 a1.sources.r1.port = {host_port} #host_ip为syslog服务器的ip地址 a1.sources.r1.host = {host_ip} a1.sources.r1.channels
type=syslogudp #host_port为syslog服务器的端口 a1.sources.r1.port = {host_port} #host_ip为syslog服务器的ip地址 a1.sources.r1.host = {host_ip} a1.sources.r1.channels
wechat-app(存储微信服务器应用日志) wechat-error(错误日志) alipay-server alipay-app deliver-app(送货员App状态) deliver-error(错误日志) web-click(H5页面点击) server-access(服务端Access-Log)
生速度<50MB/s。 当采集器被重启后,重启时间点附近可能会产生一定的数据重复。 不涉及。 表4 ICAgent支持访问的IP地址 组件/服务 IP地址 说明 openstack http://169.254.169.254/openstack/latest/meta_data