检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
从OBS获取csv文件进行数据富化 本文档介绍如何通过资源函数和映射富化函数从OBS中获取数据对日志数据进行富化。 前提条件 已上传csv文件到OBS。 背景信息 OBS是华为云提供的一个高可靠、高性能、高安全的基于对象的海量存储云服务。针对更新不频繁的数据,建议您存储在OBS上
志组,单击“所属日志组”目标框后的“新建”,在弹出的创建日志组页面创建新的日志组。 单击“所属日志流”后的目标框,在下拉列表中选择具体的日志流,若没有所需的日志流,单击“所属日志流”目标框后的“新建”,在弹出的创建日志流页面创建新的日志流。 单击“下一步:选择主机组(可选)”。 选择主机组。
自定义拦截器处理日志 使用外部数据源丰富日志内容并上报到LTS 前提条件 用户机器已经安装了JDK。 用户已经安装Flume,并且需要在Flume中配置文件中配置JDK路径。 使用Flume采集文本日志上报到LTS 支持使用Flume采集文本日志内容上报至LTS,参考如下示例添加采集文本日志
自定义拦截器处理日志 使用外部数据源丰富日志内容并上报到LTS 前提条件 用户机器已经安装了JDK。 用户已经安装Flume,并且需要在Flume中配置文件中配置JDK路径。 使用Flume采集文本日志上报到LTS 支持使用Flume采集文本日志内容上报至LTS,参考如下示例添加采集文本日志
欠费后,可能会影响云服务资源的正常运行,请及时充值。 欠费原因 在按需计费模式下账户的余额不足。 欠费影响 欠费后,无法上报日志,且无法创建日志组和日志流等功能。 避免和处理欠费 减少日志存储时间或及时删除不需要的日志流。 欠费后需要及时充值,详细操作请参见账户充值。 若日志存储在对象存储服务
保存LTS快速查询日志条件 当您需要重复使用某一关键字搜索日志时,可以将其设置为快速查询语句。 创建快速查询 在云日志服务控制台,单击“日志管理”。 在日志组列表中,单击日志组名称前对应的按钮。 在日志流列表中,单击日志流名称,进入日志详情页面。 在“统计图表”页签,单击,输入“
"http://x.x.x.x:8080" 上游服务器的地址。 host: "example.com" 请求的主机名。 日志位置 在Nginx配置文件中,您可以通过指令来设置访问日志和错误日志的存放位置和格式。例如: http { ... log_format
所属日志组”目标框后的“新建”,在弹出的创建日志组页面创建新的日志组。详细请参考管理日志组。 单击“所属日志流”后的目标框,在下拉列表中选择具体的日志流。若没有所需的日志流,单击“所属日志流”目标框后的“新建”,在弹出的创建日志流页面创建新的日志流。详细请参考管理日志流。 单击“下一步:选择主机组(可选)”。
删除结构化配置 功能介绍 该接口用于删除指定日志流下的结构化配置。 调用方法 请参见如何调用API。 URI DELETE /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String
如,如果Kafka安装在/usr/local/kafka,则日志文件可能位于/usr/local/kafka/logs。 检查Kafka配置文件: 在${KAFKA_HOME}/bin/kafka-run-class.sh中修改Kafka的logs目录。 # Log directory
查询结构化配置 功能介绍 该接口用于查询指定日志流下的结构化配置内容。 调用方法 请参见如何调用API。 URI GET /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String
Log): 事务日志记录了ZooKeeper集群中所有的事务操作,包括客户端的请求和服务器端的响应。 事务日志的默认存储位置由zoo.cfg配置文件中的dataLogDir参数指定。如果没有配置dataLogDir,则事务日志将存储在dataDir指定的目录下。 在事务日志的目录中,
修改结构化配置(推荐) 功能介绍 该接口通过结构化模板修改结构化配置 调用方法 请参见如何调用API。 URI PUT /v3/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String
是Hadoop的安装目录,<APPLICATION_ID>和<CONTAINER_ID> 是YARN分配给Flink作业的标识符。可以在yarn-site.xml配置文件中修改YARN的日志目录,通过<property><name>yarn.nodemanager.log-dirs</name><valu
修改结构化配置(不推荐) 功能介绍 该接口用于修改指定日志流下的结构化配置,由于参数较多且构建复杂,建议您使用8.9.2-修改结构化配置(推荐)。 调用方法 请参见如何调用API。 URI PUT /v2/{project_id}/lts/struct/template 表1 路径参数
单击“新增访问密钥”。 图3 新增访问密钥 每个用户最多可创建2个访问密钥,不支持增加配额。如果您已拥有2个访问密钥,将无法创建访问密钥。 如需修改访问密钥,请删除访问密钥后重新创建。 为了保证历史兼容性,我们会使用访问密钥创建时间作为最近使用时间的初始值。在您使用该访问密钥时,系统将自动刷新最近使用时间。
object 结构化规则对象 demo_label String 示例日志标签 最小长度:0 最大长度:5000 create_time Long 创建时间 最小值:0 最大值:20000000000000 id String 模板id 最小长度:36 最大长度:36 表6 DemoField
间相距当前时间不超过2天,否则上报日志会被LTS删除。 注意事项 认证用的ak和sk硬编码到代码中或者明文存储都有很大的安全风险,建议在配置文件或者环境变量中密文存放,使用时解密,确保安全。 操作步骤 获取LTS Net SDK包源码。 git clone https://gitee
uninstalling-transient:卸载中 authentication error:鉴权失败 host_type String 主机类型。linux:linux类型,windows:windows类型 host_version String 主机版本 最小长度:1 最大长度:16 update_time
日志已接入云日志服务(LTS)。 日志流已配置结构化规则。 已在DLI中创建数据库和表,创建数据库表时数据位置选择OBS,数据格式选择JSON。详细操作请参见创建数据库和表。 已在DLI中创建队列,该队列将用来将数据导入DLI的表中。详细操作请参见创建队列。 日志转储至DLI 登录云日志服务控制台,在左侧导航栏中选择“日志转储