安全云脑 SECMASTER-连接器规则说明:目的连接器

时间:2024-09-19 11:14:12

目的连接器

安全云脑 租户采集连接器,目前支持的目的连接器类型如下表所示:

表9 目的连接器类型

连接器名称

对应的logstash插件

描述

文件 File

file

用于写入到节点本地文件,配置规则请参见表10

传输控制协议 TCP

tcp

用于发送TCP协议日志,配置规则请参见表11

用户数据协议 UDP

udp

用于发送UDP协议日志,配置规则请参见表12

消息队列 KAFKA

kafka

用于将日志写入Kafka消息队列,配置规则请参见表13

对象存储 OBS

obs

用于写日志到 对象存储OBS 桶中,配置规则请参见表14

云脑管道 PIPE

pipe

用于将日志写入安全云脑管道中,配置规则请参见表15

表10 file连接器配置规则

规则

对应logstash配置项

类型

默认值

是否必填

描述

输出路径

path

string

/opt/cloud/logstash/config/out.txt

输出节点文件路径

删除时创建

create_if_deleted

boolean

true

不存在则创建

解码类型

codec

string

json_lines

Codec

  • plain:读取原始内容
  • json_lines:处理json格式内容
表11 tcp连接器配置规则

规则

对应logstash配置项

类型

默认值

是否必填

描述

端口

port

number

1025

端口

解码类型

codec

string

plain

解码类型,json_lines或者plain

  • plain:读取原始内容
  • json_lines:处理json格式内容

主机地址

host

string

192.168.0.66

host地址

注:与节点网络互通

ssl证书

ssl_cert

file

--

ssl_cert证书

是否SSL

ssl_enable

boolean

false

是否开启ssl

ssl-key文件

ssl_key

file

--

ssl_key文件

ssl秘钥

ssl_key_passphrase

string

--

ssl_key_passphrase密钥

表12 udp连接器配置规则

规则

对应logstash配置项

类型

默认值

是否必填

描述

主机地址

host

string

--

主机地址

注:与节点网络互通

端口

port

number

1025

端口

解码类型

codec

string

json_lines

解码类型,json_lines或者plain

  • plain:读取原始内容
  • json_lines:处理json格式内容

重试次数

retry_count

number

3

重试次数

重试延迟毫秒数

retry_backoff_ms

number

200

重试延迟毫秒数

表13 kafka连接器配置规则

规则

对应logstash配置项

类型

默认值

是否必填

描述

服务地址

bootstrap_servers

string

--

服务地址eg:192.168.21.21:9092,192.168.21.24:9999

主题

topic_id

string

logstash

主题

解码类型

codec

string

plain

解码类型,json或者plain

请求体最大长度

max_request_size

number

10485760

请求体最大长度

SSL证书

ssl_truststore_location

file

--

SSL证书

当选择SSL相关协议时需要填写该参数

SSL秘钥

ssl_truststore_password

string

--

SSL秘钥

当选择SSL相关协议时需要填写该参数

安全协议

security_protocol

string

PLAINTEXT

安全协议

sasl连接配置

sasl_jaas_config

string

--

sasl连接配置

是否加密

is_pw_encrypted

string

true

是否加密

sasl机制

sasl_mechanism

string

PLAIN

sasl_mechanism

其中,“sasl连接配置”需要根据kafka规格进行填写。示例如下:

  • 明文连接配置
    org.apache.kafka.common.security.plain.PlainLoginModule required username='kafka用户' password='kafka密码';
  • 密文连接配置
    org.apache.kafka.common.security.scram.ScramLoginModule required username='kafka用户名' password='kafka密码';
表14 obs连接器配置规则

规则

对应logstash配置项

类型

默认值

是否必填

描述

region

region

string

cn-north-4

region

bucket

string

demo-obs-sec-mrd-datas

桶名

endpoint

endpoint

string

https://obs.huawei.com

endpoint

缓存文件夹

temporary_directory

string

/temp/logstash/

缓存路径

编码类型

codec

string

plain

编码格式plain或者json

AK

ak

string

--

AK

SK

sk

string

--

SK

前缀

prefix

string

test

路劲前缀

编码格式

encoding

string

gzip

编码格式gzip或者纯文件

记忆路径

sincedb_path

string

/opt/cloud/logstash/pipeline/file_name

用于设置读取的位置信息,防止重启导致的全文遍历

表15 pipe连接器配置规则

规则

对应logstash配置项

类型

默认值

是否必填

描述

类型

type

string

租户

类型

管道

pipeId

string

--

管道

AK

ak

string

--

AK

选择平台类型需填写该参数

SK

sk

string

--

SK

选择平台类型需填写该参数

域账户

domain_name

string

domain_name

iam账户domain_name

选择租户类型需填写该参数

用户名

user_name

string

user_name

iam账户user_name

选择租户类型需填写该参数

密码

user_password

string

--

iam账户user_password

选择租户类型需填写该参数

压缩类型

compression_type

string

NONE

报文压缩类型

队列满阻止

block_if_queue_full

boolean

true

队列满阻止进入

启用批处理

enable_batching

boolean

true

是否开启批处理

support.huaweicloud.com/usermanual-secmaster/secmaster_01_0375.html