检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
查询Topic列表 创建Topic 修改Topic 删除Topic 批量删除Topic 导入Topic 导出Topic 下载证书 查询topic的磁盘存储情况 父主题: 消息集成API
华为云服务 函数工作流 短信服务 消息通知 对象存储服务 数据安全中心 图像识别 文字识别 人脸识别 CodeArts Artifact CodeArts Build CodeArts Check CodeArts Deploy CodeArts Req CodeArts Pipeline
password. kafka.rest.password=sasl_user_passwd_demo 编辑log4j.properties 修改日志存储目录: log.directory=D://workspace/logs 运行示例工程,查看消息生产与消费样例。 消息生成与消费的Main方法在RestMain
Key:API所授权凭据的Key。根据实际情况填写。 Secret:API所授权凭据的Secret。根据实际情况填写。 认证使用的AK和SK硬编码到代码中或者明文存储都有很大的安全风险,建议在配置文件或者环境变量中密文存放,使用时解密,确保安全;本示例以AK和SK保存在环境变量中为例,运行本示例前请先在
的首选数据库。 MySQL默认端口为3306,但是管理员可以根据需要将其更改为其他端口。MySQL支持多种存储引擎,包括InnoDB、MyISAM、MEMORY等,每个存储引擎都有其自己的优缺点,可以根据需要进行选择。 创建MySQL连接 登录新版ROMA Connect控制台。
准备Docker环境和镜像 本实践使用官方最新稳定版的Docker镜像(基于Docker、Docker-Compose)部署Filebeat和ELK。 前提条件 准备一台可连接公网的本地PC,系统为Linux,用于拉取Docker镜像。 已根据资源规划,完成服务器资源的准备,且E
"df003efc-1ce7-41ef-a45a-b89dc431cb2d" } 修改指定第三方认证插件的内容 { "plugin_name" : "第三方认证插件", "remark" : "这是一个包含规则表达式黑名单的第三方认证插件", "plugin_type" : "third_auth"
"df003efc-1ce7-41ef-a45a-b89dc431cb2d" } 创建一个第三方认证插件,可见范围为全局可见 { "plugin_name" : "第三方认证插件", "remark" : "这是一个包含规则表达式白名单的第三方认证插件", "plugin_type" : "third_auth"
的首选数据库。 MySQL默认端口为3306,但是管理员可以根据需要将其更改为其他端口。MySQL支持多种存储引擎,包括InnoDB、MyISAM、MEMORY等,每个存储引擎都有其自己的优缺点,可以根据需要进行选择。 创建MySQL连接 登录新版ROMA Connect控制台。
其中bucket为和当前项目处于同一区域的OBS桶名称,object为对象全路径名。例如:obs://hwbucket/hwinfo/hw.png,其中obs://表示OBS存储,hwbucket为桶名,hwinfo/hw.png为对象全路径名。 image_watermark 提取出来的水印图片存放地址,格式要求同src_file。
源端字段a1映射到目标端字段b1,源端字段a2映射到目标端字段b2。 完成Mapping信息配置后,若需要配置异常数据存储、任务完成后执行,请前往配置异常数据存储(可选)、配置任务完成后执行(可选);否则可直接单击“保存”,完成数据集成任务的配置。 MRS Hive分区字段映射配置说明
List<ErrorHandler> 异常数据存储,需要存储异常数据时配置。 afterImplementation 否 List<AfterImplementation> 任务完成后执行,根据配置发送消息至Kafka或MRS Kafka。支持提供给第三方平台使用。 表2 MappingTable
Connect可以将这些数据以文本文件的形式存储在OBS中。 表3 异常数据存储信息 参数 配置说明 源数据类型 当前仅支持选择“OBS”。 应用 选择对应的应用。 数据源名称 选择已配置的OBS数据源。 Path 填写异常数据要存储到OBS数据源的对象名。Path的值不能以斜杠(/)结尾。
ecovery_area' scope=spfile; 其中: 100G为日志文件存储空间的大小,请根据实际情况设置。 /opt/oracle/oradata/recovery_area为日志存储路径,请根据实际规划设置,但须确保路径提前创建。 执行以下命令开启日志归档。 开启日
指从源端获取到的JSON格式数据中,元数据集上层公共字段的路径。此处不设置。 数据类型 选择从MQS数据源获取的数据格式类型,需要与MQS实际存储的数据格式一致。存储到MQS的设备数据为JSON格式,此处选择“JSON”。 消费偏移设置 选择“最新”,即集成最新获取的消息数据。 元数据 指从源
API获取OBS指定桶的对象列表,并将结果中的桶名称和对象名称通过数据映射,映射到MySql指定表中的相关字段,然后使用MySql添加记录的操作将桶名和对象名存储到MySql中。其中,对象存储服务 OBS产生的结果是数据映射的源端数据源,MySql是目的端数据源。可以通过使用Open API调用OBS连接器执行获取
新增动作完成后,配置动作参数。 表4 动作参数说明 参数 说明 输入参数 配置输入参数,可配置“Query”、“Header”和“Path”三种类型的输入参数。 参数名:输入参数名。 参数展示名:输入参数展示名。 类型:选择参数类型,可选择“string”、“integer”、“number”。
touch /filebeat/filebeat.yml touch /filebeat/docker-compose.yml 其中,log目录用于存储Filebeat收集到的日志数据以及其它元数据信息,即使容器Filebeat被删除并重新启动,会继续读取该目录中的内容(如registry
ecovery_area' scope=spfile; 其中: 100G为日志文件存储空间的大小,请根据实际情况设置。 /opt/oracle/oradata/recovery_area为日志存储路径,请根据实际规划设置,但须确保路径提前创建。 执行以下命令开启日志归档。 开启日
OMA Connect集成数据的过程。 使用ROMA Connect集成数据的步骤如下所示: 步骤一:准备数据源 步骤二:接入数据源 步骤三:创建数据集成任务 步骤四:启动数据集成任务 步骤五:查看数据集成结果 步骤一:准备数据源 在使用ROMA Connect进行数据集成前,您