-
MRS HDFS - 应用与数据集成平台 ROMA Connect
MRS_Services_ClientConfig_ConfigFiles > HDFS > config”路径中得到“core-site.xml”、“hdfs-site.xml”文件。 生成MRS HDFS配置文件。 将上述获取到的文件放到一个新的目录下,并打包成zip文件,所有文件位于zip文件的根目录下。
-
查看监控指标 - 应用与数据集成平台 ROMA Connect
Connect的运行情况。 开通云监控服务 云监控服务默认开通使用。 如果需要查看ROMA Connect相关的监控指标,请参见查看云服务监控指标。 如果需要在监控数据满足指定条件时发送报警通知,可参见创建告警规则。 FDI支持的监控指标 表1 FDI支持的监控指标 指标ID 指标名称 指标含义
-
接入MRS HDFS数据源 - 应用与数据集成平台 ROMA Connect
若使用用户数据库目录,如“/user/hdfs/testdb”,需要用户具有对应目录的权限。 机机交互用户名 填写连接MRS HDFS的机机类型用户名。 上传配置文件 单击“上传文件”,上传MRS HDFS配置文件。配置文件获取请参考获取MRS HDFS配置文件。 获取MRS HDFS配置文件 获取“krb5
-
监控信息查询 - 应用与数据集成平台 ROMA Connect
监控信息查询 API指标统计值查询-最近一段时间 查询API指标统计值 父主题: 服务集成API
-
查询任务监控信息列表 - 应用与数据集成平台 ROMA Connect
查询任务监控信息列表 功能介绍 查询所有任务的监控信息 调试 您可以在API Explorer中调试该接口,支持自动认证鉴权。API Explorer可以自动生成SDK代码示例,并提供SDK代码示例调试功能。 URI GET /v2/{project_id}/fdi/instan
-
任务监控管理 - 应用与数据集成平台 ROMA Connect
任务监控管理 查询任务监控信息列表 查询单个任务的日志详情 父主题: 数据集成API
-
异常监控 - 应用与数据集成平台 ROMA Connect
异常监控 “异常监控”处理器用于对指定流程进行监控,捕获发生的异常并根据配置的参数进行重试和异常处理操作。 配置参数 参数 说明 错误类型 捕获异常类型。“运行异常”包含当前所有服务异常。 包含错误信息 捕获异常包含错误信息。只有当捕获的异常信息中包含指定错误信息时,会进行异常处理步骤。
-
查看组合应用监控 - 应用与数据集成平台 ROMA Connect
查看组合应用监控 本章节指导您如何查看组合应用的监控信息。 查看监控 登录新版ROMA Connect控制台。 在左侧导航栏选择“组合应用”,在组合应用页面单击要查看监控的组合应用。 在组合应用详情页面,选择“监控”页签。 根据需要,可查看组合应用流任务的“运行监控”、“耗时监控”和“失败次数监控”的监控数据。
-
MRS Hive数据源测试连接失败 - 应用与数据集成平台 ROMA Connect
DI数据面IP不通导致连接失败。 HDFS URL填写了根目录hdfs:///hacluster,机机交互用户名填写的用户不具备管理员权限导致连接失败。 解决方案 将MRS Hive的服务端机器绑定EIP,在配置文件中将IP换成EIP,在hdfs-site.xml文件中添加“dfs
-
MySQL到MRS Hive时目标端报“could only be written to 0 of the 1 minReplication nodes. There are 2 datanode(s) running and 2 node(s) are excluded - 应用与数据集成平台 ROMA Connect
excluded in this operation”错误 原因分析 HDFS集群节点都绑定了EIP,在创建MRS Hive数据源时,上传的配置文件中全部用的EIP,Hosts里面也配置好IP与Hostname,但是在上传文件时HDFS的Master节点返回的node节点的IP为内网IP,所以连接不通,导致FDI任务执行异常。
-
方案概述 - 应用与数据集成平台 ROMA Connect
Connect反向互联,不破坏企业的安全边界。 服务集成APIC的API监控分析能力依赖于云日志服务(LTS)的日志统计能力,由于ROMA Site协同版实例为边缘部署,需要将API的调用日志回传到华为云上才能实现API的监控分析。由于传输的数据量与API请求量相关,请求数据量过大,回传链路无法承载。因此ROMA
-
使用Filebeat+ELK实现Site协同版实例的API日志监控 - 应用与数据集成平台 ROMA Connect
使用Filebeat+ELK实现Site协同版实例的API日志监控 方案概述 资源规划 准备Docker环境和镜像 修改Filebeat和ELK配置 部署Filebeat和ELK 配置索引生命周期策略(可选) 使用Kibana查看日志
-
查询API指标统计值 - 应用与数据集成平台 ROMA Connect
403 Forbidden 404 Not Found 500 Internal Server Error 错误码 请参见错误码。 父主题: 监控信息查询
-
查询单个任务的日志详情 - 应用与数据集成平台 ROMA Connect
Integer 当前页日志数量 最小值:1 最大值:99999 entities Array of TaskMonitorLog objects 任务监控日志当前页元素 数组长度:1 - 9999 表5 TaskMonitorLog 参数 参数类型 描述 id String 单次任务执行的跟踪ID
-
资源规划 - 应用与数据集成平台 ROMA Connect
大小,磁盘空间需求较少,约500MB。 10个 4核 512MB 父主题: 使用Filebeat+ELK实现Site协同版实例的API日志监控
-
使用Kibana查看日志 - 应用与数据集成平台 ROMA Connect
在页面右侧的“Break down by”处选择日志字段,可查看该字段的聚合统计数据。 父主题: 使用Filebeat+ELK实现Site协同版实例的API日志监控
-
准备Docker环境和镜像 - 应用与数据集成平台 ROMA Connect
所在节点网络互通。 操作步骤 确认SHUBAO组件所在节点。 登录ROMA Connect控制台,在左侧导航栏选择“Site实例”。 在要监控日志的Site协同版实例上,单击站点名称,打开站点信息弹窗。 在弹窗中单击边缘节点的名称,进入该边缘节点的详细信息页面。 在节点信息页面单
-
FDI通过公网对接其他租户的MRS HIVE如何配置? - 应用与数据集成平台 ROMA Connect
FDI通过公网对接其他租户的MRS HIVE如何配置? 首先需要将MRS的IP全部绑定EIP,然后在MRS配置文件中的私网IP全部替换成EIP,再到hdfs-site.xml文件中添加一个配置项“dfs.client.use.datanode.hostname”,值设为“true”。 父主题:
-
部署Filebeat和ELK - 应用与数据集成平台 ROMA Connect
restart logstash docker restart kibana 父主题: 使用Filebeat+ELK实现Site协同版实例的API日志监控
-
修改Filebeat和ELK配置 - 应用与数据集成平台 ROMA Connect
- ./log:/usr/share/filebeat/data # filebeat读取本地日志,该本地日志地址需要根据实际待监控路径的地址进行配置,相对路径或绝对路径均可。 # 多地址监听:若在一台服务器中需要监听多个地址,则需在filebeat.yml的path和docker-compose