检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
从OBS解析文件到RDS数据库,采集过一次后,后面采集会进行更新吗? 如果是采集同一个文件,每次在OBS上更新文件,目标端数据库有主键情况下,每次会根据主键更新数据。 如果是采集多个文件,目标端数据库有主键且主键相同的情况下,每次都会更新成时间最早的文件里的值,即数据内容没有变化
获取数据源配置文件 MRS Hive MRS HDFS MRS HBase MRS Kafka 父主题: 附录
选择对应的数据湖分层:业务数据层/操作数据层/明细数据层/汇总数据层/应用数据层/贴源数据层。 上传文件 单击“上传文件”,上传本地文件配置文件。 支持文件类型为:.yaml,.json, 文件个数最大值为:20, 单个文件大小的最大值为:20MB, 完成数据源接入配置后,单击“测试连接”,检测ABM与数据源之间是否能够连通。
包成zip文件,所有文件位于zip文件的根目录下。 文件名只能由英文字母或数字组成,长度不超过255个字符。 文件大小不超过2MB。 父主题: 获取数据源配置文件
xml”、“hdfs-site.xml”文件。 生成MRS HBase配置文件。 将上述获取到的文件放到一个新的目录下,并打包成zip文件,所有文件位于zip文件的根目录下。 文件名只能由英文字母或数字组成,长度不超过255个字符。 文件大小不超过2MB。 父主题: 获取数据源配置文件
xml”、“hdfs-site.xml”文件。 生成MRS Hive配置文件。 将上述获取到的文件放到一个新的目录下,并打包成zip文件,所有文件位于zip文件的根目录下。 文件名只能由英文字母或数字组成,长度不超过255个字符。 文件大小不超过2MB。 父主题: 获取数据源配置文件
xml”、“hdfs-site.xml”文件。 生成MRS HDFS配置文件。 将上述获取到的文件放到一个新的目录下,并打包成zip文件,所有文件位于zip文件的根目录下。 文件名只能由英文字母或数字组成,长度不超过255个字符。 文件大小不超过2MB。 父主题: 获取数据源配置文件
OBS源端的CSV文件解析到关系型数据库时,列的值不对怎么办? 任务配置时源端OBS的元数据填写顺序必须与CSV文件中列的顺序一致,需修改任务配置,按照文件中列的顺序填写元数据。 父主题: 数据集成普通任务
勾选:使用导入文件中定义的扩展信息覆盖掉系统已有信息。 不勾选:使用系统已有扩展信息,不使用导入文件中的扩展信息。 导入参数 选择并检查导入文件。 单击“文件”,选择本地要导入的YAML或JSON格式API定义文件。 导入文件后,单击“检查”,可检查导入文件的内容格式是否符合规范要求。
勾选:使用导入文件中定义的扩展信息覆盖掉系统已有信息。 不勾选:使用系统已有扩展信息,不使用导入文件中的扩展信息。 导入参数 检查导入的文件内容。 单击“检查”,可检查导入文件的内容格式是否符合规范要求。 单击“格式化”,可对导入文件的内容进行格式化。 单击“下载”,可把导入的文件内容下载到本地。
填写允许或禁止调用API的账号名,多个账号名之间使用英文逗号(,)隔开。 您可以单击控制台右上角的用户名,选择“我的凭证”,在API凭证页面获取用户的账号名。 账号ID 仅当“类型”选择“账号ID”时需要配置。 填写允许或禁止调用API的账号ID,多个账号名之间使用英文逗号(,)隔开。
多个数据源编排 一个数据API可以包含多个数据源,因此一次API请求可以涉及多个数据源,例如取第一个数据源查询结果作为第二个数据源的参数。 以MySQL为例说明,假设数据API有数据源1和数据源2,user01是数据源1的数据表和user02是数据源2的数据表,两张表的结构如下:
Connect支持通过文件的方式导入导出自定义后端。 导入自定义后端:支持导入YAML和JSON格式API定义文件,且文件内容应满足Swagger 2.0规范。 导出自定义后端:支持导出YAML和JSON格式API定义文件。 前提条件 导入自定义后端前,您需要在导入的API定义文件中补全自定义后端的Swagger扩展定义。
Connect支持通过文件的方式导入导出自定义后端。 导入自定义后端:支持导入YAML和JSON格式API定义文件,且文件内容应满足Swagger 2.0规范。 导出自定义后端:支持导出YAML和JSON格式API定义文件。 前提条件 导入自定义后端前,您需要在导入的API定义文件中补全自定义后端的Swagger扩展定义。
Filebeat目录和文件结构如下所示: |_ filebeat |_ log |_ docker-compose.yml |_ filebeat.yml 登录SHUBAO组件所在节点,切换root用户,执行以下命令创建Filebeat相关目录和配置文件。 用户可自定义配置文件所在路
最小长度:0 最大长度:256 config_file_name 否 String 用户认证文件,文件获取方式参见API参考的“附录 > 获取数据源配置文件”章节。 将获取到的文件打包成zip文件,文件名配置在config_file_name中,内容以BASE64编码形式放到config_file_content。
Connect支持把实例的应用和任务以资产文件形式导出,也可以把资产文件导入ROMA Connect,实现集成资产的快速恢复或迁移,资产文件的导入导出操作请参见导入导出资产。 资产恢复:从ROMA Connect实例导出集成资产进行数据备份,若后续因实例故障或数据丢失需要恢复资产数据,可将备份的资产文件再导入实例进行资产恢复。
FTP连接器是基于FTP/SFTP协议实现文件传输的通道,通过FTP连接器可与外部FTP服务器进行文件交换。 FTP(File Transfer Protocol,文件传输协议)是TCP/IP 协议组中的协议之一。FTP协议包括两个组成部分:FTP服务器和FTP客户端。其中FTP服务器用来存储文件,用户可以使
支持的动作 写入文件 配置参数 参数 说明 目录路径 填写FTP服务器下文件的相对路径。 文件名 填写需要写入的文件名。 写入内容 填写需要写入的内容。 写入策略 选择需要写入的策略 覆写:覆盖同名文件内容; 追加:在同名文件末尾追加内容; 备份:备份同名文件,后缀为执行时间。
直接跳到2,否则继续执行下一步。 执行以下命令退出数据库。 exit; 执行以下命令编辑MySQL配置文件,然后按“i”进入输入模式。 vi /etc/my.cnf 在配置文件中增加如下配置,开启Binlog。 server-id = 123 log_bin = mysql-bin