-
元数据迁移 - 湖仓构建 LakeFormation
MRS云数据库RDS(for PostgreSQL) MRS本地数据库 JDBC URL 待迁移元数据JDBC链接的URL。“数据源类型”不为“DLF”时配置该参数。 说明: 例如: MySQL数据源类型JDBC URL为:jdbc:mysql://IP地址:端口/数据库名称?use
-
创建任务 - 湖仓构建 LakeFormation
MRS_RDS_FOR_MYSQL代表MRS云数据库RDS(for MySQL)、 OPEN_FOR_MYSQL代表开源HiveMetastore(for MySQL)、 MRS_RDS_FOR_PG代表MRS云数据库RDS(for PostgreSQL)、 MRS_LOCAL_
-
修改任务信息 - 湖仓构建 LakeFormation
MRS_RDS_FOR_MYSQL代表MRS云数据库RDS(for MySQL)、 OPEN_FOR_MYSQL代表开源HiveMetastore(for MySQL)、 MRS_RDS_FOR_PG代表MRS云数据库RDS(for PostgreSQL)、 MRS_LOCAL_
-
获取任务详情 - 湖仓构建 LakeFormation
S云数据库RDS(for MySQL)、 OPEN_FOR_MYSQL代表开源HiveMetastore(for MySQL)、 MRS_RDS_FOR_PG代表MRS云数据库RDS(for PostgreSQL)、 MRS_LOCAL_GAUSSDB代表MRS本地数据库(GaussDB)。
-
计费说明 - 湖仓构建 LakeFormation
W至5W五种QPS规格。 共享型 元数据对象数量 按照元数据对象使用量收费,元数据对象数量为Catalog、数据库、表、分区、索引、函数数量之和。 前100万个不计费,后续按照万个/小时计费,不足万个按照万个计算。 API调用次数 按照元数据相关API的调用次数收费,每个月前100万次不收费,后续按每次计费。
-
创建LakeFormation实例 - 湖仓构建 LakeFormation
样例 类型 选择实例类型。 共享:共享型实例之间,通过资源复用换取CCE集群或GaussDB(for MySQL)实例等资源的使用率最大化。 独享:按照每秒查询率(QPS)上限和元数据使用量进行计费。 独享 区域 选择区域。 不同区域的云服务产品之间内网互不相通。请就近选择靠近您业务的区域,可减少网络时延,提高访问速度。
-
元数据数量统计 - 湖仓构建 LakeFormation
Long 目录数量。 databases_count Long 数据库数量。 tables_count Long 表数量。 partitions_count Long 分区数量。 indexes_count Long 索引数量。 状态码: 400 表4 响应Body参数 参数 参数类型
-
管理数据表 - 湖仓构建 LakeFormation
管理数据表 用户在数据目录(Catalog)中可对元数据库和元数据表进行管理,按照业务规划创建对应数据表。 前提条件 已创建LakeFormation实例,且实例处于正常运行状态。 已创建待创建数据表的数据库及其所属Catalog。 已参考创建元数据存储路径提前创建了用于存储数据表的OBS并行文件系统。
-
错误码 - 湖仓构建 LakeFormation
请检查GaussDB for MySQL的状态。 500 00011078 获取API调用次数失败。 请检查管控面与租户面之间的链接。 500 00011079 删除API调用次数记录失败。 请检查管控面与租户面之间的链接。 500 00011080 MySQL扩容失败。 检查MySQL实例是否正常。
-
元数据发现 - 湖仓构建 LakeFormation
元数据发现 操作场景 当数据存储在OBS并行文件系统中,而在LakeFormation还未与对应的元数据关联时,可以通过元数据发现,来构造这些数据对应的元数据信息,从而支撑SQL引擎或者用户的应用程序的计算与分析。 当前元数据发现特性属于公测阶段,公测期产品完全免费,商业化后会根据元数据发现消耗资源收取资源费用。
-
数据湖建设和持续运营 - 湖仓构建 LakeFormation
一站式可视化湖仓构建:提供数据湖元数据统一定义和授权的可视化界面,支持用户便捷操作,快速构建。 联动授权:支持在元数据授权的同时,自动化完成元数据所映射的文件目录的授权,使用户授权操作更便捷和高效。 细粒度访问控制:实现针对数据湖的库、表、列级元数据的细粒度访问控制,为业务数据的安全性提供有力保障。
-
共享型与独享型LakeFormation对比 - 湖仓构建 LakeFormation
LakeFormation提供数据湖元数据Catalog的创建、修改、删除、查看等功能。 √ √ 数据库管理 LakeFormation提供数据湖元数据数据库的创建、修改、删除、查看等功能。 √ √ 表管理 LakeFormation提供数据湖元数据数据表的创建、修改、删除、查看等功能。
-
概述 - 湖仓构建 LakeFormation
实例,您可以通过控制台、API实现对数据湖的元数据进行统一的生命周期管理,无需再通过大数据集群的SQL引擎来管理。 您可以使用本文档提供API对LakeFormation进行相关操作,如创建删除LakeFormation实例、元数据库、元数据表等。 支持的主要操作请参见API概览。
-
元数据 - 湖仓构建 LakeFormation
操作。 函数(Function) 在SQL查询中使用函数对数据进行特定处理,包括内置函数和用户自定义函数UDF(User-Defined Functions)。 用户自定义函数分为以下几类: 普通的UDF,用于操作单个数据行,且产生一个数据行作为输出。 用户定义聚集函数UDAF(User-Defined
-
创建函数 - 湖仓构建 LakeFormation
catalog名称。 catalog_id String catalogID。 database_name String 数据库名称。 database_id String 数据库ID。 function_name String 函数名称。只能包含字母、数字和下划线,且长度为1~256个字符。
-
批量删除分区信息 - 湖仓构建 LakeFormation
批量删除分区信息 功能介绍 非事务表:如果设置删除数据,立刻删除分区数据路径下的数据。 事务表:如果设置删除数据,保留数据在原路径下但对外不可见,待数据超期后统一删除。 调试 您可以在API Explorer中调试该接口,支持自动认证鉴权。API Explorer可以自动生成SD
-
数据权限概述 - 湖仓构建 LakeFormation
DESCRIBE 查看数据库的元数据信息或切换数据库。 LIST_TABLE 查看数据库下资源列表。 LIST_FUNC 查看某一数据库下的函数。 CREATE_TABLE 在数据库中创建表。 CREATE_FUNC 在数据库中创建函数。 表 ALL 表的所有操作权限。 ALTER 修改表。
-
管理数据库 - 湖仓构建 LakeFormation
单击“操作”列的“编辑”可以修改数据库配置信息。 单击“操作”列的“数据表”,可以查看当前数据库下的数据表信息。 在“更多”中可以为当前数据库进行授权、查看权限、或删除操作。 删除元数据时如果同步删除文件,数据将移入对应OBS桶的回收站(“lake-formation-tras
-
什么是LakeFormation - 湖仓构建 LakeFormation
本功能,帮助您便捷的进行实例管理,加速实现数据湖承载的业务的规划和部署。 元数据管理 LakeFormation提供数据湖元数据Catalog、数据库、数据表等的创建、修改、查看、删除等功能,并支持配置元数据生命周期。帮助您便捷的进行数据湖初始化构建以及持续运营,集中式的统一管理
-
创建元数据存储路径 - 湖仓构建 LakeFormation
创建元数据存储路径 LakeFormation元数据映射的数据文件和目录存储在OBS并行文件系统中。在创建LakeFormation元数据之前,需要提前创建数据存储使用的OBS并行文件系统。 如果已存在可用的OBS并行文件系统,可跳过该章节操作。 操作步骤 创建OBS并行文件系统