检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
湖一站式构建服务。 在存算分离架构基础上提供数据湖元数据统一管理的可视化界面及API,兼容Hive元数据模型以及Ranger权限模型,支持对接多种计算引擎及大数据云服务 本文档提供LakeFormation服务应用开发流程、环境准备及程序编写介绍,供需要进行业务应用开发的开发人员使用。
免不必要的重复数据,更大程度释放业务数据价值。 本服务的优势 兼容Hive元数据模型:提供兼容Hive元数据模型的SDK客户端,使计算引擎对接LakeFormation更轻松和高效。 兼容Ranger权限模型:提供兼容Ranger权限模型的接口,具备良好的生态扩展性。 建议搭配服务
LakeFormation入门教程,介绍如何创建一个LakeFormation实例并与MRS集群对接,实现统一的数据湖权限管理。 快速入门 使用流程简介 创建LakeFormation实例 规划数据湖 MRS对接LakeFormation实例 03 使用 通过使用LakeFormation可以
“接入连接列表”区域可以查看终端节点ID、接入IP等信息。 根据获取的接入IP等信息,完成其他云服务与LakeFormation的对接。 详细操作请参考对应云服务对接LakeFormation的操作指导。例如与MRS对接,则参考配置LakeFormation数据连接章节进行操作。
Service,MRS) LakeFormation与MRS集群中的Ranger、Hive、Spark对接,实现湖、仓元数据统一管理。 数据仓库服务 GaussDB(DWS) LakeFormation与DWS对接,实现湖、仓元数据统一管理。
阶段 相关文档 1 LakeFormation公测上线 支持基于IAM用户组统一授权管理。 元数据统一,支持与MRS集群Hive和Spark对接。 商用 LakeFormation使用流程简介
查看SDK更新历史、获取安装包以及查看指导文档。 表1 SDK列表 编程语言 Github地址 参考文档 Java huaweicloud-sdk-java-v3 Java SDK使用指导 Python huaweicloud-sdk-python-v3 Python SDK使用指导
关联至用户组。 已在OBS服务中创建一个并行文件系统,并在文件系统中创建用于映射数据表的文件夹。 已创建对接LakeFormation所需的相关委托。例如,如果执行MRS对接LakeFormation,则参考MRS准备工作创建相关委托等。 创建LakeFormation实例 登录管理控制台。
RS_LOCAL_GAUSSDB对应mrs本地高斯数据库、MRS_RDS_FOR_PG对应mrs对接RDS POSTGRESQL数据库、MRS_RDS_FOR_MYSQL对应mrs对接MYSQL数据库 枚举值: DLF HDFS RANGER LAKEFORMATION MRS_RDS_FOR_PG
r权限模型,支持无缝对接多种计算引擎及大数据云服务,使客户便捷高效地构建湖仓和运营相关业务,加速释放业务数据价值。 LakeFormation产品通过底层资源实现跨AZ部署及高可靠、弹性伸缩、元数据统一管理、缓存加速元数据查询、元数据与文件目录联动授权、对接多计算引擎等功能,是一个Serverless服务。
函数名称。只能包含字母、数字和下划线,且长度为1~256个字符。 function_type 是 String 函数类型,JAVA,remoteUDF。 枚举值: JAVA remoteUDF owner 是 String 函数所有者。只能包含字母、数字和下划线,且长度为1~256个字符。
RS_LOCAL_GAUSSDB对应mrs本地高斯数据库、MRS_RDS_FOR_PG对应mrs对接RDS POSTGRESQL数据库、MRS_RDS_FOR_MYSQL对应mrs对接MYSQL数据库 枚举值: DLF HDFS RANGER LAKEFORMATION MRS_RDS_FOR_PG
函数名称。只能包含字母、数字和下划线,且长度为1~256个字符。 function_type 是 String 函数类型,JAVA,remoteUDF。 枚举值: JAVA remoteUDF owner 是 String 函数所有者。只能包含字母、数字和下划线,且长度为1~256个字符。
OBS需要基于大数据存算分离场景进行分离部署;LakeFormation元数据的存储位置对应OBS路径,与存算分离架构的MRS等大数据集群对接。OBS并行文件系统需要支持AccessLabel特性。 LakeFormation中,不同实例的同名角色在授权时对应的OBS Acces
准备LakeFormation开发环境 环境准备 根据场景编写程序 使用LakeFormation SDK编写程序 使用LakeFormation Java SDK开发程序 父主题: 服务介绍
RS_LOCAL_GAUSSDB对应mrs本地高斯数据库、MRS_RDS_FOR_PG对应mrs对接RDS POSTGRESQL数据库、MRS_RDS_FOR_MYSQL对应mrs对接MYSQL数据库 枚举值: DLF HDFS RANGER LAKEFORMATION MRS_RDS_FOR_PG
函数名称。只能包含字母、数字和下划线,且长度为1~256个字符。 function_type String 函数类型,JAVA,remoteUDF。 枚举值: JAVA remoteUDF function_id String 函数ID。 owner String 函数所有者。只能包
函数名称。只能包含字母、数字和下划线,且长度为1~256个字符。 function_type String 函数类型,JAVA,remoteUDF。 枚举值: JAVA remoteUDF function_id String 函数ID。 owner String 函数所有者。只能包
函数名称。只能包含字母、数字和下划线,且长度为1~256个字符。 function_type String 函数类型,JAVA,remoteUDF。 枚举值: JAVA remoteUDF function_id String 函数ID。 owner String 函数所有者。只能包
服务接入管理接口,包括获取接入信息,申请接入等接口。 开通服务并创建实例以后,LakeFormation即可对外提供元数据管理相关能力,但周边服务需要通过该接口完成对接后,才能调用元数据管理相关接口,从而使用LakeFormation提供的能力。 规格管理 规格管理接口,包括查询规格列表等接口。 配额管理服务