检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
准备工作 注册华为云账号 配置云服务授权 权限管理
功能总览 功能总览 全部 LakeFormation 实例管理 元数据管理 数据权限授权 数据迁移 接入客户端管理 LakeFormation LakeFormation是企业级湖仓一站式构建服务，提供湖仓元数据统一管理的可视化界面及API，兼容Hive元数据模型以及Ranger
元数据迁移管理 支持将外部服务的元数据全量或增量迁移至当前LakeFormation实例中，对元数据进行统一管理。 √ √ 权限迁移管理 支持将外部服务的元数据权限全量或增量迁移至当前LakeFormation实例中，对元数据的权限进行统一管理。 √ √ 接入客户端管理 提供统一
如何获取LakeFormation实例ID 登录管理控制台。 在左上角单击“”，选择“大数据 > 湖仓构建 LakeFormation”进入LakeFormation控制台。 在左侧下拉框中选择待操作的LakeFormation实例。 在实例的“基本信息”中查看“实例ID”参数值，即为当前实例的ID。
LakeFormation与MRS集群中的Ranger、Hive、Spark对接，实现湖、仓元数据统一管理。 数据仓库服务 GaussDB（DWS） LakeFormation与DWS对接，实现湖、仓元数据统一管理。
t”（固定名称，不可自定义），数据库内包含两个数据表“table_A”、“table_B”，并进行授权。 创建存储元数据的OBS路径 登录管理控制台。 在页面左上角单击，选择“存储 > 对象存储服务”，进入对象存储服务页面。 选择“并行文件系统 > 创建并行文件系统”，进入创建页面，配置相关参数后单击“立即创建”。
迎体验。 2022年11月 序号 功能名称 功能描述 阶段 相关文档 1 LakeFormation公测上线 支持基于IAM用户组统一授权管理。 元数据统一，支持与MRS集群Hive和Spark对接。 商用 LakeFormation使用流程简介
LakeFormation中，总分区数量不超过1,000,000,000。 LakeFormation不支持跨Region的元数据和权限统一管理。 LakeFormation不支持跨实例的元数据和权限统一管理。 一个数据表中，每个分区所对应的Partition Value组合必须在全表唯一。 由Partition
在LakeFormation控制台创建实例，或者使用已有LakeFormation实例。 创建客户端 在LakeFormation控制台接入管理界面创建客户端。 修改DNS信息 在云解析服务中，修改linux环境所在子网的内网域名信息。 父主题： 环境准备
根据对接方式不同，补充以下配置： 使用SparkCatalogPlugin方式对接时，在spark-default.conf配置文件中补充以下配置： # 可选参数，认证管理器实现类，用于获取当前用户，此处配置值仅作为参考 spark.sql.catalog.catalog_name.lakeformation
"create_time": "2023-06-29T12:12:12.000+00:00" } 参考目录管理相关接口，使用上述步骤获取的接入IP与实例ID访问元数据管理相关接口，获取目录列表。 请求示例： GET https://{endpoint}/v1/{project_
参考创建LakeFormation实例。 创建LakeFormation接入客户端，并与Hive在相同的虚拟私有云、子网下，详细操作请参考管理接入客户端。 准备开发环境，详细操作请参考准备开发程序环境中“准备开发环境”部分，其中“安装和配置IntelliJ IDEA”为可选。 准备LakeFormation客户端。
JDK。 不同的IntelliJ IDEA不要使用相同的workspace和相同路径下的示例工程。 安装Maven 开发环境的基本配置。用于项目管理，贯穿软件开发生命周期。 7-zip 用于解压“*.zip”和“*.rar”文件。 支持7-Zip 16.04版本。 准备依赖信息 准备LakeFormation
考创建LakeFormation实例。 创建LakeFormation接入客户端，并与Spark在相同的虚拟私有云、子网下，详细操作请参考管理接入客户端。 准备开发环境，详细操作请参考准备开发程序环境中“准备开发环境”部分，其中“安装和配置IntelliJ IDEA”为可选。 准备LakeFormation客户端。
代码通过Maven打包后将jar包放置在“hive-xxx/lib”目录下。xxx为Hive内核版本号。 并在hive-site.xml补充以下配置： <!--可选参数，认证管理器实现类，用于获取当前用户，此处配置值仅作为参考--> <property> <name>lakeformation.authentication
联系运维人员。 500 00012077 准备承载资源账号失败。 联系运维人员。 500 00011001 管理控制台健康检查失败 CPU、内存不足时扩大规格；检查周边服务状态；重启管理面POD。 500 00011002 执行外置脚本失败。 请检查脚本是否存在错误。 500 00011003
应用场景 数据湖建设和持续运营 多服务/多集群共享元数据
基本概念 元数据 数据权限 区域与可用区
配置开源Hive组件对接LakeFormation 环境准备 配置Hive对接LakeFormation 对接后二次开发
应用示例 外部服务接入LakeFormation
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
