-
环境准备 - 湖仓构建 LakeFormation
checkout master_dev 配置maven源,详细操作请参考获取SDK并配置maven。 获取以下jar包以及对应的pom文件,并将文件放入maven本地仓库。 例如本地仓库地址为“D:\maven\repository”,则放入“D:\maven\repository
-
对接后二次开发 - 湖仓构建 LakeFormation
LakeFormation提供了默认的认证信息获取类,通过从配置文件中获取AKSK生成认证信息。 除LakeFormation提供的默认认证信息获取类外,可选择自行实现默认认证信息获取类。 代码开发。 实现工程参考如下,在Maven工程pom文件中添加lakeformation-lakecat-client依赖:
-
获取任务详情 - 湖仓构建 LakeFormation
PermissionMigrationParameter 参数 参数类型 描述 location String 用于获取权限迁移的obs文件路径。 file_name String 权限json文件,文件名中不得包含 <, >, :, ", /, , |, ?, * 这些特殊字符。 log_location String
-
约束与限制 - 湖仓构建 LakeFormation
元数据的参数描述中,1个中文字符对应3个字节。 LakeFormation依赖OBS服务的并行文件系统,OBS需要基于大数据存算分离场景进行分离部署;LakeFormation元数据的存储位置对应OBS路径,与存算分离架构的MRS等大数据集群对接。OBS并行文件系统需要支持AccessLabel特性。 LakeFor
-
对接后二次开发 - 湖仓构建 LakeFormation
LakeFormation提供了默认的认证信息获取类,通过从配置文件中获取AKSK生成认证信息。 除LakeFormation提供的默认认证信息获取类外,可选择自行实现默认认证信息获取类。 代码开发。 实现工程参考如下,在Maven工程pom文件中添加lakeformation-lakecat-client依赖:
-
如何获取AK/SK - 湖仓构建 LakeFormation
单击“新增访问密钥”,进入“新增访问密钥”页面。 根据提示输入对应信息,单击“确定”,在弹出的提示页面单击“立即下载”。 下载成功后,打开凭证文件,获取AK/SK信息。 为保证访问密钥的安全,访问密钥仅在初次生成时自动下载,后续不可再次通过管理控制台界面获取。请在生成后妥善保管。
-
错误码 - 湖仓构建 LakeFormation
数据老化错误。 请检查数据老化配置。 500 00000066 SQL执行失败。 请检查SQL文件语法是否正确。 500 00000067 文件的Md5值和远端的不一致。 请检查SQL文件是否做过修改。 400 00000068 default数据库不能删除。 请勿删除默认数据库。
-
数据湖建设和持续运营 - 湖仓构建 LakeFormation
一站式可视化湖仓构建:提供数据湖元数据统一定义和授权的可视化界面,支持用户便捷操作,快速构建。 联动授权:支持在元数据授权的同时,自动化完成元数据所映射的文件目录的授权,使用户授权操作更便捷和高效。 细粒度访问控制:实现针对数据湖的库、表、列级元数据的细粒度访问控制,为业务数据的安全性提供有力保障。
-
数据权限概述 - 湖仓构建 LakeFormation
修改函数。 DROP 删除函数。 DESCRIBE 查看函数的元数据信息。 EXEC 执行函数。 路径 READ 路径下文件的读权限。 WRITE 路径下文件的写权限。 权限管理员通常分为系统权限管理员与业务权限管理员,需要具备的IAM权限与权限管理范围不同 系统权限管理员 需要拥有以下IAM
-
新增授权 - 湖仓构建 LakeFormation
创建角色。 用户 选择用户:选择待授权的用户。 授权类型 资源:表示对LakeFormation实例中的资源进行授权。 路径:表示对OBS文件系统中的路径进行授权。该授权类型用于给外表或函数授权。 资源类型 Catalog “授权类型”选择“资源”时配置该参数。 选择待授权资源类型。
-
湖仓构建 LakeFormation - 湖仓构建 LakeFormation
MRS对接LakeFormation实例 03 使用 通过使用LakeFormation可以实现跨AZ部署及高可靠、弹性伸缩、元数据统一管理、元数据与文件目录联动授权、对接多计算引擎等功能。 准备操作 注册华为云帐号 授权用户使用LakeFormation 创建自定义IAM策略 管理LakeFormation实例
-
基于策略授权的服务授权项 - 湖仓构建 LakeFormation
lakeformation:tableFile:alter 修改文件的权限。 write - - lakeformation:tableFile:describe 查询文件的权限。 read - - lakeformation:tableFile:drop 删除文件的权限。 write - - lakef
-
什么是LakeFormation - 湖仓构建 LakeFormation
运营相关业务,加速释放业务数据价值。 LakeFormation产品通过底层资源实现跨AZ部署及高可靠、弹性伸缩、元数据统一管理、元数据与文件目录联动授权、对接多计算引擎等功能,是一个Serverless服务。 LakeFormation架构 LakeFormation服务架构图如图1所示。
-
配置Hive对接LakeFormation - 湖仓构建 LakeFormation
配置Hive对接LakeFormation 修改Hive服务端安装环境的“conf”目录的hive-site.xml文件,添加如下内容(部分参数值根据提示进行替换): <property> <name>hive.metastore.session.client.class</name>
-
修改表信息 - 湖仓构建 LakeFormation
CASADE: 级联删除列,如果为true则会把partition中的列也删除;如果为false则不会 DO_NOT_UPDATE_STATS: 不更新文件级别统计信息。true则不更新;false则更新。 STATS_GENERATED:记录本次更新的发起者。可填:TASK/USET。具体作用未明确。