检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置开源Spark组件对接LakeFormation 环境准备 配置Spark对接LakeFormation 对接后二次开发
环境准备 在配置开源Hive组件对接LakeFormation前,需要提前准备以下信息: 准备可用的开源Hive环境,目前支持Hive 2.3以及Hive 3.1两个版本,并安装Git环境。 准备LakeFormation实例,详细操作请参考创建LakeFormation实例。
配置开源Hive组件对接LakeFormation 环境准备 配置Hive对接LakeFormation 对接后二次开发
行,单击对应“操作”列的“管理解析”。 单击“添加记录集”,填写以下参数后,单击“确定”。 表1 添加记录集 参数 说明 类型 选择“A – 将域名指向IPv4地址”。 TTL(秒) 解析记录在本地DNS服务器的缓存时间,根据需要填写。 值 填写客户端接入IP,可以通过7获取。
环境准备 在配置开源Spark组件对接LakeFormation前,需要提前准备以下信息: 准备可用的开源Spark环境、开源Hive环境。并安装Git环境。 目前仅支持对接Spark 3.1.1以及Spark 3.3.1两个版本。对应使用Hive内核版本为2.3。 准备Lake
分页查询时的偏移量。默认值为0。最小值为0,最大值为1000。 limit 是 Integer 分页一页显示数。默认值为10。最小值为1,最大值为1000。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 否 String 租户token。 响应参数 状态码: 200
Values组合构成的Partition Name,总长度不能超过1000字符。 元数据的参数描述中,1个中文字符对应3个字节。 LakeFormation依赖OBS服务的并行文件系统,OBS需要基于大数据存算分离场景进行分离部署;LakeFormation元数据的存储位置对应OBS路径
分页查询时的偏移量。默认值为0。最小值为0,最大值为1000。 limit 是 Integer 分页一页显示数。默认值为10。最小值为1,最大值为1000。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 否 String 租户token。 响应参数 状态码: 200
Boolean 是否查询被删除元数据。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 Array of strings 租户token。 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 databases Array
tags 否 String 标签条件列表。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 否 String 租户token。 响应参数 状态码: 200 表4 响应Header参数 参数 参数类型 描述 X-request-id String
例如使用LakeFormation Java SDK开发程序的参考代码如下: (如下代码介绍了初始化SDK、创建LakeFormationClient实例、创建请求,添加参数、查询Catalogs列表的相关代码。) package com.huawei.cloud.dalf.lakecat.examples;
请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 否 String 租户token。 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 object_names Array of strings object名称列表。 location
Boolean 是否倒序查询。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 Array of strings 租户token。 响应参数 状态码: 200 表4 响应Header参数 参数 参数类型 描述 X-request-id
度为1~256个字符。 表2 Query参数 参数 是否必选 参数类型 描述 limit 否 Integer 查询返回条数。默认值为1000。最小值为-1,最大值为9999999。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是
特殊字符,且长度为1~255个字符。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 Array of strings 租户token 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 users Array of
租户token。 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 user_group Array of UserGroup objects 用户组。 page_info PagedInfo object 分页信息。 表5 UserGroup 参数 参数类型 描述 group_name
用户端角色id,创建时指定,不可修改。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 Array of strings 租户token。 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 roles Array of
Boolean 是否倒序查询。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 Array of strings 租户token。 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 partition_name_list
对象存储服务”,进入对象存储服务页面。 选择“并行文件系统 > 创建并行文件系统”,进入创建页面,配置相关参数后单击“立即创建”。 文件系统名称:根据界面要求设置并行文件系统名称,例如“lakeformation-test”。 其他参数根据实际情况选择。 在并行文件系统页面,单击已创建的文件系统名称,例如“
或OTHER。默认为IAM。 请求参数 表3 请求Header参数 参数 是否必选 参数类型 描述 X-Auth-Token 是 Array of strings 租户token。 响应参数 状态码: 200 表4 响应Body参数 参数 参数类型 描述 roles Array of