在存算分离架构基础上提供数据湖元数据统一管理的可视化界面及API,兼容Hive元数据模型以及Ranger权限模型,支持对接多种计算引擎及大数据云服务 本文档提供LakeFormation服务应用开发流程、环境准备及程序编写介绍,供需要进行业务应用开发的开发人员使用。
应用示例 外部服务接入LakeFormation
应用场景 数据湖建设和持续运营 多服务/多集群共享元数据
SK(Secret Access Key):与访问密钥ID结合使用的密钥,对请求进行加密签名,可标识发送方,并防止请求被修改。 使用AK/SK认证时,您可以基于签名算法使用AK/SK对请求进行签名,也可以使用专门的签名SDK对请求进行签名。
可用区(AZ,Availability Zone)是同一区域内,电力和网络互相隔离的物理区域,一个可用区不受其他可用区故障的影响。一个区域内可以有多个可用区,不同可用区之间物理隔离,但内网互通,既保障了可用区的独立性,又提供了低价、低时延的网络连接。
Default catalog, for Hive", "location": "obs://lakeformation-555d9e8999c94705-xxx/ed1ce787-1671-4ce4-b84f-6f40ccb26752" } ] 父主题: 应用示例
简介 在进行湖仓构建应用开发时,要准备的环境如表1所示。 同时需要准备运行调测的环境,用于验证应用程序运行正常。 表1 准备项 准备项 说明 准备LakeFormation实例 在LakeFormation控制台创建实例,或者使用已有LakeFormation实例。
这个临时响应用来通知客户端,它的部分请求已经被服务器接收,且仍未被拒绝。 101 Switching Protocols 切换协议。只能切换到更高级的协议。 例如,切换到HTTP的新版本协议。 201 Created 创建类的请求完全成功。
父主题: 应用场景
审计 云审计服务(Cloud Trace Service,简称CTS),是华为云安全解决方案中专业的日志审计服务。 CTS可以提供对各种云资源操作记录的收集、存储和查询功能,可用于支撑安全分析、合规审计、资源跟踪和问题定位等常见应用场景。
服务介绍 应用开发简介 开发流程
建议搭配服务 MapReduce服务(MRS) 数据仓库服务 GaussDB(DWS) 数据治理中心 DataArts Studio 数据湖探索(DLI) 支持情况请咨询对应服务。 父主题: 应用场景
元数据发现 操作场景 当数据存储在OBS并行文件系统中,而在LakeFormation还未与对应的元数据关联时,可以通过元数据发现,来构造这些数据对应的元数据信息,从而支撑SQL引擎或者用户的应用程序的计算与分析。
可用区(AZ,Availability Zone)是同一区域内,电力和网络互相隔离的物理区域,一个可用区不受其他可用区故障的影响。一个区域内可以有多个可用区,不同可用区之间物理隔离,但内网互通,既保障了可用区的独立性,又提供了低价、低时延的网络连接。
用户在授权使用LakeFormation云服务时,默认自动创建lakeformation_admin_trust委托,其中包含IAM ReadOnlyAccess、VPCEndpoint Administrator、lakeformation_admin_additional_domain
表4 AccessServiceInfo 参数 是否必选 参数类型 描述 name 是 String 接入服务名称。最大长度为20个字符。 description 否 String 接入服务描述。最大长度为500个字符。 grant 否 Boolean 是否授权。
安装和配置IntelliJ IDEA 用于开发应用程序的工具,版本要求:2019.1或其他兼容版本。 说明: 若使用IBM JDK,请确保IntelliJ IDEA中的JDK配置为IBM JDK。
答: LakeFormation对表等元数据owner名称存在限制,需要满足正则表达式'[a-zA-Z0-9_]+',切换到委托方账户后,用户名变为“domain_name/agency_name”,创建元数据时默认使用当前用户名作为owner名称,导致创建元数据失败。
status String 客户端状态:CREATING、RUNNING、DELETING、DELETED、CREATE_FAIL、DELETE_FAIL。 vpc_id String VPC ID。 subnet_id String 子网ID。
status String 客户端状态:CREATING、RUNNING、DELETING、DELETED、CREATE_FAIL、DELETE_FAIL。 vpc_id String VPC ID。 subnet_id String 子网ID。
您即将访问非华为云网站,请注意账号财产安全