检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
大数据性能优化 HIVE优化 Spark性能优化 Flink性能优化 父主题: 云服务性能优化介绍
方案概述 应用场景 该解决方案能帮助用户快速部署Smartbi平台,Smartbi是一站式BI大数据分析平台,可对接各种业务数据库、数据仓库和大数据分析平台,进行加工处理、分析挖掘和可视化展现;满足各种数据分析应用需求,如大数据分析、可视化分析、探索式分析、复杂报表、应用分享等等。 方案架构
产品介绍 服务概述 大数据优化与提升服务通过结合华为自身丰富的理论知识和实践经验,引入数字化科技技术,帮助企业规划构建数据治理体系和数据治理平台,内容包括数据管理成熟度诊断、数据管理体系设计、数据安全规范诊断与设计以及主数据管理体系诊断与设计。 服务内容 数据管理成熟度诊断 服务规格
快速部署 本章节主要帮助用户快速部署“轻量离线大数据解决方案”。 表1 参数填写说明 参数名称 类型 是否必填 参数解释 默认值 subnet_id String 必填 子网ID,该模板使用已有子网,请选择后端业务服务器所在虚拟私有云VPC内子网,查询子网ID请参考部署指南。 空
Hdfs、大数据相关驱动安装与Standalone模式local配置 配置驱动 hadoop依赖.zip。 影响数据源中hdfs数据源的连接。 压缩包内的jar包放入工作目录:lib\edi\hadoop目录下。 此目录会内自带edi-hadoop-deps-4.4.1-SNAPSHOT
云桌面大数据场景解决方案 简介 为大数据业务部署在华为云上的企业,提供一站式云上数据分析办公环境。
什么是增强型95计费? 增强型95计费,是一种只需支付少量保底带宽费用,即可享受多倍弹性峰值带宽,并在月底按多次去峰后的带宽峰值和实际使用时长收费的带宽计费模式。以下以共享带宽为例,详细介绍增强型95计费的计费规则。 使用前提 使用增强型95计费需要满足以下前提条件: 用户等级大于等于V4
实施步骤 准备工作 快速部署 开始使用 快速卸载
华为云大数据上云与实施服务怎么收费的? 详见计费说明。 父主题: 关于服务购买
修订记录 表1 修订记录 发布日期 修订记录 2024-05-06 规范词、敏感词专项处理,章节优化 2023-08-07 第一次正式发布。
创建元数据连接 创建元数据来源类型的连接,获取源端大数据库表清单。 目前支持的连接类型,参见表1。 表1 支持的元数据连接类型 类别 连接类型 大数据组件 Hive Metastore Doris HBase ClickHouse Delta Lake(有元数据) Delta Lake(无元数据)
采集结果有数值时,在库表清单页签可以查看采集到的元数据列表。 手动添加数据表 登录迁移中心管理控制台。 在左侧导航栏选择“调研>大数据血缘”,进入大数据血缘页面。在页面左上角的当前项目下拉列表中选择迁移项目。 在元数据采集区域,单击“查看库表清单”,进入元数据采集页面的库表清单页签。
计费模式 大数据优化与提升服务均为一次性计费产品。 变更配置 大数据优化与提升服务不支持退订,在购买时,用户可以参考典型应用场景和根据自身业务的实际情况购买大数据优化与提升。 续费 大数据优化与提升服务属于一次性消费,不支持续费。到期后,需重新购买。 到期与欠费 大数据优化与提升
数据开发 概述与连接管理 脚本开发 作业开发 实例管理、补数据监控及配置环境变量 父主题: 实施步骤
图1 接入平台 平台说明 支持平台侧对终端统一管理,包括配置下发、证书管理、Web应用和信息窗管理。其中SMC在21.0.200及之后版本支持Web应用和信息窗管理。 支持终端上报告警和日志至平台侧。 平台接入方式: SMC:支持手动输入激活码接入平台。 IdeaManager:支持手动输入接入码或扫码接入平台。
开始迁移前,需要联系技术支持人员,将您添加到允许jar程序访问DLI元数据功能的白名单中。 操作步骤 登录迁移中心控制台。 在左侧导航栏选择“实施>大数据数据迁移”,进入大数据数据迁移页面。在页面左上角的当前项目下拉列表中选择在完成准备工作时所创建的迁移项目。 单击页面右上角的“创建迁移任务”按钮,右侧弹出创建迁移任务窗口。
SQL队列的连接和连接到DLI通用队列的连接。 前提条件 已完成准备工作。 操作步骤 登录迁移中心控制台。 在左侧导航栏选择“实施>大数据数据迁移”,进入大数据数据迁移页面。在页面左上角的当前项目下拉列表中选择在完成准备工作时所创建的迁移项目。 单击页面右上角的“连接管理”按钮,进入连接管理页面。
自助分析平台 自助分析平台简介 基于华为云商店产品,帆软FineReport和FineBI,华为和帆软共同为本项目开发了自助分析平台。 FineReport,企业级web报表工具,支持通过简单拖拽操作便可制作中国式复杂报表,轻松实现报表的多样展示、交互分析、数据录入等需求。借助于
数据迁移所依赖的jar包分别为:migration-dli-spark-1.0.0.jar、fastjson-1.2.54.jar、datasource.jar。这三个jar包是数据迁移过程中不可或缺的,三个jar包的用途和获取方法如下: migration-dli-spark-1.0.0.jar 用途:用于创建spark会话并提交sql语句。
修订记录 表1 修订记录 发布日期 修订记录 2023-11-02 第一次正式发布。