检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
/opt/client source bigdata_env 执行beeline命令进入Hive Beeline命令行界面。 执行以下命令创建一个与原始数据字段匹配的雇员信息数据表“employees_info”： create external table if not exists employees_info
息发布-订阅系统，它提供了类似于JMS的特性，但在设计上完全不同，它具有消息持久化、高吞吐、分布式、多客户端支持、实时等特性，适用于离线和在线的消息消费，如常规的消息收集、网站活性跟踪、聚合统计系统运营数据（监控数据）、日志收集等大量数据的互联网服务的数据收集场景。 生产者（Pr
List的方式，可以极大的提升写性能。每一次Put的List的长度，需要结合单条Put的大小，以及实际环境的一些参数进行设定。建议在选定之前先做一些基础的测试。 写数据表设计调优 表2 影响实时写数据相关参数 配置参数 描述 默认值 COMPRESSION 配置数据的压缩算法，这里的压缩是HFi
List的方式，可以极大的提升写性能。每一次Put的List的长度，需要结合单条Put的大小，以及实际环境的一些参数进行设定。建议在选定之前先做一些基础的测试。 写数据表设计调优 在hbase shell中设置以下表相关参数，以提升HBase写数据性能。 表2 影响实时写数据相关参数 配置参数 描述
请参见配置HDFS源端参数配置源端连接的作业参数，需要迁移的文件夹可通过“目录过滤器”和“文件过滤器”参数设置符合规则的目录和文件进行迁移。 例如迁移匹配“/user/test*”文件夹下文件，该场景下“文件格式”固定为“二进制格式”。 图3 配置作业参数 请参见配置HDFS目的端参数配置目的端连接的作业参数。
classpath，使其可以包含类目录中相关的MR jars。 说明： 例如，此处利用在框架路径中使用过的别名“mr-framework”对目录进行匹配。 <property> <name>mapreduce.application.classpath</name> <value>$P
执行如下命令查看命令输出的Filesystem信息： df -h log.dirs配置值 执行结果如下： Filesystem所在的分区与“%util”指标比较高的分区相匹配，则考虑在空闲的磁盘上规划Kafka分区，并将log.dirs设置为空闲磁盘目录，然后参考3，对Topic的Partition重新规划，保
classpath，使其可以包含类目录中相关的MR jars。 说明： 例如，此处利用在框架路径中使用过的别名“mr-framework”对目录进行匹配。 <property> <name>mapreduce.application.classpath</name> <value>$P
息发布-订阅系统，它提供了类似于JMS的特性，但在设计上完全不同，它具有消息持久化、高吞吐、分布式、多客户端支持、实时等特性，适用于离线和在线的消息消费，如常规的消息收集、网站活性跟踪、聚合统计系统运营数据（监控数据）、日志收集等大量数据的互联网服务的数据收集场景。 Kafka基本原理
执行此步骤时，HBase表是被禁用的，不能对外提供表服务，请谨慎使用。 可执行6验证加密是否配置成功。 验证加密是否配置成功 仅当所配置的空表允许写入测试数据时可执行该操作。 以客户端安装用户，登录安装客户端的节点。切换到客户端安装目录，例如：/opt/client。 cd /opt/client
Projects”，进行maven项目依赖import。 图1 reimport projects 编译运行程序。 放置好配置文件，并修改代码匹配登录用户后，文件列表如图2所示。 图2 hbase-example待编译目录列表 编译方式有以下两种： 方法一 选择“Maven > 样例工程名称
EAGER：尽可能下推Join。即使表统计信息不可用，EAGER也可以下推Join，这可能会导致查询性能下降，因此仅建议将EAGER用于测试和故障排除场景。 AUTOMATIC oracle.number.default-scale Oracle Number（不带精度和小数位数）数据类型映射的HetuEngine
SSD/Hot/Warm/Cold。 根据数据age，access time和手动迁移规则，定义区分冷热数据的规则。 定义基于age的规则匹配时要采取的行为操作。 MARK：表示只会基于age规则标识出数据的冷热度，并设置出对应的存储策略。 MOVE：表示基于age规则识别出相应
Projects”，进行maven项目依赖import。 图1 reimport projects 编译运行程序。 放置好配置文件，并修改代码匹配登录用户后，文件列表如图2所示。 图2 hbase-example待编译目录列表 编译方式有以下两种： 方法一 选择“Maven > 样例工程名称
objects 参数解释： 搜索字段，key为要匹配的字段，如resource_name等。value为匹配的值。此字段为固定字典值。根据不同的字段确认是否需要模糊匹配，如resource_name默认为模糊搜索，如果value为空字符串精确匹配。 约束限制： 不涉及 取值范围： 不涉及
以在集群内节点安装客户端为例： 登录Manager，在“主页”单击“下载客户端”，弹出“下载集群客户端”信息提示框。 选择“完整客户端”，选择与待安装节点架构相匹配的平台类型，勾选“仅保存到如下路径”，单击“确定”开始生成客户端文件。 文件生成后默认保存在主管理节点“/tmp/FusionInsight-Client”。
以在集群内节点安装客户端为例： 登录Manager，在“主页”单击“下载客户端”，弹出“下载集群客户端”信息提示框。 选择“完整客户端”，选择与待安装节点架构相匹配的平台类型，勾选“仅保存到如下路径”，单击“确定”开始生成客户端文件。 文件生成后默认保存在主管理节点“/tmp/FusionInsight-Client”。
copyonwrite.insert.split.size 插入写入并行度。为单个分区的总共插入次数。写出100MB的文件，至少1KB大小的记录，意味着每个文件有100K记录。默认值是超额配置为500K。 为了改善插入延迟，请对其进行调整以匹配单个文件中的记录数。将此值设置为较小的值将导致文件变小
MRS样例工程获取地址为https://github.com/huaweicloud/huaweicloud-mrs-example，切换分支为与MRS集群相匹配的版本分支，然后下载压缩包到本地后解压，即可获取各组件对应的样例代码工程。 当前MRS提供以下Flink相关样例工程，安全模式路径为“fl
MRS样例工程获取地址为https://github.com/huaweicloud/huaweicloud-mrs-example，切换分支为与MRS集群相匹配的版本分支，然后下载压缩包到本地后解压，即可获取各组件对应的样例代码工程。 当前MRS提供以下Flink相关样例工程，安全模式路径为“fl
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
