检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
操作Avro格式数据 场景说明 用户可以在Spark应用程序中以数据源的方式去使用HBase，本例中将数据以Avro格式存储在HBase中，并从中读取数据以及对读取的数据进行过滤等操作。 数据规划 在客户端执行hbase shell，进入HBase命令行，使用下面的命令创建样例代码中要使用的HBase表：
不同的。 interceptors - 拦截器。多个拦截器用空格分开。 inputCharset UTF-8 读取文件的编码格式。须与读取数据源文件编码格式相同，否则字符解析可能会出错。 fileHeader false 是否把文件名（包含路径）添加到event的header中。
方法。它的接口与开源OpenTSDB保持一致，请参见https://opentsdb.net/docs/build/html/api_http/index.html。 请求以及响应实体的类型为：application/JSON 请求以及响应实体的编码为：ISO-8859-1 HT
http://phoenix.apache.org/language/functions.html 其支持语法可参见： http://phoenix.apache.org/language/index.html 父主题： HBase对外接口介绍
http://phoenix.apache.org/language/functions.html 其支持语法可参见： http://phoenix.apache.org/language/index.html 父主题： HBase对外接口介绍
http://phoenix.apache.org/language/functions.html 其支持语法可参见： http://phoenix.apache.org/language/index.html 父主题： HBase对外接口介绍
http://phoenix.apache.org/language/functions.html 其支持语法可参见： http://phoenix.apache.org/language/index.html 父主题： HBase对外接口介绍
通过直接添加具体配置项的参数调用脚本。 作业模板方式： 修改作业模板中所有配置项的参数值，调用脚本时引用修改后的作业模板文件。 Loader客户端安装后，系统自动在“Loader客户端安装目录/loader-tools-1.99.3/loader-tool/job-config/”目录生成各种场景对应的作业模板，不同
通过直接添加具体配置项的参数调用脚本。 作业模板方式： 修改作业模板中所有配置项的参数值，调用脚本时引用修改后的作业模板文件。 Loader客户端安装后，系统自动在“Loader客户端安装目录/loader-tools-1.99.3/loader-tool/job-config/”目录生成各种场景对应的作业模板，不同
配置MRS集群告警事件消息通知 MRS联合消息通知服务(SMN)，采用主题订阅模型，提供一对多的消息订阅以及通知功能，能够实现一站式集成多种推送通知方式（短信和邮件通知）。 在MRS管理控制台，按照集群维度，在集群信息页面的告警页签中能够提供选择是否使能通知服务，只有对应集群开关开启以后，才能实现以下场景的功能：
提交Spark任务时提示参数格式错误 问题现象 用户在使用Spark组件时，提交集群任务运行失败，提示参数格式错误。 原因分析 执行的命令包含了非法字符。 上传的jar包属主属组异常。 处理步骤 检查用户执行命令./bin/spark-submit --class cn.interf
配置parquet表的压缩格式 配置场景 当前版本对于parquet表的压缩格式分以下两种情况进行配置： 对于分区表，需要通过parquet本身的配置项“parquet.compression”设置parquet表的数据压缩格式。如在建表语句中设置tblproperties："parquet
配置parquet表的压缩格式 配置场景 当前版本对于parquet表的压缩格式分以下两种情况进行配置： 对于分区表，需要通过parquet本身的配置项“parquet.compression”设置parquet表的数据压缩格式。如在建表语句中设置tblproperties："parquet
如果设置为true，为分区表 location 表的存储路径 outputFormat 输出格式 columns 列名，类型，备注 owner 所有者 partitionColumns 分区的列 inputFormat 输入格式 totalNumberFiles 分区下文件个数 totalFileSize
当监控数据达到告警阈值，系统将会触发一条告警信息。 MRS还可以与华为云消息通知服务(SMN)的消息服务系统对接，将告警信息通过短信或者邮件等形式推送给用户。具体介绍请参见集群状态消息通知。 补丁管理 MRS集群支持补丁操作，会及时发布开源大数据组件的补丁。用户能够在MRS集群
操作。客户端工具同开源社区版本保持一致，请参见https://opentsdb.net/docs/build/html/user_guide/cli/index.html。 客户端工具使用方法： 登录任意一个Master节点。 初始化环境变量。 source /opt/client/bigdata_env
codec”（可选：uncompressed, zlib, lzo, snappy）来选择Parquet和Orc表的压缩格式；由于Hive和Spark表在可选的压缩格式上有区别，除以上列出的压缩格式外，其他的压缩格式不支持。 合并桶表数据，需要先在Spark2x客户端的hive-site.xml里加上配置：
更多Sqoop命令参数请参考Sqoop官方文档：https://sqoop.apache.org/docs/1.4.7/SqoopUserGuide.html Sqoop常用命令介绍 表1 Sqoop常用命令介绍 命令 说明 import 数据导入到集群 export 集群数据导出 codegen
MRS包含了多种大数据组件，用户可基于企业大数据场景的业务场景、数据类型、可靠性要求以及资源预算等要求合理选择集群类型。 用户可以基于系统预置的集群模板快速购买一个集群，也可自行选择组件列表及高级配置特性，自定义购买集群。 表1 MRS集群类型 集群类型 场景介绍 核心组件 Hadoop分析集群
如何在导入Hive表时指定输出的文件压缩格式？ 问题现象 如何在导入Hive表时指定输出的文件压缩格式？ 处理步骤 当前Hive支持以下几种压缩格式： org.apache.hadoop.io.compress.BZip2Codec org.apache.hadoop.io.compress
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
