检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
执行程序时引入的jackson相关包与集群自带的包版本不一致，导致报错，建议使用集群自带的jackson相关jar包。 集群jar包路径：客户端安装目录/Spark2x/spark/jars”或者“客户端安装目录/Spark/spark/jars”。 Spark jar包冲突也可以参考常见jar包冲突处理方式。 父主题：
left()等函数截取中文字符时，不能把中文当做1个字符长度来处理，导致报编码问题。 处理步骤 登录Impala客户端安装节点，执行以下命令。 cd 客户端安装目录 source bigdata_env 执行以下命令创建表。 impala-shell -d bigdata 执行以下命令查询表数据。
场景说明 场景说明 假定用户有某个周末网民网购停留时间的日志文本，基于某些业务要求，要求开发Spark应用程序实现如下功能： 统计日志文件中本周末网购停留总时间超过2个小时的女性网民信息。 周末两天的日志文件第一列为姓名，第二列为性别，第三列为本次停留时间，单位为分钟，分隔符为“
提交SQL语句 功能介绍 在MRS集群中提交并执行一条SQL语句。 接口约束 无 调用方法 请参见如何调用API。 URI POST /v2/{project_id}/clusters/{cluster_id}/sql-execution 表1 路径参数 参数 是否必选 参数类型
在启动HBase shell时报错“java.lang.UnsatisfiedLinkError: Permission denied” 问题 在启动HBase shell时，为什么会发生“java.lang.UnsatisfiedLinkError: Permission denied”异常？
MRS 3.1.2-LTS.3版本说明 发布日期 MRS 3.1.2-LTS.3 2022年5月1日 更新内容 首个商用LTS版本上线。 组件版本信息 表1 MRS组件版本信息 组件 版本 CarbonData 2.2.0 ClickHouse 21.3.4.25 DBService
HDFS Java API接口介绍 HDFS完整和详细的接口可以直接参考官方网站描述： http://hadoop.apache.org/docs/r3.1.1/api/index.html HDFS常用接口 HDFS常用的Java类有以下几个： FileSystem：是客户端应用的核心类。常用接口参见表1。
在启动HBase shell时，报错“java.lang.UnsatisfiedLinkError: Permission denied” 问题 在启动HBase shell时，为什么会发生“java.lang.UnsatisfiedLinkError: Permission denied”异常？
网络问题导致运行应用程序时出现异常 问题 应用程序在Windows环境下运行时，发现连接不上MRS集群，而在Linux环境下（和安装了MRS集群的机器是同一个网络）却运行正常。 回答 由于Kerberos认证需要使用UDP协议，而防火墙做了特殊处理关掉了需要使用的UDP端口，导致
组 表示作业所属组。 开始 表示作业开始时间。 持续时间 表示作业运行使用的时间。 Id 表示作业的编号，由系统自动生成。 如果MRS集群安装了Spark组件，则默认会启动一个作业“Spark-JDBCServer”，用于执行任务。 搜索作业 在“作业浏览器”的搜索栏，输入指定的
如何通过happybase连接到MRS服务的HBase？ 问： 大数据应用如何通过happybase连接到MRS服务的HBase？ 答： MRS服务集群的HBase服务使用的是thriftserver2，thriftserver1和thriftserver2不能同时并存，但hap
ython应用提供Spark的各种功能，如连接Spark集群、创建RDD、广播变量等。 pyspark.SparkConf：Spark应用配置类。如设置应用名称，执行模式，executor内存等。 pyspark.RDD（Resilient Distributed Dataset
springboot/doris-examples Doris数据读写操作的SpringBoot应用开发示例。 提供Doris对接SpringBoot的样例，样例介绍请参见配置并导入SpringBoot样例工程。 父主题： Doris开发指南（普通模式）
ython应用提供Spark的各种功能，如连接Spark集群、创建RDD、广播变量等。 pyspark.SparkConf：Spark应用配置类。如设置应用名称，执行模式，executor内存等。 pyspark.RDD（Resilient Distributed Dataset
username处输入镜像的用户名。 集群节点镜像的用户名是root。 选择“Connection > SSH > Auth”，在最下面一个配置项“Private key file for authentication”中，单击“Browse”，选择.ppk格式的私钥文件或9转化的私钥文件。
帮助用户监控集群中大数据组件和节点的健康状态，同时提供告警通知能力，用户可以实时掌握MRS集群的各项指标、健康度。 MRS支持将集群中所有部署角色的节点，按管理节点、控制节点和数据节点进行分类，分别计算关键主机监控指标在每类节点上的变化趋势，并在报表中按用户自定义的周期显示分布曲
网络问题导致运行应用程序时出现异常 问题 应用程序在Windows环境下运行时，发现连接不上MRS集群，而在Linux环境下（和安装了MRS集群的机器是同一个网络）却运行正常。 回答 由于Kerberos认证需要使用UDP协议，而防火墙做了特殊处理关掉了需要使用的UDP端口，导致
Storm应用程序不支持在Windows环境下运行，只支持在Linux环境下运行。 在Linux环境下可以使用storm命令行完成拓扑的提交。 前提条件 已安装Storm客户端。 当客户端所在主机不是集群中的节点时，需要在客户端所在节点的hosts文件中设置主机名和IP地址映射。主机名和IP地址请保持一一对应。
若IAM用户已同步，可在组件管理观察到存在未启动角色。 若未同步，可在集群Manager页面观察到存在未启动角色。 处理步骤 场景一：添加节点任务在安装组件前失败 如果MRS集群为按需购买集群： 登录MRS服务控制台。 选择 “现有集群” ，单击集群名称进入集群详情页面。 单击页面上面的按
选择一个存储数据的格式。 需要使用分隔符分隔数据时，选择“Delimited”，然后执行5。 需要使用序列化格式保存数据时，选择“SerDe”，执行6。 配置分隔符。 在“Field terminator”设置一个列分隔符。 如果分隔符不在列表中，选择“Other..”，然后输入新定义的分隔符。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
