检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
样例代码中使用的用户为：sparkuser，需要修改为准备好的开发用户。 打包项目 将user.keytab、krb5.conf 两个文件上传客户端所在服务器上。 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中调测Spark应用。 编译打包前，样例代码中的user
打包项目 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中调测Spark应用。 将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“ /opt/female/” ）下。 运行任务 进入Spark客户端目录，调用bin/spa
“单个map的最大带宽(MB/s)”：填写单个map最大带宽，默认值为“100”。 OBS 表示从OBS中恢复数据，仅MRS 3.3.0-LTS.1及之后版本支持。 选择此参数值，还需要配置以下参数： “源端路径”：填写备份文件在OBS中保存的完整路径。例如：“备份路径/备份任务名_数据源_任务创建时间/版本号_数据源_任务执行时间
下面代码片段仅为演示，具体代码参见：com.huawei.bigdata.hudi.examples.HoodieWriteClientExample 创建客户端对象来操作Hudi： String tablePath = args[0]; String tableName = args[1]; SparkConf
mapreduce，不建议使用org.apache.hadoop.hbase.mapred。 建议通过构造出来的Connection对象的getAdmin()方法来获取HBase的客户端操作对象。 HBase常用接口介绍 HBase常用的Java类有以下几个： 接口类Admin，HBase客户端应用的核
下面代码片段仅为演示，具体代码参见：com.huawei.bigdata.hudi.examples.HoodieWriteClientExample。 创建客户端对象来操作Hudi： String tablePath = args[0]; String tableName = args[1]; SparkConf
下面代码片段仅为演示，具体代码参见：com.huawei.bigdata.hudi.examples.HoodieWriteClientExample 创建客户端对象来操作Hudi： String tablePath = args[0]; String tableName = args[1]; SparkConf
mapreduce，不建议使用org.apache.hadoop.hbase.mapred。 建议通过构造出来的Connection对象的getAdmin()方法来获取HBase的客户端操作对象。 HBase常用接口介绍 HBase常用的Java类有以下几个： 接口类Admin，HBase客户端应用的核
下面代码片段仅为演示，具体代码参见：com.huawei.bigdata.hudi.examples.HoodieWriteClientExample。 创建客户端对象来操作Hudi： String tablePath = args[0]; String tableName = args[1]; SparkConf
mapreduce，不建议使用org.apache.hadoop.hbase.mapred。 建议通过构造出来的Connection对象的getAdmin()方法来获取HBase的客户端操作对象。 HBase常用接口介绍 HBase常用的Java类有以下几个： 接口类Admin，HBase客户端应用的核
SparkSQL访问Hive分区表启动Job前耗时较长如何处理？ 问题背景 使用SparkSql访问Hive的一个数据存放于OBS的一个分区表，但是运行速度却很慢，并且会大量调用OBS的查询接口。 SQL样例： select a,b,c from test where b=xxx 原因分析 按
mapreduce，不建议使用org.apache.hadoop.hbase.mapred。 建议通过构造出来的Connection对象的getAdmin()方法来获取HBase的客户端操作对象。 HBase常用接口介绍 HBase常用的Java类有以下几个： 接口类Admin，HBase客户端应用的核
"arguments" : [ "obs://obs-test/program/hadoop-mapreduce-examples-x.x.x.jar", "wordcount", "obs://obs-test/input/", "obs://obs-test/job/mapreduce/output"
选择对应的IP模式，如IPv4或者IPv6。 “目的端主NameNode IP地址”：填写备集群主NameNode业务平面IP地址。 “目的端备NameNode IP地址”：填写备集群备NameNode业务平面IP地址。 “目的端NameNode RPC端口”：填写备集群HDFS基础配置“dfs
道，配置参数如表1所示。 表1 obs-connector配置 参数 说明 名称 指定一个Loader连接的名称。 OBS服务器 输入OBS endpoint地址，一般格式为OBS.Region.DomainName。 例如执行如下命令查看OBS endpoint地址： cat
的检查对象和结果状态。如果检查类型为集群时，“查看帮助”在“检查对象”的下拉菜单中。系统执行健康检查时，涉及检查对象的监控指标数据时，并非以当前实时的监控数据进行判断，而是收集近期的历史数据，因此存在时间延迟。 表1 健康检查报告记录 项目 说明 检查对象 表示被检查的对象，可打开下拉菜单查看详情。
startDetail.log 服务启动日志 stopDetail.log 服务停止日志 upload-sharelib.log sharelib上传操作日志 审计日志 oozie-audit.log 审计日志 日志级别 Oozie中提供了如表2所示的日志级别。 日志级别优先级从高到低分
通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中编包并运行Spark程序。 将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“ /opt/female/” ）下。 运行样例程序前，需要在Spark客户端的“spark-defaults
打包项目 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中调测Spark应用。 将打包生成的jar包上传到Spark客户端所在服务器的任意目录（例如“ /opt/female/” ）下。 运行任务 在运行样例程序时需要指定<brokers> <subscribe-type>
startDetail.log 服务启动日志 stopDetail.log 服务停止日志 upload-sharelib.log sharelib上传操作日志 审计日志 oozie-audit.log 审计日志 日志级别 Oozie中提供了如表2所示的日志级别。 日志级别优先级从高到低分
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
