-
Oozie Java接口介绍 - MapReduce服务 MRS
Oozie Java接口介绍 Java API主要由org.apache.oozie.client.OozieClient提供。 表1 接口介绍 方法 说明 public String run(Properties conf) 运行job public void start(String
-
如何采用Java命令提交Spark应用 - MapReduce服务 MRS
如何采用Java命令提交Spark应用 问题 除了spark-submit命令提交应用外,如何采用Java命令提交Spark应用? 回答 您可以通过org.apache.spark.launcher.SparkLauncher类采用java命令方式提交Spark应用。详细步骤如下:
-
Linux下打包Storm业务 - MapReduce服务 MRS
osts文件中设置主机名和IP地址映射。主机名和IP地址请保持一一对应。 操作步骤 将从IntelliJ IDEA中导出的jar包复制到Linux客户端指定目录(例如“/opt/jarsource”)。 若业务需要访问外部组件,其所依赖的配置文件请参考相关开发指引,获取到配置文件后将配置文件放在1中指定的目录下。
-
在Linux环境中调测HetuEngine应用 - MapReduce服务 MRS
ample-1.0-SNAPSHOT.jar”。 在Linux环境执行以下命令创建调测运行目录。 mkdir -p /opt/hetuclient; 上传“JDBCExample-1.0-SNAPSHOT.jar”包到Linux环境“/opt/hetuclient”目录下。 参考
-
Spark同步HBase数据到CarbonData(Java) - MapReduce服务 MRS
Spark同步HBase数据到CarbonData(Java) 下面代码片段仅为演示,具体代码参见:com.huawei.spark.examples.HBaseExternalHivetoCarbon。 public static void main(String[] args)
-
Spark同步HBase数据到CarbonData(Java) - MapReduce服务 MRS
Spark同步HBase数据到CarbonData(Java) 下面代码片段仅为演示,具体代码参见:com.huawei.spark.examples.HBaseExternalHivetoCarbon。 public static void main(String[] args)
-
Spark同步HBase数据到CarbonData(Java) - MapReduce服务 MRS
Spark同步HBase数据到CarbonData(Java) 下面代码片段仅为演示,具体代码参见:com.huawei.spark.examples.HBaseExternalHivetoCarbon。 public static void main(String[] args)
-
Spark同步HBase数据到CarbonData(Java) - MapReduce服务 MRS
Spark同步HBase数据到CarbonData(Java) 下面代码片段仅为演示,具体代码参见:com.huawei.spark.examples.HBaseExternalHivetoCarbon。 public static void main(String[] args)
-
在Linux环境中调测Doris应用 - MapReduce服务 MRS
main(JDBCExample.java:71) Doris对接SpringBoot运行结果 在浏览器中访问链接“http://样例运行节点IP地址:8080/doris/example/executesql”,IDEA正常打印日志,请求返回如下图所示: 图3 返回样例运行信息 父主题:
-
HDFS Java API接口介绍 - MapReduce服务 MRS
在DistributedFileSystem中添加了以下API,以获取具有块位置的FileStatus,并从FileStatus对象打开文件。这些API将减少从客户端到Namenode的RPC调用的数量。 表6 FileSystem API接口说明 Interface接口 Description说明 public
-
Java样例代码 - MapReduce服务 MRS
newInstance(); 获取JDBC连接,执行HQL,输出查询的列名和结果到控制台,关闭JDBC连接。 在网络拥塞的情况下,您还可以设置客户端与JDBCServer连接的超时时间,可以避免客户端由于无限等待服务端的返回而挂起。使用方式如下: 在执行“DriverManager.ge
-
HDFS Java API接口介绍 - MapReduce服务 MRS
在DistributedFileSystem中添加了以下API,以获取具有块位置的FileStatus,并从FileStatus对象打开文件。这些API将减少从客户端到Namenode的RPC调用的数量。 表6 FileSystem API接口说明 Interface接口 Description说明 public
-
HDFS Java API接口介绍 - MapReduce服务 MRS
在DistributedFileSystem中添加了以下API,以获取具有块位置的FileStatus,并从FileStatus对象打开文件。这些API将减少从客户端到Namenode的RPC调用的数量。 表6 FileSystem API接口说明 Interface接口 Description说明 public
-
HDFS Java API接口介绍 - MapReduce服务 MRS
在DistributedFileSystem中添加了以下API,以获取具有块位置的FileStatus,并从FileStatus对象打开文件。这些API将减少从客户端到Namenode的RPC调用的数量。 表6 FileSystem API接口说明 Interface接口 Description说明 public
-
HDFS Java API接口介绍 - MapReduce服务 MRS
在DistributedFileSystem中添加了以下API,以获取具有块位置的FileStatus,并从FileStatus对象打开文件。这些API将减少从客户端到Namenode的RPC调用的数量。 表6 FileSystem API接口说明 Interface接口 Description说明 public
-
编包并运行Spark应用 - MapReduce服务 MRS
将生成的Jar包(如CollectFemaleInfo.jar)拷贝到Spark运行环境下(即Spark客户端),如“/opt/female”。开启Kerberos认证的安全集群下把从准备Spark应用开发用户中获取的user.keytab和krb5.conf文件拷贝到Spark客户端conf目录下,如:/o
-
编译并调测Flink应用 - MapReduce服务 MRS
Structure”页面,选择“Artifacts”,单击“+”并选择“JAR > Empty”。 图1 添加Artifacts 您可以根据实际情况设置Jar包的名称、类型以及输出路径。 图2 设置基本信息 选中“'FlinkStreamJavaExample' compile output”,右键选择“Put
-
编译并调测Flink应用 - MapReduce服务 MRS
Kafka应用需要添加如下所示的jar文件: Flink服务端安装路径的lib目录下“flink-dist_*.jar”。 Flink服务端安装路径的opt目录下的“flink-connector-kafka_*.jar”。 Kafka客户端或Kafka服务端安装路径中的lib目录下“kafka-clients-*
-
在Linux环境中调测Doris应用 - MapReduce服务 MRS
main(JDBCExample.java:71) Doris对接SpringBoot运行结果 在浏览器中访问链接“http://样例运行节点IP地址:8080/doris/example/executesql”,IDEA正常打印日志,请求返回如下图所示: 图3 返回样例运行信息 父主题:
-
Kafka Java API介绍 - MapReduce服务 MRS
生产者使用的安全协议类型,当前安全模式下仅支持SASL协议,需要配置为SASL_PLAINTEXT。 sasl.kerberos.service.name 服务名 Kafka集群运行,所使用的Kerberos用户名(需配置为kafka)。 key.serializer 消息Key值序列化类 指定消息Key值序列化方式。