检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Job(Configuration conf, String jobName),Job(Configuration conf) 新建一个MapReduce客户端,用于配置作业属性,提交作业。 setMapperClass(Class<extends Mapper> cls) 核心接口,指定MapRe
Job(Configuration conf, String jobName),Job(Configuration conf) 新建一个MapReduce客户端,用于配置作业属性,提交作业。 setMapperClass(Class<extends Mapper> cls) 核心接口,指定MapRe
如果修改了端口类等需要尽快生效的配置(例如服务端的端口),则不建议通过滚动重启的方式使之生效,建议采用普通重启。 通过管理控制台重启集群 登录MRS管理控制台。 选择“现有集群”,单击集群名称进入集群详情页面。 在页面右上角选择“管理操作 > 滚动重启集群”。 图1 滚动重启集群
该章节以在Windows环境下开发SpringBoot方式连接Hive服务的应用程序为例。 该章节内容适用于MRS 3.3.0及之后版本。 操作步骤 参考获取MRS应用开发样例工程,获取样例代码解压目录中“src\springboot\hive-examples”目录下的样例工程文件夹“hive-rest-client-example”。
es目录下的相关yaml应用示例,开发客户端业务。 获取相关配置文件。 本步骤只适用于业务中有访问外部组件需求的场景,如HDFS、HBase等,获取方式请参见Storm-HDFS开发指引或者Storm-HBase开发指引。若业务无需获取相关配置文件,请忽略本步骤。 Flux配置文件样例
项目编号。获取方法,请参见获取项目ID。 约束限制: 不涉及 取值范围: 只能由英文字母和数字组成,且长度为[1-64]个字符。 默认取值: 不涉及 cluster_id 是 String 参数解释: 集群ID。如果指定集群ID,则获取该集群做过补丁更新的最新版本元数据。获取方法,请参见获取集群ID。
Manager,修改该用户初始密码。 集群未启用Kerberos认证(普通模式) 使用admin用户连接Doris后,创建具有管理员权限的角色并绑定给用户。 已安装MySQL客户端,相关操作可参考使用MySQL客户端连接Doris。 导出Doris数据至HDFS示例 登录安装了MySQL的节点,执行以下命令,连接Doris数据库。
Job(Configuration conf, String jobName),Job(Configuration conf) 新建一个MapReduce客户端,用于配置作业属性,提交作业。 setMapperClass(Class<extends Mapper> cls) 核心接口,指定MapRe
1/install/FusionInsight-Hadoop-3.3.1 执行以下命令获取DataNode进程PID并停止主机上的DataNode进程。 ps -ef | grep Dproc_datanode kill -15 获取到的进程PID 选择“集群 > 服务 > HDFS”,在“概览”的
将对业务的影响降到最低。 系统管理员可以通过FusionInsight Manager创建恢复IoTDB任务。只支持创建任务手动恢复数据。 只支持进行数据备份时的系统版本与当前系统版本一致时的数据恢复。 当业务正常时需要恢复数据,建议手动备份最新管理数据后,再执行恢复数据操作。否
打包Maven项目,获取target目录下的myfunctions-0.0.1-SNAPSHOT目录,最终项目整体结构如下图所示。 部署Function Plugin 部署前需要确认: HetuEngine服务处于正常状态。 HDFS和HetuEngine客户端已经安装到集群节点,例如“/opt/client”目录下。
份时间,则在增量备份任务中可能无法备份新数据。 HBase备份功能不支持对HBase的global或者命名空间的读取、写入、执行、创建和管理权限的访问控制列表(ACL)进行备份,恢复HBase数据后需要管理员在FusionInsight Manager上重新设置角色的权限。 已创
JDK,不支持在Windows环境中直接运行应用程序。 需要在运行样例代码的本机hosts文件中设置访问节点的主机名和IP地址映射,主机名和IP地址请保持一一对应。 在本地Windows环境中调测HBase应用 单击IDEA右边Maven窗口的“Reimport All Maven Projects
集群ID。如果指定集群ID,则获取该集群做过补丁更新的最新版本元数据。获取方法,请参见获取集群ID。 约束限制: 不涉及 取值范围: 只能由英文字母、数字以及“_”和“-”组成,且长度为[1-64]个字符。 默认取值: 不涉及 project_id 是 String 参数解释: 项目编号。获取方法,请参见获取项目ID。
Job(Configuration conf, String jobName),Job(Configuration conf) 新建一个MapReduce客户端,用于配置作业属性,提交作业。 setMapperClass(Class<extends Mapper> cls) 核心接口,指定MapRe
COM,则配置为hadoop.huawei.com。 keytab文件获取方式 访问开启Kerberos的MRS Manager。 进入“系统设置 > 用户管理”,在指定的用户所在行单击“更多 >下载认证凭据”。 将下载获取到的zip文件解压缩,获取krb5.conf和该用户的keytab文件。 将krb5
JDK,不支持在Windows环境中直接运行应用程序。 需要在运行样例代码的本机hosts文件中设置访问节点的主机名和公网IP地址映射,主机名和公网IP地址请保持一一对应。 在本地Windows环境中调测HBase应用 单击IDEA右边Maven窗口的“Reimport All Maven Projects
MRS集群上层应用开发是否支持Python? OpenTSDB是否支持Python的接口? 如何获取Spark Jar包? 使用调整集群节点接口时参数node_id如何配置? MRS集群组件如何管理和使用第三方jar包
Sqoop常用命令介绍 表1 Sqoop常用命令介绍 命令 说明 import 数据导入到集群 export 集群数据导出 codegen 获取数据库中某张表数据生成Java并打包jar create-hive-table 创建Hive表 eval 执行sql并查看结果 import-all-tables
ment都使用Func,生成新的RDD。 filter(f) 对RDD中所有元素调用Func,生成将满足条件数据集以RDD形式返回。 flatMap(f, preservesPartitioning=False) 先对RDD所有元素调用Func,然后将结果扁平化,生成新的RDD。