-
典型场景:从SFTP服务器导入数据到HBase - MapReduce服务 MRS
选择“true”,表示开启压缩。 选择“false”,表示关闭压缩。 true 设置数据转换 单击“下一步”,进入“转换”界面,设置数据传输过程中的转换操作。算子的选择和参数设置具体请参考算子帮助及表3。 表3 算子输入、输出参数设置 输入类型 输出类型 CSV文件输入 HBase输出 HTML输入
-
OMS管理 - MapReduce服务 MRS
OMS管理 OMS维护页面概述 修改OMS服务配置参数 父主题: 系统设置
-
MRS服务如何对接云日志服务? - MapReduce服务 MRS
MRS服务如何对接云日志服务? 前提条件 已获取账号AK和SK,详情请参考:如何获取访问密钥AK/SK。 操作步骤 在MRS主机上安装ICAgent,详情请参考:安装ICAgent(华为云主机)。 首次安装先安装一台服务器,然后按照继承批量安装的方式安装其他所有主机。 创建主机组
-
配置审计日志导出参数 - MapReduce服务 MRS
MRS的审计日志长期保留在系统中,可能引起数据目录的磁盘空间不足问题,故通过设置导出参数及时将审计日志自动导出到OBS服务器的指定目录下,便于管理审计日志信息。 审计日志导出到OBS服务器的内容包含两部分,服务审计日志和管理审计日志。 服务审计日志每天凌晨3点自动压缩存储到主管理节点“/var/log/Bi
-
MRS所使用的裸金属服务器规格 - MapReduce服务 MRS
MRS所使用的裸金属服务器规格 针对不同的应用场景,MRS使用到如下类型的裸金属服务器。 本地存储型(D2型) IO优化型(IO2) 规格命名规则 AB.C.D 例如m2.8xlarge.8 其中, A表示系列,例如:s表示通用型、c表示计算型、m表示内存型。 B表示系列号,例如
-
典型场景:从SFTP服务器导入数据到HDFS/OBS - MapReduce服务 MRS
true 设置数据转换 单击“下一步”,进入“转换”界面,设置数据传输过程中的转换操作。算子的选择和参数设置具体请参考算子帮助及表3。 表3 算子输入、输出参数设置 输入类型 输出类型 CSV文件输入 文件输出 HTML输入 文件输出 固定宽度文件输入 文件输出 图3 算子操作方法示意
-
查看部件包 - MapReduce服务 MRS
Manager单独安装某些服务前需要检查此服务对应的部件包是否已安装。 操作步骤 登录FusionInsight Manager,选择“系统 > 部件”。 在“已安装部件”查看所有部件列表。 在“平台类型”列可查看部件已注册的OS及平台类型。 单击部件名称左侧的,可查看部件包含的服务及其版本号。
-
配置ZooKeeper ZNode ACL - MapReduce服务 MRS
/znode名称 [zk: 192.168.0.151:2181(CONNECTED) 3] getAcl /test 'world,'anyone : cdrwa 使用setAcl命令增加权限。设置新权限命令如下: setAcl /test world:anyone:cdrwa,sasl:用户名@<系统域名>:权限值
-
构造请求 - MapReduce服务 MRS
Endpoint 指定承载REST服务端点的服务器域名或IP,不同服务不同区域的Endpoint不同,具体请参考终端节点。 resource-path 资源路径,也即API访问路径。从具体接口的URI模块获取,例如获取用户TokenAPI的resource-path为“/v3/auth/tokens”。
-
典型场景:从HDFS/OBS导出数据到SFTP服务器 - MapReduce服务 MRS
置。 - 设置数据转换 单击“下一步”,进入“转换”界面,设置数据传输过程中的转换操作。算子的选择和参数设置具体请参考算子帮助及表3。 表3 算子输入、输出参数设置 输入类型 输出类型 CSV文件输入 文件输出 HTML输入 文件输出 固定宽度文件输入 文件输出 图3 算子操作方法示意
-
使用Loader从SFTP服务器导入数据到Hive - MapReduce服务 MRS
选择“true”,表示开启压缩。 选择“false”,表示关闭压缩。 true 设置数据转换 单击“下一步”,进入“转换”界面,设置数据传输过程中的转换操作。算子的选择和参数设置具体请参考Loader算子帮助及表3。 表3 算子输入、输出参数设置 输入类型 输出类型 CSV文件输入 Hive输出 HTML输入
-
如何使用IDEA远程调试 - MapReduce服务 MRS
address=5006需要换成3获取到的For JDK1.4.x对应的调试命令。 图3 Spark运行命令 设置调试断点。 在IDEA代码编辑窗口左侧空白处单击鼠标左键设置相应代码行断点,如图4所示,在SparkPi.scala的29行设置断点。 图4 设置断点 启动调试。 在IDEA菜单栏中选择“Run
-
如何使用IDEA远程调试 - MapReduce服务 MRS
address=5006需要换成3获取到的For JDK1.4.x对应的调试命令。 图3 Spark运行命令 设置调试断点。 在IDEA代码编辑窗口左侧空白处单击鼠标左键设置相应代码行断点,如图4所示,在SparkPi.scala的29行设置断点。 图4 设置断点 启动调试。 在IDEA菜单栏中选择“Run
-
快速购买ClickHouse集群 - MapReduce服务 MRS
缘可用区”。 企业项目:默认即可。 虚拟私有云:默认即可。如果没有虚拟私有云,请单击“查看虚拟私有云”进入虚拟私有云,创建一个新的虚拟私有云。 子网:默认即可。 CPU架构:默认即可。 集群节点:请根据自身需要选择集群节点规格数量等。MRS 3.x及之后版本集群Master节点规格不能小于64GB。
-
如何使用PySpark连接MRS Spark? - MapReduce服务 MRS
如何使用PySpark连接MRS Spark? 问:如何在ECS服务器上用PySpark连接内网开启Kerberos认证的MRS Spark集群? 答:将Spark的“spark-defaults.conf”文件中“spark.yarn.security.credentials.hbase
-
使用Loader从HBase导出数据到SFTP服务器 - MapReduce服务 MRS
单击“下一步”,进入“转换”界面,设置数据传输过程中的转换操作。算子的选择和参数设置具体请参考Loader算子帮助及表3。 表3 算子输入、输出参数设置 输入类型 输出类型 HBase输入 文件输出 图3 算子操作方法示意 设置数据保存信息并运行作业 单击“下一步”,进入“输出设置”界面,设置数据保存方式。
-
使用Loader从FTP服务器导入数据到HBase - MapReduce服务 MRS
选择“true”,表示开启压缩。 选择“false”,表示关闭压缩。 true 设置数据转换 单击“下一步”,进入“转换”界面,设置数据传输过程中的转换操作。算子的选择和参数设置具体请参考Loader算子帮助及表3。 表3 算子输入、输出参数设置 输入类型 输出类型 CSV文件输入 HBase输出 HTML输入
-
使用Loader从SFTP服务器导入数据到HBase - MapReduce服务 MRS
选择“true”,表示开启压缩。 选择“false”,表示关闭压缩。 true 设置数据转换 单击“下一步”,进入“转换”界面,设置数据传输过程中的转换操作。算子的选择和参数设置具体请参考Loader算子帮助及表3。 表3 算子输入、输出参数设置 输入类型 输出类型 CSV文件输入 HBase输出 HTML输入
-
如何在MRS集群中手动添加组件? - MapReduce服务 MRS
如何在MRS集群中手动添加组件? 问:如何在已创建好的MRS集群中手动添加服务? 答: 已经创建的MRS 3.1.0及之前版本集群不支持安装新的组件。如果需要使用当前集群未安装的组件,则需要重新创建一个集群,并且选择所需要的组件。 MRS 3.1.2-LTS.3及之后版本的自定义
-
如何使用IDEA远程调试业务 - MapReduce服务 MRS
t,address=5055,suspend=n,server=y,保存配置后重启相关实例。 调试Storm程序需要先修改指定的服务端参数,并在重启服务后生效,建议在测试环境上进行调测。 提交拓扑后,在Storm UI上进入到Topology界面,再单击进入要调试组件界面。 图1