检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置MRS集群通过IAM委托对接OBS MRS支持用户将数据存储在OBS服务中，使用MRS集群仅作数据计算处理的存算模式。MRS通过IAM服务的“委托”机制进行简单配置， 实现使用ECS自动获取的临时AK/SK访问OBS。避免了AK/SK直接暴露在配置文件中的风险。 通过绑定委托
x，则添加的安全组规则为： 图1 配置安全组 关于安全组的具体配置可参考：配置安全组规则。 安全组中需要放开的IP地址为用户访问MRS集群的公网IP地址，如果当前网络为内部局域网环境，请务必确认安全组中配置的IP地址是否为公网出口IP。 单击MRS集群“概览”页面的“添加安全组规则”检查配置的IP是否变
ole WebUI”后的链接，进入HSConsole界面。 选择“数据源”，单击“添加数据源”。在“添加数据源”页面填写参数。 配置“基本配置”，填写数据源名称，选择数据源类型“HBase”。 配置“HBase配置”，参数配置请参考表1。 表1 HBase配置 参数 描述 取值样例
【Hue WebUI】Hue WebUI页面无法访问 现象描述 Hue服务组件的Hue WebUI页面打不开。 原因分析 端口未对外开放。 浮动IP配置错误。 一次性查询大量的数据，导致查询耗时长，占用了Hue中Hive的链接，导致Hue访问出现异常。 排查思路 在浏览器所在的本
开压缩包文件，单击“上传文件”，系统将自动完成导入。 导入完成后提示同步集群配置并重启WEB服务使新证书生效，单击“确定”。 在弹出的确认窗口输入密码，单击“确定”自动同步集群配置并重启WEB服务。 如在同步集群配置过程中，刷新了页面或关闭了浏览器，需执行以下操作手动重启WEB服务：
在本地Windows环境中调测Oozie应用 操作场景 在使用Java接口完成开发程序代码后，您可以在Windows开发环境中运行应用。本地和集群业务平面网络互通时，您可以直接在本地进行调测。 操作步骤 在Windows本地运行程序，需要配置HTTPS SSL证书。 登录集群任意节点，进入如下目录下载ca.crt文件。
在本地Windows环境中调测Oozie应用 操作场景 在使用Java接口完成开发程序代码后，您可以在Windows开发环境中运行应用。本地和集群业务平面网络互通时，您可以直接在本地进行调测。 操作步骤 在Windows本地运行程序，需要配置https ssl证书。 登录集群任意节点，进入如下目录下载ca.crt文件。
【Yarn WebUI】无法访问Yarn WebUI 问题现象 集群扩容到300节点后，无法访问Yarn WebUI界面。 原因分析 可能是由于集群节点较多时，NodeManager数据增加，但是未修改实例的内存，导致ResourceManager进程的垃圾回收时间过长，影响Re
在本地Windows环境中调测Oozie应用 操作场景 在使用Java接口完成开发程序代码后，您可以在Windows开发环境中运行应用。本地和集群业务平面网络互通时，您可以直接在本地进行调测。 操作步骤 在Windows本地运行程序，需要配置https ssl证书。 登录集群任意节点，进入如下目录下载ca.crt文件。
在本地Windows环境中调测Oozie应用 操作场景 在使用Java接口完成开发程序代码后，您可以在Windows开发环境中运行应用。本地和集群业务平面网络互通时，您可以直接在本地进行调测。 操作步骤 在Windows本地运行程序，需要配置https ssl证书。 登录集群任意节点，进入如下目录下载ca.crt文件。
或者集群后，手工将OBS上相关的业务数据进行删除。 MRS集群配置存算分离后，组件可以对接访问OBS文件系统，同时也可以继续访问集群内的HDFS文件系统，具体请参考配置MRS集群通过IAM委托对接OBS。 存算分离功能使用流程： 配置存算分离集群。 请选择如下其中一种配置即可（推荐使用委托方式）。
milliseconds] 可能原因 Flink开启了SSL通信加密，却没有正确的配置SSL证书。 解决办法 针对MRS 2.x及之前版本，操作如下： 方法1： 关闭Flink SSL通信加密，修改客户端配置文件“conf/flink-conf.yaml”。 security.ssl.internal
使用“Ctrl + C”退出spark beeline。 集群安装后使用spark sql 使用安装客户端用户登录客户端安装节点。 配置环境变量。 source 客户端安装目录/bigdata_env 修改配置文件： vim 客户端安装目录/Spark2x/spark/conf/hdfs-site
truststore.jks 安装IntelliJ IDEA和JDK工具后，需要在IntelliJ IDEA配置JDK。 打开IntelliJ IDEA，选择“Configure”。 图2 Quick Start 在下拉框中选择“Structure for New Projects”。
32:21007表示kafka服务器的IP:port SSL加密配置 服务端配置。 登录FusionInsight Manager页面，选择“集群 > 服务 > Kafka > 配置”，参数类别设置为“全部配置”，搜索“ssl.mode.enable”并配置为“true”。 客户端配置。 登录集群的FusionInsight
Yarn内部和Hadoop内部都不需要用户配置加密，用户只需要配置SSL加密传输方式。 配置SSL传输，用户主要在客户端的“flink-conf.yaml”文件中做如下配置： 打开SSL开关和设置SSL加密算法，针对MRS 3.x及之后版本，配置参数如表2所示，请根据实际情况修改对应参数值。
Spark2x无法访问Spark1.5创建的DataSource表 问题 在Spark2x中访问Spark1.5创建的DataSource表时，报无法获取schema信息，导致无法访问表。 回答 原因分析： 这是由于Spark2x与Spark1.5存储DataSoure表信息的格式不一致导致的。Spark1
Spark2x无法访问Spark1.5创建的DataSource表 问题 在Spark2x中访问Spark1.5创建的DataSource表时，报无法获取schema信息，导致无法访问表。 回答 原因分析： 这是由于Spark2x与Spark1.5存储DataSoure表信息的格式不一致导致的。Spark1
deManager服务后通过恢复此前保存的状态信息，就不会丢失在此节点上运行的container进度。 配置描述 参考修改集群服务配置参数进入Yarn服务参数“全部配置”界面，在搜索框中输入参数名称。 ResourceManager Restart特性配置如下。 表1 ResourceManager
是否成功来判断。 如果集群为安全集群，可能是Flink的SSL证书配置错误，或者证书过期。 解决方法 增加队列的资源。 排除用户jar包中的Flink和Hadoop依赖，依赖环境中的jar包。 重新配置Flink的SSL证书，可参考从零开始使用Flink。 父主题： 作业管理类
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
