检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
partitions, replicas) Partition的副本数不要超过节点个数 Kafka中Topic的Partition的副本是为了提升数据的可靠性而存在的，同一个Partition的副本会分布在不同的节点，因此副本数不允许超过节点个数。 Consumer客户端的配置参数“fetch
Spark SQL样例程序 Spark SQL样例程序开发思路 Spark SQL样例程序（Java） Spark SQL样例程序（Scala） Spark SQL样例程序（Python） 父主题： 开发Spark应用
通过JDBC访问Spark SQL样例程序 通过JDBC访问Spark SQL样例程序开发思路 通过JDBC访问Spark SQL样例程序（Java） 通过JDBC访问Spark SQL样例程序（Scala） 父主题： 开发Spark应用
Spark Structured Streaming样例程序 Spark Structured Streaming样例程序开发思路 Spark Structured Streaming样例程序（Java） Spark Structured Streaming样例程序（Scala）
获取配置文件。 从集群的客户端中获取文件。在“$SPARK_HOME/conf”中下载hive-site.xml与spark-defaults.conf文件到本地。 在集群的FusionInsight Manager页面下载所使用用户的认证文件到本地。 在HDFS中上传数据。 在Liu
使用Spark执行Hudi样例程序 使用Spark执行Hudi样例程序开发思路 使用Spark执行Hudi样例程序（Scala） 使用Spark执行Hudi样例程序（Python） 使用Spark执行Hudi样例程序（Java） 父主题： 开发Spark应用
配置Kafka应用安全认证 使用Sasl Kerberos认证 使用Kafka Token认证 父主题： 准备Kafka应用开发环境
HBase对外接口介绍 HBase Shell接口介绍 HBase Java API接口介绍 Sqlline接口介绍 HBase JDBC API接口介绍 HBase Web UI接口介绍 父主题： HBase应用开发常见问题
Spark Core样例程序 Spark Core样例程序开发思路 Spark Core样例程序（Java） Spark Core样例程序（Scala） Spark Core样例程序（Python） 父主题： 开发Spark应用
在本地Windows环境中调测HBase应用 操作场景 在程序代码完成开发后，您可以在Windows开发环境中运行应用。本地和集群业务平面网络互通时，您可以直接在本地进行调测。 如果Windows开发环境中使用IBM JDK，不支持在Windows环境中直接运行应用程序。 需要在
调测Kafka Consumer样例程序 前提条件 如需在Windows调测程序，需要配置Windows通过EIP访问集群Kafka，详情请参见配置Windows通过EIP访问安全模式集群Kafka。 如需在Linux调测程序，需要确保当前用户对“src/main/resources”目录下和
开发用户用于运行样例工程。用户需要有Presto权限，才能运行Presto样例工程。若MRS集群开启了Kerberos认证需要执行该步骤，没有开启Kerberos认证的集群请忽略该步骤。 操作步骤 登录MRS Manager页面。 单击“系统设置 > 用户管理 > 添加用户”，为样例工程创建一个用户。
本地文件系统上的文件。 文件名不能以下横线（_）或点（.）开头，以这些开头的文件会被忽略。 如下所示，如果用户test_hive load数据，正确的权限如下： [root@192-168-1-18 duan]# hdfs dfs -ls /tmp/input2 16/03/21
查询作业exe对象详情（废弃） 功能介绍 查询指定作业的exe对象详细信息。该接口不兼容Sahara。 MRS 3.x版本镜像，不支持MRS V1.1作业管理接口，需要使用V2作业管理接口。 接口约束 无 调试 您可以在API Explorer中调试该接口。 URI GET /v1
logs使用超过这个限制，会触发滚动汇聚。 对于MRS 3.x之前的版本集群，磁盘配额最大百分比的有效取值范围为0～100，如果配置小于等于0，会被强制重置为25；如果配置大于100，则被强制重置为25。 对于MRS 3.x及后续版本集群，磁盘配额最大百分比的有效取值范围为-1～10
只能由英文字母和数字组成，且长度为[1-64]个字符。 默认取值： 不涉及 cluster_id 是 String 参数解释： 集群ID。如果指定集群ID，则获取该集群做过补丁更新的最新版本元数据。获取方法，请参见获取集群ID。 约束限制： 不涉及 取值范围： 只能由英文字母、数字以及“_”和“-”组成，且长度为[1-64]个字符。
如果IP与Kafka集群部署的业务IP不一致，那么需要修改为当前集群正确的IP地址。 如果配置中的端口为21007（Kafka安全模式端口），那么修改该端口为9092（Kafka普通模式端口）。 检查网络是否正常，确保当前机器能够正常访问Kafka集群。 父主题： Kafka应用开发常见问题
WebUI”界面。 登录FusionInsight Manager系统，具体请参见访问FusionInsight Manager（MRS 3.x及之后版本）。 选择“集群 > 待操作集群名称 > 服务 > Loader”。 单击“LoaderServer(节点名称，主)”打开“Loader WebUI”界面。
以配置不同的Yarn队列，从而达到资源隔离。 Yarn资源不足情况下，不建议开启多租户模式。 配置描述 登录Manager，选择“集群 > 待操作集群的名称 > 服务 > Spark2x > 配置”，单击“全部配置”，搜索并修改以下参数。 表1 参数说明 参数 说明 默认值 spark
dd Role”。 单击“Save”，Role添加成功。 新创建的role，页面不提供删除操作，可以修改。 父主题： 使用Ranger（MRS 3.x）
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
