检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
JavaRDD支持两种类型的操作:Transformation和Action,这两种类型的常用方法如表1和表2。
MapReduce对接OBS 登录MRS管理控制台,单击集群名称进入集群详情页面。 选择“组件管理 > Mapreduce”,进入Mapreduce服务“全部配置”页面,在左侧的导航列表中选择“Mapreduce > 自定义”。
若批量导入数据时创建二级索引,还需注意: 当将列的类型设置为string时,不能设置其长度。例如“<column index="1" type="string" length="1" >COLOUMN_1</column>”,此类型不支持。
“Hive”支持以下功能: 执行和管理HiveQL语句。 在“Saved Queries”中查看当前访问用户已保存的HiveQL语句。 在“Query History”中查看当前访问用户执行过的HiveQL语句。 单击,在“Databases”下可以显示Hive中所有的数据库。
授权范围如果同时支持IAM项目和企业项目,表示此授权项对应的自定义策略,可以在IAM和企业管理两个服务中给用户组授权并生效。如果仅支持IAM项目,不支持企业项目,表示仅能在IAM中给用户组授权并生效,如果在企业管理中授权,则该自定义策略不生效。
在线检索MRS集群日志 MRS集群Manager支持在线检索并显示组件的日志内容,用于问题定位等其他日志查看场景,管理员可在线按照节点范围或者组件角色范围快速检视所有日志,通过关键字分析快速定位问题。 本章节操作仅支持MRS 3.x及之后的版本。
打开MRS集群详情页面,在告警管理页签的告警列表中,单击此告警所在行,在告警详情中,查看该告警的主机地址。 登录主管理节点。 执行以下命令检查故障节点是否可以访问: ping 故障主机IP地址 是,执行2。 否,执行1.d。 联系运维人员查看是否为网络故障。 是,执行2。
Kudu Kudu是专为Apache Hadoop平台开发的列式存储管理器,具有Hadoop生态系统应用程序的共同技术特性:在通用的商用硬件上运行,可水平扩展,提供高可用性。
在未开启自动故障转移时,YARN集群启动后,MRS集群管理员需要在命令行中使用yarn rmadmin命令手动将其中一个ResourceManager切换为Active状态。
用户无法同步至Ranger管理界面 父主题: 使用Ranger(MRS 3.x)
操作步骤 登录服务页面:单击集群名称,登录集群详情页面,选择“组件管理”。 若集群详情页面没有“组件管理”页签,请先完成IAM用户同步(在集群详情页的“概览”页签,单击“IAM用户同步”右侧的“同步”进行IAM用户同步)。
KrbServer 密钥的管理中心,负责票据的分发。 Yarn 资源管理系统,它是一个通用的资源模块,可以为各类应用程序进行资源管理和调度。 DBService 高可用性的关系型数据库存储系统,提供元数据的备份与恢复功能。 父主题: HetuEngine
企业级能力增强 Spark Core性能调优 Spark SQL性能调优 Spark Streaming性能调优 Spark运维管理 Spark2x常见问题
Impala支持开发Java UDF,也可以复用Hive开发的UDFs,前提是使用Impala支持的数据类型。
表4 Consumer重要接口函数 返回值类型 接口函数 描述 void close() 关闭Consumer接口方法。 void subscribe(java.util.Collection<java.lang.String> topics) Topic订阅接口方法。
如需当前条件中的用户或用户组管理本条策略,可勾选“Delegate Admin”,这些用户将成为受委托的管理员。被委托的管理员可以更新、删除本策略,它还可以基于原始策略创建子策略。
number 参数仅支持INT类型。 注意事项 所查询的表必须是已经存在的表,否则会出错。 查询的tagv必须是已经有的值,否则会出错。 示例 查询表opentsdb_table中的数据。
select from_hex('FFFF'); -- ff ff to_big_endian_64(bigint) → varbinary 将bigint类型的数字编码为64位大端补码格式。
Aggregate、Unique模型:这两种聚合类型的表,Key列是兼顾排序列和唯一标识列,是真正意义上的Key列。 数据模型的选择建议 因为数据模型在建表时就已经确定,且无法修改。所以,选择一个合适的数据模型非常重要。
Topic名称> shkafka-topics.sh --delete --bootstrap-server <Kafka集群IP:21007>--command-config config/client.properties --topic <Topic名称> 创建Topic,由管理员用户操作