检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
加入Hive组,不需要角色授权。用户在Hive和HDFS中对自己创建的数据库或表拥有完整权限,可直接创建表、查询数据、删除数据、插入数据、更新数据以及授权他人访问表与对应HDFS目录与文件。 如果用户访问别人创建的表或数据库,需要授予权限。所以根据SparkSQL使用场景的不同,用户需要的权限可能也不相同。
如下参数MRS的Flink默认配置没有,用户可以根据需要进行添加,外部连接开启SSL,YARN的代理无法访问Flink页面。这是由于YARN不支持https代理。配置文件中包含认证密码信息可能存在安全风险,建议当前场景执行完毕后删除相关配置文件或加强安全管理。 参数 参数值示例 描述 security
String 用户名称。 查询Resource Pool 查询scheduler engine中所有resource pool。 URL GET https://<SS_REST_SERVER>/ws/v1/sscheduler/resourcepools/list 输入 无 输出 JSON
单击“立即购买”,进入任务提交成功页面。 单击“返回集群列表”,在“现有集群”列表中可以查看到集群创建的状态。 集群创建需要时间,所创集群的初始状态为“启动中”,创建成功后状态更新为“运行中”,请您耐心等待。 步骤二:创建集群用户 开启Kerberos认证的集群,必须通过以下步骤创建一个用户并分配相应权限来允许用户执行程序。
根据集群版本选择对应的分支,下载并获取MRS相关样例工程。 例如本章节场景对应示例为“WordCountDemo”样例,获取地址:https://github.com/huaweicloud/huaweicloud-mrs-example/tree/mrs-3.1.0/src/kafka-examples。
参数解释: 可用区code。 约束限制: 不涉及 取值范围: 不涉及 默认取值: 不涉及 az_name String 参数解释: 可用区名称。 约束限制: 不涉及 取值范围: 不涉及 默认取值: 不涉及 master Array of Flavor objects 参数解释: master节点支持的规格列表。
目录下的所有hadoop文件夹。 对于globStatus,分别匹配每个路径组件的glob模式,而对于其他的,直接匹配glob模式。 https://hadoop.apache.org/docs/r3.1.1/api/org/apache/hadoop/fs/FileSystem
根据集群版本选择对应的分支,下载并获取MRS相关样例工程。 例如本章节场景对应示例为“hdfs-example-security”样例,获取地址:https://github.com/huaweicloud/huaweicloud-mrs-example/tree/mrs-3.2.0.1/s
POST -HContent-type:application/json -d '{"plainText":"password"}' 'https://x.x.x.x:28443/web/api/v2/tools/encrypt' 其中user name:password分别为当前
根据集群版本选择对应的分支,下载并获取MRS相关样例工程。 例如本章节场景对应示例为“SparkStreamingKafka010JavaExample”样例,获取地址:https://github.com/huaweicloud/huaweicloud-mrs-example/tree/mrs-3.1.0/src
_HOME}/FusionInsight_HD_8.1.2.2/1_10_NodeManager/etc rmadmin 管理员工具(动态更新信息)。 version 打印版本信息。 jar <jar> 运行jar文件。 logs 获取container日志。 classpath
_HOME}/FusionInsight_HD_8.1.2.2/1_10_NodeManager/etc rmadmin 管理员工具(动态更新信息)。 version 打印版本信息。 jar <jar> 运行jar文件。 logs 获取container日志。 classpath
_HOME}/FusionInsight_HD_8.1.0.1/1_10_NodeManager/etc rmadmin 管理员工具(动态更新信息)。 version 打印版本信息。 jar <jar> 运行jar文件。 logs 获取container日志。 classpath
Language)编译和解析,生成并执行相应的MapReduce任务或者HDFS操作。 图1 Hive结构 Metastore:对表,列和Partition等的元数据进行读写及更新操作,其下层为关系型数据库。 Driver:管理HQL执行的生命周期并贯穿Hive任务整个执行期间。 Compiler:编译HQL并将其转
_HOME}/FusionInsight_HD_8.1.0.1/1_10_NodeManager/etc rmadmin 管理员工具(动态更新信息)。 version 打印版本信息。 jar <jar> 运行jar文件。 logs 获取container日志。 classpath
根据集群版本选择对应的分支,下载并获取MRS相关样例工程。 例如本章节场景对应示例为“FlinkStreamJavaExample”样例,获取地址:https://github.com/huaweicloud/huaweicloud-mrs-example/tree/mrs-3.2.0.1/s
rt将提升加载性能,但会降低查询性能。 说明: local_sort与分区表的DDL操作存在冲突,不能同时使用,且对分区表性能提升不明显,不建议在分区表上启用该特性。 carbon.batch.sort.size.inmb - 指定在数据加载期间为批处理排序而考虑的数据大小。推荐
DataStream[R] 在流(flow)中创建一个带反馈的循环,通过重定向一个operator的输出到之前的operator。 说明: 对于定义一些需要不断更新模型的算法是非常有帮助的。 long maxWaitTimeMillis:该超时时间指的是每一轮迭代体执行的超时时间。 def iterate[R
DataStream[R] 在流(flow)中创建一个带反馈的循环,通过重定向一个operator的输出到之前的operator。 说明: 对于定义一些需要不断更新模型的算法是非常有帮助的。 long maxWaitTimeMillis:该超时时间指的是每一轮迭代体执行的超时时间。 def iterate[R
DataStream[R] 在流(flow)中创建一个带反馈的循环,通过重定向一个operator的输出到之前的operator。 说明: 对于定义一些需要不断更新模型的算法是非常有帮助的。 long maxWaitTimeMillis:该超时时间指的是每一轮迭代体执行的超时时间。 def iterate[R