检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置用户在具有读和执行权限的目录中创建外表 操作场景 此功能在MRS 3.x之前版本适用于Hive，Spark。在MRS3.x及后续版本适用于Hive，Spark2x。 开启此功能后，允许有目录读权限和执行权限的用户和用户组创建外部表，而不必检查用户是否为该目录的属主，并且禁止外表的loc
MRS支持用户将数据存储在OBS服务中，使用MRS集群仅作数据计算处理的存算模式。MRS通过IAM服务的“委托”机制进行简单配置， 实现使用ECS自动获取的临时AK/SK访问OBS。避免了AK/SK直接暴露在配置文件中的风险。 通过绑定委托，ECS或BMS云服务将有权限来管理您的部分资源，请根据实际业务场景需求确认
mmdba、root的登录密码，以提升系统运维安全性。各节点操作系统用户无需设置为统一的密码。 建议管理员定期修改集群节点操作系统用户的登录密码，以提升系统运维安全性。 前提条件 获取待修改密码“omm”、“ommdba”用户对应节点的IP地址。 修改omm和ommdba用户需要获取root用户密码。
表列名”时，默认该表的所有列或者是“SQL语句”配置项里配置的查询条件中指明的列。 配置的输入字段个数不能大于实际指定的列数，否则全部数据成为脏数据。 当字段的值与实际的类型不匹配时，该行数据会成为脏数据。 样例 以sqlserver 2014为例，创建测试表test： create
主要复制表的元数据，包含table descriptor，region info和HFile的引用信息。通过这些元数据信息可以恢复快照时间点之前的数据。 HDFS快照 HDFS快照是HDFS文件系统在特定时间点的只读备份副本，主要用于数据备份、用户误操作保护和灾难恢复的场景。 任
表列名”时，默认该表的所有列或者是“SQL语句”配置项里配置的查询条件中指明的列。 配置的输入字段个数不能大于实际指定的列数，否则全部数据成为脏数据。 当字段的值与实际的类型不匹配时，该行数据会成为脏数据。 样例 以sqlserver 2014为例，创建测试表test： create
zlib, lzo, snappy）来选择Parquet和Orc表的压缩格式；由于Hive和Spark表在可选的压缩格式上有区别，除以上列出的压缩格式外，其他的压缩格式不支持。 合并桶表数据，需要先在Spark2x客户端的hive-site.xml里加上配置： <property>
/etc/hosts，获取hosts文件中的IP与hostname映射关系。 在本地Windows的“C:\Windows\System32\drivers\etc\hosts”中，配置3中获取的映射关系，并将所有Master节点的IP修改为对应节点绑定的弹性公网IP。 将MRS集群中的“/opt/cli
spooldir”的值为3新建的txt文件所在目录。 参数“server.sinks.obs_sink.hdfs.path”中的值为1中新建的OBS文件系统。 将“客户端安装目录/Hive/Beeline/lib”目录下的“hadoop-huaweicloud-*.jar”和“mrs-obs-provider-*
Kerberos服务在收到ST请求后，校验其中的TGT合法后，生成对应的应用服务的ST，再使用应用服务密钥将响应消息进行加密处理。 应用客户端收到ST响应消息后，将ST打包到发给应用服务的消息里面传输给对应的应用服务端（Application Server）。 应用服务端收到请求后，使用本端应用服务对应的密钥解析其
to.index：表示创建索引的表的名称。 indexnames.to.drop：表示应该和其数据一起删除的索引的名称（必须存在于表中）。 scan.caching（可选）：其中包含一个整数值，指示在扫描数据表时将传递给扫描器的缓存行数。 上述命令中的参数描述如下： idx_1：表示索引名称。
委托管理 查询用户（组）与IAM委托的映射关系 更新用户（组）与IAM委托的映射关系 父主题： API V2
functions能够查到相应的函数，但是无法使用，这是由于连接上的JDBC节点上没有相应路径的jar包，添加上相应的jar包能够查询成功。 图2 场景二异常信息 回答 场景一： add jar语句只会将jar加载到当前连接的JDBCServer的jarClassLoader，不同JDBCServ
是否开启Yarn WebUI的任务列表后台分页功能。 true yarn.resourcemanager.webapp.pagination.threshold 开启Yarn WebUI的任务列表后台分页功能后，每个分页显示的最大作业数量。 5000 显示更多的历史作业，会影响性能，增加打开Yarn
AME的错误。 回答 MRS集群因新增多session管理功能，Hive的特性“--hivevar <VAR_NAME>=<var_value>”在Spark中已不再支持，因此在spark-beeline的启动命令中使用“--hivevar”选项无效。 父主题： SQL和DataFrame
增大partition数，把任务切分的更小。 增大任务执行过程中的超时时间。 在客户端的“spark-defaults.conf”配置文件中配置如下参数。 表2 参数说明 参数 描述 建议值 spark.sql.shuffle.partitions shuffle操作时，shuffle数据的分块数。 4501
增大partition数，把任务切分的更小。 增大任务执行过程中的超时时间。 在客户端的“spark-defaults.conf”配置文件中配置如下参数。 表2 参数说明 参数 描述 建议值 spark.sql.shuffle.partitions shuffle操作时，shuffle数据的分块数。 4501
functions能够查到相应的函数，但是无法使用，这是由于连接上的JDBC节点上没有相应路径的jar包，添加上相应的jar包能够查询成功。 图2 场景二异常信息 回答 场景一： add jar语句只会将jar加载到当前连接的JDBCServer的jarClassLoader，不同JDBCServ
集群管理类 如何查看所有集群？ 如何查看MRS服务的操作日志信息？ 如何查看MRS集群配置信息？ 如何在MRS集群中手动添加组件？ 如何取消集群风险告警的消息通知？ 为什么MRS集群显示的资源池内存小于实际集群内存？ MRS集群安装的Python版本是多少？ 如何上传本地文件到集群内节点？
stop #启动 pg_ctl start CDL同步任务支持的数据类型及映射关系 主要介绍CDL同步任务支持的数据类型，以及源端数据库数据类型跟Spark数据类型的映射关系。 表3 PgSQL和Spark数据类型映射关系 PostgreSQL数据类型 Spark（Hudi）数据类型
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
