检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
大数据集（大于1TB）的并行运算。在MapReduce程序中计算的数据可以来自多个数据源，如Local FileSystem、HDFS、数据库等。最常用的是HDFS，可以利用HDFS的高吞吐性能读取大规模的数据进行计算。同时在计算完成后，也可以将数据存储到HDFS。 HDFS和Spark的关系
以上(含300节点)，每个批次1%（向下取整）个节点。 批次时间间隔 滚动重启实例批次之间的间隔时间，默认为0。 设置批次时间间隔参数可以增加滚动重启期间大数据组件进程的稳定性。 建议设置该参数为非默认值，例如10。 退服超时时间 角色实例在滚动重启过程中的退服等待时间，该参数仅
在概览页签下的“基本信息”区域单击“HSConsole WebUI”后的链接，进入HSConsole界面。 单击“计算实例”，单击待操作实例对应的租户名。 单击“WebUI”列的“LINK”链接，将在新页面展示计算实例任务监控页面信息。首次进入为“CLUSTER OVERVIEW”页面，可查看计算实例任务监控页面信息。
UI”对应的“ResourceManager”进入Web界面。 图1 ResourceManager Web UI 查找到对应的Spark应用程序，单击应用信息的最后一列“ApplicationMaster”，即可进入Spark UI页面。 图2 ApplicationMaster 图3 Spark UI页面
于0，则会一次性打印所有结果，通常用于重定向SQL执行结果。 登录客户端时，可选-disableISO8601参数，用于控制查询结果的时间列展示格式。不指定该参数会显示年月日时分秒格式，指定则显示时间戳。 如果服务端关闭了SSL配置，则需在客户端需也关闭SSL配置才能通信，操作为：
MergeTree引擎在建表的时候支持列字段和表级的TTL。 当列字段中的值过期时，ClickHouse会将其替换成数据类型的默认值。如果分区内，某一列的所有值均已过期，则ClickHouse会从文件系统中删除这个分区目录下的列文件。当表内的数据过期时，ClickHouse会删除所有对应的行。 在列上配置TTL：
留20个文件，压缩存储。 日志大小和压缩文件保留个数可以在FusionInsight Manager界面中配置。 表1 Spark2x日志列表 日志类型 日志文件名 描述 SparkResource2x日志 spark.log Spark2x服务初始化日志。 prestart.log
留20个文件，压缩存储。 日志大小和压缩文件保留个数可以在FusionInsight Manager界面中配置。 表1 Spark2x日志列表 日志类型 日志文件名 描述 SparkResource2x日志 spark.log Spark2x服务初始化日志。 prestart.log
→ varbinary 计算二进制块的SHA 1哈希值。 sha2(string, integer) → string 安全散列算法2， 是一种密码散列函数算法标准，其输出长度可以取224位，256位， 384位、512位，分别对应SHA-224、SHA-256、SHA-384、SHA512
解决办法 可以通过调整客户端参数dfs.client.block.write.locateFollowingBlock.retries的值来增加retry的次数，可以将值设置为6，那么中间睡眠等待的时间为400ms、800ms、1600ms、3200ms、6400ms、12800ms，也就是说close函数最多要50
Manager日志以及GC日志等。 页面入口：在YARN的Web UI界面，查找到对应的Flink应用程序。单击应用信息的第一列ID，然后选择Logs列单击进去即可打开。 使用Yarn客户端获取或查看Task Managers、Job Manager的日志，具体操作如下： 下载并
Manager日志以及GC日志等。 页面入口：在YARN的Web UI界面，查找到对应的Flink应用程序。单击应用信息的第一列ID，然后选择Logs列单击进去即可打开。 使用Yarn客户端获取或查看Task Managers、Job Manager的日志，具体操作如下： 下载并
EXISTS子句时，如果表已经存在则不会报错。 可选WITH子句可用于设置新创建的表的属性，如表的存储位置（location）、是不是外表（external）等。 示例 用指定列的查询结果创建新表orders_column_aliased： CREATE TABLE orders_column_aliased (order_date
登录MRS管理控制台。 选择“现有集群”，选中一个运行中的集群并单击集群名称，进入集群信息页面。 在集群详情页，选择“组件管理 > 添加服务”。 在服务列表中，勾选需要添加的服务，单击“下一步”。 添加服务时，该服务依赖的下层服务也会自动勾选，可以同时添加多个服务。 只能在状态正常的节点或节点组上添加服务。
xml”文件，且根据实际集群情况配置所需要的参数。JDBCServer相关参数详情，请参见Spark JDBCServer接口介绍。 开发思路 在default数据库下创建child表。 把“/home/data”的数据加载进child表中。 查询child表中的数据。 删除child表。 运行前置操作
1版本安装不成功，则需要检查环境是否有问题或是Python自身原因导致的。 客户端机器必须安装有jaydebeapi，可以通过该模块使用java的JDBC来连接数据库。 可通过如下两种方式安装： pip安装： 在客户端节点执行pip install JayDeBeApi。 运行脚本安装。 通过官方网站下
在“Select Resource Services”中选择服务后，需要在“Resource”列中添加具体的资源对象，例如HDFS服务器的文件目录、Yarn的队列、Hive的数据库及表、HBase的表及列。 /testzone 例如针对HDFS中的“/testzone”目录创建一个安全区，配置如下：
配额”。查看“customized.quota”配置项中，是否有产生该告警的告警目录及对应的配额值。 是，执行5。 否，执行2。 查看下表中的组件告警目录列中，是否有产生该告警的告警目录。 表1 各组件告警目录 组件名称 组件告警目录 Hbase /hbase Hive /beelinesql Yarn
安装前处理 如果MRS集群节点故障或者网络不通，需要先隔离该节点，否则补丁会安装失败。 解决的问题 MRS 3.1.2-LTS.0.3 修复问题列表： 修复log4j漏洞(CVE-2021-44228)，log4j升级到2.17.2版本 包含MRS 3.1.2-LTS.0.2修复问题 补丁兼容关系
Manager日志以及GC日志等。 页面入口：在YARN的Web UI界面，查找到对应的Flink应用程序。单击应用信息的第一列ID，然后选择Logs列单击进去即可打开。 使用Yarn客户端获取或查看Task Managers、Job Manager的日志，具体操作如下： 下载并
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
