检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
rScalaExample示例，您需要根据实际业务应用程序修改示例代码中的传入参数。 如果您使用Java语言开发程序，您可以参考如下示例，编写SparkLauncher类。 public static void main(String[] args) throws Exception
rScalaExample示例，您需要根据实际业务应用程序修改示例代码中的传入参数。 如果您使用Java语言开发程序，您可以参考如下示例，编写SparkLauncher类。 public static void main(String[] args) throws Exception
使用命令行运行Loader作业 操作场景 一般情况下，用户可以手工在Loader界面管理数据导入导出作业。当用户需要通过shell脚本来更新与运行Loader作业时，必须对已安装的Loader客户端进行配置。 Loader不兼容旧版本客户端，如果重新安装集群或Loader服务，请
则元数据占用的内存也越多。这就导致程序GC（Gabage Collection）严重，甚至发生OOM（Out of Memory）。 经测试证明：10240个Task，2000个分区，在执行HDFS文件从临时目录rename到目标目录动作前，FileStatus元数据大小约29
sqoop-shell工具支持如下模式： 交互模式 通过执行不带参数的“sqoop2-shell”脚本，进入Loader特定的交互窗口，用户输入脚本后，工具会返回相应信息到交互窗口。 批量模式 通过执行“sqoop2-shell”脚本，带一个文件名作为参数，该文件中按行存储了多条命令，sqoop-shel
使用MRS安装集群，主要安装ZooKeeper、Flume、Kafka、Storm、Spark。 使用Storm、Spark、Flume或者自己编写consumer代码来消费Kafka中指定Topic的消息时，发现消费不到任何数据。 可能原因 Kafka服务异常。 Consumer中Z
spark-sql退出时打印RejectedExecutionException异常栈 问题 执行大数据量的Spark任务（如2T的TPCDS测试套），任务运行成功后，在spark-sql退出时概率性出现RejectedExecutionException的异常栈信息，相关日志如下所示：
对象存储服务”，登录OBS管理控制台。 单击“并行文件系统”，创建一个并行文件系统，并上传测试数据文件。 例如创建的文件系统名称为“mrs-demo-data”，单击系统名称，在“文件”页面中，新建一个文件夹“flink”，上传测试数据至该目录中。 则本示例的测试数据完整路径为“obs://mrs-demo-data
刷新能力 配置智能物化视图 提供自动化物化视图的创建，无需手动执行SQL创建物化视图（推荐使用） 配置HetuEngine智能物化视图能力 查看物化视图自动化任务记录 看任务执行情况，帮助评估集群运行健康状况 查看HetuEngine物化视图自动化任务 父主题： 配置HetuEngine物化视图
spark-sql退出时打印RejectedExecutionException异常栈 问题 执行大数据量的Spark任务（如2T的TPCDS测试套），任务运行成功后，在spark-sql退出时概率性出现RejectedExecutionException的异常栈信息，相关日志如下所示：
用于数据分析结果的呈现，并与数据治理中心DataArts Studio集成，提供一站式的大数据协同开发平台，帮助用户轻松完成数据建模、数据集成、脚本开发、作业调度、运维监控等多项任务，可以极大降低用户使用大数据的门槛，帮助用户快速构建大数据处理中心。 集群管理 以Hadoop为基础的大
gaussDB安装日志 gaussdbuninstall.log gaussDB卸载日志 HA脚本相关运行日志 floatip_ha.log Floatip资源脚本日志 gaussDB_ha.log gaussDB资源脚本日志 ha_monitor.log HA进程监控日志 send_alarm.log
编辑连接 在Loader页面，单击“管理连接”。 单击指定连接的名称，进入编辑页面。 根据业务需要，修改连接配置参数。 单击“测试”。 如果显示测试成功，则执行5；如果显示不能连接至OBS Server，则需要重复3。 单击“保存”。 如果某个Loader作业已集成一个Load
的时间序列可以有任意多数量的数据点。 UDTF（User Defined Timeseries Generating Function） 编写一个UDTF需要继承“org.apache.iotdb.db.query.udf.api.UDTF”类，并至少实现“beforeStart
服务到期 按需购买的集群，没有到期时间。 包年/包月集群到期后进入保留期，此时无法在MRS管理控制台进行该集群的操作，相关接口也无法调用，自动化监控或告警等运维也会停止。如果在保留期结束时您没有续费，集群将终止服务，系统中的数据也将被永久删除。 保证金 按需购买集群时，华为云根据用
创建高查询性能的CarbonData表 操作场景 本章节根据超过50个测试用例总结得出建议，帮助用户创建拥有更高查询性能的CarbonData表。 表1 CarbonData表中的列 Column name Data type Cardinality Attribution msname
length exceeds 2147483647: 2717729270 - discarded 例如，SparkSQL运行TPCDS 500G的测试时，使用默认配置出现错误。所以当数据量较大时需要适当的调整该参数。 配置参数 参数入口： 在Manager系统中，选择“集群 > 服务 >
永久函数，可以在多个会话中使用，不需要每次创建。 下面以编写一个AddDoublesUDF为例，说明UDF的编写和使用方法。 功能介绍 AddDoublesUDF主要用来对两个及多个浮点数进行相加。在该样例中可以掌握如何编写和使用UDF。 一个普通UDF必须继承自“org.apache
开发Impala用户自定义函数 当Impala的内置函数不能满足需要时，可以通过编写用户自定义函数UDF（User-Defined Functions）插入自己的处理代码并在查询中使用它们。 按实现方式，UDF有如下分类： 普通的UDF，用于操作单个数据行，且产生一个数据行作为输出。
开发Impala用户自定义函数 当Impala的内置函数不能满足需要时，可以通过编写用户自定义函数UDF（User-Defined Functions）插入自己的处理代码并在查询中使用它们。 按实现方式，UDF有如下分类： 普通的UDF，用于操作单个数据行，且产生一个数据行作为输出。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
