检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
HDFS文件系统目录简介 HDFS是Hadoop的分布式文件系统(Hadoop Distributed File System),实现大规模数据可靠的分布式读写。HDFS针对的使用场景是数据读写具有“一次写,多次读”的特征,而数据“写”操作是顺序写,也就是在文件创建时的写入或者在
发布区域:全部 应用侧双写实现多活 OBS 2.0支持 数据迁移 华为云Redis支持备份文件导入和在线迁移两种迁移方式: 备份文件导入方式:您需要先将源Redis的数据备份并下载,然后将备份数据文件上传到华为云与DCS Redis实例同一租户下相同Region下的OBS桶中,DCS从
搜索文件或文件夹 OBS Browser+支持按前缀搜索文件或文件夹。 操作步骤 登录OBS Browser+。 单击目标文件或文件夹所在的桶。 在对象管理页面右上角的搜索框中输入需要查找的文件或文件夹的前缀。 单击,如图1所示。 图1 搜索文件或文件夹 搜索到的文件或文件夹会显
使用特定的规则扫描Hbase表。 运行前置操作 安全模式下Spark Core样例代码需要读取两个文件(user.keytab、krb5.conf)。user.keytab和krb5.conf文件为安全模式下的认证文件,需要在FusionInsight Manager中下载principal用户的
复制文件或文件夹 用户可根据需要将存储在OBS上的文件或文件夹复制到其他路径下。 操作步骤 登录OBS Browser+。 选中待配置的桶,右键单击需要复制的文件或文件夹,并选择“复制”。 选择存放文件或文件夹的路径后,单击右键并选择“粘贴”。 不支持复制外部桶中的文件或文件夹。
WAL日志是什么,日志文件路径是什么? 答:预写式日志WAL(Write Ahead Log,也称为xLog)是指如果要修改数据,必须是在这些修改操作已经记录到日志文件之后才能进行修改,即在描述这些变化的日志记录刷新到永久存储器之后。又称为REDO日志,在数据库异常损坏导致系统崩
如何永久分享文件或文件夹 通过OBS Browser+工具可以实现分享文件或分享文件夹,通过该方式生成的分享链接中都包含链接的有效时间,超过有效期后即无法通过该链接继续访问。 永久分享文件:可通过将对象权限设置为匿名用户读取权限,通过获取对象URL,匿名用户通过该URL地址访问对象数据。
如果想要在文件系统间按原样复制文件,则可以选择二进制格式。二进制格式传输文件到文件的速率高、性能稳定,且不需要在作业第二步进行字段匹配。 文件传输的目录结构 CDM的文件传输,支持单文件,也支持一次传输目录下所有的文件。传输到目的端后,目录结构会保持原样。 增量迁移文件 使用CD
创并行文件系统时可指定的数据冗余类型,即AZ类型。 约束限制: 归档存储和深度归档存储不支持多AZ。如果并行文件系统所在区域不支持多AZ存储,则该并行文件系统的存储类别默认为单AZ。 取值范围: 如果将并行文件系统配置为多AZ,则取值为"MULTI_AZ"。如果将并行文件系统配置
分布式Scan HBase表 场景说明 用户可以在Spark应用程序中使用HBaseContext的方式去操作HBase,使用hbaseRDD方法以特定的规则扫描HBase表。 数据规划 使用操作Avro格式数据章节中创建的HBase数据表。 开发思路 设置scan的规则,例如:setCaching。
分布式Scan HBase表 场景说明 用户可以在Spark应用程序中使用HBaseContext的方式去操作HBase,使用hbaseRDD方法以特定的规则扫描HBase表。 数据规划 使用操作Avro格式数据章节中创建的HBase数据表。 开发思路 设置scan的规则,例如:setCaching。
删除文件或文件夹 用户可根据需要删除已有文件或文件夹。 背景知识 删除文件夹时,文件夹内的文件也将同时被删除,请务必确认这些文件可以被删除。 删除无用的文件或文件夹可节省空间和成本。 用户上传到OBS的某些文件,可能需要定期删除,对于这类删除文件的场景,可通过OBS的生命周期管理
缩容实例分片(分布式) 操作场景 实例进行读写分离或者业务冗余数据清理等操作后DN节点使用率会下降,此时可通过分片缩容避免成本浪费。GaussDB分布式独立部署形态支持分片缩容操作。 注意事项 缩容时长与业务数据量有关,默认缩容操作超时时间为7天,缩容中实例可正常使用,但不允许进
根据使用场景不同,文件存储支持以下挂载方式: 通过静态存储卷使用已有文件存储:即静态创建的方式,需要先使用已有的文件存储创建PV,然后通过PVC在工作负载中挂载存储。适用于已有可用的底层存储或底层存储需要包周期的场景。 通过动态存储卷使用文件存储:即动态创建的方式,无需预先创建文件存储,在创
文件上传 开发过程中,您有任何问题可以在github上提交issue,或者在华为云对象存储服务论坛中发帖求助。接口参考文档的“上传对象”章节详细介绍了参数和使用方法。 文件上传使用本地文件作为对象的数据源。以下代码展示了如何进行文件上传: // 创建ObsClient实例 var
GaussDB分布式独立部署与分布式混合部署有什么区别 分布式独立部署 适用于大数据量,期望可以通过横向扩展提高实例数据容量和并发能力,并且分布式混合部署无法满足性能诉求的场景。 所有组件均部署在独立的ECS上,资源无争抢,性能更好。以默认配置(3CN,3副本,3分片)为例,有3
分布式执行框架 GS_235100005 错误码: Stream plan check failed. Execution datanodes list of stream node[%d] mismatch in parent node[%d]. 解决方案:请使用INTERNAL
个Pod同时挂载同一文件存储,后设置的挂载参数不会覆盖已有参数值。针对上述场景希望设置不同的挂载参数,可以同时设置nosharecache挂载参数。 文件存储挂载参数 CCE的存储插件everest在挂载文件存储时默认设置了如表1所示的参数。 表1 文件存储挂载参数 参数 参数值
DDM是否支持分布式JOIN DDM支持分布式JOIN。 表设计时,增加字段冗余 支持跨分片的JOIN,主要实现的方式有三种:广播表,ER分片和ShareJoin。 DDM目前禁止多个表的跨库update和delete。 父主题: SQL语法类
分布式身份(DID)管理 企业身份注册(带有service) 注册DID 更新DID 查询DID 父主题: 分布式身份(公测)