检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
读取文件报错,如何正确读取文件 问题现象 创建训练作业如何读取“json”和“npy”文件。 训练作业如何使用cv2库读取文件。 如何在MXNet环境下使用torch包。
查看增量备份文件 GeminiDB Cassandra支持查看数据备份的增量备份文件大小和记录。 使用须知 如果您需要查看数据备份的增量备份文件大小和记录,您可以联系客服申请开通。 只有打开增量备份开关,才可以查看数据备份的增量备份文件大小和记录,否则内容为空。 操作步骤 登录管理控制台。
使用Redis-Shake工具将RDB文件/AOF文件 导入到GeminiDB Redis RDB导入GeminiDB Redis 部署迁移工具。 获取工具Redis-Shake。 Redis-Shake工具可下载release版本,解压缩后即可使用。 修改配置文件“Redis-Shake.conf”,修改时需要注意以下配置项。
上传备份文件的OBS桶。 单击“添加备份文件”,选择需要导入的备份文件。 图3 添加备份文件 如果需要导入多个备份文件,可以添加多个备份文件同时导入。一次最多可同时添加128个备份文件。 如果需要删除某个备份文件,单击目标备份文件操作列“删除”。 如果需要删除所有备份文件,在“备份文件”中单击“清空”。
GeminiDB Redis备份文件是否可以下载到本地,是否支持线下恢复数据 GeminiDB Redis的备份文件并非开源Redis的RDB文件,用户无法使用,因此,不支持下载到本地。 当实例数据受损时,可将备份数据备份恢复至新实例。 数据备份和数据恢复可参考备份概述和恢复备份到新实例。
TO支持将数据从表中导出到csv、parquet、orc格式的文件中。 导出文件格式为csv时,需要每行都写入目标文件中的一行,其中的字段由定界符分隔。 如果未指定列名,则导出所有字段。 如果需要跳过部分列,需要指定列列表。 COPY FROM支持将数据从csv文件文件导入到现有表中。 源文件中的每一行都作为一行导入。
OBS桶类型支持并行文件系统、标准桶。 数据导出功能支持指定目标文件夹,且目标文件夹不可为空。 使用数据导出功能,会在OBS上创建一个名为data-dump-access的策略,该策略只提供PUT权限,且只针对选择的文件夹。 数据导出功能开启后,parquet文件会定时主动上传到选择的OBS目录下,上传周期为2小时。
python csv读取文件时,参数csv.field_size_limit会限制单列大小。 解决方案 在cqlsh同目录下执行如下命令,查找到cqlshrc文件。 touch cqlshrc rm -rf ~/.cassandra/cqlshrc* cqlshrc文件中配置如下内容,并保存。
性。当数据库或表被恶意或误删除,可依赖实例的备份保障数据安全。 使用须知 备份过程中,备份文件会被上传到OBS桶中,最终以压缩包的形式存储在OBS桶中。在此过程中,由于备份文件上传和业务读取带宽存在一定的竞争关系,所以对OBS的上传带宽进行了相应的限流,单节点最大的上传带宽范围在20MB/s~70MB/s。
或误删除,可依赖实例的备份保障数据安全。 使用须知 手动备份为全量备份。 备份过程中,备份文件会被上传到OBS桶中,最终以压缩包的形式存储在OBS桶中。在此过程中,由于备份文件上传和业务读取带宽存在一定的竞争关系,所以对OBS的上传带宽进行了相应的限流,单节点最大的上传带宽范围在20MB/s~70MB/s。
GeminiDB Cassandra支持将备份文件存放到目标区域或者OBS存储,用户可以在异地区域使用目标区域的备份文件恢复到新的GeminiDB Cassandra实例,用来恢复业务。 实例开启跨区域备份策略后,会根据自动备份策略将该实例创建的自动备份文件备份到目标区域。您可以在管理控制台
Redis什么时候进入只读 为保护GeminiDB Redis实例的正常运行,在存储空间即将被写满的时候,数据库会被设置成只读状态,该状态下只支持数据的读取,不支持写入和更新,可以通过扩容存储容量来解除该状态,重新获得写入和更新的能力。 表1 实例设置只读状态说明 存储容量 说明 小于600GB
使用Spark连接Cassandra失败 问题描述 用户使用Spark连接开源Cassandra,读取数据没问题,但是连接GeminiDB Cassandra就报错。 报错信息如下: 配置详情 如下为用户使用的组件及账号配置详情。 组件配置详情。 表1 配置详情 组件名 版本号
基本设计规范 设计规范 规则1:禁止在数据库中存储图片、文件等大数据。图片或文件等大数据建议存储到对象存储服务中。 规则2:单行key和value数据大小最大不能超过64KB,平均大小不超过10KB。 规则3:任何表的设计都要考虑到数据的删除策略,表中的数据不能无限地增长而不删除。
库表级备份”,管理库表备份。 图2 管理库表备份 单击“查看库表”,查看备份文件包含的库表。 单击“恢复”,将备份文件恢复到新建数据库实例上,具体操作请参见恢复备份到新实例。 单击“删除”,删除生成的备份文件。 删除操作无法恢复,请谨慎操作。 父主题: 数据备份
DB的tsm以及wal文件写入到行协议(Line Protocal)文件中,最终将行协议文件数据解析并迁移至目标端。 整个迁移过程分为导出和导入阶段两个阶段。 导出阶段会并发解析社区版InfluxDB的tsm文件,并将解析数据写入到内存中。 导入阶段会将读取数据发送至GeminiDB
后对其中的key进行分片,多线程进行发送。 使用须知 迁移工具需要部署在源端,对性能有一定消耗,可通过修改配置文件进行一定的控制。 迁移过程读取LevelDB的源数据文件,只读操作,理论上不会有数据受损风险。 迁移过程不需要停服。 若迁移过程出现故障,需要清理GeminiDB Redis实例,重新启动迁移。
Influx支持使用已有的自动备份或手动备份恢复实例数据到新建实例,恢复后的数据与该备份生成时的实例数据一致。 选择通过备份文件恢复到实例上,会从OBS备份空间中将该备份文件下载到实例上进行全量恢复,恢复时长和实例的数据量有关。 使用须知 恢复时,新实例节点数应大于等于原实例的节点数。 恢
后对其中的key进行分片,多线程进行发送。 使用须知 迁移工具需要部署在源端,对性能有一定消耗,可通过修改配置文件进行一定的控制。 迁移过程读取RocksDB的源数据文件,只读操作,理论上不会有数据受损风险。 迁移过程不需要停服。 若迁移过程出现故障,需要清理GeminiDB Redis实例,重新启动迁移。
在IM场景中的应用 背景 即时通讯(Instant Messaging,简称IM)是一个实时通信系统,允许两人或多人使用网络实时的传递文字消息、文件、语音与视频。微信、QQ等IM类产品在这个高度信息化的互联网时代已成为生活必备品,IM系统中最核心的部分是消息系统,消息系统中最核心的功能是消息的同步、存储和检索。
集群Redis迁移至GeminiDB Redis集群操作请参考将Redis集群迁移到GeminiDB Redis。 RDB文件迁移到GeminiDB Redis操作请参考RDB文件恢复到GeminiDB Redis。 父主题: 数据迁移