正在生成
详细信息:
检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
OBS与自建存储服务器对比 对比项 OBS 自建存储服务器 数据存储量 提供海量的存储服务,在全球部署着N个数据中心,所有业务、存储节点采用分布式集群方式部署,各节点、集群都可以独立扩容,用户永远不必担心存储容量不够。 数据存储量受限于搭建存储服务器时使用的硬件设备,存储量不够时需要重新购买存储硬盘,进行人工扩容。
官方文档。 使用AnyBackup Cloud备份方案 爱数AnyBackup Cloud结合华为云基础服务,将本地数据备份或迁移到云,提供安全、经济、易管理的数据保护解决方案。 购买方式: 进入华为云市场,搜索AnyBackup Cloud,根据场景选择适合自己业务的备份方案。
Checkpoint主要要求高吞吐、减少训练中断的时间。 文件接口方式的数据共享访问:由于 AI 架构需要使用到大规模的计算集群(GPU/NPU服务器),集群中的服务器访问的数据来自一个统一的数据源,即一个共享的存储空间。这种共享访问的数据有诸多好处,它可以保证不同服务器上访问数据
网络地址映射为本地目录后进行访问。 使用场景 如大数据分析、静态网站托管、在线视频点播、基因测序和智能视频监控等。 如高性能计算、企业核心集群应用、企业应用系统和开发测试等。 说明: 高性能计算:主要是高速率、高IOPS的需求,用于作为高性能存储,比如工业设计、能源勘探这些。 如
xx异常次数和5xx异常次数。 云监控服务(Cloud Eye Service) Cloud Eye控制台监控指标 通过CTS服务收集OBS资源操作记录,便于日后的查询、审计和回溯。 云审计服务(Cloud Trace Service,CTS) 审计 标签用于标识OBS中的桶,以实现对OBS中的桶进行分类。
Turbo监控指标说明和创建告警规则。 SFS Turbo性能监控 您可以在CES云监控服务上监控和SFS Turbo文件系统的性能使用情况。当AI算力集群规模变大,大模型参数量变大,导致Checkpoint读加载时间变长时,或训练数据集加载由于存储读写带宽不足导致拖慢AI训练时,您可以对SFS
和。 桶策略 桶的桶策略,有私有桶、公开桶两种类别。 桶版本号 桶的版本号。“3.0”表示最新版本的桶;“--”表示老版本的桶。 集群类型 桶所属集群。 企业项目 桶所属的企业项目。 账号ID 桶的拥有者全局唯一标识,与“我的凭证”页面的“账号ID”相同。 在“基础配置”下查看桶
通过OBS控制台或OBS Browser+创建桶,用于存放原始数据。 购买CDM 购买CDM服务,即创建CDM集群,用于管理连接与作业。 配置连接与作业 在创建CDM集群中创建一个源连接和一个目的连接,分别与用户本地数据源和云端OBS连接。然后再创建CDM作业,执行从本地数据搬迁到云端OBS的任务。
通过OBS控制台或OBS Browser+创建桶,用于存放原始数据。 购买CDM 购买CDM服务,即创建CDM集群,用于管理连接与作业。 配置连接与作业 在创建CDM集群中创建一个源连接和一个目的连接,分别与用户本地数据源和云端OBS连接。然后再创建CDM作业,执行从本地数据搬迁到云端OBS的任务。
可用区(AZ,Availability Zone):一个AZ是一个或多个物理数据中心的集合,有独立的风火水电,AZ内逻辑上再将计算、网络、存储等资源划分成多个集群。一个Region中的多个AZ间通过高速光纤相连,以满足用户跨AZ构建高可用性系统的需求。 图1阐明了区域和可用区之间的关系。 图1 区域和可用区
n-customer-key-MD5、success-action-redirect、x-obs-expires 复制对象 √ 只支持相同集群内并行文件系统或OBS桶之间进行复制。 获取对象内容 √ - 获取对象元数据 √ - 删除对象 √ - 批量删除对象 √ - 恢复归档存储对象
见终端节点。 可用区 一个可用区(AZ)是一个或多个物理数据中心的集合,有独立的风火水电,AZ内逻辑上再将计算、网络、存储等资源划分成多个集群。一个region中的多个AZ间通过高速光纤相连,以满足用户跨AZ构建高可用性系统的需求。 企业项目 企业项目是项目的升级版,针对企业不同
使用CTS审计OBS操作事件 云审计服务(Cloud Trace Service,简称CTS),是华为云安全解决方案中专业的日志审计服务,提供对各种云资源操作记录的收集、存储和查询功能,可用于支撑安全分析、合规审计、资源跟踪和问题定位等常见应用场景。 用户开通云审计服务并创建和配
审计与日志 审计 云审计服务(Cloud Trace Service,CTS),是华为云安全解决方案中专业的日志审计服务,提供对各种云资源操作记录的收集、存储和查询功能,可用于支撑安全分析、合规审计、资源跟踪和问题定位等常见应用场景。 用户开通云审计服务并创建和配置追踪器后,CT
同时选择100个文件进行上传,如果超过此限制,建议将多个文件放在文件夹中,然后使用“添加文件夹”功能进行上传。 如果上传文件时弹出“Service Unavailable”的错误提示,则可能是因为当前服务器繁忙,请稍后重试。 如果上传文件或文件夹时弹出拒绝访问的错误提示,则有可能是如下几种情况导致的:
并行文件系统 并行文件系统(Parallel File System)是对象存储服务(Object Storage Service,OBS)提供的一种经过优化的高性能文件系统,提供毫秒级别访问时延,TB/s级别带宽和百万级别的IOPS,能够快速处理高性能计算(HPC)工作负载。
列举并行文件系统(Java SDK) 功能说明 并行文件系统(Parallel File System)是对象存储服务(Object Storage Service,OBS)提供的一种经过优化的高性能文件系统,提供毫秒级别访问时延,TB/s级别带宽和百万级别的IOPS,能够快速处理高性能计算(HPC)工作负载。
创建并行文件系统(Java SDK) 功能说明 并行文件系统(Parallel File System)是对象存储服务(Object Storage Service,OBS)提供的一种经过优化的高性能文件系统,提供毫秒级别访问时延,TB/s级别带宽和百万级别的IOPS,能够快速处理高性能计算(HPC)工作负载。
服务(Cloud Eye)监控自己的OBS桶,执行自动实时监控、告警和通知操作,帮助您实时掌握桶中所产生的请求、流量和错误响应等信息,并合理规划使用计划。 发布区域:全部 如何监控OBS? OBS的监控指标有哪些? OBS 2.0/3.0支持 审计 云审计服务(Cloud Trace
产生上传、下载流量,也可能会遇到服务端返回的错误响应。为使用户更好地掌握OBS桶的状态,华为云提供了云监控服务(Cloud Eye)。用户可使用云监控服务(Cloud Eye)监控自己的OBS桶,执行自动实时监控、告警和通知操作,帮助您实时掌握桶中所产生的请求、流量和错误响应等信息。