检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
状态,请提交工单联系技术支持人员进行配置。 文件导出速度受OBS服务的写入带宽上限影响,默认是16Gbit/s,如果大模型训练生成的Checkpoint文件过大、导出速度过慢,可提交工单申请调大OBS服务的写入带宽。 父主题: 基本配置
则,生成一个对象写入用户指定的桶。 使用场景 出于分析或审计等目的,用户可以开启日志记录功能。通过访问日志记录,桶的拥有者可以深入分析访问该桶的用户请求性质、类型或趋势。当用户开启一个桶的日志记录功能后,OBS会自动对这个桶的访问请求记录日志,并生成日志文件写入用户指定的桶(即目标桶)中。
配置日志记录 当一个桶启用了日志记录功能后,OBS自动将该桶的日志按照固定的命名规则,生成一个对象写入用户指定的桶。 前提条件 日志投递用户组对目标桶具有“写入权限”和“查看ACL权限”。权限设置方法请参见配置桶ACL。 操作步骤 登录OBS Browser。 选中待配置的桶,单击“更多
// 关闭日志 obs.CloseLog() } 日志功能默认是关闭的,需要主动开启。 日志默认首先写入缓存(累积一定量后再写入文件),程序退出前调用obs.CloseLog()可同步缓存中的日志内容到日志文件。 日志内容格式 SDK日志格式为:日志时间
只有桶的拥有者才能删除桶。 操作步骤 登录OBS Browser。 选中待删除的桶,单击“更多 > 删除”。 用户删除桶后,需要等待30分钟才能创建同名桶和并行文件系统。 在消息确认框中单击“确定”。 在弹出的消息窗口中,单击“确定”关闭消息窗口。 父主题: 入门
只有桶的拥有者才能删除桶。 操作步骤 登录OBS Browser。 选中待删除的桶,单击“更多 > 删除”。 用户删除桶后,需要等待30分钟才能创建同名桶和并行文件系统。 在消息确认框中单击“确定”。 在弹出的消息窗口中,单击“确定”关闭消息窗口。 父主题: 桶管理
此时下载速度一定程度上可能会降低。 场景二:文件夹中的对象大小均匀。可能原因为数据已经下载完成,但是在写入磁盘时产生排队现象,造成显示下载变慢的假象,请客户排查客户端的写入速率等问题。 父主题: OBS Browser+和obsutil等工具相关
的多段上传任务。 操作步骤 登录OBS Browser+。 选中待删除的桶,单击“删除”。 用户删除桶后,需要等待30分钟才能创建同名桶和并行文件系统。 单击确认框中的“是”后,删除该桶。 父主题: 桶的基本操作
CloseLog() } 日志功能默认是关闭的,需要主动开启。 您可以从日志分析章节获取更多关于SDK日志的信息。 日志默认首先写入缓存(累积一定量后再写入文件),程序退出前调用obs.CloseLog()可同步缓存中的日志内容到日志文件。 父主题: 初始化(Go SDK)
List,访问控制列表),桶ACL的每项包含了对被授权用户授予什么样的权限,如读取权限、写入权限等。用户只有对桶有相应的权限,才可以对桶进行操作,如创建、删除、显示、设置桶ACL等。 一个账号及账号下的所有IAM用户可创建的桶+并行文件系统的上限为100个。每个桶中存放的对象的数量和大小总和没有限制,用户不需要考虑数据的可扩展性。
在对象列表中,单击需要重命名对象操作列的。 单击“重命名”。 图1 重名对象 在弹出窗口中输入新的对象名,单击“确定”。 重命名并行文件系统中文件 您可以通过API、SDK、OBS Browser+三种方式对重命名并行文件系统中文件。 通过API重命名对象 重命名对象Java SDK 使用OBS Browser+:
求时,会对桶名进行严格的检查,具体规则如下: 需全局唯一,不能与已有的任何桶名称重复,包括其他用户创建的桶。用户删除桶后,立即创建同名桶或并行文件系统会创建失败,需要等待30分钟才能创建。 长度范围为3到63个字符,支持小写字母、数字、中划线(-)、英文句号(.)。 禁止两个英文句号(
您可以通过create_bucket或create_bucket_with_params创建一个对象桶,通过create_pfs_bucket创建一个并行文件系统的桶。 参数描述 字段名 类型 约束 说明 option 请求桶的上下文,配置option 必选 桶参数。 canned_acl
复制文件或文件夹 用户可根据需要将存储在OBS上的文件或文件夹复制到其他路径下。 批量复制文件数量超过万级别时,建议使用obsutil工具,详见复制文件。 前提条件 用户需要有待操作文件的ACL读权限。 操作步骤 登录OBS Browser。 选中待配置的桶,进入桶界面。 右键单
拖拽上传 OBS Browser+提供强大的拖拽上传功能,您可以将本地的一个或多个文件或者文件夹拖拽到对象存储的对象列表或者并行文件系统的对象列表中;同时您也可以将文件或文件夹拖拽到指定的目录上,这样可以上传到指定的目录中。拖拽上传可以轻松便捷地帮你把本地文件上传到OBS中。 父主题:
上传前无法确定将要上传文件的大小。 分段上传分为如下3个步骤: 初始化分段上传任务(ObsClient.InitiateMultipartUpload)。 逐个或并行上传段(ObsClient.UploadPart)。 合并段(ObsClient.CompleteMultipartUpload)或取消分段上传任务(ObsClient
除桶中对象,提高删除效率。 对于并行文件系统目录,大数据场景下(目录层级深、目录下文件多)的删除,可能会因超时而删除失败,建议使用: hadoop 客户端(嵌套OBS客户端插件OBSA)删除目录:hadoop fs - rmr obs://{并行文件系统名}/{目录名}。 给目录配置生命周期,通过生命周期后台删除。
上传前无法确定将要上传文件的大小。 分段上传分为如下3个步骤: 初始化分段上传任务(ObsClient.initiateMultipartUpload)。 逐个或并行上传段(ObsClient.uploadPart)。 合并段(ObsClient.completeMultipartUpload)或取消分段上传任务(ObsClient
添加桶 桶是OBS中存储对象的容器。您需要先创建一个桶,然后才能在OBS中存储数据。 一个账号及账号下的所有IAM用户可创建的桶+并行文件系统的上限为100个。建议结合OBS细粒度权限控制能力,合理进行桶规划和使用。例如,建议在桶内根据对象前缀划分不同的目录,通过细粒度权限控制实
网络条件较差,和OBS服务端之间的链接经常断开。 上传前无法确定将要上传文件的大小。 使用分段上传具有以下优势: 提高吞吐量——您可以使用并行上传段以提高吞吐量。 从任何网络问题中快速恢复——较小的段大小可以将由于网络错误而需重启失败的上传所产生的影响降至最低。 暂停和恢复对象上