检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
败而产生的。 OBS采用分段上传的模式上传数据,在下列情况下(但不仅限于此)通常会导致数据上传失败而产生碎片。 网络条件较差,与OBS的服务器之间的连接经常断开。 上传过程中,人为中断上传任务。 设备故障。 突然断电等特殊情况。 父主题: 碎片管理
需要上传的对象可以通过数据加密服务器提供密钥的方式进行服务端加密。用户首先需要在KMS中创建密钥(或者使用KMS提供的默认密钥),当用户在OBS中上传对象时使用该密钥进行服务端加密。 当启用服务端加密功能后,用户上传对象时,数据会在服务端加密成密文后存储。用户下载加密对象时,存储的密文会先在服务端解密为明文,再提供给用户。
Turbo数据自动导出到OBS桶 配置自动导出后,训练过程中周期性写入SFS Turbo文件系统的Checkpoint模型文件会自动以异步方式导出到关联的OBS桶中进行长期保存,无需手工导出,异步导出方式不会占用上层训练任务时间。 SFS Turbo的自动导出功能当前处于受限使用状态,请提交工单联系技术支持人员进行配置。
endpoint is not connected”类似错误 问题定位: 挂载路径已被另一个obsfs挂载进程占用。 解决办法: 使用df命令,查看当前已挂载分区及路径,选择一个未被占用的路径重新挂载。 现象七:挂载并行文件系统时出现“unknown option”类似错误 问题定位: 挂载命令中参数写错,obsfs不识别
作为外部软件,obsutil命令需要进入obsutil工具所在目录后方可运行,易用性较差。 操作系统提供内置命令,在系统启动时就将依赖的目录调入内存,这样在任意目录下都可以运行命令,提高工具易用性。 本章根据不同操作系统,分别介绍如何将obsutil设置为系统内置命令。 将obsutil设为Windows操作系统内置命令
修改编译datax。 升级hdfsreader和hdfswriter模块依赖的hadoop版本,以升级到2.8.3版本为例。 修改datax\hdfswriter\pom.xml和datax\hdfsreader\pom.xml文件配置: <properties> <!--由2.7.1升级到2.8
的工作会影响查询性能。 http-server.http.port:指定HTTP端口。Presto使用HTTP来与外部和内部进行交流。 query.max-memory:查询能用到的最大总内存。 query.max-memory-per-node:查询能用到的最大单节点内存。 discovery-server
在弹出的对象框中根据需要填写桶信息,如图1所示。 图1 创建桶 表1 创建桶 参数 说明 区域 选择新建桶所在的Region。桶创建成功后,不支持变更区域,请谨慎选择。 存储类别 桶的存储类别。不同的存储类别可以满足客户业务对存储性能、成本的不同诉求。 标准存储:适用于有大量热点文件或小
仅当对象为归档或深度归档存储类别,并且处于正在恢复或已经恢复时,会返回此头域。 取值范围: 无 默认取值: 无 obs_object_type const char * 可选 参数解释: 对象的类型。 约束限制: 仅当对象为非Normal对象时,会返回此头域。 取值范围: Appendable 默认取值:
止盗链。 使用场景 一些不良网站为了不增加成本而扩充自己站点内容,经常盗用其他网站的链接。一方面损害了原网站的合法利益,另一方面又加重了服务器的负担。因此,产生了防盗链技术。 在HTTP协议中,通过表头字段referer,网站可以检测目标网页访问的来源网页。有了referer跟踪
在域名注册商处修改域名解析服务器地址。 在域名注册商处,将该根域名对应的NS记录中域名解析服务器地址修改为云解析服务(DNS)服务器的地址,具体地址为云解析服务中该公网域名记录集中NS记录的值字段内容信息。 详细的更改域名解析服务器地址的方法请参见配置网站解析章节中的“更改域名的DNS服务器”部分。
仅当对象为归档或深度归档存储类别,并且处于正在恢复或已经恢复时,会返回此头域。 取值范围: 无 默认取值: 无 obs_object_type const char * 可选 参数解释: 对象的类型。 约束限制: 仅当对象为非Normal对象时,会返回此头域。 取值范围: Appendable 默认取值:
删除指定桶的标签。 设置桶配额 设置桶的空间配额,用以限制桶的最大存储容量。 获取桶配额 获取桶的空间配额。 获取桶存量信息 获取桶中的对象个数及对象占用空间。 设置桶清单 为一个桶配置清单规则。桶清单可以用来帮助您管理桶内对象,它可以定期列举桶内对象,并将对象元数据的相关信息保存在CSV格式的文件中,上传到您指定的桶中。
工具查询的桶使用情况不一致时可以从如下两点进行排查: OBSBrowser+和控制台均通过调用获取桶存量信息接口查询当前桶内对象个数及对象占用空间,对应obsutil中调用stat命令返回的结果;由于OBS桶存量是后台统计,因此存量会有一定的时延,不能实时更新,因此不建议对存量做实时校验。
区域复制流量、回源流量等。OBS会根据您实际使用时产生的流量进行费用收取。 计费说明 资费项 计费项 含义 适用的计费模式 流量费用 内/公网流入流量 通过内网或互联网上传数据到OBS所产生的流入流量。 免费 内网流出流量 通过同区域华为云ECS、CCE、BMS等下载OBS的数据所产生的流出流量。
义域名的地址)来发起访问请求。 DNS将请求解析到桶默认域名。 DNS通过桶默认域名解析请求到OBS服务器的IP地址。 OBS返回服务器的IP地址给客户端。 客户端向OBS服务器IP地址发起Host为自定义域名的请求。 OBS识别请求的Host为自定义域名,向客户端返回不带下载响
能。 本接口主要用来开启或关闭桶的归档存储对象直读功能。 设置桶的归档存储对象直读状态为Enabled,开启桶的归档存储对象直读功能: 桶内存在归档存储对象时,不管该归档存储对象是否已经恢复,均可以直接操作该归档存储对象。 如果归档存储对象没有恢复,操作该归档存储对象时会增加单独计费。
(可选)在弹出的“身份验证”对话框中,选择合适的验证方式进行验证,单击“确定”。 在弹出的“创建成功”提示框中,单击“立即下载”后,密钥会直接保存到浏览器默认的下载文件夹中。 打开下载下来的“credentials.csv”文件即可获取到访问密钥(AK和SK)。 在密钥文件中,Access
当应用程序部署在ECS服务器上时,可以采用以上方式从ECS服务器上自动获取临时访问密钥和定期自动刷新。 如果客户端报401错误,则需要排查在创建ECS时是否有添加委托。 在使用该方式获取临时访问密钥时,请确保服务端和应用程序部署所在环境的UTC时间一致,否则可能会导致临时访问密钥无法及时刷新的问题。
OBS接收到客户端的上传请求,执行上传对象操作。对象上传成功后,OBS封装回调请求。 OBS调用回调接口,向回调服务器发起回调请求。 回调服务器得到上传对象完成的通知,完成数据更新,处理回调请求。 回调服务器将回调响应数据返回给OBS。 OBS将上传对象请求的响应结果返回给客户端,响应结果中携带回调数据。