检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Spark集群对接OBS配置项 Spark应用对接OBS,需要在YARN集群中进行core-site.xml配置,包括:ak、sk、endpoint、impl等。 core-site.xml配置完成后“重启”YARN集群,再重启Spark集群的“部署客户端配置”。 Hive集群对接OBS配置项 H
是否可以同时装两个不同站点的OBS Browser+工具? 不可以。 一个系统中只允许安装一个版本的OBS Browser+工具。 不同局点提供的OBS Browser+工具可能支持的功能不一致。 因此,如果您想使用某一个局点的OBS请下载相应局点的OBS Browser+工具。
关于config的详细介绍,参见更新配置文件。 检查连通性 配置完成后,您可以通过如下方式检查连通性,确认配置是否无误。 Windows操作系统 obsutil ls -s macOS/Linux操作系统 ./obsutil ls -s 根据命令回显结果,检查配置结果: 如果返回结果中包含“Bucket
求助。接口参考文档详细介绍了每个接口的参数和使用方法。 从Eclipse官网下载并安装Eclipse IDE for JavaScript and Web Developer最新版本。 下载并安装支持HTML5标准的浏览器,例如Chrome 64。 父主题: 快速入门
使用前准备(Java SDK):完成服务环境和开发环境准备。 下载与安装SDK(Java SDK):下载SDK并完成安装。 创建桶 以下代码展示了创建一个名为examplebucket的桶,设置桶所在区域为华北-北京四,设置桶权限为私有,存储类别为标准存储,存储冗余类别为单AZ。了解更多请参见创建桶(Java
(可选)复制并行文件系统配置。 单击“选择源并行文件系统”后,可以在并行文件系统列表中选择一个源并行文件系统。确认选择后页面会自动复制源并行文件系统的以下配置信息:区域 / 数据冗余策略 / 策略 / 服务端加密 / 归档数据直读 / 企业项目 / 标签。 选择后您仍可以根据业务情况对复制的配置信息进行部分或全部更改。
比。 表1 OBS与自建存储服务器对比 对比项 OBS 自建存储服务器 数据存储量 提供海量的存储服务,在全球部署着N个数据中心,所有业务、存储节点采用分布式集群方式部署,各节点、集群都可以独立扩容,用户永远不必担心存储容量不够。 数据存储量受限于搭建存储服务器时使用的硬件设备,
本文档是否适用于union SDK? 本文档是与OBS SDK配套的参考文档,为了您能更好的使用Java SDK,推荐前往下载与安装SDK(Java SDK)下载最新版本的Java SDK。 父主题: 常见问题(Java SDK)
取消多段上传任务 √ - 并行文件系统权限配置 并行文件系统的权限配置与对象存储权限配置应用场景与主要功能一致,更多信息可参照权限配置指南。 与对象桶权限配置的主要差异说明 需要精确匹配指定目录时,策略中的资源路径需要以“/”结束。因为并行文件系统做权限检查时,判断被检查对象为目录
用户可以通过以下几种方式使用并行文件系统。 OBS桶的权限管理规则及权限要求同样适用于并行文件系统,用户在使用并行文件系统前需要确保具备OBS资源的访问权限。 表1 使用方式 方式 主要功能 相关链接 并行文件系统控制台 您可以在控制台创建并行文件系统,并进行查看、管理等基本操作。 创建并行文件系统 OBS
-o use_ino 其他挂载参数 并行文件系统名:输入待挂载的并行文件系统名称。 支持将并行文件系统中特定目录挂载到本地。用户使用此种方式挂载,进入本地挂载目录后,仅能访问并行文件系统中的特定目录。挂载命令如下: ./obsfs 并行文件系统名:/目录名 本地挂载目录 -o url=区域终端节点地址
SDK向OBS发起请求,您需要创建并初始化一个客户端,即一个ObsClient实例。 配置访问密钥 是 基于安全需要,您需要为客户端配置访问凭证以便服务端校验请求的合法性。 配置终端节点及其他选项 终端节点必选,其余配置项可选 为了快速创建和检索到您的资源,需要配置客户端的终端节点,即告知服务端资源所在的区域。 除
并行文件系统约束限制 操作限制 不支持将已有的OBS桶修改为并行文件系统,创建并行文件系统方法请参见创建并行文件系统。 不支持控制台设置并行文件系统的自定义域名,API设置方法参见设置自定义域名。 功能限制 暂不支持通过图片处理特性对存放在并行文件系统中的图片进行瘦身、缩放、添加水印等操作。
help,出现工具帮助信息则表示配置成功。 如果使用脚本自动配置完成后,执行命令obsutil help出现“'obsutil' 不是内部或外部命令,也不是可运行的程序或批处理文件”,则表明配置失败,请尝试手动配置方式。 方式二:手动配置 在cmd窗口中执行echo %PATH%命令查看当前系统已配置的
cOS和Linux操作系统的命令行工具,支持通过配置内网DNS服务器地址的方式,使在华为云上的Linux ECS通过内网直接访问OBS,下面将介绍其具体操作流程和操作步骤。 obsutil需通过公网下载,或者从其他可以访问公网的云服务器下载后传到当前云服务器安装。 前提条件 在登
Bad Request CustomDomainAreadyExist 配置了已存在的域。 已经配置过了,不需要再配置。 400 Bad Request CustomDomainNotExist 删除不存在的域。 未配置或已经删除,无需删除。 400 Bad Request EntityTooLarge
参数解释: 创建并行文件系统时指定数据冗余类型,即AZ类型。 约束限制: 归档和深度归档存储不支持多AZ。如果并行文件系统所在区域如果不支持多AZ存储,则该并行文件系统的存储类型默认为单AZ。 取值范围: 如果将并行文件系统配置为多AZ,则取值为3az。如果将并行文件系统配置为单AZ,则无需选择此选项,系统默认赋值。
创建并行文件系统(Go SDK) 功能介绍 OBS并行文件系统是对象的容器,您上传的文件都将以对象的形式存放在并行文件系统中。本文介绍如何使用GO SDK创建并行文件系统。 调用创建并行文件系统接口,将在当前账号按照用户指定的并行文件系统名创建一个新并行文件系统,接口支持根据用户
Spark是专为大规模数据处理而设计的快速通用的计算引擎。 前提条件 已安装Hadoop,具体请参见Hadoop对接OBS。 注意事项 为了减少日志输出,在/opt/spark-2.3.3/conf/log4j.properties文件中增加配置: log4j.logger.com.obs= ERROR
listBuckets(); 相关链接 关于并行文件系统的更多说明,请参见什么是并行文件系统。 获取并行文件系统列表过程中返回的错误码含义、问题原因及处理措施可参考OBS错误码。 列举并行文件系统常见问题请参见并行文件系统常见问题 父主题: 并行文件系统相关接口(Harmony SDK)