检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置OBS客户端 您可通过OBSServiceConfiguration配置类对OBSClient进行配置,可配置代理、连接超时、最大连接数等参数。通过OBSServiceConfiguration可以设置的参数见下表: 表1 OBS网络请求配置表 参数 描述 建议值 OBSServiceConfiguration
counts 用户 桶 域名 1分钟 request_success_rate 请求成功率 该指标用于衡量存储服务的系统的可用性。非服务端错误请求(返回状态码为5xx)占总请求的百分比,计算方式: (1-5XX数量/总请求数量)*100% 单位:% ≥ 0,≤100 用户 桶 接口
可在配置文件中通过recordMaxLogSize和recordBackups分别配置。 当涉及多文件/文件夹时,如需确认失败任务的具体错误信息,可参考结果清单文件夹下的失败结果清单文件"cp_failed_report_时间_TaskId.txt"及日志路径下的日志文件。 config
可在配置文件中通过recordMaxLogSize和recordBackups分别配置。 当涉及多文件/文件夹时,如需确认失败任务的具体错误信息,可参考结果清单文件夹下的失败结果清单文件"cp_failed_report_时间_TaskId.txt"及日志路径下的日志文件。 config
D5值,提供给OBS服务端用于校验数据完整性。 分段号的范围是1~10000。如果超出这个范围,OBS将返回400 Bad Request错误。 OBS 3.0的桶支持最小段的大小为100KB,OBS 2.0的桶支持最小段的大小为5MB。请在OBS 3.0的桶上执行分段上传操作。
OBS会将服务端收到段数据的ETag值(段数据的MD5值)返回给用户。 分段号的范围是1~10000。如果超出这个范围,OBS将返回400 Bad Request错误。 OBS 3.0的桶支持最小段的大小为100KB,OBS 2.0的桶支持最小段的大小为5MB。请在OBS 3.0的桶上执行分段上传操作。
可在配置文件中通过recordMaxLogSize和recordBackups分别配置。 当涉及多文件/文件夹时,如需确认失败任务的具体错误信息,可参考结果清单文件夹下的失败结果清单文件"chattri_failed_report_时间_TaskId.txt"及日志路径下的日志文件;
Hadoop对接OBS 概述 Hadoop系统提供了分布式存储、计算和资源调度引擎,用于大规模数据处理和分析。OBS服务实现了Hadoop的HDFS协议,在大数据场景中可以替代Hadoop系统中的HDFS服务,实现Spark、MapReduce、Hive等大数据生态与OBS服务的对接,为大数据计算提供“数据湖”存储。
可在配置文件中通过recordMaxLogSize和recordBackups分别配置。 当涉及多文件/文件夹时,如需确认失败任务的具体错误信息,可参考结果清单文件夹下的失败结果清单文件"chattri_failed_report_时间_TaskId.txt"及日志路径下的日志文件。
ObsClient初始化(Go SDK) 功能说明 ObsClient是访问OBS服务的Go客户端,它为调用者提供一系列与OBS服务进行交互的接口,用于管理、操作桶(Bucket)和对象(Object)等OBS服务上的资源。使用OBS Go SDK向OBS发起请求,您需要初始化一