本文由AI智能模型生成,在自有数据的基础上,训练NLP文本生成模型,根据标题生成内容,适配到模板。内容仅供参考,不对其准确性、真实性等作任何形式的保证,如果有任何问题或意见,请联系contentedit@huawei.com或点击右侧用户帮助进行反馈。我们原则上将于收到您的反馈后的5个工作日内做出答复或反馈处理结果。
基于历史的 大数据 作业优化系统:提升大数据作业效率,降低成本
单创是一家为国际优质品牌提供中国市场 一体化 孵化、管理及运营的综合性品牌管理公司。随着业务的发展,单创积累了大量的数据,但同时也面临着离线计算集群几乎全天处于用满的问题,以及在计算高峰时段存在大量挂起的情况。为了解决这些问题,单创引入了一款名为lcc-optimizer的大数据作业优化系统。
lcc-optimizer是一款基于历史数据的大数据作业优化系统,旨在帮助大数据团队充分优化现有大数据作业。该系统以低侵入的方式提升作业执行效率,提高资源利用率30%以上。通过对大数据作业运行参数进行自动调优,lcc-optimizer能够在保证作业稳定运行的前提下,提高作业的执行效率,从而进一步缩减成本。
连连支付是中国跨境支付综合服务行业的引领者,为全球众多 跨境电商 平台与店铺提供服务。连连支付依赖于多个大规模的离线计算集群来支持其业务。为了提高集群的整体使用效率,连连支付也选择了使用lcc-optimizer这款大数据作业优化系统。
通过对离线大数据任务进行 自动化 参数调优,lcc-optimizer能够实现每个集群每天数千任务的自动优化。在实施过程中,用户无需人工干预和手动调优,对用户系统和平台无侵入。此外,lcc-optimizer还具备任务黑白名单、自动隔离、失败重试等机制,确保了任务执行的稳定性和正确性。
使用lcc-optimizer后,连连支付的系统和收益表现稳定。客户反馈称,lcc-optimizer的实施过程非常顺利,降本收益非常不错。lcc-optimizer的自动化参数调优功能,使得大数据作业的执行效率得到了显著提升,同时也降低了成本。
总结起来,基于历史的大数据作业优化系统(lcc-optimizer)是一款能够帮助企业充分优化现有大数据作业的产品。通过自动调优作业运行参数,提高作业执行效率,提高资源利用率,从而降低成本。无论是单创还是连连支付,都通过使用lcc-optimizer取得了显著的效果,提升了大数据作业的执行效率,实现了降本增效的目标。
本服务提供商:贝联珠贯科技(浙江)有限公司