华为云计算 云知识 基于历史的大数据作业优化系统案例
基于历史的大数据作业优化系统案例

基于历史的 大数据 作业优化系统:提升大数据作业效率,降低成本

单创是一家为国际优质品牌提供中国市场 一体化 孵化、管理及运营的综合性品牌管理公司。随着业务的发展,单创积累了大量的数据,但同时也面临着离线计算集群几乎全天处于用满的问题,以及在计算高峰时段存在大量挂起的情况。为了解决这些问题,单创引入了一款名为lcc-optimizer的大数据作业优化系统。

lcc-optimizer是一款基于历史数据的大数据作业优化系统,旨在帮助大数据团队充分优化现有大数据作业。该系统以低侵入的方式提升作业执行效率,提高资源利用率30%以上。通过对大数据作业运行参数进行自动调优,lcc-optimizer能够在保证作业稳定运行的前提下,提高作业的执行效率,从而进一步缩减成本。

连连支付是中国跨境支付综合服务行业的引领者,为全球众多 跨境电商 平台与店铺提供服务。连连支付依赖于多个大规模的离线计算集群来支持其业务。为了提高集群的整体使用效率,连连支付也选择了使用lcc-optimizer这款大数据作业优化系统。

通过对离线大数据任务进行 自动化 参数调优,lcc-optimizer能够实现每个集群每天数千任务的自动优化。在实施过程中,用户无需人工干预和手动调优,对用户系统和平台无侵入。此外,lcc-optimizer还具备任务黑白名单、自动隔离、失败重试等机制,确保了任务执行的稳定性和正确性。

使用lcc-optimizer后,连连支付的系统和收益表现稳定。客户反馈称,lcc-optimizer的实施过程非常顺利,降本收益非常不错。lcc-optimizer的自动化参数调优功能,使得大数据作业的执行效率得到了显著提升,同时也降低了成本。

总结起来,基于历史的大数据作业优化系统(lcc-optimizer)是一款能够帮助企业充分优化现有大数据作业的产品。通过自动调优作业运行参数,提高作业执行效率,提高资源利用率,从而降低成本。无论是单创还是连连支付,都通过使用lcc-optimizer取得了显著的效果,提升了大数据作业的执行效率,实现了降本增效的目标。

本服务提供商:贝联珠贯科技(浙江)有限公司

企业通用专区

华为云联合生态伙伴,共同打造丰富多彩的精品应用。软件、协同办公、财税费控、人力资源、营销获客、电商零售、技术支撑、全应用场景商品满足企业多样化业务需求。

 

上一篇:a1应用仿真测试系统案例 下一篇:制造执行系统ifactory案例
免费体验 90+云产品,快速开启云上之旅