温馨提示
恭喜您,订阅成功!
温馨提示
抱歉,订阅失败,请稍后再试!
温馨提示
您还未绑定邮箱,需要绑定邮箱才能订阅哦!订阅成功后,订阅信息会发送到您绑定的邮箱。
温馨提示
请您在新打开的页面绑定邮箱!
注意:绑定邮箱完成前,请不要关闭此窗口!

背景介绍

跨越星空科技成立于2021年,是一家操作大模型(Action Transformer)公司,旗下模型产品iMean.ai可以理解人的自然语言意图,并代替人执行一系列操作,从而成为每个人的软件操作Agent。


公司处于创业早期,加速应用的商业化落地是公司发展最关注的问题,在这个公司成长的关键期,跨越星空于2023年加入华为云初创计划,华为云辅助其对接头部银行等资源,通过1V1行业场景应用探讨,辅助跨越星空成功找到行业赛道PMF。未来双方将继续探寻在不同行业领域的商业机会,共同为各行各业的优秀企业提供数字化解决方案。


跨越星空自成立以来,连续获得多轮顶级资本投资,核心研发团队包括海外大厂多模态人工智能首席等产业、学术专家。目前已经被应用于金融、通信、政务等行业,在多家500强级别客户落地实际应用,积累了一整套从数据到模型再到训练的完备体系,领跑行业发展。

业务挑战

高并发压力

随着客户数量的快速增长和任务处理的复杂度增加,系统面临前所未有的高并发压力。尤其是在某些特定的高峰期,大量的自动化任务几乎同时被触发,导致系统延迟,甚至有时可能出现短暂的服务中断。

可用性保证

在之前系统部署的结构中,一旦某个关键组件出现问题,可能会影响整个服务的可用性。公司迫切需要一个更加强大且容错率高的云基础设施,以及更先进的故障恢复策略。

资源调度瓶颈

在传统的部署方式中,资源的调配和扩展往往需要手动干预,不仅耗费时间,而且在快速变化的业务环境中容易导致资源瓶颈。公司需要一个能够自动、实时地调整资源以满足不断变化的业务需求的解决方案,以更好地服务客户。

解决方案

华为云ELB承载高流量,确保服务连续性

iMean.ai 的自动化操作软件面临大量并发请求,尤其在高峰期。为了应对这一挑战,跨越星空采用了华为云ELB(Elastic Load Balancing )服务。ELB能够自动分配应用程序流量,帮助确保其客户应用程序的高可用性和容错性方面提供了独特的价值的同时,给客户带来了更好的 iMean.ai 使用体验。

华为云的容器服务ACK与Kubernetes结合,实现高效的微服务管理

iMean.ai 的大语言模型自动化操作软件基于微服务架构设计,为了给我们的客户提供更稳定的微服务,我们在华为云的容器服务ACK(App Container Service for Kubernetes)上部署了Kubernetes。结合了华为云的高效硬件和Kubernetes强大的容器编排功能,确保我们的客户在使用我们的微服务时,如果出现什么问题可以自动恢复的同时,我们还可以对微服务进行轻松扩展,进一步保证了我们的客户使用 iMean.ai 的可用性。

华为云ACK与Kubernetes共同优化资源分配

随着业务的快速增长,灵活和高效的资源调度成为了一个关键需求。华为云ACK和Kubernetes的强大调度和管理能力,能够确保在高峰期提供足够的资源的同时,在需求减少时释放不必要的资源,为客户提供更好的 iMean.ai 服务的同时实现成本优化,帮助客户在软件使用方面进一步实现真正的降本增效。

客户价值

  • 超高并发应对,系统延迟减少90%

    自 iMean.ai 上华为云后,系统平均响应延迟由原先的50秒减少至5秒,大语言模型的自动化操作软件能够更加迅速地响应我们的用户的请求。帮助我们确保无论面对多大的用户并发量,都能为我们的用户提供流畅的体验。

    自 iMean.ai 上华为云后,系统平均响应延迟由原先的50秒减少至5秒,大语言模型的自动化操作软件能够更加迅速地响应我们的用户的请求。帮助我们确保无论面对多大的用户并发量,都能为我们的用户提供流畅的体验。

  • 资源调度高效,项目交付时间缩短50%

    利用华为云ACK与Kubernetes的高效资源调度功能,iMean.ai 的项目开发和部署速度得到了显著的提高,新项目的平均交付时间从6个月缩短至3个月。快速交付项目的同时,助力客户快速实现业务价值。

    利用华为云ACK与Kubernetes的高效资源调度功能,iMean.ai 的项目开发和部署速度得到了显著的提高,新项目的平均交付时间从6个月缩短至3个月。快速交付项目的同时,助力客户快速实现业务价值。

  • 辅助链接资源及场景,明确PMF

    通过华为云链接行业资源并进行行业场景应用探讨,PMF选定金融和电信等重点行业,最终落地多家世界500强银行和国内头部电信公司的合作。同时,跨越星空通过华为云强大的技术赋能和全球生态资源网络,也在加速海外市场布局。

    通过华为云链接行业资源并进行行业场景应用探讨,PMF选定金融和电信等重点行业,最终落地多家世界500强银行和国内头部电信公司的合作。同时,跨越星空通过华为云强大的技术赋能和全球生态资源网络,也在加速海外市场布局。

客户声音

华为云不仅仅是一个云服务提供商,还是我们助力客户数智化转型和大模型创新的重要伙伴。在华为云的多元化产品和服务的协助下,iMean.ai 成功地将先进的AI技术无缝融合到业务流程中,进一步巩固了我们在AI领域的领先地位。与华为云的紧密合作,无疑为我们在未来市场中继续领跑、创新和拓展的重要后盾。


跨越星空科技创始人&CEO 尚晏仪