数智融合计算服务-什么是Fabric:产品架构

时间:2025-02-12 15:01:14

产品架构

Fabric提供高性能、高可靠、低时延、低成本的海量存储系统,与华为云的大数据服务组合使用,可大幅度降低成本,帮助企业简单快捷地管理大数据。

  • 分布式Ray

    Fabric支持分布式计算框架RAY,来帮助客户解决规模日益增大的数据处理和机器学习/深度学习任务对分布式计算的问题,也为数据工程和机器学习工程提供统一的完整Workflow。Fabric Ray支持Ray-Data、Ray-Train、Ray-Serve模块,分别满足分布式数据预处理、分布式训练、分布式模型推理服务的应用场景。

  • 在线推理

    Fabric提供自研的高性能弹性推理引擎,支持客户基于默认的推理服务下发推理作业,也支持客户独立部署自定义模型。

  • 异构资源管理

    Fabric支持CPU+NPU资源统一纳管、统一资源分配;资源调度粒度支持容器级和Actor级,并且支持安全沙箱来实现资源隔离、可靠容错。

  • 多语义缓存加速

    Fabric提供跨引擎、多模态、多语义加速,例如数据缓存、模型缓存、CheckPoint缓存。

图1 产品架构图
support.huaweicloud.com/productdesc-fabric/dataartsfabric_01_0002.html