数智融合计算服务-什么是Fabric:产品架构
产品架构
Fabric提供高性能、高可靠、低时延、低成本的海量存储系统,与华为云的大数据服务组合使用,可大幅度降低成本,帮助企业简单快捷地管理大数据。
- 分布式Ray
Fabric支持分布式计算框架RAY,来帮助客户解决规模日益增大的数据处理和机器学习/深度学习任务对分布式计算的问题,也为数据工程和机器学习工程提供统一的完整Workflow。Fabric Ray支持Ray-Data、Ray-Train、Ray-Serve模块,分别满足分布式数据预处理、分布式训练、分布式模型推理服务的应用场景。
- 在线推理
Fabric提供自研的高性能弹性推理引擎,支持客户基于默认的推理服务下发推理作业,也支持客户独立部署自定义模型。
- 异构资源管理
Fabric支持CPU+NPU资源统一纳管、统一资源分配;资源调度粒度支持容器级和Actor级,并且支持安全沙箱来实现资源隔离、可靠容错。
- 多语义缓存加速
Fabric提供跨引擎、多模态、多语义加速,例如数据缓存、模型缓存、CheckPoint缓存。
![](https://support.huaweicloud.com/productdesc-fabric/figure/zh-cn_image_0000002156083541.png)