华为云计算 云知识 华为HiLensModelBox开发框架
华为HiLensModelBox开发框架

ModelBox

ModelBox为端边云统一AI应用开发框架,目的是让模型以统一的格式和接口更高效地运行。开发者在华为云AI开发生产线ModelArts上完成模型的训练和优化之后,使用ModelBox框架完成应用的开发,支持部署到端、边、云场景的不同设备中运行,打通行业AI应用落地最后一公里。

优势

高性能并发调度引擎

ModelBox中将所有的任务都以功能单元的形式封装,由多个功能单元构成一个完整的应用。执行时,功能单元的计算将统一由线程池并发调度,确保计算单元被分配到对应的异构硬件中执行。同时,计算中,数据和执行单元绑定,保证数据处理的合理分配和高吞吐量。

预制的应用编排异构计算组件

丰富的组件覆盖了主流芯片、多数操作系统和主流的推理框架,做到了屏蔽芯片层、操作系统、推理架构这三个层次的平台差异 。

端边云 AI 协同单元

框架中提供的端边云AI协同单元让开发者快速写出格式一致的AI应用,并结合场景需求一键部署到端边云不同的设备上运行。

建议搭配使用:ModelArts 对象存储服务 OBS

华为HiLensModelBox开发框架

华为云

面向未来的智能世界,数字化是企业发展的必由之路。数字化成功的关键是以云原生的思维践行云原生,全数字化、全云化、AI驱动,一切皆服务。

华为云将持续创新,携手客户、合作伙伴和开发者,致力于让云无处不在,让智能无所不及,共建智能世界云底座。

 
 

上一篇:图引擎服务知识图谱应用 下一篇:数据库和应用迁移 UGO传统商业数据库迁移
免费体验 90+云产品,快速开启云上之旅