本文由AI智能模型生成,在自有数据的基础上,训练NLP文本生成模型,根据标题生成内容,适配到模板。内容仅供参考,不对其准确性、真实性等作任何形式的保证,如果有任何问题或意见,请联系contentedit@huawei.com或点击右侧用户帮助进行反馈。我们原则上将于收到您的反馈后的5个工作日内做出答复或反馈处理结果。
ModelBox
ModelBox为端边云统一AI应用开发框架,目的是让模型以统一的格式和接口更高效地运行。开发者在华为云AI开发生产线ModelArts上完成模型的训练和优化之后,使用ModelBox框架完成应用的开发,支持部署到端、边、云场景的不同设备中运行,打通行业AI应用落地最后一公里。
优势
高性能并发调度引擎
ModelBox中将所有的任务都以功能单元的形式封装,由多个功能单元构成一个完整的应用。执行时,功能单元的计算将统一由线程池并发调度,确保计算单元被分配到对应的异构硬件中执行。同时,计算中,数据和执行单元绑定,保证数据处理的合理分配和高吞吐量。
预制的应用编排异构计算组件
丰富的组件覆盖了主流芯片、多数操作系统和主流的推理框架,做到了屏蔽芯片层、操作系统、推理架构这三个层次的平台差异 。
端边云 AI 协同单元
框架中提供的端边云AI协同单元让开发者快速写出格式一致的AI应用,并结合场景需求一键部署到端边云不同的设备上运行。