AI应用开发全景

ModelBox是在AI应用开发的“推理阶段”使用的高性能开发框架

开源镜像开发

ModelBox AI应用开发

ModelBox是一套专门为AI开发者提供的易于使用,高效,高扩展的AI推理开发框架,它可以帮助AI开发者快速完成从模型文件到AI推理应用的开发和上线工作,降低AI算法落地门槛,同时带来AI应用的高稳定性和极致性能。


  • 基于ModelBox开源社区源码开发AI应用


  • 基于华为云ModelArts平台开发ModelBox AI应用


  • 基于HiLens平台提供的ModelBox SDK开发AI应用


开发方式介绍

活动规则

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

活动时间: 2020年8月12日-2020年9月11日

活动期间,华为云用户通过活动页面购买云服务,或使用上云礼包优惠券在华为云官网新购云服务,累计新购实付付费金额达到一定额度,可兑换相应的实物礼品。活动优惠券可在本活动页面中“上云礼包”等方式获取,在华为云官网直接购买(未使用年中云钜惠活动优惠券)或参与其他活动的订单付费金额不计入统计范围内;

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

活动时间: 2020年8月12日-2020年9月11日

活动期间,华为云用户通过活动页面购买云服务,或使用上云礼包优惠券在华为云官网新购云服务,累计新购实付付费金额达到一定额度,可兑换相应的实物礼品。活动优惠券可在本活动页面中“上云礼包”等方式获取,在华为云官网直接购买(未使用年中云钜惠活动优惠券)或参与其他活动的订单付费金额不计入统计范围内;

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

活动时间: 2020年8月12日-2020年9月11日

活动期间,华为云用户通过活动页面购买云服务,或使用上云礼包优惠券在华为云官网新购云服务,累计新购实付付费金额达到一定额度,可兑换相应的实物礼品。活动优惠券可在本活动页面中“上云礼包”等方式获取,在华为云官网直接购买(未使用年中云钜惠活动优惠券)或参与其他活动的订单付费金额不计入统计范围内;

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

ModelBox开源镜像

ModelArts云上镜像

HiLens SDK

建议使用场景

自有开发服务器,熟悉容器开发环境

登录华为云账号,使用ModelArts平台开发环境,商用方案开发

已有开发硬件或希望构建端侧应用场景

部署环境

自有服务器,需支持GPU或Ascend加速卡

无特殊限制的开发设备,远程连接到云上环境

ModelBox端云协同AI开发套件

IDE

本地终端或VSCode

本地终端或VSCode远程连接

本地终端或VSCode连接到开发套件

支持的平台

CPU,GPU,Ascend NPU

CPU,GPU,Ascend NPU

RK系列设备,PC(Win10以上)

费用

按云上资源收费,查看详情

HiLens运行服务收费,查看详情

建议使用场景

ModelBox开源镜像

自有开发服务器,熟悉容器开发环境

ModelArts云上镜像

登录华为云账号,使用ModelArts平台开发环境,商用方案开发

HiLens SDK

已有开发硬件或希望构建端侧应用场景

部署环境

ModelBox开源镜像

自有服务器,需支持GPU或Ascend加速卡

ModelArts云上镜像

无特殊限制的开发设备,远程连接到云上环境

HiLens SDK

ModelBox端云协同AI开发套件

IDE

ModelBox开源镜像

本地终端或VSCode

ModelArts云上镜像

本地终端或VSCode远程连接

HiLens SDK

本地终端或VSCode连接到开发套件

支持的平台

ModelBox开源镜像

CPU,GPU,Ascend NPU

ModelArts云上镜像

CPU,GPU,Ascend NPU

HiLens SDK

RK系列设备,PC(Win10以上)

应用场景介绍

结合油气行业应用场景,介绍ModelBox应用开发框架

ModelBox加速跨平台高性能AI应用开发和落地
AI应用开发到推理部署阶段仍面临难题

应用场景纷繁复杂,难以兼顾AI应用的精度、性能及开发周期,存在以下落地挑战:

(1)部署场景复杂。

(2)异构计算平台多。

(3)API接口不统一。

ModelBox打通AI应用落地最后一公里

ModelBox让模型以统一的格式和接口更高效地运行,给开发者提供以下能力:

(1)开发者无需关注底层开发。

(2)聚焦核心业务逻辑。

(3)提升AI应用开发效率。

开发示例

ModelBox图编排开发模式开发示例

开发者精选文章

开发者上手指南、最佳实践、精华文章

精选活动

精选活动

活动规则
距下场直播还有 
5月31日 (周一) 19:00

直播:隔空作画

绘制你的专属画作

使用ModelBox框架进行手部检测及手部关键点检测,通过指尖作画。

6月30日 (周三) 19:00

活动:开发体验官

免费体验ModelBox AI开发套件

报名免费领取ModelBox AI开发套件(RK3568)

9月14日 (周二) 16:00

直播:体感小游戏

自行开发PC上的AI小游戏

使用ModelBox框架进行人体关键点检测,并进行小游戏开发。

9月5日 (周日) 00:00

【DevRun AI应用开发】ModelBox实战营

2022年09月05日~2022年10月15日,线上学习+直播实践课

  • 5月31日 19:00
    直播:隔空作画绘制你的专属画作
    前往查看
  • 6月30日 19:00
    活动:开发体验官免费体验ModelBox AI开发套件
    前往查看
  • 9月14日 16:00
    直播:体感小游戏自行开发PC上的AI小游戏
    前往查看
  • 9月5日 00:00
    【DevRun AI应用开发】ModelBox实战营
    前往查看

常见问题

常见问题

活动规则

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

活动时间: 2020年8月12日-2020年9月11日

活动期间,华为云用户通过活动页面购买云服务,或使用上云礼包优惠券在华为云官网新购云服务,累计新购实付付费金额达到一定额度,可兑换相应的实物礼品。活动优惠券可在本活动页面中“上云礼包”等方式获取,在华为云官网直接购买(未使用年中云钜惠活动优惠券)或参与其他活动的订单付费金额不计入统计范围内;

  • 什么是ModelBox,ModelBox有什么功能?

    ModelBox是一个AI应用的推理框架,中文名称为"模盒"或“模核。ModelBox通过编排和插件化的形式支持AI应用的开发,支持的数据有视频,音频,语音,文本,通用数据的编排处理。

  • 相比直接调用底层API开发AI业务,ModelBox有什么优势?

    ModelBox主要聚焦解决AI应用开发的问题,相比直接调用底层API,开发者需要关注每个底层的API使用方法,关注并发,关注GPU,NPU设备编程接口,关注TensorRT,TensorRT等推理框架的编程API,与云计算结合的接口,和分布式通信,日志等琐碎而复杂的周边代码。

    ModelBox解决的就是业务开发的周边问题,将周边问题交由ModelBox处理,ModelBox通过对内存,CPU,GPU,周边组件的精细化管理,使AI推理业务开发更高效,性能也更高,质量也更好。

  • ModelBox目前支持哪些框架训练的模型(TensorFlow、Caffe、LibTorch、MindSpore等)

    ModelBox框架里面包含了支持TensorFlow, Caffe, LibTorch、MindSpore模型运行所需的功能单元Flowunit,我们称为推理功能单元(Inference Flowunit),这些推理功能单元可以直接加载对应的模型文件,而不需要编写代码,只需提供一个简单的配置文件,即可将模型引入到ModelBox的流程中。目前支持的模型有TensorFlow, TensorRT, Ascend ACL模型。

  • ModelBox跟华为云ModelArts、HiLens服务的关系?

    ModelBox是由华为云开发并开源的AI应用开发框架。

    华为云ModelArts服务在线开发环境Notebook中,提供了ModelBox AI应用开发镜像,方便开发者可选用后便捷在线开发,开发完成后可在线部署到云上。

    华为云HiLens服务基于ModelBox源码,提供了适用在多种端侧设备的ModelBox SDK,方便开发者开发运行在这类设备上的AI应用,且在设备注册后,可以在HiLens管理控制台上在线部署到设备上运行。