HiLens平台支持部署容器镜像和软件包格式的AI应用。HiLens管理控制台专业版可下载miniSDK、ModelBox SDK等工具和插件，开发者可按需下载和使用来开发AI应用。

• HiLens miniSDK

  开发者可下载HiLens miniSDK并打包到镜像中，实现对镜像的License管理（如时长限制）、模型加解密功能（需连云）。

• Modelbox SDK

  开发者可以选择基于ModelBox框架进行推理代码开发，完成后可以打包为RPM包或镜像，即可通过HiLens平台将算法在线部署到已注册的设备上运行。

ModelBox为端边云统一AI应用开发框架，目的是让模型以统一的格式和接口更高效地运行。开发者在华为云AI开发生产线ModelArts上完成模型的训练和优化之后，使用ModelBox框架完成应用的开发，支持部署到端、边、云场景的不同设备中运行，打通行业AI应用落地最后一公里。

• 高性能并发调度引擎

  ModelBox中将所有的任务都以功能单元的形式封装，由多个功能单元构成一个完整的应用。执行时，功能单元的计算将统一由线程池并发调度，确保计算单元被分配到对应的异构硬件中执行。同时，计算中，数据和执行单元绑定，保证数据处理的合理分配和高吞吐量。

• 预制的应用编排异构计算组件

  丰富的组件覆盖了主流芯片、多数操作系统和主流的推理框架，做到了屏蔽芯片层、操作系统、推理架构这三个层次的平台差异 。

• 端边云 AI 协同单元

  框架中提供的端边云AI协同单元让开发者快速写出格式一致的AI应用，并结合场景需求一键部署到端边云不同的设备上运行。

从云上HiLens平台在线将AI应用部署到带一定AI算力的边缘设备上，比如带AI加速卡（GPU或NPU）的边缘智能盒子或服务器。AI应用使用轻量级边缘AI设备即可完成AI应用的模型推理和逻辑计算，在云上管理控制台进行实时监管与运维。

• 设备利旧，更低TCO

  边缘智能设备提供AI推理能力，兼容RTSP格式流的IPC摄像头，无须新购摄像头。

• 极致AI推理性能

  算法通过开源框架ModelBox进行开发，快速迁移至轻量级设备，并通过资源智能调度实现高性能计算。

• 算法扩展性强，易维护

  AI算法一键下发，灵活增加；模型配置参数可在线调整，提升算法能力；算法远程升级，业务秒级恢复。

结合端侧推理时延低、边缘算力和准确率较高的优势，将一个AI应用中的多个AI模型进行拆分，通过云上HiLens平台将得到的多个AI应用分别部署到端侧摄像头与轻量级边缘设备上进行AI推理，通过业务逻辑充分协调与使用硬件计算能力，平衡低时延与高精度，实现整体方案的降本增效。

• 灵活部署

  可根据硬件能力与用户场景，在线将合适的AI应用部署到对应设备上，并远程调整AI各种阈值参数，直至模型达到最优。

• 统一接口管理

  HiLens平台提供北向接口，统一管理端侧与轻量级边缘设备，节省业务对接开发量。

• 本地管理

  在线部署后可设备可离线运行，HiLens提供本地管理接口，可进行设备的基础查询与运维。