边缘云创新Lab在国际开源顶会Open Source Summit Japan分享边云协同AI应用成果
2022年12月5日, 边缘云创新Lab在国际开源顶会Open Source Summit (OSS) Japan分享边云协同AI应用成果,演讲题目为From Groud to Space: Cloud-Native Edge Machine-Learning Case Studies with Kubeedge-Sedna,主要讲解KubeEdge-Sedna边云协同终身学习和边云协同推理的创新应用。
智能机器人感知
四足机器人被越来越多地用于现代生活,尤其在巡检、递送场景中发挥重要作用,帮助充分减少人工投入。众所周知,机器人的室外任务依赖Simultaneous localization and mapping(SLAM)技术实现导航和定位,其中激光SLAM最为广泛应用。但激光SLAM技术的缺点是无法探测低矮障碍物,比如马路牙子和斜坡等,导致机器人容易被低矮障碍物绊倒,甚至导致任务中断。因此视觉SLAM,尤其AI视觉SLAM能够增强机器人对环境的感知能力,识别出低矮障碍,使机器人做出正确的避让决策。
但在实际的递送实践中,四足机器人AI视觉感知遭遇以下挑战:
•机器人本体资源不足。比如无法部署GPU,导致推理速度慢,机器人来不及做避让决策;
•数据异构问题导致AI模型失效。比如,当机器人进入新环境,推理图片和训练图片存在较大程度异构,AI模型无法很好地识别到前方低矮障碍;
•边侧数据不足,无法训练一个高精度AI模型。比如,机器狗从新环境收集了一些新样本,由于自身存储资源限制导致新样本数目较少,样本质量差,无法支撑新环境AI模型的训练。
为了解决以上挑战,我们在演讲中分享了基于Kubeedge-Sedna的边云协同终身学习系统,创新性地实现未知任务识别和处理。解决思路如下:
•边侧(四足机器人)
未知任务识别:识别出未知任务样本(异构数据),通知机器人暂停(避免摔倒),同时将未知任务样本上云;
未知任务在线处理:实时处理未知任务样本,而不是让机器人原地等待新模型训练完毕再往前走。可采取的处理方法有:通知人工介入、遥操作等。
•云侧
未知任务训练:将上云的未知任务样本打标并训练。采用多任务学习和迁移学习方法,以少样本实现高精度模型,减少人工打标工作量,使未知样本变成已知样本。
Demo表明,对比不配置未知任务识别和未知任务处理的方案,Kubeedge-Sedna的边云协同终身学习系统显著提升了机器人的任务质量,减少机器人摔倒。
基于Sedna的边云协同终身学习系统架构
云原生卫星农田检测
遥感卫星执行农田资产盘点任务时,需基于观测的图像,估算农田作物在全国的实际种植面积。但实际部署遇到以下挑战
• 带宽利用率低:由于误码存在需3倍数据的冗余传输。卫星下行带宽有限,边侧部署能支持更多应用;
• 能量利用率低:数据传输是卫星上最耗电的部分,边侧部署有助于降低数据传输并节约能量;
• 检测精度低:卫星上受限于空间、能耗等因素,无法部署GPU卡(或者会对卫星的体积和能耗提出更高要求)。当前计算性能较弱、推理时间慢,针对卫星的高清图片无法很好的进行识别。
为了解决遥感卫星执行AI推理任务的以上挑战,我们在演讲中分享了基于Sedna的边云协同推理系统。解决思路如下:
• 部署边云协同AI模型。边侧(遥感卫星)部署小模型,云侧(地面GPU服务器)部署大模型;
• 难例上云。边侧小模型推理置信度不满足要求,则将样本送到云上大模型推理。
基于Sedna的边云协同云原生卫星推理架构
测试结果表明,模型精准率和召回率高达99%,实现以下业务收益:提升面积统计率、降低卫星能耗、降低星地传输通信量、降低传输成本等。
Open Source Summit Japan 介绍
Open Source Summit(前身为LinuxCon)是Linux基金会自2009年以来每年组织的一系列年度大会,峰会举办地主要在北美、欧洲和日本。越来越多的开源专家、技术专家和信息技术领域的开发人员在该峰会讨论对技术领域的计划,并宣布重大新闻,使得该峰会在技术领域拥有强大号召力和影响力。据统计,每年OSS proposal录用率约为30%。
OSS演讲视频:https://www.youtube.com/watch?v=bIaeWGelsJE
Sedna项目地址:https://github.com/kubeedge/sedna