通常,简单的嵌入式边缘设备通过应用环境中的传感器采集数据,并将数据传输到云端,由云基础设施中的人工智能系统对数据进行分析和推理。但随着物联网实施过程中对实时决策的需求不断增长,对连接和数据处理的需求也在增加,而且不可能总是将所有的数据都传输到云端进行人工智能处理。此文旨在探讨在边缘部署人工智能如何能够提高物联网的运作和实施效率并降低成本。
探索物联网解决方案中的人工智能,解锁无限潜能
人工智能技术包括机器学习、预测分析和神经网络等多种技术。采集自边缘设备的数据会被标记,然后由数据工程师准备好管道将其输入数据模型。这些工程师拥有围绕大数据创建软件解决方案的专业技能。擅长数学、统计学以及C和C++等编程语言的数据科学家利用针对各种已知应用程序进行了微调的机器学习算法创建人工智能模型。这些模型最终以神经网络、决策树或推理规则集等不同的形式呈现。
机器学习分为监督学习和无监督学习两种。无监督学习(只提供输入变量,没有相应的输出变量)可以帮助开发者更透彻地解读数据,而监督学习则是大多数实用机器学习的基础。在监督机器学习的训练阶段,需要挖掘大量的数据流,以通过多重计算提取有用的模式或推论,从而做出预测。
在人工智能的应用阶段,可以通过Tensorflow等标准框架,将自边缘设备采集的数据输入从可用数据模型中选出的模型。建模过程需要相当强大的数据处理能力,通常云站点和大型数据中心等核心节点位置才具备这样的处理能力。
在部署阶段,一切开始变得有趣。比如,边缘设备可以从共享资源库访问与所选模型相关的软件包,而不必过多依赖于云。在健康监测等领域,边缘计算可以让需要针对用户进行无监督机器学习的可穿戴设备获益颇多。此外,在未经事先学习的情况下,定制的应用程序若要实现迅速推理,通常需要极高的数据处理能力作为支撑,而这正是边缘人工智能的专长所在。
在大多数情况下,由于受技术或能耗的限制,数据不可能全都传输到人工智能所在的云。例如语音或视频识别等应用,需要立即对内容进行辨识并做出推论,而且不能出现通信延迟。在有些情况下,部署无法提供稳定的连接,因此需要一种可扩展的混合架构,将所需的模型构建在云上但推理任务在边缘执行。这种方式只需将少量数据传输到核心节点位置,从而能够优化带宽效率并降低延时、提高响应速度。
如何部署边缘人工智能
典型的边缘人工智能模型的基本组成部分包括:用于捕捉传感器数据的硬件和软件,不同应用场景下的训练模型所使用的软件,以及在物联网设备上运行人工智能模型的应用软件。在边缘设备上运行的微服务软件负责根据用户的要求启动边缘设备上的人工智能程序包。在边缘设备内,用到的是在训练阶段确定的特征选择和特征变换。这些模型可以定制为合适的功能组合,这些功能组合可以扩展为包含聚合和工程特性。
智能边缘设备部署在带宽窄且网络连接断断续续的电池供电应用中。因而边缘设备制造商正在构建这样的传感器,它们具有集成处理和存储功能,采用BLE、Lora和NB-IoT等被广泛使用的低速通信协议,占用空间小且功耗低。
让物联网富有智慧,边缘人工智能优势凸显
虽然此类设计的复杂性可能会使边缘设备变得昂贵,但它所带来的裨益远远超出了相关成本。
除了实时快速响应之外,边缘人工智能还具有诸多的显著优势,比如边缘设备本身更高的安全性以及在网络间往返传输的数据较少等。由于每个应用程序都构建了定制的解决方案,因而边缘人工智能非常灵活。边缘设备当中预置了推断功能,因此对操作和维护技能的要求比较低。
在边缘计算中,开发人员还可以将一些复杂的操作转移到由本地网络中的边缘处理器(如路由器、网关和服务器)执行,从而将计算分布到整个网络当中。由于数据在本地存储以及智能也在本地引入,这些边缘处理器具有良好的操作可靠性,这有助于在连接时断时续或没有网络连接的区域进行部署。
一般而言,通过构建机器学习模型来解决挑战是十分复杂的事情。开发者必须管理海量的模型训练数据,选择可以实施的最佳算法并管理训练模型的云服务等。然后,应用程序开发者使用Python等编程语言将模型部署到生产环境当中。智能边缘设备制造商将会发现,投入资源从零开始在边缘实施人工智能异常艰难。
但是,安富利的SmartEdge Agile等设备为智能边缘设备制造商们带来了福音。SmartEdge Agile物联网设备搭载了各种类型的传感器,并且内置人工智能软件栈。通过Brainium和微软的Azure Sphere等相关开发平台和软件工作室,用户能够利用现成的人工智能算法数据库实现监督和无监督机器学习,且无需编写任何代码就能将模型部署到设备。他们还可以创建多种小程序来实时查看传感器给出的数值,并对这些数据进行保存以备将来使用。
的确,人工智能会让本已十分复杂的物联网空间变得更加复杂,而边缘人工智能更是让物联网的复杂度翻倍。但是借助合适的平台和合作伙伴的支持,开发者便可以驾驭这一复杂性,并实现远远超越语音识别和指纹识别的创新。