{{ title }}
{{ errorMessage }}


{{ errorMessage }}





{{ registerSuccessMessage }}
当前位置: 首页> 技术应用> 正文 
收藏
点赞
投稿
嵌入式系统中机器学习的好处与技术
  2022-09-29   

作者:V Srinivas Durga Prasad   Softnautics高级营销主管

来源:Embedded Computing Design

由于计算机架构的革命性发展以及人工智能和机器学习应用的突破性进展,嵌入式系统技术正在经历一个转型期。

根据设计,机器学习模型使用大量的资源,需要强大的计算机基础设施。因此,它们通常在具有更多资源的设备上运行,如个人电脑或云服务器,在那里数据处理是有效的。由于机器学习和先进算法的最新发展,机器学习应用、ML框架和处理器计算能力现在可以直接部署在嵌入式设备上。这被称为嵌入式机器学习(E-ML)。

使用嵌入式机器学习技术,处理过程被移到更接近传感器收集数据的边缘。这有助于消除障碍,如带宽和连接问题,通过互联网传输数据的安全漏洞,以及数据传输功率的使用。此外,它支持使用神经网络和其他机器学习框架,以及信号处理服务、模型构建、手势识别等。2021年至2026年期间,根据最大市场研究小组的报告,全球嵌入式人工智能市场预计将以5.4%的年复合增长率扩张,并达到约388.7亿美元。

嵌入式机器学习的基本概念

今天,嵌入式计算系统正在迅速蔓延到人类冒险的每一个领域,从可穿戴健康监测系统、无线监控系统、物联网(IoT)上的联网系统、家庭自动化的智能电器到汽车的防抱死制动系统,都能找到实际用途的东西。

用于嵌入式平台的常见ML技术包括SVM(支持向量机)、CNN(卷积神经网络)、DNN(深度神经网络)、K-NN(K-近邻)和Naive Bayes。使用这些技术进行有效的训练和推理,需要大量的处理和内存资源。即使有深度缓存结构、多核改进等,通用CPU也无法处理深度学习模型的高计算需求。通过利用GPU和TPU处理器等资源,可以克服这些限制。这主要是因为复杂的线性代数计算,如矩阵和矢量操作,是非琐碎的深度学习应用的组成部分。深度学习算法可以在GPU和TPU上非常有效和快速地运行,这使得它们成为理想的计算平台。

在嵌入式硬件上运行机器学习模型被称为嵌入式机器学习。后者是根据以下基本原则工作的。虽然模型的执行和推理过程是在嵌入式设备上进行的,但像神经网络这样的ML模型的训练是在计算集群或云中进行的。与流行的看法相反,事实证明,深度学习的矩阵操作可以在CPU能力受限的硬件上,甚至在微小的16位/32位微控制器上有效进行。使用极小的硬件(如超低功耗的微控制器)来运行ML模型的嵌入式机器学习类型被称为TinyML。

机器学习方法可分为三大类:强化学习、无监督学习和有监督学习。在监督学习中,可以学习标记的数据;在无监督学习中,可以找到无标记数据中的隐藏模式;在强化学习中,系统可以通过试错的方法从其直接环境中学习。学习过程被称为模型的 "训练阶段",它经常利用具有大量处理能力的计算机架构来进行,如几个GPU。训练好的模型在学习后被应用于新的数据,以做出智能决策。执行的推理阶段就是指这个程序。物联网和移动计算设备,以及其他处理资源有限的用户设备,经常是为了做推理。

嵌入式机器学习的应用领域

  • 智能传感器系统

机器学习技术在嵌入式传感器网络系统中的有效应用正在产生相当大的兴趣。许多机器学习算法,包括GMMs(高斯混合模型)、SVMs和DNNs,都在重要领域找到了实际用途,如移动ad hoc网络、智能可穿戴系统和智能传感器网络。

  • 异构计算系统

包含多种类型处理核心的计算机系统被称为异构计算系统。大多数异构计算系统被用作加速单元,将计算要求高的任务从CPU上转移到系统上,并加快系统的速度。 异构多核架构是一个应用领域,为了加快计算昂贵的机器学习技术,中间件平台将GPU加速器集成到已经存在的基于CPU的架构中,从而提高ML数据模型集的处理效率。

  • 嵌入式FPGA

由于其低成本、高性能、能源经济性和灵活性,FPGA在计算行业越来越受欢迎。它们经常被用来预先实现ASIC架构和设计加速单元。使用FPGA的CNN优化和基于OpenCL的FPGA硬件加速是使用FPGA架构来加速机器学习模型执行的应用领域。

优势

  • 高效的网络带宽和功率消耗

在嵌入式硬件上运行的机器学习模型使得直接从数据源中提取特征和洞察力成为可能。因此,不再需要将相关数据传输到边缘或云服务器,从而节省了带宽和系统资源。微控制器是众多省电的嵌入式系统之一,可以在不充电的情况下长时间运行。与在移动计算系统上进行的机器学习应用相比,TinyML可以在更大程度上提高嵌入式平台的机器学习应用的电源自主性。

  • 全面的隐私

嵌入式机器学习消除了数据传输和在云服务器上存储数据的需要。这减少了数据泄露和隐私泄漏的可能性,这对处理敏感数据的应用至关重要,如个人的个人信息、医疗数据、知识产权(IP)信息和机密信息。

  • 低延时

嵌入式ML支持低延迟操作,因为它消除了向云端传输大量数据的要求。因此,当涉及到实现实时用例,如各种工业场景中的现场执行和控制,嵌入式机器学习是一个很好的选择。

嵌入式机器学习应用是使用方法和工具建立的,这些方法和工具使得在资源有限的节点上创建和部署机器学习模型成为可能。它们为希望最大化数据价值的企业提供了大量的创新机会。它还有助于优化其机器学习应用的带宽、空间和延迟。


分享到:
  点赞
  收藏
  打印
评论(0
已输入0
最新文章
 2022-06-08