{{ title }}
{{ errorMessage }}


{{ errorMessage }}





{{ registerSuccessMessage }}
当前位置: 首页> 技术应用> 正文 
收藏
点赞
投稿
关于模拟计算你需要知道什么
来源: 作者:
  2021-12-08   

文章译自Embedded Computing Design

作者:Tim Vehling   MYTHIC产品和业务发展副总裁

随着人工智能(AI)和深度学习应用在越来越多的行业中变得越来越普遍,对更好的性能、更大的深度神经网络(DNN)模型容量和更低的功耗的需求变得越来越重要。

与此同时,DNN模型正在以指数级的速度增长。对于这些模型,传统的数字处理器很难以足够低的功耗和足够的内存资源提供必要的性能,特别是对于在边缘运行的大型模型。这就是模拟计算的用武之地,它使公司能够以较低的功耗在一个小的外形尺寸中获得更多的性能,同时也具有成本效益。

模拟计算已经被研究了几十年,并提供了两个主要的好处。首先,它具有惊人的效率;通过利用内存元素进行神经网络权重存储和计算,它消除了数据移动。第二,它具有高性能和低延迟的特点,使其适合计算在矢量操作过程中并行发生的数十万次乘积操作。鉴于这两个因素,模拟计算是最新的边缘人工智能计算要求的理想选择。 

与数字相比,模拟的计算速度和功率效率长期以来一直很有希望。但是,即使在开发这项技术的令人难以置信的困难之外,模拟计算的最大历史障碍之一是它的尺寸,模拟芯片和系统太大,成本太高。今天,将闪存和模拟计算结合起来,解决了这些挑战,你会得到一个远远大于各个部分的总和--内存中的模拟计算。这就是Mythic花了数年时间完善的独特技术,现在已经展示出来,它为未来几十年的人工智能计算奠定了基础。

记忆中模拟计算(或模拟计算)在最底层的动力优势来自于能够用存储在闪存阵列中的参数进行大规模的并行矢量-矩阵乘法。微小的电流被引导通过闪存阵列,该阵列存储着可重新编程的神经网络权重,其结果通过模数转换器(ADC)捕获。

通过利用模拟计算进行绝大多数推理操作,模拟-数字和数字-模拟的能量开销可以保持在整体功率预算的一小部分,并且可以实现计算功率的大幅下降。还有许多二阶系统级的效应可以带来功率的大幅下降;例如,当芯片上的数据移动量降低多个数量级时,系统时钟速度可以保持比竞争系统低10倍,控制处理器的设计也更简单。

将模拟计算处理器用于边缘人工智能应用是许多不同用例的绝佳选择。例如,为计算机视觉(CV)应用配备高清摄像头的无人机,需要在本地运行复杂的DNN模型,以向控制站提供即时的相关信息。使用模拟计算的处理器使得提供强大的人工智能处理成为可能,而且还非常省电,因此公司可以在无人机上部署这些网络,用于广泛的CV应用。这些应用包括监测农业产量,检查关键基础设施,如电力线、手机塔、桥梁和风电场,检查火灾损失,以及检查海岸线的侵蚀情况。模拟计算的另一类理想应用是低延迟的人体姿势估计,这可用于智能健身、游戏和协作机器人设备。

模拟计算是人工智能处理的理想方法,因为它能够以更高的速度和更快的帧率,使用更少的功率来运行。模拟计算技术的极高功率效率将使产品设计师在小型边缘设备中释放出令人难以置信的强大新功能,并将有助于降低成本和企业人工智能应用中的大量能源浪费。利用模拟计算能力与闪存相结合,OEM可以重新思考人工智能的可能性。试想一下,如果没有对边缘人工智能应用的功率、成本和性能的现有限制,我们将看到多么令人兴奋的创新。

分享到:
  点赞
  收藏
  打印
评论(0
已输入0
最新文章