分享

更节能,基于忆阻器的贝叶斯机器

 天承办公室 2023-03-06 发布于江苏

在过去的几十年里,机器学习模型在各种现实世界任务上的性能有了显着提高。然而,训练和实施这些模型中的大多数仍然需要大量的能量和计算能力。

忆阻器和其他新兴存储技术,可用于创建神经网络的节能实现。然而,对于某些边缘应用,神经网络可能无法提供可接受的智能形式。贝叶斯推理可以解决这些问题,但它的计算成本很高,而且与神经网络不同,它不会自然地转化为基于忆阻器的架构。

近日,来自法国巴黎萨克雷大学、格勒诺布尔-阿尔卑斯大学、HawAI.tech、索邦大学和艾克斯-马赛大学的研究人员创建了一种所谓的贝叶斯机器(即,一种基于贝叶斯定理执行计算的人工智能方法)。比目前使用的硬件解决方案更节能。

机器的架构是通过编写贝叶斯定律来获得的,这种方法使它的实现通过分布式内存和随机计算的原理变得自然,允许电路仅使用本地内存和最少的数据移动来运行。

该研究以「A memristor-based Bayesian machine」为题,发布在《Nature Electronics》上。

图片

论文链接:https://www./articles/s41928-022-00886-9

智能边缘系统可用于监测人体健康、建筑物安全、工业设施和环境。然而,可以提供此类服务的人工智能 (AI) 算法在传统硬件上运行时会消耗大量能量。因此,大多数边缘系统将其感知数据上传到云端进行处理,这会产生隐私和安全问题。

对于智能医疗传感器等应用,神经网络有一些重要的局限性。首先,他们需要接受大量数据的训练,而这些数据通常不可用。其次,他们的结果是无法解释的,由于道德和监管原因,这对于某些关键应用来说是不可接受的。贝叶斯推理是一种可以更好地适应这些情况的人工智能方法。

贝叶斯推理是一种概率框架,允许在信息不完整的情况下做出决策,最大限度地结合所有可用的证据、假设和先验知识。在这种方法中,推理是完全可解释的,并且在「小数据」情况下表现出色,因为它能够结合先前的专家知识。它还可以估计其预测的确定性,这对神经网络来说是一个挑战。贝叶斯模型并非直接受到大脑启发,而是与生物智能相关联。

然而,尽管贝叶斯推理需要大量的内存访问,但将其用于近内存计算比神经网络更具挑战性。

忆阻器本质上是基于纳米设备的电子元件,可以限制或调节电路中的电流,同时还可以预先记录其中传递的能量。由于它们同时执行计算和信息存储,这些设备可以更好地再现人脑的信息处理策略。

在此,研究人员提出了一个可以在硬件中完全实现的基于忆阻器的贝叶斯系统。他们制造了一个原型电路,它使用混合互补金属氧化物半导体(CMOS)/忆阻器工艺在同一芯片上集成了 2,048 个忆阻器和 30,080 个晶体管。

图片

图示:贝叶斯机器的一般架构。(来源:论文)

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多