首个混合内存技术，实现片上AI学习和推理

公众号记得加星标，第一时间看推送不会错过。

一家由法国科学家组成的团队，开发出首个能够支持人工神经网络进行自适应本地训练和推理的混合存储器技术，从而突破了长期以来限制边缘AI高效学习的技术瓶颈。

在《自然-电子学》上发表的一篇题为《一种同时用于训练和推理的铁电忆阻器存储器》(A Ferroelectric-Memristor Memory for Both Training and Inference)的论文中，该团队提出了一种全新的混合存储系统。该系统将两种此前不兼容的技术——铁电电容(ferroelectric capacitors)和忆阻器(memristors)——的最佳特性结合到单一的、与CMOS技术兼容的存储堆栈中。这项新颖的架构为边缘AI最棘手的一个挑战提供了一个期待已久的解决方案:如何在芯片上同时进行学习和推理，同时不消耗过多能源或超出硬件限制。

这项研究由CEA-Leti牵头，并有来自多个法国微电子研究中心的科学家参与。该项目证明了在芯片上进行训练是可能的，并且能达到有竞争力的准确性，从而避免了对离线更新和复杂外部系统的需求。该团队的创新使得自动驾驶汽车、医疗传感器和工业监控器等边缘系统和设备能够根据实时数据进行学习，即时调整模型(adapting models on the fly)，同时严格控制能耗和硬件磨损。

挑战:一个两难的权衡

边缘AI既需要推理，也需要学习(根据新数据更新模型)。但直到目前，存储技术只能很好地完成其中一项:

忆阻器擅长推理，因为它们可以存储模拟权重(analog weights)，在读取操作时能效高，并支持存内计算(in-memory computing)。

铁电电容允许快速、低能耗的更新，但其读取操作是破坏性的，因此不适合推理。

因此，硬件设计师面临着一个选择:要么偏向推理并将训练外包给云端，要么尝试在芯片上进行训练但要承担高成本和有限的耐久性。

在边缘进行训练

该团队的核心思想是，虽然忆阻器的模拟精度足以满足推理需求，但它无法满足学习的需求，因为学习需要进行小而渐进的权重调整。

“受量化神经网络的启发，我们采取了一种混合方法:正向和反向传播(Forward and backward passes)使用存储在忆阻器中的低精度模拟权重，而更新则通过更高精度的FeCAPs实现。忆阻器会根据存储在FeCAPs中的最高有效位(most-significant bits)进行周期性重新编程，从而确保高效和准确的学习，”论文的第一作者Michele Martemucci说。

突破:一个存储器，两种特性

该团队设计了一个由掺硅氧化铪和钛吸收层(titanium scavenging layer)组成的统一存储堆栈(unified memory stack)。这种双模设备(dual-mode device)可以根据其电学“形成”方式，既能作为FeCAPs运行，也能作为忆阻器运行。

相同的存储单元可以根据其状态，用于精确的数字权重存储和模拟权重表达(推理)。

一种无需正式数模转换器的数模转换方法(digital-to-analog transfer method)，可以将FeCAPs中隐藏的权重转换为忆阻器中的电导水平(conductance levels)。

该硬件是使用标准的130纳米CMOS技术，在一个包含18,432个设备的阵列上制造和测试的，将这两种存储器及其外围电路集成到单一芯片上。

除了CEA-Leti，研究团队还包括来自格勒诺布尔阿尔卑斯大学、CEA-List、法国国家科学研究中心(CNRS)、波尔多大学(University of Bordeaux)、波尔多国立高等理工学院(Bordeaux INP)、法国IMS、巴黎-萨克雷大学(Université Paris-Saclay)和纳米科学与纳米技术中心(C2N)的科学家。

今天是《半导体行业观察》为您分享的第4178期内容，欢迎关注。

加星标第一时间看推送，小号防走丢

求推荐