|
■ 重点■ .设计了不使用电子电路，只在硅光集成电路上工作的运算方式，并确认了其动作 .由于可以只通过光传播进行运算，因此可以进行超低延迟且耗电量少的运算 .用于补充数字电子电路的高速低功耗AI加速器 ■概要■ 国立研究开发法人产业技术综合研究所(以下称为“产综研”)平台光子学研究中心的主任研究员聪聪威等人与日本电信电话株式会社共同合作，在国立研究开发法人科学技术振兴机构的支持下，开发了使用硅光集成电路而不是电子电路的超低延迟且耗电量少的神经网络运算技术。该技术是利用光集成电路进行机器学习运算的技术。 要分析的多维数据电信号输入到光学集成电路的各个不同的输入端口，并转换为光信号，进而在通过集成在光学集成电路中的多个光学干涉仪时进行运算。 作为多个输出端口的光强度分布输出运算结果。 通过使用该技术，实现了不经过电路，只依靠光集成电路的神经网络运算。 在该神经网络运算中，仅通过使光在参数固定的光集成电路中传播就可以完成运算，因此不需要数字电子电路那样的逐次开关，能够以电子电路的千分之一以下的延迟时间且几十分之一的功耗进行运算。 并且，在光路中能够应用电子电路10倍以上的高速时钟，因此也能够增大每单位时间的数据处理量。 根据这些特征，该技术有望应用于补充数字电子电路的AI加速器。 另外，该技术的详细情况将于2022年6月30日(当地时间)在Springer Nature公司发行的“Nature Communications”上发表。
本研究提出的非线性映射型光神经网络运算电路，以及根据使用该运算电路的花瓣形状对鸢尾属的分类结果 ■研究背景■ 在高度数字传输的社会中，从数据中心到边缘计算、自动驾驶以及消费类设备的所有信息设备都需要广泛的AI处理应用。AI处理系统的规模每年呈现出10倍左右的爆发性扩大，1000亿参数的超大规模系统也已经问世。 这样的AI处理系统由大量的数字运算处理器构成，但是数字运算由于运算规模的扩大，耗电量和运算延迟的增加明显。 例如，由512个GPU组成的AI处理系统需要12万瓦以上的功率。 另外，边缘计算、机器人控制、自动驾驶等需要小规模的系统，但在图像识别等AI处理中会产生毫秒左右的延迟，成为面向要求高速响应的这些应用的课题。 因此，近年来，不依赖数字运算，低功耗、低延迟，并且能够处理大量数据的高通量AI加速器的研究开发正在进行，作为其中的候补，使用光集成电路的光神经网络运算备受瞩目。 光神经网络运算只需将光传播到参数固定的光集成电路即可完成运算。 由于不需要数字运算那样的器件的切换，所以电力消耗较少，另外由于在光集成电路芯片中传播的时间内完成运算，所以运算延迟极小。 然而，由于目前的光神经网络运算电路很难使用光集成非线性响应器件，所以是将光信号转换为电信号，通过电子电路的数字运算来实现这一点的混合结构。 因此，目前的光神经网络运算，在耗电量和运算延迟两个方面，其优势并没有得到有效利用。 因此，希望开发出只通过光集成电路实现神经网络运算的技术。另外，光运算电路的学习以基于计算机的事前学习为主流，但为了基于自身经验的自律性学习，需要对电路实机进行直接学习。 ■研究的经过■ 在产综合研究所，推进了新一代光集成电路技术硅光子技术的研究开发。 硅光子技术是以硅电子的制造技术为基础的光集成电路技术，具有良好的微细加工性、集成性、经济性以及节能性，成为近年来光集成电路大规模化的必须技术。 利用该技术，可以实现光神经网络运算所需的大规模光干涉仪集成电路。 另外，如果能够通过硅光子技术实现承担非线性响应的器件，则可以只利用光集成电路进行神经网络运算。 因此，我们在硅光集成电路中安装了针对光干涉仪器件驱动电压的非线性运算方式，在世界上首次验证了仅通过光集成电路进行的神经网络运算。 本研究开发是在国立研究开发法人科学技术振兴机构的CREST“以新的光功能和光物性的发现、利用为基轴的新一代光子学的基础技术”( JPMJCR15N4 )以及“利用信息载体的集成器件系统”( JPMJCR21C3 )的支持下进行的。 ■研究内容■ 为了利用光干涉仪器件对驱动电压的非线性，本研究提出了非线性映射型神经网络运算方式。 在该运算方式中，通过数据输入部的光干涉仪设备，将需要解析的数据非线性映射到高维光复像素振幅空间中，并且通过光传播到由多个光干涉仪构成的光集成电路中来得到运算结果。 利用硅光子技术制作了用于验证该运算方式的光集成电路。 图1(a )显示的是制作的电路芯片，图1(b )显示的是为了评价运算功能而安装了光纤和电线的模块的照片。 该电路为以硅波导型马赫-曾德光干涉仪( MZI )和单体位移相器为基本要素的网格结构。 MZI和单体位移相器在波导附近配置的加热器的热光学效果下工作。 通过分类运算为例说明该电路的工作原理。 应该分析的数据作为电信号输入到MZI，变换为光信号。 此时，根据MZI的非线性响应，输入数据被映射到高维复振幅空间。 通过输入部的光信号，通过随后的积和运算部，在那里进行运算，计算赋予分类边界的高维平面。 最终的分类运算结果由表示最大光功率的输出端口的位置表示。 该运算原理的示意图如图2所示。 设备的干涉仪参数的设定是通过机器学习进行的。 学习中利用细菌取食优化算法( BFO )或前向传播算法( FP )，直接对回路实机实施了学习。基于回路实机的直接学习与基于外部计算机的事前学习不同，是能够根据自身经验自主提高学习熟练度的技术，是本研究的重大成果之一。作为使用该电路的运算的例子，被称为鸢尾花分类Iris flower classification的分类运算用基准的结果如图3所示。 该分类运算基准是根据鸢尾属的花瓣尺寸来判别鸢尾属的种类。 该图横轴表示样品编号，但对样品编号1~30、31~60、61~90分别分配了不同的3种鸢尾属( 山鸢尾Setosa种、变色鸢尾Versicolor种、维吉尼亚鸢尾Virginica种)。 纵轴表示该电路的8个输出端口，将1、3、5个端口分别分配给三种鸢尾属 (端口1为Setosa种类，端口3为Versicolor种类，端口5为Virginica种类)。 如果赋予最大光功率的端口与分配给各种鸢尾属的端口一致，则分类结果为正确答案(参照图3右端的图)。 学习前样品编号和输出端口的光功率没有相关性，无法进行分类，但学习90个样品后，可以以约94%的正确率进行分类。 而且，对没有用于学习的60个样本也进行了分类，得到了约97%的正确回答率。 分类运算的处理时间为光通过光集成电路的时间，此时为100皮秒以下，约为数字电子电路运算的千分之一。 另外，设定电路参数所需的加热器功率约为360毫瓦，同样是数字电子电路运算的几十分之一。 而且，通过将数据输入用干涉仪从响应较慢的加热器方式变更为能够在数十GHz下工作的PN结型高速硅光调制器，原理上预计也能够实现每秒100亿次的高吞吐量运算。
图2使用非线性映射的分类运算的示意图
图3根据鸢尾花瓣形状进行花种分类运算的基准测试结果。 结果解说的图表示的是以学习后的结果为基础给出最大值的输出端口。 (中间的图纸是将Nature Communications杂志上刊登的图纸编辑成日文的) ■今后的计划■ 今后计划将运算电路大规模化，在确认其对更复杂运算的适用性的同时，为了实现高吞吐量化和学习功能的集成化，推进输入用高速光调制器和受光器的集成、器件驱动以及学习控制用电子电路的安装。 另外，以这次提出的非线性映射型的运算方式为基础，预定对通用数据预处理器、基于赋予递归电路的时间波形识别等，在更广泛且实用性高的应用中的适用性进行确认。 ■论文信息■ 刊登杂志: Nature Communications自然通讯论文标题: on-chip bacterial foraging training in silicon photo NIC circuits for projection-enabled nonlinear 用于投影使能非线性的硅光子电路中的片上细菌觅食训练 |
|
|
