相干光神经网络换掉马赫-曾德尔网格:蝶形拓扑加单参数单元,参数受限时重建误差更低
核心概要
相干光神经网络受制于可调参数数量,器件制备复杂度、占地和控制开销都随参数增长。细粒度蝶形(FGB)架构把基本单元从含两个可调相移器的马赫-曾德尔干涉仪换成单个相移器与分束器的配对,并按蝶形拓扑级联,使每个输入输出对只有一条路径、每条路径经过相同数量的单元。计算评估中,在参数受限条件下,该架构对Haar随机矩阵的重建误差低于常规矩形网格,在Fashion-MNIST分类上无论前馈还是循环网络都取得更高测试准确率。
深度剖析
相干光神经网络的一种线性单元可以只用少量可调参数实现较强的表达能力,关键在于让每个参数都参与全局模式混合。 此前的相干光神经网络多依赖矩形网格,其基本单元是含两个可调相移器和两个固定分束器的马赫-曾德尔干涉仪,实现任意酉变换需要大量可调参数,单个线性单元的开销因此很高。 在Haar随机酉矩阵重建任务中,把参数数量按酉矩阵自由度归一后,细粒度蝶形架构的曲线整体位于马赫-曾德尔网格及其截断变体之下,且这一分离在不同矩阵尺寸下保持一致。
新架构把每一级的混合操作拆到最小:一个可编程相移器加一个固定50:50分束器,构成只有一个可调参数的单元。 马赫-曾德尔干涉仪本身是完整的两模干涉仪,两个参数才能完成一次耦合,在固定参数预算下可用的耦合次数更少。 在16输入、若干蝶形块的设置下,参数均匀随机初始化时,矩阵元素平方模的解析期望与计算平均值之间的均方根误差很小,说明每个元素的期望平方模都等于1/16。
蝶形拓扑让每个输入端口到每个输出端口恰好有一条路径,且每条路径经过相同数量的单元,因此不需要专门的初始化就能得到统计均匀的变换。 矩形网格在不同输入输出对之间存在多条路径,路径数向中心输出端口集中,均匀随机初始化会产生带状结构;截断网格则直接失去可达性,出现结构性零元素。 在Fashion-MNIST分类中,单层感知机、三层感知机和Elman型循环网络三种设置下,细粒度蝶形架构在给定参数数量时的测试准确率均高于马赫-曾德尔网格,后者在失去可达性的参数点附近出现明显下降。
启示与展望
评估在理想器件假设下进行,任务是Haar随机酉矩阵重建和Fashion-MNIST分类,比较对象是采用Haar初始化的马赫-曾德尔矩形网格及其截断变体;当前架构要求输入端口数为2的幂。
目前没有针对该架构的通用分解算法,因此即使参数数量超过酉群的自由度,也尚未确定给定配置能否实现任意酉变换;交叉波导和长级间连线会带来额外光损耗与相位误差,实际优势取决于光程缩短与路由开销之间的平衡。
