清华大学邓东灵研究团队：物质相分类的对抗机器学习
❖
Citation
Adversarial machine learning phases of matter
Si Jiang, Sirui Lu & Dong-Ling Deng*
Quantum Frontiers 2, 15 (2023)
https://link.springer.com/article/10.1007/s44214-023-00043-z
研究背景
机器学习正在革新现代社会中的许多技术领域。近年来，机器学习中的一些方法和技术被用来处理复杂的量子多体问题，以应对希尔伯特空间维度指数增长带来的挑战。例如，一些监督和非监督学习方法已在识别系统所处的物质相以及判别对应的相变点上取得了显著的进展。然而，不论是从理论还是实验的角度，这些方法的鲁棒性都受到了极大的关注：经典机器学习领域中的研究发现，如果数据的维度足够高，机器学习模型可能会对一种称作对抗攻击的人为设计的微小扰动极其脆弱。当机器学习方法被用来处理凝聚态物理中的问题时，这一点仍然成立吗？如果是，我们能否结合具体的物理问题解释是什么导致了这种对抗性扰动的存在？
研究进展
清华大学邓东灵研究组研究了机器学习方法在判别系统所处的物质相问题中对对抗攻击的鲁棒性。该工作验证了基于深度神经网络的物质相分类器对对抗攻击极其敏感：在原始数据样本中施加少量精心设计的微小扰动会导致分类器以很高的置信度做出错误的预测，而这一点则与对应物质相所表现出的稳定性相违背。通过分析分类器激活图，该工作发现分类器虽然能以近乎完美的准确率判别系统所处的物质相，其并未捕捉到系统所具有的对称性。通过在激活图中违反对称性权重较大的位置施加扰动，对抗攻击更容易产生，以此解释了对抗扰动在这个问题中的来源。此外，该工作发现经过对抗训练后分类器激活图更符合系统所具有的对称性，因此对对抗攻击具有更强的鲁棒性。
研究亮点
1. 将对抗机器学习方法引入凝聚态物理，并表明虽然物质相有稳定性，但在其分类任务中广泛使用的神经网络的方法极易受到人为设计的微小扰动的影响。
2. 通过研究分类器的激活图，发现其分类器并未从数据中学习到物理系统所具有的对称性，从而解释了对抗攻击的来源。
3. 通过对比对抗训练前后的激活图，发现其能帮助模型更好地捕捉系统的对称性，从而对对抗攻击更加鲁棒。
图文导读
图1：机器学习判别物质相问题中对抗攻击的示意图。对于原始输入数据（例如在冷原子实验中获得的 time-of-flight 图像），训练后的神经网络分类器可以以接近1的置信度成功判断其对应的Chern数。然而，如果在原始图像上添加一个人眼无法察觉的微小扰动，同样的分类器就会以接近1的置信度将其归入一个错误的类别。
图2：基于经典铁磁Ising模型的例子。（a）一个处于铁磁相，磁化率 M=0.791的原始数据样本。（b） 被分类器判别为顺磁相的对抗样本，它与原始样本的区别仅在于翻转了一个格点的自旋（标识于红圈中）。（c）未经过对抗训练的分类器激活图。颜色较深位置的格点对分类器将样本分类为铁磁相的贡献更大。（d）经过对抗训练后的分类器激活图。该图变得更加平坦，每个位置激活值的方差也变得更小。
图3：基于拓扑相的例子。（a）三维卷积神经网络对拓扑相分类的平均准确率和损失函数。（b）使用动量迭代法获得对抗样本的过程。该图显示了分类为不同相的置信度与迭代次数的关系。大约迭代两次后，分类器开始对样本进行错误分类。（c-f）第一卷积层第六核在不同情况下的激活图。（c）测试集中所有χ(m)=0的拓扑平凡相样本的平均激活图；（d）测试集中所有χ(m)=1的拓扑非平凡相样本的平均激活图，与（c）相比有显著不同；（e）将一个 χ(m)=0样本作为分类器输入时的激活图；（f）将其对抗样本作为输入时的激活图，发现其接近 χ(m)=1时的平均激活图。
图4：对抗训练的有效性。（a-b）对拓扑相分类器的对抗训练，其对抗样本分别由单次梯度符号法（FGSM）与投影梯度下降法（PGD）得到。（c-d）经典铁磁Ising模型分类器对抗训练前后在不同磁化率下将样本分类为铁磁相的置信度。对抗训练后，分类器的置信度曲线变得更加陡峭，识别的相变点也由原来的T=2.255变为T=2.268，更加接近由 Onsager 公式计算得出的转变温度=2.269。
作者简介
第一作者
蒋颸 博士研究生
清华大学交叉信息研究院量子信息中心
第一作者
陆思锐 博士研究生
德国马克斯普朗克量子光学所
通讯作者
邓东灵 特别研究员
博士生导师，国家重大人才计划入选者
清华大学交叉信息研究院
主要研究方向
量子人工智能，量子计算与量子信息。
主要研究成果
在量子人工智能相关方向取得多项重要成果，包括首次实验实现拓扑时间晶体数字化量子模拟，首次实验展示量子对抗机器学习等。在Nature,Nature/Science子刊，PRL/PRX等期刊上发表论文90余篇。
Email: dldeng@tsinghua.edu.cn
往期回顾
上海交通大学贾金锋教授团队：二维Cr(1+δ)Te2 薄膜的可控相变
上海交通大学叶芳伟教授等合作团队:拓扑增强石墨烯纳米带异质结的非线性光学响应
❖