马丁发表nature论文

深度神经网络（DNNs）是 AI 领域的重要成果，但它的 “存在感” 已经不仅仅限于该领域。 一些前沿生物医学研究，也正被这一特别的概念所吸引。特别是计算神经科学家。 在以前所未有的任务性能彻底改变计算机视觉之后，相应的 DNNs 网络很快就被用以试着解释大脑信息处理的能力，并日益被用作灵长类动物大脑神经计算的建模框架。经过任务优化的深度神经网络，已经成为预测灵长类动物视觉皮层多个区域活动的最佳模型类型之一。 用神经网络模拟大脑或者试图让神经网络更像大脑正成为主流方向的当下，有研究小组却选择用神经生物学的方法重新审视计算机学界发明的DNNs。 而他们发现，诸如改变初始权重等情况就能改变网络的最终训练结果。这对使用单个网络来窥得生物神经信息处理机制的普遍做法提出了新的要求：如果没有将具有相同功能的深度神经网络具有的差异性纳入考虑的话，借助这类网络进行生物大脑运行机制建模将有可能出现一些随机的影响。要想尽量避免这种现象，从事 DNNs 研究的计算神经科学家，可能需要将他们的推论建立在多个网络实例组的基础上，即尝试去研究多个相同功能的神经网络的质心，以此克服随机影响。 而对于 AI 领域的研究者，团队也希望这种表征一致性的概念能帮助机器学习研究人员了解在不同任务性能水平下运行的深度神经网络之间的差异。 人工神经网络由被称为 “感知器”、相互连接的单元所建立，感知器则是生物神经元的简化数字模型。人工神经网络至少有两层感知器，一层用于输入层，另一层用于输出层。在输入和输出之间夹上一个或多个 “隐藏” 层，就得到了一个 “深层” 神经网络，这些层越多，网络越深。 深度神经网络可以通过训练来识别数据中的特征，就比如代表猫或狗图像的特征。训练包括使用一种算法来迭代地调整感知器之间的连接强度（权重系数），以便网络学会将给定的输入（图像的像素）与正确的标签（猫或狗）相关联。理想状况是，一旦经过训练，深度神经网络应该能够对它以前没有见过的同类型输入进行分类。 但在总体结构和功能上，深度神经网络还不能说是严格地模仿人类大脑，其中对神经元之间连接强度的调整反映了学习过程中的关联。 一些神经科学家常常指出深度神经网络与人脑相比存在的局限性：单个神经元处理信息的范围可能比 “失效” 的感知器更广，例如，深度神经网络经常依赖感知器之间被称为反向传播的通信方式，而这种通信方式似乎并不存在于人脑神经系统。 然而，计算神经科学家会持不同想法。有的时候，深度神经网络似乎是建模大脑的最佳选择。 例如，现有的计算机视觉系统已经受到我们所知的灵长类视觉系统的影响，尤其是在负责识别人、位置和事物的路径上，借鉴了一种被称为腹侧视觉流的机制。 对人类来说，腹侧神经通路从眼睛开始，然后进入丘脑的外侧膝状体，这是一种感觉信息的中继站。外侧膝状体连接到初级视觉皮层中称为 V1 的区域，在 V1 和 V4 的下游是区域 V2 和 V4，它们最终通向下颞叶皮层。非人类灵长类动物的大脑也有类似的结构（与之相应的背部视觉流是一条很大程度上独立的通道，用于处理看到运动和物体位置的信息）。 这里所体现的神经科学见解是，视觉信息处理的分层、分阶段推进的：早期阶段先处理视野中的低级特征（如边缘、轮廓、颜色和形状），而复杂的表征，如整个对象和面孔，将在之后由颞叶皮层接管。 如同人的大脑，每个 DNN 都有独特的连通性和表征特征，既然人的大脑会因为内部构造上的差异而导致有的人可能记忆力或者数学能力更强，那训练前初始设定不同的神经网络是否也会在训练过程中展现出性能上的不同呢？ 换句话说，功能相同，但起始条件不同的神经网络间究竟有没有差异呢？ 这个问题之所以关键，是因为它决定着科学家们应该在研究中怎样使用深度神经网络。 在之前 Nature 通讯发布的一篇论文中，由英国剑桥大学 MRC 认知及脑科学研究组、美国哥伦比亚大学 Zuckerman Institute 和荷兰拉德堡大学的 Donders 脑科学及认知与行为学研究中心的科学家组成的一支科研团队，正试图回答这个问题。论文题目为《Individual differences among deep neural network models》。 根据这篇论文，初始条件不同的深度神经网络，确实会随着训练进行而在表征上表现出越来越大的个体差异。 此前的研究主要是采用线性典范相关性分析（CCA，linear canonical correlation analysis）和 centered-kernel alignment（CKA）来比较神经网络间的内部网络表征差异。 这一次，该团队的研究采用的也是领域内常见的分析手法 —— 表征相似性分析（RSA，representational similarity analysis）。 该分析法源于神经科学的多变量分析方法，常被用于将计算模型生产的数据与真实的大脑数据进行比较，在原理上基于通过用 “双（或‘对’）” 反馈差异表示系统的内部刺激表征（Inner stimulus representation）的表征差异矩阵（RDMs，representational dissimilarity matrices），而所有双反馈组所组成的几何则能被用于表示高维刺激空间的几何排布。 两个系统如果在刺激表征上的特点相同（即表征差异矩阵的相似度高达一定数值），就被认为是拥有相似的系统表征。 表征差异矩阵的相似度计算在有不同维度和来源的源空间（source spaces）中进行，以避开定义 “系统间的映射网络”。本研究的在这方面上的一个特色就是，使用神经科学研究中常用的网络实例比较分析方法对网络间的表征相似度进行比较，这使得研究结果可被直接用于神经科学研究常用的模型。 最终，对比的结果显示，仅在起始随机种子上存在不同的神经网络间存在明显个体差异。 该结果在采用不同网络架构，不同训练集和距离测量的情况下都成立。团队分析认为，这种差异的程度与 “用不同输入训练神经网络” 所产生的差异相当。 如上图所示，研究团队通过计算对应 RDM 之间的所有成对距离，比较 all-CNN-C 在所有网络实例和层、上的表示几何。 再通过 MDS 将 a 中的数据点（每个点对应一个层和实例）投影到二维。各个网络实例的层通过灰色线连接。虽然早期的代表性几何图形高度相似，但随着网络深度的增加，个体差异逐渐显现。 在证明了深度神经网络存在的显著个体差异之后，团队继续探索了这些差异存在的解释。 随后，研究者再通过在训练和测试阶段使用 Bernoulli dropout 方法调查了网络正则化（network regularization）对结果能造成的影响，但发现正则化虽然能在一定程度上提升 “采用不同起始随机种子的网络之表征” 的一致性，但并不能修正这些网络间的个体差异。 最后，通过分析网络的训练轨迹与个体差异出现的过程并将这一过程可视化，团队在论文中表示，神经网络的性能与表征一致性间存在强负相关性，即网络间的个体差异会在训练过程中被加剧。 总而言之，这项研究主要调查了多个神经网络在最少的实验干预条件下是否存在个体差异，即在训练开始前为网络设置不同权重的随机种子，但保持其他条件一致，并以此拓展了此前与 “神经网络间相关性” 有关的研究。 除了这篇 这篇 研究以外，“深度学习三巨头” 之一、著名 AI 学者 Hinton 也有过与之相关的研究，论文名为《Similarity of Neural Network Representations Revisited》，文章探讨了测量深度神经网络表示相似性的问题，感兴趣的读者可以一并进行阅读。 Refrence： [1] [2]

对干细胞疾病的治疗意义重大。这一研究成果无疑是人类对抗干细胞疾病的有一个里程碑，非常值得纪念。

纳米材料的功能特性，强烈依赖于其表面原子结构，但它们往往与本体结构有很大的不同 ，表现出表面重构和弛豫。然而，大多数表面表征方法，要么局限于二维测量，要么达不到真正的三维原子尺度分辨率，对于一般三维纳米材料的三维表面原子结构的单原子水平测定仍然是一个难题。

在此，来自韩国高等科学技术学研究所的Yongsoo Yang等研究者报道了使用铂纳米颗粒作为模型系统，在15 pm精度下测量的三维原子结构。相关论文以题为“Single-atom level determination of 3-dimensional surface atomic structure via neural network-assisted atomic electron tomography”发表在Nature Communications上。

论文链接：

在单个原子水平上精确测定三维表面原子结构，一直是广泛科学界的主要兴趣 ，包括物理学、材料科学、化学和纳米科学等。由于配位数较低，表面原子往往与其体结构有较大的偏离。然而，金属纳米粒子的表面结构，在其催化活性中起着至关重要的作用，目前在化学合成、减少空气污染和燃料电池应用中具有重要的技术意义。充分了解表面原子结构，对于微调每种应用的催化性能是至关重要的。

原子电子层析成像(AET) ，是近年来发展起来的一种强大的原子级三维结构成像工具，已广泛用于原子级缺陷、三维应变、化学有序/无序和成核动力学测量等领域。然而，通常由于几何限制只有部分全层析角度范围是实验可测量的(所谓的“缺失楔形”问题)，这导致了沿着断层重建图中缺失信息的方向的延伸和傅立叶振铃伪影。缺失的楔形伪影会对断层扫描得到的表面原子结构的精度产生负面影响， 是精确测定三维表面原子结构的主要障碍。 另一方面，近来基于深度学习的神经网络方法，引起了电子显微镜专家的极大兴趣。它已经在丢失的数据检索和超分辨率成像方面，取得了成功。

本文中，研究者将AET与基于原子性原理的深度学习神经网络相结合，利用纳米铂粒子作为模型系统，研究者成功地检索了缺失的楔块信息，并实现了一个稳健的三维表面原子结构重建。借助基于深度学习的缺失数据检索，结合原子电子断层扫描技术，可以可靠地测量表面原子结构。研究发现，和晶面对表面应变的贡献不同，造成了各向异性应变分布和压缩支架边界效应。

图1 深度学习增强的架构。

图2 DL增强对模拟断层成像的影响。

图3 实验测量的Pt纳米粒子断层图和跟踪原子坐标的三维密度图。

图4 切面，三维原子位移，和铂纳米粒子的应变图。

综上所述， 研究者利用神经网络辅助AET技术，在单个原子水平上成功地测定了纳米粒子的三维原子结构 。使用铂纳米粒子作为模型系统，研究者证明了基于原子性的方法，可以可靠地识别表面原子结构，精度达到15 pm。原子位移、应变和刻面分析表明，表面原子结构和应变不仅与纳米颗粒的形状有关，还与颗粒-基体界面有关。结合量子力学计算如密度泛函理论，精确识别表面原子结构的能力，将成为理解表面/界面性质如催化性能和氧化效应的一个强有力的工具。（文：水生）