神经生物学研究论文

深度神经网络（DNNs）是 AI 领域的重要成果，但它的 “存在感” 已经不仅仅限于该领域。 一些前沿生物医学研究，也正被这一特别的概念所吸引。特别是计算神经科学家。 在以前所未有的任务性能彻底改变计算机视觉之后，相应的 DNNs 网络很快就被用以试着解释大脑信息处理的能力，并日益被用作灵长类动物大脑神经计算的建模框架。经过任务优化的深度神经网络，已经成为预测灵长类动物视觉皮层多个区域活动的最佳模型类型之一。 用神经网络模拟大脑或者试图让神经网络更像大脑正成为主流方向的当下，有研究小组却选择用神经生物学的方法重新审视计算机学界发明的DNNs。 而他们发现，诸如改变初始权重等情况就能改变网络的最终训练结果。这对使用单个网络来窥得生物神经信息处理机制的普遍做法提出了新的要求：如果没有将具有相同功能的深度神经网络具有的差异性纳入考虑的话，借助这类网络进行生物大脑运行机制建模将有可能出现一些随机的影响。要想尽量避免这种现象，从事 DNNs 研究的计算神经科学家，可能需要将他们的推论建立在多个网络实例组的基础上，即尝试去研究多个相同功能的神经网络的质心，以此克服随机影响。 而对于 AI 领域的研究者，团队也希望这种表征一致性的概念能帮助机器学习研究人员了解在不同任务性能水平下运行的深度神经网络之间的差异。 人工神经网络由被称为 “感知器”、相互连接的单元所建立，感知器则是生物神经元的简化数字模型。人工神经网络至少有两层感知器，一层用于输入层，另一层用于输出层。在输入和输出之间夹上一个或多个 “隐藏” 层，就得到了一个 “深层” 神经网络，这些层越多，网络越深。 深度神经网络可以通过训练来识别数据中的特征，就比如代表猫或狗图像的特征。训练包括使用一种算法来迭代地调整感知器之间的连接强度（权重系数），以便网络学会将给定的输入（图像的像素）与正确的标签（猫或狗）相关联。理想状况是，一旦经过训练，深度神经网络应该能够对它以前没有见过的同类型输入进行分类。 但在总体结构和功能上，深度神经网络还不能说是严格地模仿人类大脑，其中对神经元之间连接强度的调整反映了学习过程中的关联。 一些神经科学家常常指出深度神经网络与人脑相比存在的局限性：单个神经元处理信息的范围可能比 “失效” 的感知器更广，例如，深度神经网络经常依赖感知器之间被称为反向传播的通信方式，而这种通信方式似乎并不存在于人脑神经系统。 然而，计算神经科学家会持不同想法。有的时候，深度神经网络似乎是建模大脑的最佳选择。 例如，现有的计算机视觉系统已经受到我们所知的灵长类视觉系统的影响，尤其是在负责识别人、位置和事物的路径上，借鉴了一种被称为腹侧视觉流的机制。 对人类来说，腹侧神经通路从眼睛开始，然后进入丘脑的外侧膝状体，这是一种感觉信息的中继站。外侧膝状体连接到初级视觉皮层中称为 V1 的区域，在 V1 和 V4 的下游是区域 V2 和 V4，它们最终通向下颞叶皮层。非人类灵长类动物的大脑也有类似的结构（与之相应的背部视觉流是一条很大程度上独立的通道，用于处理看到运动和物体位置的信息）。 这里所体现的神经科学见解是，视觉信息处理的分层、分阶段推进的：早期阶段先处理视野中的低级特征（如边缘、轮廓、颜色和形状），而复杂的表征，如整个对象和面孔，将在之后由颞叶皮层接管。 如同人的大脑，每个 DNN 都有独特的连通性和表征特征，既然人的大脑会因为内部构造上的差异而导致有的人可能记忆力或者数学能力更强，那训练前初始设定不同的神经网络是否也会在训练过程中展现出性能上的不同呢？ 换句话说，功能相同，但起始条件不同的神经网络间究竟有没有差异呢？ 这个问题之所以关键，是因为它决定着科学家们应该在研究中怎样使用深度神经网络。 在之前 Nature 通讯发布的一篇论文中，由英国剑桥大学 MRC 认知及脑科学研究组、美国哥伦比亚大学 Zuckerman Institute 和荷兰拉德堡大学的 Donders 脑科学及认知与行为学研究中心的科学家组成的一支科研团队，正试图回答这个问题。论文题目为《Individual differences among deep neural network models》。 根据这篇论文，初始条件不同的深度神经网络，确实会随着训练进行而在表征上表现出越来越大的个体差异。 此前的研究主要是采用线性典范相关性分析（CCA，linear canonical correlation analysis）和 centered-kernel alignment（CKA）来比较神经网络间的内部网络表征差异。 这一次，该团队的研究采用的也是领域内常见的分析手法 —— 表征相似性分析（RSA，representational similarity analysis）。 该分析法源于神经科学的多变量分析方法，常被用于将计算模型生产的数据与真实的大脑数据进行比较，在原理上基于通过用 “双（或‘对’）” 反馈差异表示系统的内部刺激表征（Inner stimulus representation）的表征差异矩阵（RDMs，representational dissimilarity matrices），而所有双反馈组所组成的几何则能被用于表示高维刺激空间的几何排布。 两个系统如果在刺激表征上的特点相同（即表征差异矩阵的相似度高达一定数值），就被认为是拥有相似的系统表征。 表征差异矩阵的相似度计算在有不同维度和来源的源空间（source spaces）中进行，以避开定义 “系统间的映射网络”。本研究的在这方面上的一个特色就是，使用神经科学研究中常用的网络实例比较分析方法对网络间的表征相似度进行比较，这使得研究结果可被直接用于神经科学研究常用的模型。 最终，对比的结果显示，仅在起始随机种子上存在不同的神经网络间存在明显个体差异。 该结果在采用不同网络架构，不同训练集和距离测量的情况下都成立。团队分析认为，这种差异的程度与 “用不同输入训练神经网络” 所产生的差异相当。 如上图所示，研究团队通过计算对应 RDM 之间的所有成对距离，比较 all-CNN-C 在所有网络实例和层、上的表示几何。 再通过 MDS 将 a 中的数据点（每个点对应一个层和实例）投影到二维。各个网络实例的层通过灰色线连接。虽然早期的代表性几何图形高度相似，但随着网络深度的增加，个体差异逐渐显现。 在证明了深度神经网络存在的显著个体差异之后，团队继续探索了这些差异存在的解释。 随后，研究者再通过在训练和测试阶段使用 Bernoulli dropout 方法调查了网络正则化（network regularization）对结果能造成的影响，但发现正则化虽然能在一定程度上提升 “采用不同起始随机种子的网络之表征” 的一致性，但并不能修正这些网络间的个体差异。 最后，通过分析网络的训练轨迹与个体差异出现的过程并将这一过程可视化，团队在论文中表示，神经网络的性能与表征一致性间存在强负相关性，即网络间的个体差异会在训练过程中被加剧。 总而言之，这项研究主要调查了多个神经网络在最少的实验干预条件下是否存在个体差异，即在训练开始前为网络设置不同权重的随机种子，但保持其他条件一致，并以此拓展了此前与 “神经网络间相关性” 有关的研究。 除了这篇 这篇 研究以外，“深度学习三巨头” 之一、著名 AI 学者 Hinton 也有过与之相关的研究，论文名为《Similarity of Neural Network Representations Revisited》，文章探讨了测量深度神经网络表示相似性的问题，感兴趣的读者可以一并进行阅读。 Refrence： [1] [2]

突触传递机制研究新进展 摘要：最近的几年里，科研人员一直致力于突触传递机制的研究，他们对有关的各种生物现象中寻找突触传递在其中的机制。本文将从对突出传递机制的新进展做一个小小的综述。 关键词：突触可塑性；视网膜；调控机制；tau蛋白；伏隔核谷氨酸能；可卡因；大鼠VTA区DA神经元；脑胶质瘤致癫病；长时程增强(LTP)；膜片钳；GluR2 缺失的AMPARs 视网膜突触可塑性调控机制研究进展#突触可塑性的变化影响着中枢神经系统的发育，损伤和修复等多种功能。研究发现，在视网膜发育、损伤修复过程中可出现突触可塑性改变，而自发性眼波、光线刺激、视觉经验、神经营养因子和胶质细胞等因素均参与了视网膜突触可塑性的调节。突触连接的改变是经验依赖性脑神经回路重排的基础，突触可塑性的变化影响着神经系统的发育，神经的损伤和修复等多种脑功能，目前突触可塑性的调节机制还未完全阐明。近30 多年来，对于视觉系统发育和可塑性的研究取得了很大的发展，尤其是对于视神经突触水平的变化有了较清晰的认识，但还有很多问题尚待深入研究：各种神经生长因子参与视觉发育可塑性的确切机制；在基因水平上还需进一步通过对多种相关基因的反应时程和强度进行分析, 研究其对视网膜突触可塑性的影响；视网膜突触可塑性中胶质细胞增殖、分裂、分泌生物活性物质等功能的调控。随着脑科学、发育生物学及神经生物学等边缘学科的迅猛发展,相信不远的将来,人类一定会在该领域取得突破性进展，并给治疗相关视网膜疾病及视网膜损伤后的修复治疗研究提供新思路和理论依据。兴奋性突触传递对tau蛋白表达和省略响及其在阿尔茨海默病发病中的作用兴奋性突触传递是神经元最基本的功能,NMDA受体(N-Methyl-D-aspartate receptor, NMDAR)是神经系统中最主要的兴奋性离子型受体之一,其在学习记忆,突触可塑性,神经发育等方面具有重要作用,但NMDA受体过度激活导致谷氨酸聚集于突触间隙所诱导的神经毒性作用也是许多神经退行性疾病的共同发病机制。阿尔茨海默病(Alzheimer’s disease, AD)是成人痴呆症最主要的病因,其中tau蛋白过度磷酸化和聚集是AD脑内的主要病理特征之一。兴奋性突触传递与tau病变之间的联系目前少见报道。本研究探讨了谷氨酸能兴奋性突触传递增强对tau蛋白表达和磷酸化的影响及其在AD样神经退行性变中的作用。本文第一部分探讨了短时间突触传递增强对tau蛋白磷酸化的影响和内在机制。成人脑内约有一半的谷氨酸能神经元是谷氨酸-锌能神经元,即突触兴奋时锌离子与谷氨酸一起释放至突触间隙。本研究阐明了谷氨酸-锌能神经元兴奋时突触释放的锌离子通过抑制蛋白磷酸酯酶2A (Proteinphosphatase2A, PP2A)的活性导致tau蛋白过度磷酸化。 慢性吗啡处理对伏隔核谷氨酸能突触传递的影响药物成瘾和自然的奖赏效应(食物、性等)共享同样的神经基础——中脑边缘多巴胺系统,该系统主要涉及杏仁核、弓状核、蓝斑、中脑导水管周围灰质、腹侧被盖区(ventraltegmental area, VTA)、伏隔核(nucleus accumbens,NAc)等脑区,其外延包括额叶皮层、海马等与情绪、学习和记忆密切相关的结构。目前的观点认为奖赏性刺激是通过对脑内奖赏系统发挥作用,最终引起NAc区多巴胺(dopamine,DA)释放量增多,从而产生奖赏效应。NAc在成瘾中起着至关重要的作用。NAc中神经元因在吗啡成瘾及戒断的过程中产生适应性变化而备受关注。前额叶皮质(prelimbicprefrontal cortex,PFC)的功能之一是对有利刺激的重要性进行评估,并抑制在当前环境中不适当的行为,该脑区在成瘾药物的精神依赖中发挥着对觅药动机进行评估和抑制的重要作用。Mark EJackson等研究发现,利用接近生理条件下的刺激频率来刺激PFC后抑制了NAc中多巴胺的释放,提示了前额叶中存在着对NAc中的多巴胺的释放的抑制性调节 单次可卡因注射对大鼠VTA区DA神经元兴奋性突触传递和内在兴奋性的影响中脑皮质边缘多巴胺系统(mesocorticolimbicdopamine system)与奖赏和药物成瘾有十分密切的关系。该系统包括腹侧被盖区(ventraltegmental area, VTA)多巴胺能神经元的两条主要投射通路：一条由腹侧被盖区投射到伏隔核(nucleusaccumbens, NAc)和纹状体,称为中脑边缘多巴胺系统(mesolimbicdopamine system);另外一条由腹侧被盖区投射到前额叶皮质(prefrontal cortex),称为中脑皮质多巴胺系统(mesocortical dopamine system)。这两条通路合称为中脑皮质边缘多巴胺系统。药物成瘾的解剖基础是奖赏系统,中脑边缘多巴胺系统是其关键,中脑腹侧被盖区(VTA)及其投射区伏隔核(NAc)是主要的神经基础,多巴胺(DA)是非常重要的神经递质。除了参与天然和成瘾性药物的奖赏刺激,当今更多的研究发现中脑边缘多巴胺系统还与成瘾的渴求和复发有关。在VTA区域微量注射吗啡、可卡因等都能诱导产生条件性位置偏爱(CPP)。VTA区注射吗啡还可点燃海洛因、可卡因等的自给药行为。 LTP 的分子机制研究进展LTP机制的研究热点由单一兴奋性递质机制过渡到兴奋性递质与抑制性递质联160 合机制。目前，已证明突触可塑性的改变与多种疾病相关，如阿尔茨海默病、癫痫、慢性痛、药物成瘾性和精神分裂症等。常用在体LTP技术和膜片钳脑片LTP技术两种检测方法。在体海马LTP的优势在于能较真实地反映生理状态下神经突触活动的情况，在整体条件下观察神经突触活动的变化，利于从宏观角度研究和探讨相关机理。其进展体现在：CaM-CaMKII，Ca2+作为胞浆第二信使，与钙调蛋白(Calmodulin, CaM)结合形成Ca2+-CaM复合物，进一步激活CaMKⅡ。CaMKⅡ被认为是一个分子开关，在静息状态时，自身抑制区封闭催化部位而处于非活化状态。但当神经元受刺激时，Ca2+-CaM复合物与CaMKⅡ的自身抑制区结合，改变此酶的构象，从而具有活性。MEK-ERK，细胞外信号调节激酶(extracellularsignal-regulated kinase，ERK)是丝裂原活化蛋白激酶(micogen activated procein kinases，MAPKs)家族中的重要成员，和细胞的生长、发育、分化有关。最近研究表明，ERK通过影响相关核转录因子在LTP和学习记忆过程发挥着调节作用。PKA-CREB，长时记忆（Long term memory,LTM）需要新蛋白质的合成，PKA-CREB信号通路被认为在新蛋白质的合成过程中起重要作用。PKA的激活可以引发CREB的转录，并促使ERK向细胞核发生移位，表达参与到晚期LTP(Late-LTP, L-LTP)和LTM的发生机制。BDNF（脑源性神经营养因子），FanM等发现，BDNF与蛋白激酶Mδ(PKMδ)相关，两者相互影响。在蛋白质合成及强直性刺激的参与下，BDNF能够在一定程度上提高PKMδ的水平，从而影响 L-LTP的维持过程。但是在抑制神经元及突触活性后，BDNF则对PKMδ的稳态水平没有影响。PKMδ对BDNF介导的L-LTP是必不可少的。TrkB作为BDNF的受体，需要通过新蛋白质的合成被激活，从而参与到L-LTP的表达过程中。Munc13Munc13系列蛋白是一种基因调控蛋白，在突触囊泡胞吐和神经递质释放中发挥重要作用，对于目前Munc13与LTP相关性的研究成为热点。 脑胶质瘤致癫病的化学突触机制研究进展脑胶质瘤致病是由于胶质瘤对瘤周组织产生的一系列影响所引起的。然而这其中的病理生理学机制还有待于进步研究和探讨，主要涉及继发于胶质瘤后的结构学、生物化学及组织病理学方面的改变。而胶质瘤致病在临床治疗过程中属于难治型癫病，主要是由于抗癫病药物对胶质瘤致病的病理生理过程干预较少甚至是不干预，因此，揭示胶质瘤致病的病理生理过程可能为临床上肿瘤致桶的药物干预和治疗提供分子靶点和治疗依据。 GluR2 缺失的AMPARs在突触可塑性机制中的研究进展与活性依赖的突触的AMPARs 数目改变不同，活性依赖的AMPARs 亚基的修饰引起Ca2+信号转导的改变，通道传导和动力学的改变，使突触产生了不仅量而且是质的改变。这些重要的问题仍然需要进一步研究，如为何抑制性中间神经元和元棘突神经元中AMPARs 的GluR2 亚基低表达;GluR2亚基在活性依赖的细胞特异的改变的是什么机制;除了受体受到调节运输外，另→个重要的未解决的问题是AMPARs 介导的Ca2+内流有什么特殊功能，有力的证据的表明Ca2+内流可以激发LTP ，然而关于Ca竹在突触后的靶向目标却很少了解。因此关于GluR2 缺失的AMPARs 与突触可塑性的相关特异机制仍有待进一步研究。 [参考文献][1] Wahlin KJ, Moreira EF, Huang H, et al. Molecular dynamicsof photoreceptor synapse formation in thedeveloping chick retina. J CompNeurol[J]. 2008, 506(5): 822-837[2] Justin Elstrott, Anastasia Anishchenko, selectivity in the retina is establishedindependentofvisual experience and early cholinergic retinal waves. Neuron[J]. 2008,58(4): 499-506[3] 罗佳，王慧，黄菊芳，陈旦；《视网膜突触可塑性调控机制研究进展#》；Q422[4] Bliss TV, Lomo T. Long-lasting potentiation of synaptictransmission in the dentate area of the anaesthetized rabbit followingstimulation of the perforant path. J Physiol[J]. 1973,232;331-356 [5] Whitlock JR, HeynenAJ, Shuler MG, Bear MF. Learning induces long-term potentiation in thehippocampus. Science[J]. 2006,313:1093-1097.[6]魏显招，王雪琪，《GluR2 缺失的AMPARs 在突触可塑性机制中的研究进展》，DOI: 10. 3724/SP. J. 1008. 2009. 00437