按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
经权重的变化，落在以最大活性神经元为中心的一定半径中的环状邻域中。这种学习规则可以用来检测和划分输人的图形或说话模式数据的相似性。
在形式上，科亨仑考虑了从输入信号u的空间V到二维映射A上的非线性投影P。图4．14说明了学习的步骤：输入值u选定一个中心s。在s的邻域中，所有的神经元都在u的方向上转移其权重Ws。转移的程度随着与中心s的距离的增加而减少，这里用不同的灰度来表示。
映射通过自组织收敛于某个具有不同活性区域的平衡态。投影应该将输入信号的规则性映射到神经映射上。因此，P在数学上被称为拓扑不变映射。实际上，由感觉输入信号规则性所表示的大脑环境的结构，应该被投影到大脑的神经映射上：大脑应该获得适当的关于世界的模型。
大脑通过自组织映射进行建模的现实性如何？神经区域的数值的变化，取决于物种生存所感受到的感觉刺激的重要性。在神经区域中，有一些中心，它们能够以比环境更大的精确性对刺激进行分析并将其再现出来。例如，在哺乳动物的眼睛中，对于视觉信息的精细分析是由“小凹”进行的，小凹是一个沿视网膜光轴的非常小的区域，其中有非常高密度的光敏接受子。因此，信号的分解主要在神经区域的这种中心进行，要比在周围的区域强得多。类似的不成比例的表象，也可以在体感系统和原动皮层中观察到。手对于人的生存的重要性表现在体感和原动皮层占有相当大的区域，比代表体表的区域要大。
与这些结果相反，猫、狗和猿的听觉皮层并不将外部世界的频率投影到特定的中心。蝙蝠具有特殊的定向系统，这对于它的生存是必要的，这是一个例外。蝙蝠能够发出许多种不同的超声频率，并通过这些信号的反射来测定物体的距离和大小。蝙蝠相对于其他物体的速度可以用超声波反射中的多普勒效应来测定。甚至是细微的昆虫也能够被这种灵敏的系统检测出来。
蝙蝠的特性，能够用其听觉皮层上的自组织映射在实验上确证。图4．15a中将蝙蝠脑中的听觉皮层示意在矩形图中。图4．15b中把该矩形图放大了，示意出听觉皮层中最佳频率分布。一维频率谱不断地单调地从听觉皮层的后区提供给前区。引起神经元最大激活的频率称作那个神经元的最佳频率。划线区域是初级听觉皮层。图4．15c显示了图4．15a中斜线区域中的最佳频率分布。绝大多数测量点都集中在超声回波频率的周围。前一后区中一半以上用来分析超声回波的多普勒效应。十分显著的是，用自组织映射进行的计算机辅助模拟中，产生出如图4．15c所示的听觉皮层的实际表象。
灵长目动物的脑由许多区域构成，其中有若干神经网络拓扑。例如，视网膜在个体发生的早期已经发育起来。它的神经拓扑有5个独立层：光感受器，水平细胞，极性细胞，无长突神经细胞，视网神经节细胞。人的光感受层大约有120×105个感受细胞。视网输出，由所有的神经节细胞的脉冲速率的空…时模式来代表，沿着光神经传向丘脑。对于人，大约有1．2×106个神经节。因此，视网膜的确是一个复杂系统。然而，人们还没有完全理解大于200×106个视网神经元的复杂性。大脑皮层是系统发育上最年青的大脑区域。大脑皮层在大脑中的百分数在进化中不断地增加。鱼那样的低等脊椎动物并没有进化起来大脑皮层。大脑皮层在爬行动物和鸟类中只占小部分，到狗、猫，直到猿和人，它就越来越多。在灵长目动物中，大脑皮层分化成了不同的多层神经网络拓扑的区域，例如视觉、感觉、原动和联想皮层。小脑由小脑皮层构成，其中有许多具有特定感觉原动功能的多层亚区域。
大脑系统的多样性被描述为一个密集的神经元集合，其中具有特殊的网络拓扑，通过许多神经而相互通信，神经由以千计的轴突构成。与数字计算机有独立的中心处理、记忆和贮存单元不同，大脑和中枢神经系统可以作为一个多目标平行处理网络的集合体来建模。每一网络都能够独立进行感觉、原动和联想功能的信息处理和信息贮存。
显然，人们熟悉的程控中心化数字计算机原理并不适用于生物脑。神经网络的自组织过程对于大脑的结构是十分重要的。在非常长的系统发育过程中，复杂的结构形式产生出来。我们往往并不完全清楚它们的目的。在宏观尺度上，特定的神经区域联系着特定信号，具有不同的感觉功能，也可以是不同水平的信息处理操作，还可以是对于人以及对于有机体的动物性和植物性功能。尽管它们分布在大脑的不同区域，它们却可以理解为自组织的复杂性或集体效应。
自组织作为一种学习程序，揭示了有机体并非完全由基因所决定，基因中包含了详细描述有机体的蓝本。大脑组织化的每一阶段都涉及某种自组织。基困难以存贮大脑的复杂结构。大脑皮层有大约10＇14＇个突触，个体发育难以从所有可能性中选择出正确的联结图式，如果这些可能性都是类似的。因此，个体发育必须运用神经系统的自组织去处理其复杂性。但是，不认识个体发育的原理，就不能理解其大脑皮层的结构。
在前面的章节中，我们已经研究了物理学、化学、生物学、地质学和天文学的复杂系统中有序模式的形成。整体有序是在其中有大量局部相互作用元素的复杂系统中形成的。在液体或晶体中有相互作用着的原子或分子，在进化的恒星系统中有相互作用着的子系统，在如同大脑这样的复杂神经系统中有相互作用着的神经元和突触。我们还向读者提示了贝纳德涡旋（“滚动柱”），它们是在液体的热涨落中出现的。
整体的有序是如何由局部的相互作用来安排的？例如，分子之间的相互作用力在液体中发生着非常短距离的相互作用，而由分子相互作用引起的涡旋运动的模式却可以是大尺度上的有序。这种有序在物理学、化学和生物学进化中出现的原理，对于大脑极其重要，其中相邻细胞元素之间的局部相互作用，创造出来整体有序的状态，导致有机体中的相干行为。此种有序模式是由复杂系统中的元素之间的作用力和起始条件、边界条件所安排的。在贝纳德涡旋的例子中，作用力是流体相互作用、热传导、膨胀和引力。例如，边界条件是液体的温度。在大脑中，联结的模式是由细胞单元相互作用的若干种规则安排的。因为神经元往往是由非常长的轴突联结起来的，两个神经元的局部的相互作用并不意味着它们在脑解剖学上的空间接近，而是它们由轴突的紧密联结。
尽管这种一般结构对于所有类型的神经元和突触都是普遍的，但是也有许多质的和量的差异。例如，无脊椎动物的神经系统是确定论的，个体神经元的特定部位具有高度编码的信息。而哺乳动物的新皮层中的联想系统，对于特定输入模式的特定反应，却是由促进着对于外部信息进行反馈的学习规则实现的。
复杂系统模型对于真实的神经网络适合程度如何呢？从方法论的观点看，我们必须清醒地意识到，模型不可能朴素地与实在的每一功能和元素相一致。模型是为了特定目的进行的抽象，它能或多或少地解释和模拟中枢神经系统的某一部分，而对其他部分则没有涉及。有时，模型网络受到批评，说它们如同黑箱，仅仅在一定程度上正确地实现了输入－输出功能。但是，关于生物神经网络是怎样实现其功能的，却什么也没有揭示出来。隐含单元如同量子物理学中的隐变量仅仅是理论概念，被假定是系统实现所观察、可测量的输入和输出值之间关系的一种内在因素。除了可能的多层网络的构造之外，动力学和学习程序是模拟中的根本性问题。
模型网络的参数调节程序减少到最小误差的现实性怎样？许多模型网络的学习规则，对于一组权重收敛到正确地进行分类，需要难以接受的过多的时间。尽管有时也会得到一个成功的权重调节，但是这决不意味着它的优化。1960年，瓦丘和霍夫提出了一种简单而优秀的学习规则，它受到技术优化推理的启发，而不是从生物观点来看待大脑。瓦丘－霍夫规则及其种种翻版，近年来在技术网络中已经得到了广泛的运用（参见第5章）。
该规则假定，对于一种输入模式，可由适应性神经元对于输入模式的输出进行分类，它们的取值为a＋1或a－1。因此，这里假定了“教师”，他知道对于该输入的答案是什么。适应性神经元计算出输入活性的加权和乘以突触权重。在假定的输出与计算出来的和之间，系统可能给出错误的信号。根据它们之间的差，突触的权重进行了调整，重新计算出和，使得错误的信号变成零。
瓦丘和霍夫策略的目标在于，把错误信号的平方减少到其最小可能值。所有输入权重系数的可能的值，导致某个误差值。在图4．16中，这种情况由权重空间的误差面表示出来。
误差面的最小值并不被人精确地知道，因为不可能见到整个误差面。但是，局部的拓扑图是可以测量的。因此，绝大多数减少误差的调整方向是可以计算的。所谓的梯度下降方法，在微分几何学和物理学中是大家熟悉的，对于权重的调节总是改变权重使得系统沿误差面的最陡下降方向运动。
在图4．16中，对误差面的梯度进行了计算，以找到最陡下降方向。权重按增量值△W沿着这一方向变化。重复该程序，直到权重达到W理想，这相应于最小的误差。对于非线性的网络，误差面可能有许多个极小值。一般地说，梯度下降的问题涉及落入局部极小值。然后，凹底也就不代表全局的最小误差。
瓦丘和霍夫证�