1700535546
1700535547
在生物神经系统中，还存在着一种侧抑制现象，即一个神经细胞兴奋后，会对周围其他神经细胞产生抑制作用。这种抑制作用会使神经细胞之间出现竞争，其结果是某些获胜，而另一些则失败。表现形式是获胜神经细胞兴奋，失败神经细胞抑制。自组织神经网络就是对上述生物神经系统功能的一种人工神经网络模拟。
1700535548
1700535549
自组织映射神经网络本质上是一个两层的神经网络，包含输入层和输出层（竞争层）。输入层模拟感知外界输入信息的视网膜，输出层模拟做出响应的大脑皮层。输出层中神经元的个数通常是聚类的个数，代表每一个需要聚成的类。训练时采用“竞争学习”的方式，每个输入的样例在输出层中找到一个和它最匹配的节点，称为激活节点，也叫winning neuron；紧接着用随机梯度下降法更新激活节点的参数；同时，和激活节点临近的点也根据它们距离激活节点的远近而适当地更新参数。这种竞争可以通过神经元之间的横向抑制连接（负反馈路径）来实现。自组织映射神经网络的输出层节点是有拓扑关系的。这个拓扑关系依据需求确定，如果想要一维的模型，那么隐藏节点可以是“一维线阵”；如果想要二维的拓扑关系，那么就行成一个“二维平面阵”，如图5.8所示。也有更高维度的拓扑关系的，比如“三维栅格阵”，但并不常见。
1700535550
1700535551
1700535552
1700535553
1700535554
图5.8 SOM常见的两种网络结构
1700535555
1700535556
1700535557
1700535558
假设输入空间是D维，输入模式为，输入单元i和神经元j之间在计算层的连接权重为，其中N是神经元的总数。自组织映射神经网络的自组织学习过程可以归纳为以下几个子过程。
1700535559
1700535560
（1）初始化。所有连接权重都用小的随机值进行初始化。
1700535561
1700535562
1700535563
（2）竞争。神经元计算每一个输入模式各自的判别函数值，并宣布具有最小判别函数值的特定神经元为胜利者，其中每个神经元j的判别函数为。
1700535564
1700535565
1700535566
1700535567
（3）合作。获胜神经元I(x)决定了兴奋神经元拓扑邻域的空间位置。确定激活结点I(x)之后，我们也希望更新和它临近的节点。更新程度计算如下：，其中Sij表示竞争层神经元i和j之间的距离，随时间衰减；简单地说，临近的节点距离越远，更新的程度要打更大折扣。
1700535568
1700535569
1700535570
1700535571
（4）适应。适当调整相关兴奋神经元的连接权重，使得获胜的神经元对相似输入模式的后续应用的响应增强：， 其中依赖于时间的学习率定义为：。
1700535572
1700535573
（5）迭代。继续回到步骤（2），直到特征映射趋于稳定。
1700535574
1700535575
在迭代结束之后，每个样本所激活的神经元就是它对应的类别。
1700535576
1700535577
自组织映射神经网络具有保序映射的特点，可以将任意维输入模式在输出层映射为一维或者二维图形，并保持拓扑结构不变。这种拓扑映射使得“输出层神经元的空间位置对应于输入空间的特定域或特征”。由其学习过程可以看出，每个学习权重更新的效果等同于将获胜的神经元及其邻近的权向量wi向输入向量x移动，同时对该过程的迭代进行会使得网络的拓扑有序。
1700535578
1700535579
在自组织映射神经网络中，获胜的神经元将使得相关的各权重向更加有利于它竞争的方向调整，即以获胜神经元为中心，对近邻的神经元表现出兴奋性侧反馈，而对远邻的神经元表现出抑制性侧反馈，近邻者互相激励，远邻者相互抑制。近邻和远邻均有一定的范围，对更远邻的神经元则表现弱激励的作用。这种交互作用的方式以曲线可视化则类似于“墨西哥帽”，如图5.9所示。
1700535580
1700535581
1700535582
1700535583
1700535584
图5.9 神经元的激励交互方式
1700535585
1700535586
自组织映射神经网络与K均值算法的区别如下。
1700535587
1700535588
（1）K均值算法需要事先定下类的个数，也就是K的值。而自组织映射神经网络则不用，隐藏层中的某些节点可以没有任何输入数据属于它，因此聚类结果的实际簇数可能会小于神经元的个数。而K均值算法受K值设定的影响要更大一些。
1700535589
1700535590
（2）K均值算法为每个输入数据找到一个最相似的类后，只更新这个类的参数；自组织映射神经网络则会更新临近的节点。所以，K均值算法受noise data的影响比较大，而自组织映射神经网络的准确性可能会比K均值算法低（因为也更新了临近节点）。
1700535591
1700535592
（3）相比较而言，自组织映射神经网络的可视化比较好，而且具有优雅的拓扑关系图。
1700535593
1700535594
问题2 怎样设计自组织映射神经网络并设定网络训练参数？
1700535595