我是ML的新手,我正在http://neuralnetworksanddeeplearning.com读在线书。
在第一章中,作者用一个奶酪节的例子描述了一个感知器。基本上,他举例说明了一个感知者试图决定在即将到来的周末是否去参加奶酪节的例子。感知器有3个输入(天气因素、社会因素和交通因素)。虽然我完全理解作者的“奶酪节”中的单感知器的例子,但我不理解他得出的下一个结论(似乎没有后遗症),在这个结论中,他把包含多个感知器的例子发展成两个层次:
“第二层的感知器呢?每个感知器都是通过权衡第一层决策的结果来做出决定的。这样,第二层的感知器就可以在比第一层的感知器更复杂、更抽象的层次上做出决策。这样,多层感知器网络就可以进行复杂的决策。”
我不明白的是:为什么第二层的感知器比第一层的感知器更能“在一个更复杂、更抽象的层次上做出决定?”
有人能提供一个例子吗,也许用这个作者已经开始的奶酪节的例子?第二层中的感知器可以做出更复杂/抽象的决策,其中的例子是什么?
示例

图的顶部(上图)显示了作者的奶酪节示例背后的决策感知器。孤独感知器包含3个输入/因素:天气因素、社会因素和交通因素。从这些计算/决定一个人是否应该去参加奶酪节。
上面图表的底部(即水平线下)完美地说明了我的思维挂在哪里。在这里,我们有3个神经元在第一层被输入到一个单层的第二层节点:
这三个感知器的输出(是的/否的决定)作为输入到单独的第二层节点。给出了这里的示例,说明了“特性层次结构”的概念的第二层节点决策的示例是什么?或者作者关于更深层次可以做出更复杂/抽象决策的声明?
发布于 2016-03-31 15:19:28
多层网络的基本思想是每一层都增加了一定的抽象量。第二层本身具有与第一层相同的结构,因此不能单独做出更复杂的决策。但是它可以建立在第一层的抽象(输出)之上。
我想补充一点,这一说法相当理想化。在实践中,通常很难理解内部层到底在做什么。
在您的例子中,第二层节点做出的决定可能是“我应该去参加一个节日吗?”
发布于 2016-05-16 19:50:57
在深层网络中存在层间的可视化。http://blog.keras.io/how-convolutional-neural-networks-see-the-world.html
简单地说,每个新的层都可以通过在以前的层中寻找模式来识别更复杂的模式,而最后一个层则有许多想要的类的形状(antz、花、汽车等)。示例:
这也解释了为什么使用相关模型(18 16/18,AlexNet等)和切换顶层是有意义的。而不是花费数周的时间来训练完全的网络工作。
https://stackoverflow.com/questions/36327286
复制相似问题