首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >神经网络输入安排与归一化依赖

神经网络输入安排与归一化依赖
EN

Stack Overflow用户
提问于 2014-07-06 04:21:57
回答 1查看 140关注 0票数 0

我不知道这是否是一两个问题,虽然我认为这两个问题的答案都是“不,这不会有什么区别”,但你和我以前对其他愚蠢的问题都大错特错。

  1. 神经网络输入取决于它们之间的排列吗?例如,如果我有7个神经元代表一周中的每一天,而不是按照SMTWRFS的常识性方式排列它们,如果在我的培训、验证和测试集中一直这样做,我是否可以将它们安排为MFRSSTW?或者这会以某种方式影响机器根据我们(人类、社会等)学习模式的能力。一周中的几天的典型安排?这只是一棵枫树!但它证明了一个极端的例子我的问题。显然,这对人类来说更难理解,所以我不会这么做,除非从数据收集的角度来看,或者由于其他一些限制,这是有意义的。

*我相信这个问题的答案是否定的,因为所有的神经元都是完全相互关联的,突触的重量可以调整以适应出现的模式,而不管它们之间的位置如何。

2a。输入规范化是相互依赖的,还是可以单独归一化,只要是一致的呢?例如,输入1-8从(0,200) -> (-1,1)归一化,输入8-10规范化来自(0,100000) -> (-1,1),然后完全用于学习/计算。

2a。输出是否可以与输入无关的非正态化?与上面的示例相同,输入1-8来自(0,200) -> (-1,1),输入8-10标准化自(0,100000) -> (-1,1),但标准化输出来自(-1,1) -> (0,5000)?

*我认为,只要在向网络提交时一贯地进行正常化和非正规化,这在这两种情况下都不会有任何区别。

EN

回答 1

Stack Overflow用户

发布于 2014-07-06 16:05:35

  1. 正如你所怀疑的,人工神经网络的输入(至少在广泛使用的多层感知器中)可以任意排列。预测/分类结果与输入的排列无关。
  2. 归一化阶段的目标是,所有变量的平均值应该接近于零,它们的方差应该相似,通常接近1。因此,当您指出,每个变量必须独立地标准化。在输出方面也有类似的情况。

从理论上讲,归一化是人工神经网络实际应用中的一个重要步骤。这一点和其他关于神经网络的实用技巧可以在勒克氏论文中找到。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/24592688

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档