文章/答案/技术大牛

发布

社区首页 >问答首页 >用神经网络逼近z= y^2 + x^2

问用神经网络逼近z= y^2 + x^2
EN

Stack Overflow用户

提问于 2010-09-23 07:52:37

回答 2查看 1.4K关注 0票数 5

预计神经网络逼近z= y^2 + x^2函数的速度有多快？当我把输入设为负值，并且所有的权重都变得非常小时，我的权重似乎也很小( *10^-16！)如果使用2x40x1)或全部变为相同数字(如使用2x20x1，则为-0.16和0.16 )。我每个时期使用2000个输入示例。

然而，如果所有输入都是正的，它似乎可以学习。这可能意味着什么？

你认为我应该使用多少个输入对来解决这个问题？

我使用backprop，无偏差的神经网络，有1个隐藏层(我的输入都在-1和+1之间，期望的输出是0，1)。

谢谢,

neural-network

回答 2

Stack Overflow用户

发布于 2010-09-23 09:13:37

对于正输入，函数是单调的。一旦你穿过原点，情况就不再是这样了。

我认为，为了开发具有非单调输出的神经网络，您可能需要允许非零偏差。

此外，确保您的实现没有进行有界优化，许多优化算法都包含了一个非负性假设。

票数 0

Stack Overflow用户

发布于 2015-07-15 22:45:59

这取决于算法的目的是什么？如果您只想重新创建图形，那么过度拟合它是没有问题的，您应该训练它，直到增量误差最小为可能(接近0.0001)。

对于其他目的，建议不要过度拟合训练数据。

有关更多信息，请访问：http://neuralnetworksanddeeplearning.com/chap2.html或https://en.wikipedia.org/wiki/Backpropagation

票数 0

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/3774476

复制

相似问题

问用神经网络逼近z= y^2 + x^2
EN

回答 2

Stack Overflow用户

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问用神经网络逼近z= y^2 + x^2EN

回答 2

Stack Overflow用户

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问用神经网络逼近z= y^2 + x^2
EN