我试着训练一个简单的x^2函数的神经网络。
我做了850个训练例子,使用第一列作为'X‘,第三列作为'y’。
然而,我只能得到63%的训练准确率!
我哪里出错了?我将input_layer改为1,并尝试了5到35之间的隐藏单元。尝试了正则化λ0到2,但仍然只有63%的准确性!我哪里出错了?
如果h2(i)>0.5,则我的预测函数为p=1。
如有任何帮助,将不胜感激!
我还注意到,我的神经网络的输出为0.3XXX,用于所有的训练examples...how,这可能吗??
发布于 2016-03-15 01:08:58
我使用keras重新实现了您在python中的设置。我使用的隐藏层大小为25,我所有的激活是乙状结肠的,我获得了99.88%的准确性。尝试运行您的算法在更多的时代。使用二进制交叉熵作为损失函数,尝试降低梯度下降算法的学习速度。这将有助于提高您的准确性。我对性能不佳的唯一解释是,你被困在了一个局部最小值,如果是这样的话,不同的权重初始化应该会解决这个问题。
发布于 2016-03-17 16:31:16
问题解决了!我的代价是错误的,由于缺少一个括号,formula...lambda没有与两个θ组件相乘!解决了这个问题,现在一切都好了。:-)
https://datascience.stackexchange.com/questions/10699
复制相似问题