我发布了一个question昨天关于我的 XOR 运算符的反向传播神经网络遇到的问题。我做了更多的工作,意识到这可能与没有偏置神经元有关。
我的问题是,偏置神经元的一般作用是什么?它在识别 XOR 运算符的反向传播神经网络中的作用是什么?是否有可能创建一个没有偏置神经元的神经元?
可以创建一个没有偏置神经元的神经网络......它会工作得很好,但有关更多信息,我建议您查看这个问题的答案:
神经网络中偏差的作用
Update:尝试解决模型异或的神经网络中偏置神经元的作用是最小化神经网络的大小。通常,对于“原始”(不确定这是否是正确的术语)逻辑函数,例如AND
, OR
, NAND
等等,您正在尝试创建一个具有 2 个输入神经元、2 个隐藏神经元和 1 个输出神经元的神经网络。不能这样做XOR
因为最简单的建模方法是XOR
有两个NAND
s:
你可以考虑A
and B
作为输入神经元,中间的门是“偏置”神经元,后面的两个门是“隐藏”神经元,最后是输出神经元。你可以解决XOR
没有偏置神经元,但需要将隐藏神经元的数量增加到至少 3 个隐藏神经元。在这种情况下,第三个神经元本质上充当偏置神经元。这是另一个讨论偏置神经元的问题XOR
: XOR 问题可以用 2x2x1 神经网络无偏差解决吗?
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)