感知机
感知机(perceptron)是ANN的基本单元,至少我现在是这么觉得的,如果我学到后来发现不是,会来更正的。
感知机(如下图)就是伸出几只小触手去感知这个世界~感知~感知~然后触手获取数据的加权和通过函数 f,得到的值即为该感知机的输出。就是如果用一个数表示这个世界的话,感知机唰唰唰就得出结论了。
加权和好算,那 f 怎么办?选什么样的函数好呢?其实可以乱七八糟随便选,只要你能说的出道理就行。最简单的可以用符号函数,加权和小于0为输出为-1,加权和大于0输出为+1。等于0,等于0,怎么可能等于0。如果你选择了这个函数说明你想用感知机来区分两类问题,以为输出为+1,另一类为-1。加权和等于0说明还没有训练好,感知机需要继续学习。还有其他的一些函数如下,下表是抄的。。。来自 自己动手写神经网络
好了,不管有多少种,不管用什么函数,我们可以发现归根到底我们要解决一个问题:一类事物(应该叫模式,专业点嘛)加权和小于0,另一类事务(后面都叫模式了)加权和大于0。我们先解决这个问题。怎么解决呢?我们让感知机自己学习,每次往好的目标挪一点。引出梯度下降法。
梯度下降法
梯度下降法是求最小值的一种方法&#x