之前我们已经实现了简单的神经元，并复现了代码对数据进行简单分类。
Numpy实现简单神经元进行逻辑回归对糖尿病数据集二分类

可惜单个神经元效果并不好，好吧，利用单个神经元做分类也不是我们的目的，但是学好神经元对于构建神经网络意义重大，我希望你能认真查看神经元的构建和推导的公式。本文也将进行神经网络的推导，相关知识，包括链式法则、梯度下降法，以及神经网络和神经元的关系等等，在这篇文章Numpy实现简单神经元进行逻辑回归对糖尿病数据集二分类已经做了详细说明。

现在我们开始神经网络的反向推导，正向推导是比较简单的，就是把输入不断按公式读入计算得到最终的结果。

希望我的分享对你的学习有所帮助，如果有问题请及时指出，谢谢~

PS:下面的推导过程中，关于权重w的更新部分，因为符号写的太多忘记乘学习率lr了，，，，尴尬，，，，我们求出权重w的下降梯度dw，正确的权重更新方式应该是w = w - lr*dw，然后下面的推导过程不小心写成了w = w - dw。望各位同学注意一下，这里主要是推导每个神经元的下降梯度dw怎么计算，求出后直接可以更新w，所以这里的误写和后面的梯度计算没啥关系，大家注意一下。

以下为推导过程。

希望你能认真看完上面的求导过程，看上去比较复杂，但是仔细看过单个神经元的推导会发现不难甚至比较简单，仔细研读你会发现神经网络的魅力，或者说是数学的魅力，当从复杂的网络关系推导出最后的结果，其中不断利用函数求导，链式法则连接关系，到结果的完美吻合，我深深被数学的魅力所折服。

哦，数学啊，你宛如一朵带刺的玫瑰，每次想要靠近你却深深被你刺痛，我何时才能走向你，拥抱你。