本篇采用反向传播的神经网络模型，和函数一律采用的 Sigmoid Function。
反向传播神经网络，每次迭代要传播三轮：正向、反向、正向。其中，最后一次正向传播，是带上最优化的方向之后对系数矩阵（权重）w，以及右端项 b 进行更新。
其中 dw 和 db 都是导数。传导机制是这样的，在最后一层隐藏层。
其中，m 为样本个数，A(n) 为本层的激活函数输出，A(n-1) 为上一层激活函数输出，ones(m) 为维度为 m 的，全 1 向量。
注意，倒数第二层开始的 dz(n-1) 计算略有不同，因为最后一层 dz(n) 是直接计算预测值与真实值之间的距离。dz(n-1) 计算公式如下
更新权重和右端项。
上述公式依据目标函数不同而不同，本篇选择 Sigmoid 作为 Loss Function。因此，完成模型时候，Loss 计算如下
针对非线性模型，我们暂时没有做分箱处理，所有变量数值化之后，一律标准化，这些工作，使用的是 Tensorflow 框架的函数。实务中，我们并没有用 Tensorflow Placeholder feed_dict 组合，更多使用该组件中数据处理的功能。BP NN 模型有参考的代码框架。基本原理，是基于反向传播神经网络的理论，推导出离散的计算公式并部署于算法，向量方向的调整，完全由理论求得，算法本身没有测试、计算、调整的过程。
点击阅读 《
神经网络模型 代码解读》。
8128
沪公安联网 31011502019103