一、引言

以生物学基础的BP网络为全局网络，于多变量函数逼近理论不同， BP神经网络是输入输出的映射，其优势在诸多方面比函数逼近理论要更为明显。本质上，神经网络是一个非线性系统，任意复杂的非线性函数它都能够充分逼近。良好的鲁棒性、联想记忆能力、容错性高及并行处理信息等优异特性使神经网络成为智能领域中的重要算法之一。

二、BP神经网络的结构与原理

在这里插入图片描述

图1 多层神经网络结构[1]

图1所示为多层神经网络结构。其中，n表示输入层神经元个数，l表示隐含层中神经元个数，m为输出层神经元个数。ωij、ωjk为连接权值，分别表示输入层第i个神经元和隐含层第j个神经元、隐含层第j个神经元与输出层第k个神经元之间的权值。取线性函数作为输入层神经元的作用函数，即神经元的输入和输出相同。分别将隐含层和输出层神经元的上一层神经输出加权和对应作为他们的输入，激励程度和作用函数决定了各个神经元的输出。

基本BP算法包括两个方面：信息的前向传播和误差的反向传播。计算实际输出时，按从输入到输出的方向进行；而权值和阈值的修正从输出到输入的方向进行。

2.1 信息前向传播

信息前向传播过程对于图1，设各神经元的阈值为0，便于后续分析。

输入层：对于第i个神经元，其输出为
隐含层：其第 j 个神经元的净输入为，其中输入层神经元个数为n。

隐含层第 j 个神经元的输出为：，其神经元的作用函数。

输出层：输出通过加权系数向前传播到输出层第k个神经元，净输入为，为隐含层神经元数。

实际网络的输出为，输出层第k个神经元的作用函数为

2.2 误差的反向传播过程

误差的方向传播，即首先由输出层开始逐层计算各层神经元的输出误差，然后根据误差梯度下降法来调节各层的权值和阈值，使修改后的网络的最终输出能接近期望值。

三、基于BP神经网络的非线性函数拟合

3.1 数据生成

利用BP网络拟合非线性函数如下：

在这里插入图片描述
它表示一维高斯分布高斯分布（Gaussian distribution），又称正态分布（Normal distribution）。若随机变量x服从一个数学期望为μ、方差为σ^2 的正态分布，记为N(μ，σ^2)。其概率密度函数为正态分布的期望值μ决定了其位置，其标准差σ决定了分布的幅度。当μ= 0,σ=1时的正态分布是标准正态分布。