ChenJM
RBF神经网络

  01 Jan 2015

概述

RBF，Radial Basis Function，径向基函数; BP网络在训练中需要对所有权值和阈值进行修正，学习速度慢。径向基网络是一种局部逼近网络，训练速度快。

径向基函数方法是在高位空间进行插值的一种技术（P148插值问题），属于核函数模型类；

径向基网络也是一种前馈传播网络，主要思想来自于插值理论，有三个网络层：

  1. 输入矢量直接映射到隐藏层，即不需要通过权值连接；

  2. 隐藏层神经元的基函数采用距离函数（如欧式距离），并采用径向基函数作为神经元的激活函数；

  3. 输出层为一线性层。（对比与多层感知器中，输入映射到隐藏层需要通过权值连接；隐节点基函数采用线性函数，激活函数则采用Sigmoid函数或硬极限函数）。

工作原理：

  1. 函数逼近：以任意精度逼近任一连续函数。一般函数都可表示成一组基函数的线性组合，RBF网络相当于用隐层单元的输出构成一组基函数，然后用输出层来进行线性组合，以完成逼近功能；

  2. 分类：解决非线性可分问题。RBF网络用隐层单元现先非线性可分的输入空间设法变换成线性可分的特征空间（通常是高维空间），然后用输出层来进行线性划分。

RBF学习的三个参数：1）基函数的中心； 2）方差（扩展常数）；3）隐含层与输出层间的权值。

学习过程：使用K均值训练隐藏层可解决基函数的中心问题；使用RLS（递归最小二乘法）训练输出层，得到权值。

优点：

  1. 具有唯一最佳逼近的特性，且无局部极小问题存在；

  2. RBF神经网络具有较强的输入和输出映射功能，并且理论证明在前向网络总RBF网络是完成映射功能的最优网络；

  3. 分类能力好，学习过程收敛速度快。