极大似然估计

  01 Jan 2015


概述

   认为输出与一些参数有关,现在固定输出,调节参数使产生该输出的概率最大,而这参数则是最大似然估计值。

   最大似然估计,对假设没有偏好(即先验概率为扁平的),容易选择死记硬背或称过度拟合的假设。最大后验估计讲对假设的先验偏好纳入进来,可以有效控制这个问题。

求最大似然函数估计值的一般步骤:

  1. 写出似然函数;

  2. 对似然函数取对数(累乘变累加),并整理;

  3. 求导数,令导数为0,得到似然方程;

  4. 解似然方程,得到的参数即为所求;