L(
heta vert x) = P(x ;
heta)
其中L(
heta vert x)是似然函数,描述的对象是参数
heta 。对于任意的参数
heta 来讲,都有一定的可能性取得样本 x, 似然函数就是用来衡量一个参数取得给定的联合样本 x 的可能性。整个函数的意义是给定的联合样本x下,参数
heta是真实值 (相对于其他的
heta' )的可能性。
而 P(x ;
heta) 值得是在给定的参数
heta 下,随机变量 X=x 的可能性,是一个关于随机变量 X 的函数。
二者的相等仅仅是数值意义上面的相等。
因此可以推知,最大似然估计的过程是找到一个参数
heta 使得似然函数的值最大。直观的解释就是,找到一个参数估计 hat{
heta} 使得采样得到给定的联合样本的可能性最大,那么我们就认为 hat{
heta} 是采样的时候的真实参数
heta 的最佳估计。