设总体X是离散型随机变量,其概率函数为p(x, θ),其中θ是未知参数。
设X1,X2,…,Xn为取自总体X的样本,则可求出X1,X2,…,Xn的联合概率函数。
如果样本取值x1,x2,...,xn,则(X1=x1,X2=x2,…,Xn=xn)发生的概率是为可求,这一概率值随θ的值的变化而变化,从直观上来看,既然样本值x1,x2,...,xn已经出现,它们出现的概率相对来说应比较大,应使其概率取比较大的值。
极大似然法就是在参数θ的可能取值范围内,选取使L(θ)达到最大的参数值θ,作为参数θ的估计值。即取θ,使得L(θ)=L(x1,x2,...,xn; θ)=max(x1,x2,...,xn; θ)。