极大似然估计(Maximum Likelihood Estimation, MLE)是一种统计学方法,用于估计概率模型的参数。其核心思想是,在给定样本数据的情况下,找到那些参数值,使得这些数据出现的概率(即似然函数)最大。下面是极大似然估计的基本步骤:
写出似然函数:
似然函数表示在给定参数值的情况下,观测到特定样本数据的概率。
取对数并整理:
为了简化计算,通常对似然函数取自然对数,得到对数似然函数。
求导数:
对对数似然函数关于参数求导数,得到导数表达式。
解似然方程:
令导数等于零,解出参数值。这些参数值即为极大似然估计量。
极大似然估计量是估计量的期望值等于真实参数的无偏估计。需要注意的是,极大似然估计要求对样本数据的分布有明确的假设,即必须知道样本数据的概率密度函数或分布函数。