网站首页 网站地图
网站首页 > 电商创业 > 极大似然估计例题

极大似然估计例题

时间:2026-03-19 23:32:57

极大似然估计(Maximum Likelihood Estimation, MLE)是一种在统计学中估计模型参数的方法。它的基本思想是找到一组参数值,使得在这组参数下,观测到的数据出现的概率(即似然函数)最大。下面我们通过几个具体的例题来详细说明极大似然估计的应用。

例1:均匀分布的参数估计

假设我们有一个均匀分布的随机变量 \(X\),其取值范围为 \([a, b]\),我们想要估计其中的参数 \(a\) 和 \(b\)。我们从这个分布中独立地抽取了 \(n\) 个样本,记为 \(x_1, x_2, \ldots, x_n\)。

写出似然函数

\[

L(a, b) = \prod_{i=1}^{n} f(x_i | a, b) = \prod_{i=1}^{n} \frac{1}{b - a} = \left(\frac{1}{b - a}\right)^n

\]

取对数

\[

\ln L(a, b) = n \ln \left(\frac{1}{b - a}\right) = -n \ln (b - a)

\]

求导并令其等于0

\[

\frac{\partial}{\partial a} \ln L(a, b) = -\frac{n}{b - a} = 0 \quad \Rightarrow \quad b - a = 0 \quad \Rightarrow \quad b = a

\]

求解参数

由于 \(b = a\),极大似然估计为选择使得样本的范围最小的参数值,即 \(a\) 的估计值为最小样本值 \(x_{(1)}\),\(b\) 的估计值为最大样本值 \(x_{(n)}\)。

例2:正态分布的参数估计

假设某市的男性身高服从正态分布,标准差为 \(4\) cm。现在我们随机抽取 \(100\) 个男性,并测量他们的身高。我们想要通过这个样本估计这个市男性的平均身高 \(μ\)。

写出似然函数

\[

f(x | μ, σ) = \frac{1}{\sqrt{2\pi}σ} e^{-\frac{(x - μ)^2}{2σ^2}}

\]

样本的似然函数为:

\[

L(μ) = \prod_{i=1}^{100} f(x_i | μ, 4) = \prod_{i=1}^{100} \frac{1}{\sqrt{2\pi \cdot 4}} e^{-\frac{(x_i - μ)^2}{2 \cdot 4^2}}

\]

取对数

\[

\ln L(μ) = \sum_{i=1}^{100} \ln \left(\frac{1}{\sqrt{2\pi \cdot 4}}\right) + \sum_{i=1}^{100} \left(-\frac{(x_i - μ)^2}{2 \cdot 4^2}\right)

\]

\[

\ln L(μ) = -50 \ln \left(\frac{1}{\sqrt{2\pi \cdot 4}}\right) - \frac{1}{8} \sum_{i=1}^{100} (x_i - μ)^2

\]

求导并令其等于0

\[

\frac{\partial}{\partial μ} \ln L(μ) = \frac{1}{4} \sum_{i=1}^{100} 2(x_i - μ) = \frac{1}{2} \sum_{i=1}^{100} (x_i - μ) = 0

\]

\[

\sum_{i=1}^{100} x_i - 100μ = 0 \quad \Rightarrow \quad μ = \frac{1}{100} \sum_{i=1}^{100} x_i

\]

求解参数

极大似然估计为样本的平均值 \(μ = \frac{1}{100} \sum_{i=1}^{100} x_i\)。

例3:指数分布的参数估计

假设某种电子元件的寿命 \(X\) 服从双参数指数分布,其