母集団$Y_i \sim N(\mu \, , \, \sigma^2)$について、最尤法にて、最尤推定量$\hat{\mu} \, , \, \hat{\sigma}^2$を求める場合を考えます。
正規分布の密度関数は、
$\displaystyle f(Y_i) = \dfrac{1}{\sqrt{2 \pi \sigma^2}} exp \left( – \dfrac{(Y_i \; – \; \mu)^2}{2 \sigma^2} \right)$
であり、これをそのまま使い、最尤法で推定することになります。
まずは、この密度関数について対数化を行います。
$\ln f(y_i) = \; – \; \dfrac{1}{2} \ln 2\pi \; – \; \dfrac{1}{2} \ln \sigma^2 \; – \; \dfrac{1}{2\sigma^2}(Y_i \; – \; \mu)^2$
尤度関数を$L$とすると、対数尤度関数は、次のようになります。
$\displaystyle \ln L = \sum_{i=1}^n \ln f(Y_i) = \; – \; \dfrac{n}{2} \ln 2\pi \; – \; \dfrac{n}{2} \ln \sigma^2 \; – \; \dfrac{1}{2\sigma^2} \sum_{i=1}^n (Y_i \; – \; \mu)^2$
これについて、$\mu$と$\sigma^2$で偏微分して、$0$とすると、
$\displaystyle \dfrac{\partial L}{\partial \mu} = \dfrac{1}{\sigma^2} \sum_{i=1}^n (Y_i \; – \; \hat{\mu}) = 0$
$\displaystyle \dfrac{\partial L}{\partial \sigma^2} = \; – \; \dfrac{n}{2 \hat{\sigma}^2} \; – \; \dfrac{1}{2 \hat{\sigma}^4} \sum_{i=1}^n (Y_i \; – \; \mu)^2 = 0$
となります。
そしてこの第一式について解くと、平均$\mu$の最尤推定量$\hat{\mu}$を得ることができます。
$\displaystyle \hat{\mu} = \dfrac{1}{n} \sum_{i=1}^n Y_i = \bar{Y}$
これを第二式に代入して解くと、分散$\sigma^2$の最尤推定量$\hat{\sigma}^2$を得ることができます。
$\displaystyle \hat{\sigma}^2 = \dfrac{1}{n} \sum_{i=1}^n (Y_i \; – \; \bar{Y})^2$
参考
鹿野繁樹『新しい計量経済学』