概要
ある母集団について、未知のパラメーターを推定したとき、その推定方法でいろいろな推定結果(推定量)が得られます。
ただそれでは、どの推定がいいのか判断ができず、困ってしまうことになります。
また、言い換えれば、ある方法で推定をしたとき、その推定量で本当にいいのかという疑問が生じます。
例えば、
「2つの方法で分散 $ \sigma_1 \, , \, \sigma_2$ を推定した場合、どちらの分散を使えばいいの?」
「分散 $ \sigma$ について、最尤法などのある方法で推定した場合、その分散 $ \hat{\sigma}$ はそのまま使用してよいの?」
このような疑問に答えるべく、統計学・計量経済学においては、不偏性・一致性・有効性という基準を満たす推定量が望ましいとされます。
そこで、以下では、不偏性・一致性・有効性について、説明したいと思います。
判断基準
不偏性・一致性・有効性の説明にあたり、共通する部分として、ある母集団のパラメーター $ \theta$ を、$ n$ 個の標本で推定するとし、その推定量を $ \hat{\theta}_n$ とします。
不偏性
不偏性とは、推定量は確率変数なので、その期待値が母集団のパラメーターと一致するというものです。
$ E(\hat{\theta}_n) = \theta$
これが成立しているとき、$ \hat{\theta}_n$ は「不偏推定量」と呼ばれます。
一致性
不偏性が成立すればいいのですが、標本数が有限な場合には不偏推定量にならないこともあります。
このとき、標本数を多くしていったときに、母集団のパラメーターに近づいていくことが望ましいと言えます。
平易に言い換えれば、本当の値は得られないならば、標本数が多くなれば、より本当の値に近いものが望ましいという考えです。
そこで、
$ \displaystyle \lim_{n\rightarrow\infty} \hat{\theta}_n = \theta$
となるような推定量を「一致推定量」と言います。
有効性
仮に推定量が不偏性を有していても、推定量の分散が大きいと、変動幅が大きいということを意味するので、望ましい推定量とは言えないでしょう。
そこで、2つの推定量 $ \hat{\theta}_n \, , \, \tilde{\theta}_n$ があったとき、
$ V(\hat{\theta}_n) \leq V(\tilde{\theta}_n)$
が成立するとき、$ \hat{\theta}_n$ は $ \tilde{\theta}_n$ よりも「有効である」とされます。
そして、数多くの不偏推定量の中で、最も分散の小さなものを「最小分散不偏推定量」(最良不偏推定量)と言います。
まとめ
これらの基準は理論的には重要ですが、実務的には、これらの考え・基準を考えながら、推計を行うことはあまりないように思います。
ただ、最小二乗法で推計したパラメーターは不偏推定量・BLUEであるとか、最尤法で不偏推計量となるような分散の推計を行うにはちょっと注意が必要だとかは、覚えておく必要はあるかなと思います。
参考
黒住英司『計量経済学』
中村隆英『統計入門』