概要
チェビシェフの不等式(Chebyshev’s inequality)とは、有限な確率変数$ X$について、平均・分散を
$ E(X) \, = \, \mu \quad , \quad Var(X) \, = \, \sigma$
とすると、任意の$ \varepsilon \, \gt \, 0$に対して、
$ P(\left| \, X – \mu \,\right| \geq \varepsilon) \, \leq \, \dfrac{\sigma^2}{\varepsilon^2}$
が成立します。
マルコフの不等式
チェビシェフの不等式を導出する前に、その導出に必要なマルコフの不等式(Markov’s inequality)の導出を行います。
まずは、次のような$ Y$を定義します。
$ Y \, = \, \left\{
\begin{array}{ll}
0 & (X \lt \varepsilon) \\
\varepsilon & (X \geq \varepsilon)
\end{array}
\right.$
このとき、常に$ Y \leq X$であるので、次を得ます。
$ E(Y) \leq E(X) \qquad \cdots \qquad (1)$
また、$ Y$について、期待値をとると、
$ E(Y) = 0 \times P(Y=0) + \varepsilon \times P(Y=\varepsilon) = \varepsilon P(X \geq \varepsilon) \qquad \cdots \qquad (2)$
となります。そして、$ (1)$式と$ (2)$式を使うと、
$ \varepsilon P(X \geq \varepsilon) \leq E(X)$
となり、$ \varepsilon$で割ると、
$ P(X \geq \varepsilon) \leq \dfrac{E(X)}{\varepsilon} \qquad \cdots \qquad (3)$
というマルコフの不等式を得ることができます。
チェビシェフの不等式の導出方法
まずは、$ Y=(X-\mu)^2$をおき、この$ Y$について、マルコフの不等式$ (3)$を適用すると、
$ P(Y \geq \varepsilon^2) \leq \dfrac{E(Y)}{\varepsilon^2} = \dfrac{\sigma^2}{\varepsilon^2} \qquad \cdots \qquad (4)$
が得られます。
ここで、$ Y \geq \varepsilon^2$から、$ \left| \, X – \mu \,\right| \geq \varepsilon$なので、
$ P(Y \geq \varepsilon^2) = P(\left| \, X – \mu \,\right| \geq \varepsilon) $
であることから、この式を$ (4)$式に代入すると、
$ P(\left| \, X – \mu \,\right| \geq \varepsilon) \, \leq \, \dfrac{\sigma^2}{\varepsilon^2}$
というチェビシェフの不等式を得ることができます。
参考
竹村彰通『現代数理統計学』