回帰分析における線形制約に対する検定

はじめに

　次のような重回帰モデルを考えます。

　　$y_i = \alpha + \beta_1 x_{i1} + \cdots + \beta_p x_{ip} + u_i \quad (i = 1 \, , \, 2 \, , \, \cdots \, , \, n)$

　　$E(u_i) = 0$、$E(u_i^2) = \sigma^2$、$E(u_i u_j) = 0 \quad (i \neq j)$

　式から分かるように、スタンダードなモデルとなっており、そのままOLSを行えばいい形です。

　ただこのとき、例えば、次のような係数間で制約が課せられているるとします。

　　　例：$\beta_1 + \beta_2 = 0$

　　　例：$\beta_3 = \beta_4 = 0$

　係数間での制約を線形制約と言いますが、このようなときには、これらの制約が正しいのかどうかを検定する必要があります。

　発想としては簡単で、線形制約がある場合とない場合を比較して、その違いがあるどうかを見ることになります。

　統計学的には、次のような仮説を検定します。

　　$H_0$：線形制約あり
　　$H_1$：線形制約なし（無制約）

　具体的には、次のような手順をとります。

①無制約での推計
　無制約でモデルの推定を行い、残差二乗和（$RSS^u$）を計算します。

②制約つきでの推計
　制約付きでモデルの推定を行い、残差二乗和（$RSS^r$）を計算します。

③F検定の実施
　検定統計量$F$

　　$F = \dfrac{(RSS^r \; – \; RSS^u) / q}{RSS^u / (n \; – \; p \; – \; 1)}$

を計算します。

　ここで、$n$はデータ数、$p$はモデルの係数の数、$q$は、

　　$q = $（無制約モデルの回帰係数の数） $-$ （制約付きモデルの回帰係数の数）

です。

　そして、F分布からこの$F$が棄却できるどうかをみることで、線形制約が成立しているどうかを調べることができます。