🙄

回帰係数のp値の意味

2023/09/08に公開

回帰係数のp値の意味

p値の意味

回帰係数のp値は、 各係数が統計的に有意であるかを判定するための指標となっている。
p値が十分に小さければ、各係数は目的変数に影響を与えている、と"統計的に"判断できる。

検定の内容

具体的に、線形な項では以下の検定を行っている。

  • 帰無仮説(H_0): 該当する回帰係数は0である。(目的変数に影響を与えない)
  • 対立仮説(H_1): 該当する回帰係数は0ではない。(目的変数に影響を与える)

p値が有意水準(一般的には0.05とか0.01)よりも小さい場合、帰無仮説が棄却され、対立仮説が採択される。

p値が小さい == 目的変数への影響度が大きい ではないことに注意

p値が小さく、かつ回帰係数も非常に小さい、という場合はある。
この場合、その係数は目的変数に対して統計的には有意である(影響は0ではない)が、その与える影響は非常に小さい、ということになるため。

p値の大きさはあくまで係数が0か否かの検定についての値である。
回帰係数の大きさは、独立した指標である。

具体例

例えばGAM(Generalized Additive Model)でモデリングするとき、以下のような結果がプリントがされる。
GLMでモデリングしてもよく似た結果が表示される。

LinearGAM                                                                                                 
=============================================== ==========================================================
Distribution:                        NormalDist Effective DoF:                                     15.9428
Link Function:                     IdentityLink Log Likelihood:                                 -1808.8514
Number of Samples:                         1249 AIC:                                             3651.5886
                                                AICc:                                            3652.0825
                                                GCV:                                                0.2729
                                                Scale:                                              0.2667
                                                Pseudo R-Squared:                                   0.3363
==========================================================================================================
Feature Function                  Lambda               Rank         EDoF         P > x        Sig. Code   
================================= ==================== ============ ============ ============ ============
s(0)                              [0.6]                20           15.9         1.11e-16     ***         
intercept                                              1            0.0          1.11e-16     ***         
==========================================================================================================

この例では、p値は十分に小さいので、各係数は目的変数に影響を与えていると判断できる。

Sig. Code

右下に表示されているSig. Codeは、回帰係数のp値の有意水準の度合いを示している。
p値の範囲にラベルをつけたものである。
回帰係数は、GAMであれば各関数のことを指す。

Discussion