多変量解析－重回帰分析－.pptVIP

多変量解析　－重回帰分析－ 発表者：時田　陽一 発表日：11月20日 1．重回帰式の求め方 正規方程式 偏回帰係数の公式 平方和?積和行列の適用 相関行列の適用 2．重回帰式の係数に関する　　　　　　　　　　　　　　　推定と検定 係数?定数項の推定 T値?F値と係数?定数項の検定 3．理論値に関する分析 理論値の区間推定 4．変数選択法[1] 変数選択法[2] 5．重回帰分析における1つの工夫 * * p個の説明変数　　　　　　　　　について、n個のデータが測定されたとする yn x np ??? x nj ??? x n2 x n1 n ： ： 　 ： 　 ： ： ： yi x ip ??? x ij ??? x i2 x i1 i ： ： 　 ： 　 ： ： ： y2 x 2p ??? x 2j ??? x 22 x 21 2 y1 x 1p ??? x 1j ??? x 12 x 11 1 y xp ??? xj ??? x2 x1 　 求める重回帰式： i番目のサンプルの理論値を　　とすると： i番目のサンプルの残差： 残差平方和　　： 　　を最小にする　　を求める 最小2乗法 　　を　　　　　　　　　で編微分して0とおき、(p+1)元の連立方程式を作り、解く 　　を最小にするための係数　 正規方程式 ●基本統計量 ?平均：目的変数の平均を　　　　説明変数の平均を ?偏差平方和：変数yの偏差平方和 ?積和：yとj番目の変数との積和 　　における偏差平方和 ?平方和?積和行列：　　　各説明変数における偏差平方和、　　　変数相互の積和で作られる行列 逆行列： この連立方程式を解くことで、偏回帰係数　　　　　　　　 が求まる 正規方程式を変形させる (正規方程式をサンプル数nで割る) これから、 ?偏回帰係数 ?標準誤差 ?重相関係数 ?残差平方和 ?偏相関係数 平方和?積和行列を適用すると以下のようになる 各行列は以下の通り(p＝2の場合) ： 行列　　のi行j列目の要素の余因子 ：平方和?積和行列の逆行列のi ｊ成分 相関行列を　　 とする ：　　 のi行j列目の　　　　　　　　余因子行列 ：　　 のi行j列目の　　　　　余因子行列の逆行列 ?連立方程式 ?残差平方和 ?標準偏回帰係数 ?標準誤差 ?重相関係数 ここで、ある変数　　の母集団の偏回帰係数を　　とする ●標準誤差 ?標本調査を何度も行い、各調査ごとに重回帰式を得たとする ?求められた偏回帰係数　　別々に、度数分布、ヒストグラムを作成する ヒストグラムは平均　　標準偏差　　　　 　　　の正規分布に　　　　　　　　　　　　　　　　　　　　　　　　　近づくことがわかっている 標準誤差 定数項　　の標準誤差： n：サンプル数、　　：逆行列、　　　　；説明変数の平均 　　の区間推定： 信頼幅：100(1-α)%　自由度：n-p-1 t値： 　　の区間推定： ?有意水準α、自由度n-p-1におけるt値を ?j番目変数の偏回帰係数を標準誤差　　で割った値 母集団の偏回帰係数が　　　　という仮説の下に自由度　　　　　　　　　のF分布に従う ：　　（j番変数のT値）を2乗した値 であれば、　　は有意 　　は母集団の偏回帰係数が　　　　という仮説の下に自由度のt分布に従う ?定数項　　を標準誤差　　で割った値 であれば、　　は有意 T値 ●T値と係数?定数項の検定 ●係数検定のためのF値 変数選択法を用いる場合、F値を使って検定する ダーヴィンワトソン比(Dw)：一つ前の　　との系列相関を見ることによって　　　　　　　　　　　　　　　　　　に何らかの傾向があるか判断する ●ダーヴィンワトソン比 重回帰分析：残差　　がランダムでなければならない 値が2前後のときランダム 　　は平方和?積和行列なのでn倍 ある特定のサンプルi番目の理論値を　　とする i番目サンプルの母集団の理論値を　　、標本調査による理論値を　　とすると 理論値が標本調査より得たものであるとき、　　　　　　　「何％の信頼度でこの理論値は○から△の間にある」 という 理論値の区間推定 理論値の標準偏差： ：残差変動の不偏分散 n ： サンプル数 ：点　　と平均　　とのマハラノビスの汎距離　(j=1,???,p) 区間推定（有意水準α、n－p－1の　　　　　　　　　　とする） 説明変数選択の注意点 目的変数と相関の高い変数を選ぶ 説明変数相互で相関の高いものは、いずれかの変数を除外する 説明変数の候補の中から、変数を選択して重回帰式を求める方法 　　　A.分析者自身が変数を選択する方法　　????????一般的な重回帰分析 　　　B.ある基準を設け、これとの大小関係から