多变量解析主成分分析.PPTVIP

多変量解析　～主成分分析～ 第９章　P.132~150　　 2006/05/26 　神津　健太 主成分分析とは 多くの量的変数が存在する場合に、 それらの間の相関構造を考慮して、 低い次元の合成変数（主成分）に変換し、 データが有している情報をより解釈しやすくするための方法。 「相関係数行列から出発する方法」と 「分散共分散行列から出発する方法」の ２種類がるが、今回は前者だけを説明する。 * １．主成分解析とは ２．適用例と解析の目的 ３．解析の流れ ４．変数が２個の場合の主成分分析 ５．変数がp個の場合の主成分分析 ６．行列とベクトルによる表現 91 93 92 89 10 72 76 44 51 9 47 52 66 78 8 72 64 53 50 7 50 45 33 39 6 63 61 97 96 5 95 98 58 62 4 44 39 43 42 3 84 78 75 71 2 68 67 79 86 1 理科 x4 数学 x3 英語 x2 国語 x1 生徒No. 適用例と解析の目的（１） (P.132~) 表１．試験の成績のデータ それぞれの科目を量的変数と考える。 変数の個数は p = 4 である。 それぞれの相関係数を求めると、 （相関係数の求め方はP.13を参照） 　　各変数間の相関係数はすべて正となり、 　　「国語と英語」「数学と理科」の相関係数は高い値となっている。 　　つまり、データにはなんらかの相関構造があると考えられる。 ?「より低い次元でデータのばらつきを解釈できないか」 ?「そのためにはどのように合成変数（主成分）を構成すればよいか」 ?「それぞれの主成分の説明力はどれくらいか」 ?「科目や生徒をどのように分類できるか」 などを検討したい。 適用例と解析の目的（２） 主成分分析の流れ （１）主成分の導出 　　　　　相関係数行列 R の第１固有値（最大固有値）λ1 に対応する固有ベクトルから　　　　　第１主成分 z1 を求める。次にRの第２固有値λ2 に対応する固有ベクトルから　　　　　　第２主成分 z2 を求める。同様にして、第 k 主成分 を求める。(k = 3,4,???,p) （２）寄与率および累積寄与率 　　　　　それぞれの主成分の寄与率および累積寄与率を求める。「固有値が１以上」　　　　　　　ないしは「累積寄与率80％を超える」を目安として主成分を選択する。 （３）因子負荷量 　　　　　因子負荷量を求める。固有ベクトルや因子負荷量の値を参考にして、選択した　　　　　各主成分の意味について考察する。また、因子負荷量を散布図にプロットし、　　　　　　変数の分類を行う。 （４）主成分得点 　　　　　主成分得点を散布図にプロットし、サンプルの特徴付けや分類を行う。 変数が２個の場合の主成分分析（１）　　 変数がx1,x2の２つで、サンプルサイズがnとする。　　　　　 変数x1,x2を標準化 また、次のこともにも注意しておく。 第１主成分z1を とおく。 　　　　　　 　だから　　　　　 である。 目的は、データの情報をできるだけ多く有するようにz1を定めることである。（つまり、係数a1とa2をデータから定めることである。） （１）主成分の導出 (P.134~) 変数が２個の場合の主成分分析（２）　　 「z1がもとのデータの情報をできるだけ多く有する」 　→　「データの全体のバラツキをできるだけz1のバラツキに反映させる」と考える。 z1の分散 が最大となるようなa1とa2を求める。 となるので、Vz1の値は（a1,a2）の値が大きくなればいくらでも大きくなる。 そこで　 　　の制約条件を設けた上で、Vz1の最大化を考える。 制約付きの最大化問題を求めるために、ラグランジュの未定乗数法を用いる。 　　　　　　　未定乗数λを用いて とおき、a1,a2のそれぞれで微分（偏微分）してゼロとおく。 両辺を２で割って行列の形に表現 R a = λa 相関係数行列R 　λが行列Rの固有値であり、求めるべき[a1,a2]は 　　固有ベクトルで あることを示している。 変数が２個の場合の主成分分析（３）　　 変数が２個の場合の主成分分析（４）　　 両辺に左からベクトル[a1,a2]をかけてみると 以上より、Vz1を最大化させることは 「相関係数行列Rの固有値問題を解いて、最大固有値λ1に　　対応する（長さ１の）　固有ベクトル a を求めれば（つまり、　　R a =λ1 a）、それがVz1の最大値を与える[a1,a2]であり、　　Vz1の最大値はλ1となる