componentanalysisFactoranalysis.docVIP

Principal component analysis Factor analysis Reduce the original observation variables into compact indices or several fewer common latent variables. Principal component Y=W1X1+W2X2…+WkXk W1, W2,…Wk are the principal weights, while Y is the reduced index possessed most information of Xk. Factor analysis [X1,X2…Xk]→[Y1,Y2,…Yj], jk Y1, Y2, …,Yj are the common variables which are also the nearly proxies for original observations, Xk, without losing too much information. Principal component analysis (主成份分析) λ是相關係數矩陣R的特徵值(eigenvalues)，…λk-1,λk)，求出之後，以最大的λ1代入(R-λ1I)a=0，可得一組K條k元(a1, a2, …ak)一次方程式，於是得出單位向量(a1, a2, …ak)，稱特徵向量(eigenvector)。…λk-1,λk代入(R-λI)a=0之後，分別可得其對應的特徵向量(eigenvectors)。 Factor analysis(因素分析) 利用 Σ可以拆解成其特徵值與特徵向量之乘積的和， Σ=λ1e1’e1+λ2e2’e2+…+λkek’ek≒λ1e1’e1+λ2e2’e2+…+λjej’ej, (jk) 故[f1, f2, …fj]=[ (λ1e1)1/2| (λ2e2)1/2…| (λj-1ej-1)1/2| (λjej)1/2 ] () 其它利用Langrange方程式的作法 若欲得三個latent factors，則求出三個λ值，並對應求出其特徵向量，計算得factor loadings。 其它方法: maximum likelihood estimator 先決定要多少個因素，並假定所有的觀察變數皆為常態分佈，用於大樣本。 重心法: 此法是以全部的相關係數矩陣R1開始，R2,再求出第二共同因素factor loading fk,2，以此繼續求得其它共同因素。 轉軸: 使factor fj，其所對應的原始觀察變數之factor loadings，更加明顯對比，其目的在使得某一factor f1的解釋力落在那些loading較大的觀察變數上，而另一組factor f2的解釋力又落在其它f1所解釋未逮的觀察變數上。 直交法 (orthogonal rotation)， 斜交法 (non-orthogonal rotation) 目標轉軸法 (for confirmative factor analysis) Confirmative factor analysis之目的在於使已知哪些觀察變數之可能的latent variables，一般利用MLE限定已知的因素數目，並使用目標轉軸法，使某一些變數一定落於某一特定的潛在因素裡。 因素分數Factor score matrix [Y] n×j=[score]n×k×[X]k×j Factor Yj 在 原來k 個觀察變數的座標，也就是每一個Yj如何由各Xk組成。