Aritalab:Lecture/Math/PCA - Revision history

Adm: /* スペクトル分解、特異値分解 */

2013-06-04T05:31:13Z

‎スペクトル分解、特異値分解

Adm: /* スペクトル分解、特異値分解 */

2013-06-04T05:27:03Z

‎スペクトル分解、特異値分解

Adm: /* スペクトル分解、特異値分解 */

2013-06-04T05:23:38Z

‎スペクトル分解、特異値分解

Adm: /* スペクトル分解、特異値分解 */

2013-06-04T05:22:56Z

‎スペクトル分解、特異値分解

Adm at 03:59, 4 June 2013

2013-06-04T03:59:55Z

Adm at 01:58, 4 June 2013

2013-06-04T01:58:49Z

Adm: Created page with "==主成分分析== 主成分分析は行列の特異値分解を利用した手法です。 : X = U Δ V^T = (U Δ) V^T Δは対角成分に特異..."

2013-06-04T01:57:23Z

Created page with "==主成分分析== 主成分分析は行列の特異値分解を利用した手法です。 : X = U Δ VT = (U Δ) VT Δは対角成分に特異..."

New page

==主成分分析==

主成分分析は行列の特異値分解を利用した手法です。
: X = U Δ VT = (U Δ) VT
Δは対角成分に特異値が並んだ行列です。
ここで、行列 (U Δ) をスコア、VT をローディング（固有ベクトルに対応）と呼びます。

[[Image:Lecture_Math_PCA.png|right|200px]]

最も大きな固有値に対応する固有ベクトル、つまり元データの分散が最大になる方向を第一軸といいます。第一軸はスコア行列の第一列およびローディング行列の第一行で構成されます。第二軸はスコア行列の第二列とローディング行列の第二行にあたり、第一軸と直交する方向に設定されます。

各主成分軸は元々の説明変数を線形結合して得られますが、各軸が直交するように設定されるため共線性の問題を回避できます。
;[[Aritalab:Lecture/Math/PCA|RによるPCA実習]]

@@ Line 23: / Line 23: @@
 <b>A</b> が n x p 行列の場合 ( p ≦ n )、<b>A<sup>T</sup> A</b> という p x p 行列と <b>A A<sup>T</sup></b> という n x n 行列が考えられます。どちらも対称行列で、両者のランクと固有値は一致します（つまり大きな n x n 行列のほうはゼロ固有値が多いということ）。
-{{Twocolumn|
+{|
 対称行列 <b>Z</b> が異なる n 個の固有値を持つ場合、対応する固有ベクトルを P とすると
 : <math> \mathbf{Z = P \Delta^2 P^{T} }, \Delta^2 = \begin{bmatrix}\textstyle \lambda_1 & \cdots & \mathbf{0} \\ \vdots & \ddots & \vdots \\ \mathbf{0} & \cdots & \lambda_n \end{bmatrix}</math>
 が成立します。これをスペクトル分解といいます。
 n x p の行列 <b>A</b> が与えられたとき
 :<b> A A<sup>T</sup> = U &Delta;<sup>2</sup> U<sup>T</sup></b>
@@ Line 39: / Line 36: @@
 という形になり、これを特異値分解 (singular value decomposition; SVD) といいます。
+|
-[[Image:Lecture_Math_PCA_SVD.png|right|200px]]
+<center>
-}}
+[[Image:Lecture_Math_PCA_Spectral.png|300px]]

@@ Line 31: / Line 31: @@
 }}
 n x p の行列 <b>A</b> が与えられたとき
 :<b> A A<sup>T</sup> = U &Delta;<sup>2</sup> U<sup>T</sup></b>
@@ Line 37: / Line 38: @@
 :<b> A = U &Delta; V<sup>T</sup></b>
 という形になり、これを特異値分解 (singular value decomposition; SVD) といいます。

@@ Line 35: / Line 35: @@
 :<b> A<sup>T</sup> A = V &Delta;<sup>2</sup> V<sup>T</sup></b>
 という二通りのスペクトル分解ができることをみてきました。ここで <b>U, V</b> はそれぞれ n x k 行列、 p x k 行列です。２つをあわせると
-:<b> AA = U &Delta; V<sup>T</sup></b>
+:<b> A = U &Delta; V<sup>T</sup></b>
-という形になる。これを特異値分解 (singular value decomposition; SVD) という。
+という形になり、これを特異値分解 (singular value decomposition; SVD) といいます。

@@ Line 34: / Line 34: @@
 :<b> A A<sup>T</sup> = U &Delta;<sup>2</sup> U<sup>T</sup></b>
 :<b> A<sup>T</sup> A = V &Delta;<sup>2</sup> V<sup>T</sup></b>
-という二通りのスペクトル分解ができることをみてきました。ここで <b>U, V</b> はそれぞれ n x k 行列、 p x k 行列です。
+という二通りのスペクトル分解ができることをみてきました。ここで <b>U, V</b> はそれぞれ n x k 行列、 p x k 行列です。２つをあわせると

@@ Line 3: / Line 3: @@
 主成分分析は行列の特異値分解を利用した手法です。
 :<b> X = U Δ V<sup>T</sup> = S V<sup>T</sup></b>
-Δは対角成分に特異値が並んだ行列です。
+Δは対角成分に特異値（これから説明）が並んだ行列です。
 ここで、行列 <b>S (= U Δ)</b> をスコア、<b>V<sup>T</sup></b> をローディング（固有ベクトルに対応）と呼びます。
@@ Line 12: / Line 12: @@
 各主成分軸は元々の説明変数を線形結合して得られますが、各軸が直交するように設定されるため共線性の問題を回避できます。
 ;[[Aritalab:Lecture/Math/PCA/R_PCA|RによるPCA実習]]

Aritalab:Lecture/Math/PCA - Revision history

Adm: /* スペクトル分解、特異値分解 */

Adm: /* スペクトル分解、特異値分解 */

Adm: /* スペクトル分解、特異値分解 */

Adm: /* スペクトル分解、特異値分解 */

Adm at 03:59, 4 June 2013

Adm at 01:58, 4 June 2013

Adm: Created page with "==主成分分析== 主成分分析は行列の特異値分解を利用した手法です。 : X = U Δ VT = (U Δ) VT Δは対角成分に特異..."

Adm: Created page with "==主成分分析== 主成分分析は行列の特異値分解を利用した手法です。 : X = U Δ V^T = (U Δ) V^T Δは対角成分に特異..."