主成分分析では、以下の手順で解を求めた。合成変数をsとする。行数nの列ベクトルである。s = f_1 x1 + f_2 x2 + … + f_p xp = X ff_1, f_2, …, f_p が各変数に対応する係数である。f = (f_1, f_2, …, f_p)’を行数pの列ベクトルとする。 sの分散（Var(s)）を…

主成分分析とは、合成変数の分散を（ある制限の元）最大化する問題を解くことである。合成変数とは元のデータの各列を説明変数とする線形結合式で、この合成変数の分散が最大になるときの線形結合式の係数が固有ベクトルであり、そのときの合成変数を主成分…

―― 特異値分解 ―― A （n×p）をランクrの行列とする。 A = ULV’ と分解することができる。 ここで、U（n×r）とV（p×r）はそれぞれ列ベクトルが直行する。U’U = V’V = I、I（r×r）は単位行列。 L（r×r）は、正の値を対角要素に取る対角行列となる。L = diag(ψ1…

主成分分析を計算してみる。 x1 <- c(0.966,0.207,-0.552,-0.931,0.587,1.55,-0.931,0.587,-1.69,0.207)x2 <- c(0.619,-1.009,-0.358,-0.684,0.944,1.921,0.293,0.293,-1.335,-0.684)x3 <- c(-0.474,-0.474,-1.684,0.735,-0.474,1.849,-0.474,0.735,-0.474,0…