SOAL DAN PEMBAHASAN ANALISIS KOMPONEN UTAMA

Juli 18th, 2021

Soal 1

Tentukan komponen utama populasi Y₁ dan Y₂ bagi matriks kovariansi $\Sigma = \begin{pmatrix}5 & 2 \\ 2 & 2 \end{pmatrix}$ . Kemudian hitunglah proporsi total variansi populasi yang dijelaskan komponen utama pertamanya.

Jawab
Mencari nilai-nilai dan vektor-vektor eigen:

(λ-6)(λ-1) = 0

λ₁ = 6 dan λ₂ = 1

Dari λ = 6 dihasilkan vektor eigen $\vec{e}_1 = \begin{pmatrix}2/\sqrt{5} \\ 1/\sqrt{5} \end{pmatrix}$ dan dari λ = 1 dihasilkan vektor eigen $\vec{e}_2 = \begin{pmatrix}1/\sqrt{5} \\ -2/\sqrt{5} \end{pmatrix}$ .

Menentukan komponen-komponen utama populasi:

Komponen utama pertama: $Y_1 = \frac{2}{\sqrt{5}}X_1+\frac{1}{\sqrt{5}}X_2$
Komponen utama kedua: $Y_2 = \frac{1}{\sqrt{5}}X_1-\frac{2}{\sqrt{5}}X_2$

Proporsi total variansi populasi yang dijelaskan komponen utama pertama:
$\% Var(Y_1) = \frac{6}{6+1} \cdot 100 \% \approx 85,71 \%$

Soal 2
Konversikan matriks kovariansi pada Soal 1 menjadi matriks korelasi ρ.

Tentukan komponen-komponen utama Y₁ dan Y₂ dari ρ dan hitunglah proporsi total variansi populasi yang dijelaskan Y₁.
Bandingkan komponen yang dihitung pada bagian a dengan yang diperoleh pada Soal 1. Apakah sama? Apakah memang seharusnya sama?
Hitunglah korelasi-korelasi $\rho_{Y_1,Z_1}$ , $\rho_{Y_1,Z_2}$ , dan $\rho_{Y_2,Z_1}$ .

Jawab
Matriks korelasi dari Σ adalah:

Menentukan nilai-nilai eigen dan vektor-vektor eigen:

Vektor eigen yang dihasilkan dari λ₁ adalah $\vec{e}_1 = \begin{pmatrix}1/\sqrt{2} \\ 1/\sqrt{2} \end{pmatrix}$ sedangkan yang dihasilkan λ₂ adalah $\vec{e}_2 = \begin{pmatrix}-1/\sqrt{2} \\ 1/\sqrt{2} \end{pmatrix}$ .

Komponen utama pertama: $Y_1 = \frac{1}{\sqrt{2}}X_1+\frac{1}{\sqrt{2}}X_2$

Komponen utama kedua: $Y_2 = \frac{-1}{\sqrt{2}}X_1+\frac{1}{\sqrt{2}}X_2$

Proporsi total variansi populasi yang dijelaskan komponen utama pertama:

Komponen-komponen yang dihasilkan dari Σ dan dari ρ berbeda. Pada umumnya memang kedua matriks itu memberikan nilai-nilai dan vektor-vektor eigen yang berbeda.

Menentukan korelasi-korelasi $\rho_{Y_1,Z_1}$ , $\rho_{Y_1,Z_2}$ , dan $\rho_{Y_2,Z_1}$ :

Rumus yang digunakan untuk menghitung korelasi antara komponen Y_i dengan variabel asal X_k adalah $\rho_{Y_i,X_k}=\frac{e_{ik} \sqrt{\lambda_i}}{\sqrt{\sigma_{kk}}}$ (lihat Dalil 3 pada link berikut: http://edscyclopedia.com/komponen-utama-populasi-population-principal-components/). Namun karena yang digunakan sebagai dasar penentuan komponen utama adalah matriks korelasi, σ₁₁ = σ₂₂ = 1 sehingga dalam hal ini berlaku $\rho_{Y_i,Z_k}= e_{ik} \sqrt{\lambda_i}$ .

Soal 3

Misalkan $\Sigma = \begin{pmatrix}2 & 0 & 0 \\ 0 & 4 & 0 \\ 0 & 0 & 4 \end{pmatrix}$ . Tentukan komponen-komponen utama Y₁, Y₂, Y₃. Kesimpulan apa yang dapat diberikan mengenai komponen-komponen utama yang terbentuk dari nilai-nilai eigen yang sama?

Jawab
Persamaan karakteristik dari Σ adalah (λ-2)(λ-4)² = 0 dan ini menghasilkan nilai-nilai eigen λ₁ = λ₂ = 4 dan λ₃ = 2.

Vektor eigen yang dihasilkan dari λ₃ = 2 adalah $\vec{e}_3 = \begin{pmatrix}1 \\ 0 \\ 0 \end{pmatrix}$ . Ruang eigen yang dihasilkan dari λ₁ = λ₂ = 4 memiliki vektor-vektor $\vec{e}_1 = \begin{pmatrix}0 \\ 1 \\ 0 \end{pmatrix}$ dan $\vec{e}_2 = \begin{pmatrix}0 \\ 0 \\ 1 \end{pmatrix}$ sebagai basisnya.

Dari hasil-hasil ini diperoleh komponen-komponen utama sebagai berikut.
Y₁ = X₂
Y₂ = X₃
Y₃ = X₁

Berikut ini akan ditunjukkan bahwa komponen-komponen utama tersebut tidak tunggal.
Perhatikan bahwa $\vec{u}_1 = \begin{pmatrix}0 \\ 3 \\ 2 \end{pmatrix}$ dan $\vec{u}_2 = \begin{pmatrix}0 \\ -1 \\ 3 \end{pmatrix}$ adalah dua vektor yang saling bebas dalam E₁, sehingga keduanya membentuk basis juga bagi E₁. Dengan proses Gram-Schmidt dapat ditentukan basis ortonormal $\vec{v}_1$ dan $\vec{v}_2$ sebagai berikut.

Dari $\vec{v}_1$ , $\vec{v}_2$ , dan $\vec{e}_3$ diperolehlah komponen-komponen utama yang berbeda dari sebelumnya, yaitu:

$Y_1 = \frac{3}{\sqrt{13}} X_2 + \frac{2}{\sqrt{13}} X_3$

$Y_2 = \frac{-2}{\sqrt{13}} X_2 + \frac{3}{\sqrt{13}} X_3$

$Y_3 = X_1$

Perhatikan bahwa selain pasangan $\vec{v}_1$ dan $\vec{v}_2$ masih terdapat tak berhingga pasangan vektor basis yang lain bagi E₁ dan basis-basis lain tersebut akan membentuk komponen-komponen utama yang lain pula. Sebagai kesimpulan, jika terdapat nilai eigen yang sama maka komponen-komponen utama yang berkaitan nilai eigen tersebut tidak tunggal.

Soal 4
Tentukan komponen-komponen utama dan proporsi total variansi populasi yang dijelaskan masing-masing komponen jika matriks kovariansinya adalah:

dengan $- \frac{1}{\sqrt{2}} < \rho < \frac{1}{\sqrt{2}}$ .

Jawab

Persamaan karakteristik yang terbentuk dari Σ adalah:

Penggunaan rumus abc untuk persamaan kuadrat dalam λ menghasilkan $\lambda = {\sigma}^2 (1+\rho \sqrt{2})$ atau $\lambda = {\sigma}^2 (1- \rho \sqrt{2})$ , sehingga Σ menghasilkan tiga buah nilai eigen yang berbeda λ1, λ2 dan λ3, dengan $\lambda_{1} = {\sigma}^2 (1+\rho \sqrt{2})$ , $\lambda_{2} = {\sigma}^2$ , dan $\lambda_{3} = {\sigma}^2 (1-\rho \sqrt{2})$ .

Selanjutnya dapat dibuktikan bahwa λ₁ menghasilkan $\vec{e}_1 = \begin{pmatrix}1/2 \\ 1/ \sqrt{2} \\ 1/2 \end{pmatrix}$ , λ₂ menghasilkan $\vec{e}_2 = \begin{pmatrix}-1/\sqrt{2} \\ 0 \\ 1/\sqrt{2} \end{pmatrix}$ , dan λ3 menghasilkan $\vec{e}_3 = \begin{pmatrix}1/2 \\ -1/ \sqrt{2} \\ 1/2 \end{pmatrix}$ .

Komponen-komponen utama yang dihasilkan Σ adalah:

Proporsi total variansi populasi yang dijelaskan masing-masing komponen adalah:

Soal 5
Tentukan nilai-nilai eigen dan vektor-vektor eigen dari matriks korelasi $\rho= \begin{pmatrix}1 & \rho & \rho \\ \rho & 1 & \rho \\ \rho & \rho & 1 \end{pmatrix}$ . Tentukan komponen-komponen utamanya.

Jawab
Persamaan karakteristik yang terbentuk dari ρ adalah (λ-1-2ρ)(λ-1+ρ)² = 0. Ini menghasikan nilai-nilai eigen λ₁ = 1 + 2ρ dan λ₂ = λ₃ = 1 – ρ.

Dari λ₁ = 1 + 2ρ diperoleh vektor eigen $\vec{e}_1 = \begin{pmatrix}1/\sqrt{3} \\ 1/ \sqrt{3} \\ 1/\sqrt{3} \end{pmatrix}$ .

Dari λ₂ = λ₃ = 1 – ρ diperoleh vektor-vektor eigen $\vec{e}_2 = \begin{pmatrix}1/\sqrt{2} \\ -1/ \sqrt{2} \\ 0 \end{pmatrix}$ dan $\vec{e}_3 = \begin{pmatrix}1/\sqrt{6} \\ 1/ \sqrt{6} \\ -2/\sqrt{6} \end{pmatrix}$ .

Catatan Penyerta Soal 5

Jika ρ adalah matriks korelasi berordo p dengan $\rho_{ij}= \begin{Bmatrix} \rho \: ; \: i \neq j \\ 1 \: ; \: i = j \end{matrix}$ (i, j = 1, 2, 3, …, p) maka ρ memiliki dua kelompok pasangan nilai eigen – vektor eigen, yaitu sebagai berikut.