Singular Value Decomposition (SVD)

Singular Value Decomposition (SVD)#

1. Apa itu SVD#

Singular Value Decomposition (SVD) adalah metode dalam aljabar linier yang digunakan untuk memecah sebuah matriks menjadi tiga bagian penting.

Untuk sebuah matriks \(A\) berukuran \(m \times n\), SVD menyatakan bahwa:

\[ A = U \Sigma V^T \]

Dimana:

  • \(U\) adalah matriks ortogonal berukuran \(m \times m\), berisi left singular vectors.

  • \(\Sigma\) adalah matriks diagonal berukuran \(m \times n\), berisi singular values.

  • \(V^T\) adalah transpos dari matriks ortogonal \(V\) berukuran \(n \times n\), berisi right singular vectors.


2. Kegunaan SVD#

SVD banyak digunakan di berbagai bidang, seperti:

  • Reduksi Dimensi: digunakan dalam PCA (Principal Component Analysis).

  • Kompresi Gambar: menyimpan citra dengan ukuran lebih kecil tanpa kehilangan banyak informasi.

  • Sistem Rekomendasi: seperti Netflix dan Spotify, untuk prediksi preferensi pengguna.

  • Penyelesaian Sistem Persamaan Linier: terutama jika sistem tidak memiliki solusi eksak atau banyak solusi.

  • Deteksi Pola / Penghilangan Noise dalam data.


3. Formula SVD#

Secara umum, jika \(A\) adalah matriks \(m \times n\), maka:

\[ A = U \Sigma V^T \]

Dengan:

  • \(U = [\vec{u}_1, \vec{u}_2, \dots, \vec{u}_m]\)

  • \(\Sigma = \text{diag}(\sigma_1, \sigma_2, \dots, \sigma_r)\), dengan \(\sigma_1 \geq \sigma_2 \geq \dots \geq \sigma_r > 0\)

  • \(V = [\vec{v}_1, \vec{v}_2, \dots, \vec{v}_n]\)

Maka matriks \(A\) dapat direkonstruksi dari:

\[ A = \sum_{i=1}^{r} \sigma_i \vec{u}_i \vec{v}_i^T \]

Dimana \(r\) adalah rank dari matriks \(A\).


4. Contoh Soal#

Misalkan diketahui matriks:

\[\begin{split} A = \begin{bmatrix} 3 & 1 \\ 1 & 3 \end{bmatrix} \end{split}\]

Lakukan dekomposisi SVD dari matriks tersebut.

Penyelesaian:#

\[\begin{split} U = \begin{bmatrix} \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{2}} \\ \frac{1}{\sqrt{2}} & -\frac{1}{\sqrt{2}} \end{bmatrix}, \quad \Sigma = \begin{bmatrix} 4 & 0 \\ 0 & 2 \end{bmatrix}, \quad V^T = \begin{bmatrix} \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{2}} \\ \frac{1}{\sqrt{2}} & -\frac{1}{\sqrt{2}} \end{bmatrix} \end{split}\]

Rekonstruksi kembali matriks \(A\) dengan:

\[ A = U \Sigma V^T \]

Hasilnya akan mendekati matriks semula:

\[\begin{split} A \approx \begin{bmatrix} 3 & 1 \\ 1 & 3 \end{bmatrix} \end{split}\]