Apa Itu Autoencoder? Jaringan untuk Meringkas dan Membangun Ulang Data
Autoencoder (dalam Wikipedia bahasa Indonesia disebut autopenyandi) adalah jenis jaringan saraf tiruan yang mempelajari penyandian data tidak berlabel secara efisien melalui pembelajaran tak terarah; jaringan ini mempelajari dua fungsi, yaitu fungsi penyandian yang meringkas data masukan dan fungsi pengawasandian yang membangun ulang data dari representasi terkompresi. Tujuan umumnya adalah mempelajari representasi ringkas, biasanya untuk pengurangan dimensi.
Cara kerja dan struktur
Autoencoder terdiri dari dua bagian yang bekerja berurutan, dengan sebuah lapisan sempit di tengahnya:
| Bagian | Fungsi |
|---|---|
| Penyandi (encoder) | Memetakan data masukan ke representasi yang lebih ringkas |
| Ruang laten (bottleneck) | Lapisan tempat kode terkompresi, atau variabel laten, disimpan |
| Pengawasandi (decoder) | Membangun ulang data masukan dari kode di ruang laten |
Lapisan tengah sengaja dibuat lebih kecil dari masukan. Jika ruang laten berukuran sama dengan masukan, jaringan dapat menyalin data tanpa mempelajari pola yang berguna. Penyempitan ini memaksa model menyimpan informasi yang dianggap penting saja.
Penyandi dan pengawasandi umumnya dibangun sebagai perseptron berlapis (multilayer perceptron). Contoh penyandi satu lapis dapat ditulis sebagai (E_\phi(\mathbf{x})=\sigma(W\mathbf{x}+b)), dengan (W) sebagai bobot, (b) sebagai bias, dan ( \sigma ) sebagai fungsi aktivasi.
Melatih autoencoder
Kualitas autoencoder dinilai dari tugas rekonstruksi: keluaran pengawasandi harus sedekat mungkin dengan masukan awal. Fungsi kerugian yang umum adalah kerugian rekonstruksi berbasis jarak L2 (jumlah kuadrat kesalahan):
[ L(\theta,\phi)=\frac{1}{N}\sum_{i=1}^{N}\left|x_i-D_\theta(E_\phi(x_i))\right|_2^2 ]
Backpropagation dan penurunan gradien mencari nilai parameter yang meminimalkan kerugian ini. Proses inilah yang disebut melatih autoencoder.
Varian autoencoder
Berbagai varian dirancang agar representasi yang dipelajari memiliki sifat yang berguna:
| Varian | Ciri utama | Kegunaan umum |
|---|---|---|
| Autoencoder dasar | Kompresi sederhana | Alternatif pemadatan dimensi non-linear |
| Denoising autoencoder | Menerima masukan bising, targetnya data bersih | Pembersihan citra, restorasi |
| Sparse autoencoder | Mendorong representasi yang jarang (sedikit aktif) | Ekstraksi dan seleksi fitur |
| Contractive autoencoder | Menambah regularisasi agar representasi stabil terhadap gangguan kecil | Fitur yang lebih tangguh |
| Variational autoencoder (VAE) | Mempelajari distribusi probabilitas, bukan kode tetap | Pembangkitan data baru |
VAE termasuk model generatif karena dapat menghasilkan sampel baru, sementara autoencoder dasar lebih berfokus pada kompresi dan representasi.
Penerapan
Autoencoder diterapkan pada berbagai masalah, antara lain:
- Pengurangan dimensi: mengubah fitur berukuran besar menjadi representasi yang lebih pendek untuk algoritma lain.
- Penghilangan derau (denoising): membersihkan citra atau sinyal yang bising.
- Deteksi anomali: model yang dilatih pada data normal akan memberikan kesalahan rekonstruksi tinggi pada data yang tidak lazim, misalnya transaksi yang mencurigakan.
- Pengenalan wajah dan perolehan makna kata: membangun embedding ringkas dari data kompleks.
Autoencoder dan PCA
PCA (analisis komponen utama) adalah metode linear yang memproyeksikan data ke komponen linear. Autoencoder menggunakan lapisan saraf dengan fungsi aktivasi sehingga dapat mempelajari hubungan non-linear pada data yang kompleks, seperti citra. Pilihan di antara keduanya bergantung pada jenis data dan kebutuhan interpretasi.
Konsep terkait
Autoencoder termasuk pembelajaran mendalam dan dilatih dengan backpropagation serta laju pembelajaran yang dapat diatur; regularisasi berperan pada varian seperti sparse dan contractive. Transformator adalah arsitektur lain yang juga memanfaatkan representasi terkompresi dalam banyak alur kerja modern.
FAQ
Apa perbedaan encoder dan decoder?
Encoder (penyandi) meringkas masukan menjadi kode di ruang laten, sedangkan decoder (pengawasandi) membangun ulang masukan dari kode tersebut.
Mengapa bottleneck diperlukan?
Agar jaringan tidak sekadar menyalin data. Penyempitan memaksa model mempelajari representasi ringkas dan pola yang berguna.
Apa itu kesalahan rekonstruksi?
Ukuran seberapa besar keluaran decoder berbeda dari masukan awal. Semakin kecil kesalahan ini, semakin dekat hasil rekonstruksi dengan data asli.
Apa perbedaan autoencoder dan VAE?
Autoencoder dasar mempelajari kode tetap untuk kompresi, sedangkan VAE mempelajari distribusi probabilitas dan dapat menghasilkan data baru.
Apakah autoencoder bisa untuk deteksi anomali?
Bisa. Data tidak lazim yang tidak pernah dilatih biasanya menghasilkan kesalahan rekonstruksi yang lebih tinggi, sehingga dapat ditandai sebagai anomali.
Poin utama
- Autoencoder mempelajari penyandian efisien data tidak berlabel secara tak terarah.
- Terdiri dari penyandi, ruang laten, dan pengawasandi.
- Dilatih dengan meminimalkan kerugian rekonstruksi melalui penurunan gradien.
- Varian meliputi denoising, sparse, contractive, dan variational autoencoder.
- Penerapan umum mencakup pengurangan dimensi, denoising, dan deteksi anomali.
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free