Apa Itu Algoritma KNN? Penjelasan untuk Pemula
KNN (k-nearest neighbor atau k tetangga terdekat) adalah metode pembelajaran terawasi non-parametrik yang tidak melatih model terpisah, melainkan menyimpan data yang sudah berlabel; saat ada data baru, ia mencari k titik paling mirip lalu meminta titik tersebut memberi suara untuk menentukan label, atau mengambil nilai rata-rata untuk regresi.
Intuisi sederhana
KNN bertumpu pada gagasan bahwa data yang mirip cenderung berdekatan. Untuk sebuah titik yang perlu diprediksi, algoritma melihat ke titik-titik yang sudah dikenal di sekitarnya, lalu membiarkan tetangga terdekat menentukan hasilnya, bukan mempelajari sekumpulan aturan ringkas.
Mengapa disebut pembelajaran malas
KNN tidak memiliki tahap pelatihan yang jelas; ia hanya menyimpan contoh dan menunda seluruh perhitungan ke saat prediksi. Pendekatan ini sering disebut lazy learning (pembelajaran malas). Biaya pelatihan nyaris nol, tetapi biaya komputasi meningkat ketika sebuah kueri harus membandingkan banyak titik.
Langkah kerja KNN
- Hitung jarak dari titik yang akan diprediksi ke setiap titik yang tersimpan.
- Urutkan titik berdasarkan jarak dari yang terkecil.
- Pilih k titik dengan jarak paling kecil.
- Untuk klasifikasi, gunakan suara mayoritas; untuk regresi, ambil rata-rata nilainya.
Jarak Euclid adalah pilihan yang umum dipakai:
[ d(x, x_i) = \sqrt{\sum_{j=1}^{n}(x_j - x_{ij})^2} ]
Berbagai ukuran jarak
| Ukuran jarak | Ciri khas | Biasanya dipakai saat |
|---|---|---|
| Euclid | Jarak garis lurus | Data sudah dinormalisasi |
| Manhattan | Jumlah selisih per dimensi | Fitur diskrit |
| Minkowski | Bentuk umum dari dua jarak di atas | Butuh penyesuaian luwes |
| Cosine | Membandingkan arah vektor | Data embedding dan teks |
Peran normalisasi fitur
Semua fitur ikut menentukan jarak, sehingga fitur dengan skala besar mudah mendominasi fitur berskala kecil. Karena itu alur KNN biasanya menormalkan fitur lebih dulu, misalnya agar usia dan pendapatan memberi kontribusi yang setara.
Cara memilih nilai k
Jumlah tetangga k memengaruhi hasil. k yang kecil dapat sensitif terhadap derau, sedangkan k yang besar cenderung menghaluskan secara berlebihan dan melewatkan detail lokal. Pendekatan yang umum adalah mencoba beberapa nilai k dan membandingkan hasilnya, misalnya lewat validasi silang.
Kelebihan dan keterbatasan
KNN mudah dipahami, mudah diterapkan, dan tidak mengasumsikan bentuk distribusi tertentu. Di sisi lain, ia harus menyimpan seluruh data dan biaya kueri naik saat himpunan data besar, sehingga pemilihan ukuran jarak dan normalisasi fitur perlu diperiksa dengan cermat. Sejumlah penelitian Indonesia juga memakainya untuk pengenalan angka tulisan tangan dan klasifikasi data medis.
FAQ
KNN untuk klasifikasi atau regresi?
KNN dapat dipakai untuk keduanya: klasifikasi memakai suara mayoritas, sedangkan regresi memakai rata-rata nilai dari k tetangga.
Mengapa KNN disebut pembelajaran malas?
Karena ia tidak membangun model pada tahap pelatihan, hanya menyimpan data dan melakukan perhitungan saat ada kueri.
Apakah fitur perlu dinormalisasi?
Sering kali ya, karena fitur berskala besar akan mendominasi jarak jika tidak disamakan ke tingkat yang setara.
Pilih k kecil atau k besar?
k kecil rentan terhadap derau, k besar mudah menghaluskan berlebihan; sebaiknya uji beberapa nilai dan cocokkan dengan hasil nyata.
Poin utama
- KNN mencari k titik terdekat dan membiarkannya menentukan hasil.
- Ini metode pembelajaran malas dan non-parametrik.
- Euclid adalah ukuran jarak yang umum.
- Normalisasi fitur dan pemilihan k adalah dua langkah yang perlu diperiksa.
Baca lanjutan apa itu machine learning dan apa itu supervised learning.
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free