Apa Itu Algoritma KNN? Penjelasan untuk Pemula

Updated · By Viviai

KNN (k-nearest neighbor atau k tetangga terdekat) adalah metode pembelajaran terawasi non-parametrik yang tidak melatih model terpisah, melainkan menyimpan data yang sudah berlabel; saat ada data baru, ia mencari k titik paling mirip lalu meminta titik tersebut memberi suara untuk menentukan label, atau mengambil nilai rata-rata untuk regresi.

Intuisi sederhana

KNN bertumpu pada gagasan bahwa data yang mirip cenderung berdekatan. Untuk sebuah titik yang perlu diprediksi, algoritma melihat ke titik-titik yang sudah dikenal di sekitarnya, lalu membiarkan tetangga terdekat menentukan hasilnya, bukan mempelajari sekumpulan aturan ringkas.

Mengapa disebut pembelajaran malas

KNN tidak memiliki tahap pelatihan yang jelas; ia hanya menyimpan contoh dan menunda seluruh perhitungan ke saat prediksi. Pendekatan ini sering disebut lazy learning (pembelajaran malas). Biaya pelatihan nyaris nol, tetapi biaya komputasi meningkat ketika sebuah kueri harus membandingkan banyak titik.

Langkah kerja KNN

  1. Hitung jarak dari titik yang akan diprediksi ke setiap titik yang tersimpan.
  2. Urutkan titik berdasarkan jarak dari yang terkecil.
  3. Pilih k titik dengan jarak paling kecil.
  4. Untuk klasifikasi, gunakan suara mayoritas; untuk regresi, ambil rata-rata nilainya.

Jarak Euclid adalah pilihan yang umum dipakai:

[ d(x, x_i) = \sqrt{\sum_{j=1}^{n}(x_j - x_{ij})^2} ]

Berbagai ukuran jarak

Ukuran jarak Ciri khas Biasanya dipakai saat
Euclid Jarak garis lurus Data sudah dinormalisasi
Manhattan Jumlah selisih per dimensi Fitur diskrit
Minkowski Bentuk umum dari dua jarak di atas Butuh penyesuaian luwes
Cosine Membandingkan arah vektor Data embedding dan teks

Peran normalisasi fitur

Semua fitur ikut menentukan jarak, sehingga fitur dengan skala besar mudah mendominasi fitur berskala kecil. Karena itu alur KNN biasanya menormalkan fitur lebih dulu, misalnya agar usia dan pendapatan memberi kontribusi yang setara.

Cara memilih nilai k

Jumlah tetangga k memengaruhi hasil. k yang kecil dapat sensitif terhadap derau, sedangkan k yang besar cenderung menghaluskan secara berlebihan dan melewatkan detail lokal. Pendekatan yang umum adalah mencoba beberapa nilai k dan membandingkan hasilnya, misalnya lewat validasi silang.

Kelebihan dan keterbatasan

KNN mudah dipahami, mudah diterapkan, dan tidak mengasumsikan bentuk distribusi tertentu. Di sisi lain, ia harus menyimpan seluruh data dan biaya kueri naik saat himpunan data besar, sehingga pemilihan ukuran jarak dan normalisasi fitur perlu diperiksa dengan cermat. Sejumlah penelitian Indonesia juga memakainya untuk pengenalan angka tulisan tangan dan klasifikasi data medis.

FAQ

KNN untuk klasifikasi atau regresi?

KNN dapat dipakai untuk keduanya: klasifikasi memakai suara mayoritas, sedangkan regresi memakai rata-rata nilai dari k tetangga.

Mengapa KNN disebut pembelajaran malas?

Karena ia tidak membangun model pada tahap pelatihan, hanya menyimpan data dan melakukan perhitungan saat ada kueri.

Apakah fitur perlu dinormalisasi?

Sering kali ya, karena fitur berskala besar akan mendominasi jarak jika tidak disamakan ke tingkat yang setara.

Pilih k kecil atau k besar?

k kecil rentan terhadap derau, k besar mudah menghaluskan berlebihan; sebaiknya uji beberapa nilai dan cocokkan dengan hasil nyata.

Poin utama

Baca lanjutan apa itu machine learning dan apa itu supervised learning.

Sources

  1. https://id.wikipedia.org/wiki/Algoritma_k_tetangga_terdekat
  2. https://ejurnal.provisi.ac.id/index.php/JUISI/article/download/1044/781/3340
  3. https://kc.umn.ac.id/id/eprint/47813/

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free