Apa Itu Halusinasi AI? Arti, Contoh, dan Cara Memeriksanya
Halusinasi AI adalah ketika AI menghasilkan informasi yang terdengar yakin dan masuk akal tetapi keliru, mengada-ada, atau tidak didukung sumber nyata. Ini bukan kebohongan yang disengaja — model hanya menghasilkan teks yang terdengar benar tanpa cara memverifikasinya.
Definisi singkat
Halusinasi terjadi ketika model bahasa memproduksi fakta, kutipan, nama, angka, atau peristiwa yang direka sambil menyajikannya sebagai kebenaran. Model tidak tahu ia salah; ia memprediksi teks yang paling mungkin terdengar benar.
Mengapa halusinasi terjadi
- Model memprediksi bahasa, bukan kebenaran. Tugasnya menghasilkan token berikutnya, bukan memeriksa fakta.
- Data latih memiliki celah. Jika topik kurang terwakili, model mengisi celah dengan jawaban yang menyerupai.
- Pertanyaan sangat spesifik. Angka pasti, nama asing, dan peristiwa baru lebih rawan.
- Tidak ada sumber terlampir. Tanpa pencarian atau dokumen, model menjawab dari pola internal.
Contoh umum
- Mengarang buku atau penelitian yang tidak ada, lengkap dengan penulis dan tahun.
- Menyebut URL yang mengarah ke halaman salah atau tidak ada.
- Memberi tanggal atau angka keliru dengan nada yakin.
- Menambahkan detail yang tidak ada di dokumen yang diringkas.
Cara mengurangi risiko
- Minta sumber dan buka tautannya, karena sumber pun bisa direka.
- Berikan materi sendiri. Tempel dokumen dan minta jawaban hanya dari teks itu.
- Pakai alat berbasis pencarian untuk pertanyaan faktual.
- Minta ketidakpastian ditandai.
- Verifikasi fakta penting di sumber independen.
Daftar cek singkat
- [ ] Apakah tautan yang dikutip benar-benar ada?
- [ ] Dapatkah fakta utama dikonfirmasi sumber kedua?
- [ ] Apakah jawaban berbasis dokumen yang diberikan atau pola model?
- [ ] Apakah kesalahan di sini akan mahal? Jika ya, verifikasi dulu.
Halusinasi bukan kebohongan
Orang yang berbohong berniat menipu. Model tidak punya niat atau keyakinan. Perlakukan ini sebagai masalah keandalan, bukan kejujuran.
Pertanyaan yang sering muncul
Apakah nada yakin berarti akurat? Bukan. Nada tidak menjamin kebenaran.
Bisakah halusinasi dihilangkan total? Tidak dengan teknologi saat ini, hanya dikurangi lewat grounding dan verifikasi.
Poin utama
- Halusinasi adalah output yang terdengar benar tetapi keliru atau tak bersumber.
- Terjadi karena model memprediksi teks, bukan memverifikasi kebenaran.
- Sumber, alat grounding, dan verifikasi independen adalah pertahanan utama.
Lanjutkan dengan cara menulis prompt yang andal dan panduan memeriksa jawaban AI.
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free