Apa Itu Halusinasi AI? Arti, Contoh, dan Cara Memeriksanya

Updated · By Viviai

Halusinasi AI adalah ketika AI menghasilkan informasi yang terdengar yakin dan masuk akal tetapi keliru, mengada-ada, atau tidak didukung sumber nyata. Ini bukan kebohongan yang disengaja — model hanya menghasilkan teks yang terdengar benar tanpa cara memverifikasinya.

Definisi singkat

Halusinasi terjadi ketika model bahasa memproduksi fakta, kutipan, nama, angka, atau peristiwa yang direka sambil menyajikannya sebagai kebenaran. Model tidak tahu ia salah; ia memprediksi teks yang paling mungkin terdengar benar.

Mengapa halusinasi terjadi

  1. Model memprediksi bahasa, bukan kebenaran. Tugasnya menghasilkan token berikutnya, bukan memeriksa fakta.
  2. Data latih memiliki celah. Jika topik kurang terwakili, model mengisi celah dengan jawaban yang menyerupai.
  3. Pertanyaan sangat spesifik. Angka pasti, nama asing, dan peristiwa baru lebih rawan.
  4. Tidak ada sumber terlampir. Tanpa pencarian atau dokumen, model menjawab dari pola internal.

Contoh umum

Cara mengurangi risiko

Daftar cek singkat

Halusinasi bukan kebohongan

Orang yang berbohong berniat menipu. Model tidak punya niat atau keyakinan. Perlakukan ini sebagai masalah keandalan, bukan kejujuran.

Pertanyaan yang sering muncul

Apakah nada yakin berarti akurat? Bukan. Nada tidak menjamin kebenaran.

Bisakah halusinasi dihilangkan total? Tidak dengan teknologi saat ini, hanya dikurangi lewat grounding dan verifikasi.

Poin utama

Lanjutkan dengan cara menulis prompt yang andal dan panduan memeriksa jawaban AI.

Sources

  1. http://microsoft.github.io/ai-agents-for-beginners/translations/id/01-intro-to-ai-agents/

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free