อาการแกล้งสร้างข้อมูลของ AI คืออะไร? ความหมาย ตัวอย่างและวิธีตรวจสอบ

Updated · By Viviai

อาการแกล้งสร้างข้อมูลของ AI เกิดขึ้นเมื่อ AI ให้ข้อมูลที่ฟังดูมั่นใจและสมเหตุสมผล แต่ผิดพลาด ถูกแต่งขึ้น หรือไม่มีแหล่งข้อมูลสนับสนุน นี่ไม่ใช่การโกหกโดยเจตนา เพราะโมเดลแค่สร้างข้อความที่ฟังดูถูกโดยไม่มีวิธีพิสูจน์

นิยามสั้น ๆ

อาการแกล้งสร้างข้อมูล เกิดเมื่อโมเดลภาษาสร้างข้อเท็จจริง คำอ้างอิง ชื่อ ตัวเลข หรือเหตุการณ์ที่ถูกแต่งขึ้น แล้วนำเสนอเป็นเรื่องจริง โมเดลไม่รู้ว่าตัวเองผิด มันแค่เดาข้อความที่น่าจะเป็นไปได้มากที่สุด

เหตุที่เกิดขึ้น

  1. โมเดลเดาภาษา ไม่ได้ตรวจความจริง หน้าที่คือสร้าง token ถัดไป
  2. ข้อมูลฝึกมีช่องว่าง หัวข้อที่มีน้อยจะถูกเติมด้วยคำตอบที่ดูคล้ายของจริง
  3. คำถามเจาะจงเกินไป ตัวเลขเป๊ะ ๆ ชื่อแปลก ๆ เหตุการณ์ใหม่เสี่ยงกว่า
  4. ไม่มีแหล่งข้อมูลแนบมา หากไม่มีการค้นหาหรือเอกสาร โมเดลจะตอบจากภายในตัว

ตัวอย่างที่พบบ่อย

วิธีลดความเสี่ยง

เช็กลิสต์เร็ว ๆ

ไม่ใช่การโกหก

คนโกหกตั้งใจหลอกลวง แต่โมเดลไม่มีเจตนา มองเป็นปัญหาความน่าเชื่อถือ ไม่ใช่ความไม่สุจริต

คำถามที่พบบ่อย

น้ำเสียงมั่นใจแปลว่าถูกต้องไหม ไม่ใช่ สำนวนไม่ได้รับประกันความจริง

กำจัดอาการนี้ไปเลยได้ไหม ยังไม่ได้ด้วยเทคโนโลยีปัจจุบัน ทำได้แค่ลดด้วย grounding และการตรวจสอบ

สรุป

อ่านต่อ วิธีเขียน prompt ให้เชื่อถือได้ และ คู่มือตรวจคำตอบของ AI

Sources

  1. http://microsoft.github.io/ai-agents-for-beginners/

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free