Prompt Injection คืออะไร? คำแนะนำสำหรับมือใหม่

Updated · By Viviai

Prompt Injection คือการโจมตีที่หลอกโมเดล AI ให้ลืมคำสั่งเดิมแล้วทำตามคำสั่งของผู้โจมตี โมเดลภาษาอาจแยกไม่ออกว่าส่วนไหนคือคำสั่งของผู้พัฒนา ส่วนไหนคือข้อมูลทั่วไป ข้อความที่เขียนให้เหมือนคำสั่งจึงเปลี่ยนพฤติกรรมของมันได้

คำอธิบายแบบง่าย ๆ

ลองนึกภาพแชตบอตกำลังอ่านเนื้อหาบนหน้าเว็บ ผู้โจมตีแอบใส่ข้อความว่า "จงลืมกฎก่อนหน้าทั้งหมดและทำตามนี้" หากโมเดลเชื่อฟัง มันอาจเปิดเผยข้อมูลหรือทำสิ่งที่ผู้ใช้ไม่ได้ขอ OpenAI อธิบายว่านี่คือการโจมตีแบบวิศวกรรมสังคมที่ออกแบบมาสำหรับ AI การสนทนา

เหตุใดจึงเกิดขึ้น

โมเดลภาษาประมวลผลทุกอินพุตเป็นข้อความธรรมดาในการสนทนาเดียวกัน ต่างจากโปรแกรมที่แยกโค้ดกับข้อมูล LLM มองคำสั่งของระบบกับเนื้อหาจากเว็บหรือเอกสารในลักษณะคล้ายกัน ทำให้เส้นแบ่งระหว่างกันจางลง

ความเสี่ยงที่อาจเกิด

OWASP จัดให้ prompt injection เป็นความเสี่ยงอันดับหนึ่งของแอปพลิเคชัน LLM และ MITRE บันทึกเป็นเทคนิค AML.T0051

วิธีลดความเสี่ยง

FAQ

นี่คือการแฮ็กหรือไม่?

เป็นช่องโหว่ด้านความปลอดภัยของแอป AI แต่ไม่จำเป็นต้องเจาะระบบ ผู้โจมตีใช้ข้อความชักจูงโมเดล

ป้องกันได้หมดจรดหรือไม่?

ยังไม่มีวิธีเดียวที่แก้ได้หมด จึงควรป้องกันหลายชั้นและจำกัดสิทธิ์

กระทบเฉพาะ ChatGPT ไหม?

ไม่ใช่ ทุกโมเดลภาษาและแอปที่อ่านเนื้อหาภายนอก รวมถึง agent และแชตบอตอื่น อาจได้รับผลกระทบ

ต่างจาก SQL injection อย่างไร?

ทั้งคู่แอบส่งคำสั่งในอินพุต แต่ SQL injection เล่นงานฐานข้อมูล ส่วน prompt injection เล่นงานโมเดลภาษา

สรุป

อ่านต่อ AI chatbot คืออะไร และ การปกป้องความเป็นส่วนตัว

Sources

  1. https://openai.com/index/understanding-prompt-injections/
  2. https://owasp.org/www-community/attacks/PromptInjection
  3. https://learn.microsoft.com/en-us/training/modules/fundamentals-ai-security/5-ai-prompt-injection

Learn by doing

Read a guide, then practice with bite-sized AI lessons you can take offline.

Start learning free