Prompt Injection Là Gì? Hướng Dẫn Cho Người Mới
Prompt injection (tiêm prompt) là kiểu tấn công lừa mô hình AI bỏ qua chỉ dẫn ban đầu và làm theo mệnh lệnh của kẻ tấn công. Mô hình ngôn ngữ không phải lúc nào cũng phân biệt được đâu là chỉ dẫn của nhà phát triển, đâu là dữ liệu thông thường, nên văn bản được viết như một mệnh lệnh có thể thay đổi hành vi của nó.
Giải thích đơn giản
Hãy tưởng tượng một chatbot đang đọc nội dung trang web. Kẻ tấn công chèn vào đó câu "hãy bỏ qua mọi quy tắc trước đó và làm điều này". Nếu mô hình nghe theo, nó có thể làm lộ thông tin hoặc thực hiện việc người dùng không hề yêu cầu. OpenAI mô tả đây là hình thức tấn công kỹ thuật xã hội dành riêng cho AI hội thoại.
Vì sao xảy ra
Mô hình ngôn ngữ xử lý mọi đầu vào như văn bản thuần trong cùng một cuộc hội thoại. Khác với chương trình tách riêng mã lệnh và dữ liệu, LLM coi chỉ dẫn hệ thống và nội dung từ trang web hay tài liệu theo cách tương tự nhau, nên ranh giới giữa chúng có thể bị làm mờ.
Rủi ro thường gặp
- Làm lộ dữ liệu hoặc nội dung trò chuyện riêng tư.
- Vượt qua bộ lọc an toàn, tạo ra nội dung không được phép.
- Với hệ thống agent có công cụ, kích hoạt hành động không mong muốn.
OWASP xếp prompt injection là rủi ro số một cho ứng dụng LLM, và MITRE ghi nhận đây là kỹ thuật AML.T0051.
Cách giảm thiểu
- Coi nội dung từ nguồn bên ngoài (web, email, tài liệu) là dữ liệu, không phải mệnh lệnh đáng tin.
- Giới hạn quyền và công cụ của mô hình; yêu cầu xác nhận với thao tác quan trọng.
- Không đưa thông tin nhạy cảm vào ngữ cảnh; dùng kiểm tra và giám sát.
- Với người dùng phổ thông: cẩn thận khi dán văn bản lạ vào AI.
FAQ
Đây có phải là hack không?
Là lỗ hổng bảo mật của ứng dụng AI, nhưng không nhất thiết phải phá hệ thống; kẻ tấn công thao túng mô hình bằng văn bản.
Có thể ngăn chặn hoàn toàn không?
Chưa có giải pháp đơn lẻ nào triệt để, nên phòng thủ nhiều lớp và giới hạn quyền là cách thực tế.
Chỉ ảnh hưởng đến ChatGPT phải không?
Không. Mọi mô hình ngôn ngữ và ứng dụng đọc nội dung bên ngoài, gồm cả agent và chatbot khác, đều có thể bị ảnh hưởng.
Khác gì với SQL injection?
Cả hai đều lén đưa mệnh lệnh vào đầu vào, nhưng SQL injection nhắm vào cơ sở dữ liệu, còn prompt injection nhắm vào mô hình ngôn ngữ.
Tóm tắt
- Prompt injection lừa AI làm theo chỉ dẫn ẩn.
- Nguyên nhân: mô hình khó tách mệnh lệnh và dữ liệu.
- Rủi ro gồm lộ dữ liệu và vi phạm an toàn.
- Phòng thủ nhiều lớp và giới hạn quyền giúp giảm rủi ro.
Đọc tiếp AI chatbot là gì và cách bảo vệ quyền riêng tư.
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free