Học Tự Giám Sát (Self-Supervised Learning) Là Gì? Giải Thích cho Người Mới
Học tự giám sát (self-supervised learning) là một kỹ thuật học máy trong đó mô hình tự tạo tín hiệu giám sát từ chính dữ liệu, thay vì dựa vào nhãn do con người gắn, thường bằng cách che giấu một phần dữ liệu rồi dự đoán phần bị thiếu.
Phiên bản đơn giản
Theo cách truyền thống, người ta phải gắn nhãn cho từng mẫu, việc này tốn thời gian và chi phí. Học tự giám sát để mô hình tự đặt bài tập từ dữ liệu, chẳng hạn đoán từ bị che trong câu hoặc mảnh ảnh bị ẩn.
Cách hoạt động
| Bước | Mô tả |
|---|---|
| Dữ liệu thô | Văn bản hoặc ảnh chưa có nhãn |
| Tác vụ trợ giúp | Mục tiêu tạm tạo từ dữ liệu |
| Dự đoán | Suy ra phần bị che |
| Biểu diễn | Dùng mẫu đã học cho tác vụ sau |
Ví dụ tác vụ trợ giúp
- Đoán từ bị ẩn trong câu
- Tái dựng mảnh ảnh bị che
- Nhận ra hai góc nhìn của cùng một hình
So sánh nhanh
- Học có giám sát: dựa vào nhãn con người
- Học tự giám sát: tự tạo mục tiêu từ dữ liệu
- Học không giám sát: tìm cấu trúc mà không có mục tiêu
Ứng dụng
- Mô hình ngôn ngữ dự đoán từ tiếp theo
- Học biểu diễn từ hình ảnh
- Tận dụng dữ liệu chưa gắn nhãn quy mô lớn
Hạn chế
Thiết kế tác vụ trợ giúp rất quan trọng; thiết kế kém cho ra biểu diễn ít hữu ích. Biểu diễn học được thường được tinh chỉnh thêm cho tác vụ cụ thể.
FAQ
Học tự giám sát là gì?
Kỹ thuật để mô hình tự tạo mục tiêu học từ dữ liệu mà không cần nhãn con người.
Có giống học không giám sát không?
Cả hai dùng dữ liệu không nhãn, nhưng học tự giám sát có tác vụ dự đoán rõ ràng tạo từ dữ liệu.
Tác vụ trợ giúp (pretext task) là gì?
Bài tập tạm giúp mô hình học được biểu diễn hữu ích.
Vì sao giảm chi phí gắn nhãn?
Vì lượng dữ liệu lớn có thể dùng mà không cần gắn nhãn thủ công.
Điểm chính
- Học tự giám sát tự tạo mục tiêu từ dữ liệu.
- Nó dùng dữ liệu không nhãn ở quy mô lớn.
- Đoán từ hoặc mảnh bị che là tác vụ phổ biến.
- Thiết kế tác vụ quyết định chất lượng.
Tiếp tục đọc học có giám sát là gì và gán nhãn dữ liệu là gì.
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free