Hồi Quy Tuyến Tính Là Gì? Giải Thích Cho Người Mới
Hồi quy tuyến tính là một thuật toán học có giám sát, mô hình hóa mối quan hệ giữa biến phụ thuộc và một hoặc nhiều biến độc lập bằng phương trình đường thẳng, nhờ đó giá trị của biến phụ thuộc có thể được dự đoán từ biến độc lập.
Trực giác đơn giản
Hãy tưởng tượng việc dự đoán giá nhà theo diện tích. Nếu các điểm dữ liệu trên biểu đồ dường như đi theo một đường thẳng, hồi quy tuyến tính tìm một đường nằm sát các điểm đó nhất, rồi dùng đường này để ước lượng giá của ngôi nhà chưa có dữ liệu.
Các thành phần của phương trình
Dạng đơn giản là (y = \beta_0 + \beta_1 x).
| Thành phần | Ý nghĩa |
|---|---|
| (y) | Biến phụ thuộc, giá trị cần dự đoán |
| (x) | Biến độc lập, đầu vào đã biết |
| (\beta_0) | Hệ số chặn, giá trị (y) khi (x) bằng 0 |
| (\beta_1) | Hệ số góc, mức thay đổi của (y) khi (x) tăng một đơn vị |
Cách chọn đường hồi quy
Phương pháp phổ biến là bình phương tối thiểu (OLS), tìm đường có tổng bình phương sai khác giữa giá trị thực và giá trị dự đoán là nhỏ nhất. Sai khác này gọi là phần dư (residual).
Hồi quy đơn và hồi quy bội
Nếu chỉ có một biến độc lập, gọi là hồi quy tuyến tính đơn. Nếu có từ hai biến độc lập trở lên, gọi là hồi quy tuyến tính bội, nơi đường thẳng trong không gian nhiều chiều trở thành mặt phẳng hoặc siêu phẳng.
Hạn chế
Hồi quy tuyến tính giả định mối quan hệ dạng đường thẳng và nhạy cảm với giá trị ngoại lai (outlier). Nếu quy luật thực tế là đường cong, mô hình này không bám sát được.
FAQ
Hồi quy khác phân loại ở điểm nào?
Hồi quy dự đoán giá trị liên tục như giá cả hay nhiệt độ, còn phân loại dự đoán hạng mục như spam hoặc không spam.
Phần dư là gì?
Sai khác giữa giá trị thực tế và giá trị mà đường hồi quy dự đoán.
Bình phương tối thiểu là gì?
Phương pháp chọn đường hồi quy bằng cách giảm tổng bình phương phần dư xuống mức nhỏ.
Hồi quy tuyến tính có cần nhiều dữ liệu không?
Nó có thể chạy với dữ liệu ít, nhưng dữ liệu mang tính đại diện hơn giúp kết quả tổng quát hơn.
Điểm chính
- Hồi quy tuyến tính mô hình hóa quan hệ bằng phương trình đường thẳng.
- Đây là thuật toán học có giám sát.
- OLS chọn đường có tổng bình phương phần dư nhỏ nhất.
- Nó giả định quan hệ tuyến tính và nhạy cảm với outlier.
Đọc tiếp machine learning là gì và cây quyết định là gì.
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free