การตรวจสอบไขว้ (cross validation) คืออะไร: k-fold ทำงานอย่างไร
หมายเหตุบรรณาธิการ: บทความนี้ผ่านการตรวจสอบข้ามแหล่งแล้วด้วยแหล่งอิสระสองแหล่งจากผู้เผยแพร่ต่างกัน (บล็อก phyblas และเอกสาร scikit-learn) แต่ยังรอการตรวจทานจากเจ้าของภาษาก่อนเลื่อนสถานะเป็นทางการ
การตรวจสอบไขว้ (cross validation) เป็นวิธีประเมินโมเดลที่สลับใช้ข้อมูลชุดเดิมเป็นชุดฝึกและชุดทดสอบซ้ำหลายรอบ แล้วนำผลทุก รอบมาหาค่าเฉลี่ย เพื่อลดความบังเอิญจากการแบ่งข้อมูลครั้งเดียว. วิธีที่นิยมคือ k-fold ซึ่งแบ่งข้อมูลเป็น k กลุ่มและฝึกทั้งหมด k ครั้ง โดยแต่ละกลุ่มจะถูกใช้เป็นชุดทดสอบครั้งเดียวพอดี
เหตุใดการแบ่งครั้งเดียวจึงไม่เพียงพอ
หากแยกชุดทดสอบเพียงครั้งเดียว ความแม่นยำที่วัดได้อาจบังเอิญสูงหรือต่ำ เพราะข้อมูลที่หยิบมากระจายตัวไม่ดีพอ การตรวจสอบไขว้แก้ปัญหานี้ด้วยการให้ข้อมูลที่มีอยู่สลับกันเป็นชุดฝึกและชุดทดสอบ ทำซ้ำหลายครั้งแล้วเปรียบเทียบผลในแต่ละรอบ คำว่า “ไขว้” จึงหมายถึงการสลับสับเปลี่ยนข้อมูลไปมา
k-fold ทำงานอย่างไร
- แบ่งข้อมูลทั้งหมดออกเป็น k กลุ่มขนาดใกล้เคียงกัน
- รอบแรกให้กลุ่มที่หนึ่งเป็นชุดทดสอบ ส่วนที่เหลือเป็นชุดฝึก
- รอบต่อมาเปลี่ยนให้กลุ่มถัดไปเป็นชุดทดสอบ แล้วทำต่อจนครบทุกกลุ่ม
- แต่ละกลุ่มถูกใช้เป็นชุดทดสอบครั้งเดียว และเป็นชุดฝึกในรอบอื่น
- นำประสิทธิภาพจาก k รอบมาหาค่าเฉลี่ย และส่วนเบี่ยงเบนมาตรฐานเพื่อดูช่วงความแม่นยำ
ตัวอย่างเช่น หากมีข้อมูล 100 รายการและแบ่งเป็น 5 กลุ่ม จะฝึกทั้งหมด 5 รอบ แต่ละรอบใช้ 80 รายการฝึกและ 20 รายการทดสอบ โดยทุก รายการได้อยู่ในชุดทดสอบอย่างน้อยหนึ่งครั้ง
การสุ่มสลับและแบบแบ่งชั้น
การสุ่ม (shuffle)
หากไม่สลับลำดับ ข้อมูลที่เรียงกันอยู่แล้วจะถูกแบ่งตามลำดับเดิม ซึ่งอาจทำให้บางกลุ่มไม่เป็นตัวแทน การตั้งให้สลับข้อมูลก่อนแบ่งช่วยให้แต่ละกลุ่มกระจายดีขึ้น
StratifiedKFold
StratifiedKFold แบ่งกลุ่มโดยรักษาสัดส่วนคำตอบในแต่ละกลุ่มให้ใกล้เคียงกับข้อมูลต้นฉบับ เหมาะกับกรณีที่คำตอบบางประเภทมีน้อย เพื่อไม่ให้กลุ่มหนึ่งมีแต่คำตอบชนิดเดียว
เปรียบเทียบ k-fold กับ StratifiedKFold
| วิธี | หลักการ | เหมาะกับ |
|---|---|---|
| KFold | แบ่งตามขนาดกลุ่ม แล้วสลับเป็นชุดทดสอบ | ข้อมูลทั่วไปที่สัดส่วนคำตอบสมดุล |
| StratifiedKFold | รักษาสัดส่วนคำตอบในทุกกลุ่ม | ข้อมูลไม่สมดุลหรือคำตอบบางประเภทหายาก |
ค่าที่ได้บอกอะไร
นอกจากค่าเฉลี่ยของความแม่นยำแล้ว ส่วนเบี่ยงเบนมาตรฐานยังช่วยบอกว่าผลการฝึกแต่ละรอบต่างกันมากเพียงใด ค่าเบี่ยงเบนสูงอาจชี้ว่าโมเดลไวต่อการแบ่งข้อมูลหรือข้อมูลมีไม่มากพอ การดูทั้งค่าเฉลี่ยและการกระจายจึงให้ภาพที่น่าเชื่อถือกว่าการดูตัวเลขเดียว
ข้อควรระวังในการใช้งาน
- ควรทำขั้นตอนเตรียมข้อมูลภายในแต่ละกลุ่ม ไม่ใช่ก่อนแบ่ง เพื่อไมให้ข้อมูลทดสอบรั่วเข้าไปส่งผลต่อการฝึก
- จำนวนกลุ่มที่สูงขึ้นทำให้ฝึกหลายรอบและใช้เวลามากขึ้น แต่ละรอบก็จะใช้ข้อมูลฝึกใกล้เคียงข้อมูลจริงมากขึ้น
- หากข้อมูลน้อยหรือไม่สมดุล ควรพิจารณาแบบแบ่งชั้นเพื่อรักษาตัวแทนของคำตอบ
ความเชื่อมโยงกับหัวข้ออื่น
การตรวจสอบไขว้มักใช้เพื่อเลือกโมเดลและควบคุมปัญหา overfitting ในงาน machine learning และช่วยเปรียบเทียบตัวแบบเช่น decision tree หรือการทำ regularization ว่าแบบใดให้ผลทั่วไปดีกว่ากัน
FAQ
k-fold ต่างจากการแบ่งชุดทดสอบครั้งเดียวอย่างไร
k-fold สลับให้ทุกส่วนของข้อมูลได้เป็นชุดทดสอบ แล้วเฉลี่ยผลหลายรอบ จึงลดความบังเอิญจากการหยิบข้อมูลครั้งเดียว
ควรแบ่งกี่กลุ่ม
ค่าที่พบบ่อยคือ 5 หรือ 10 กลุ่ม แต่ยิ่งแบ่งมากยิ่งใช้เวลาฝึกมากขึ้น ควรเลือกตามขนาดข้อมูลและเวลาที่มี
StratifiedKFold จำเป็นเมื่อใด
จำเป็นเมื่อข้อมูลไม่สมดุลหรือคำตอบบางประเภทมีน้อย เพื่อให้แต่ละกลุ่มยังคงมีสัดส่วนคำตอบใกล้เคียงข้อมูลจริง
เหตุใดจึงต้องดูส่วนเบี่ยงเบนมาตรฐานด้วย
เพราะค่าเฉลี่ยอย่างเดียวไม่บอกว่าผลแต่ละรอบต่างกันแค่ไหน ส่วนเบี่ยงเบนสูงอาจหมายถึงโมเดลไม่เสถียรหรือข้อมูลไม่เพียงพอ
สรุป
การตรวจสอบไขว้ช่วยประเมินว่าโมเดลจะทำงานกับข้อมูลใหม่ได้ดีเพียงใด โดยสลับข้อมูลฝึกและทดสอบซ้ำหลายรอบ k-fold เป็นรูปแบบพื้นฐาน ส่วน StratifiedKFold ช่วยรักษาสัดส่วนคำตอบ การเตรียมข้อมูลที่ถูกต้องภายในแต่ละกลุ่มจะช่วยป้องกันข้อมูลรั่วและให้ผลประเมินที่น่าเชื่อถือ
Sources
Learn by doing
Read a guide, then practice with bite-sized AI lessons you can take offline.
Start learning free