Active Learning Boosting
- ผู้เสนอ
- Abe, N. & Mamitsuka, H.
- ปี
- 1998
- ประเภท
- Hybrid active-learning ensemble
- กลุ่มวิธี
- Machine learning
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
Active Learning Boosting เป็นการผสมผสานการเลือกข้อมูลเพื่อขอคำอธิบายกำกับ (query-driven label acquisition) ของ active learning เข้ากับหลักการของ ensemble ที่ถ่วงน้ำหนักแบบ boosting algorithms เช่น AdaBoost โมเดลจะเลือกตัวอย่างที่ยังไม่มีป้ายกำกับ (unlabeled examples) ที่ให้ข้อมูลมากที่สุดอย่างเป็นลำดับขั้น โดยอาศัยความขัดแย้งหรือความไม่แน่นอนภายใน boosting ensemble และทำการฝึกโมเดลใหม่หลังจากการได้ป้ายกำกับใหม่แต่ละครั้ง ทำให้ได้ความแม่นยำสูงโดยใช้ตัวอย่างที่มีป้ายกำกับน้อยกว่าการเรียนรู้แบบ passive learning มาก
แนวคิดเบื้องหลังวิธีการ
การติดป้ายกำกับข้อมูลมีค่าใช้จ่ายสูง Boosting สร้างตัวจำแนกที่แข็งแกร่งจากตัวเรียนรู้ที่อ่อนแอ (weak learners) โดยการมุ่งเน้นไปที่ตัวอย่างที่ยากที่สุดผ่านการถ่วงน้ำหนักแบบปรับได้ (adaptive reweighting) Active learning ใช้แนวคิดที่คล้ายกันในขั้นตอนการรวบรวมข้อมูล: แทนที่จะติดป้ายกำกับทุกอย่าง ให้ถามผู้ให้คำอธิบายกำกับ (oracle) เพื่อติดป้ายกำกับเฉพาะตัวอย่างที่ boosting ensemble ปัจจุบันมีความไม่แน่นอนมากที่สุดหรือมีความเห็นขัดแย้งกันมากที่สุด หลักการทั้งสองเสริมซึ่งกันและกัน — boosting ระบุว่าส่วนใดของข้อมูลที่ยาก และ active learning มุ่งเน้นความพยายามในการติดป้ายกำกับไปที่นั่นพอดี ดังนั้นโมเดลจึงเรียนรู้ได้อย่างมีประสิทธิภาพจากงบประมาณป้ายกำกับที่จำกัด
ประวัติศาสตร์
กลยุทธ์การเรียนรู้แบบเลือกข้อมูล (query learning) ที่ผสมผสาน boosting และ bagging ถูกนำเสนอโดย Abe และ Mamitsuka ที่งาน ICML 1998 ซึ่งยืนยันว่า ensemble margins ให้สัญญาณความไม่แน่นอนที่มีหลักการสำหรับการเลือกข้อมูลแบบ active การสำรวจของ Settles ในปี 2009 ได้รวบรวมสาขานี้และจัดหมวดหมู่กลยุทธ์ที่ใช้ boosting ควบคู่ไปกับแนวทาง SVM และ Gaussian process ตั้งแต่นั้นมา gradient boosting variants (XGBoost, LightGBM) ได้ถูกนำมาใช้เป็นแกนหลักของ ensemble ในไปป์ไลน์ active learning ที่นำไปใช้จริงในทางการแพทย์ ภาษาธรรมชาติ และการสำรวจระยะไกล
ควรใช้เมื่อใด
ใช้ Active Learning Boosting เมื่อการติดป้ายกำกับมีค่าใช้จ่ายสูง (เช่น การติดป้ายกำกับทางการแพทย์ การตรวจสอบโดยผู้เชี่ยวชาญ การจัดหมวดหมู่ทางกฎหมาย) แต่มีข้อมูลที่ไม่มีป้ายกำกับจำนวนมาก และคุณต้องการความแม่นยำของ ensemble ที่สูง แทนที่จะเป็นโมเดลแบบง่ายๆ เหมาะสำหรับงานจำแนกประเภทข้อมูลแบบตาราง (tabular classification) ที่มีความไม่สมดุลของคลาสปานกลาง (moderate class imbalance) เนื่องจากกระบวนการถ่วงน้ำหนักแบบปรับได้ของ boosting จะมุ่งเน้นไปที่ตัวอย่างที่ยากโดยธรรมชาติ ไม่เหมาะเมื่อการติดป้ายกำกับมีค่าใช้จ่ายต่ำ (การเรียนรู้แบบ passive อาจง่ายกว่า) เมื่อชุดข้อมูลที่ไม่มีป้ายกำกับมีขนาดเล็ก (ไม่ได้รับประโยชน์จากการเลือกข้อมูลอย่างมีนัยสำคัญ) เมื่องานต้องการการตัดสินใจแบบเรียลไทม์หรือแบบสตรีมมิ่ง (boosting แบบมาตรฐานทำงานเป็นชุด) หรือเมื่อต้องการความสามารถในการตีความค่าสัมประสิทธิ์ทั้งหมด
ข้อจำกัดและข้อควรพิจารณา
- ต้องมี oracle (มนุษย์หรืออัตโนมัติ) ที่พร้อมใช้งานในแต่ละรอบการเลือกข้อมูล ทำให้ไปป์ไลน์อัตโนมัติเต็มรูปแบบมีความซับซ้อน
- ชุดข้อมูลเริ่มต้นที่มีป้ายกำกับต้องมีความเป็นตัวแทน หากชุดเริ่มต้นมีอคติ จะนำไปสู่การเลือกข้อมูลในช่วงแรกที่มีอคติและการลู่เข้าช้า
- การเลือกตัวอย่างที่น่าสงสัยที่สุดอาจทำให้เกิดการเปลี่ยนแปลงการกระจายตัว (distribution shift) — ชุดข้อมูลที่มีป้ายกำกับจะไม่สะท้อนการกระจายตัวของข้อมูลตามธรรมชาติอีกต่อไป
- ต้นทุนการคำนวณเพิ่มขึ้นตามแต่ละรอบการฝึกโมเดลใหม่ โดยเฉพาะอย่างยิ่งสำหรับ deep boosting ensembles บนชุดข้อมูลขนาดใหญ่
- ประสิทธิภาพที่เพิ่มขึ้นเมื่อเทียบกับการเรียนรู้แบบ passive จะลดลงเมื่อชุดงบประมาณในการติดป้ายกำกับมีขนาดใหญ่ขึ้น
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- ลดต้นทุนการติดป้ายกำกับที่จำเป็นเพื่อให้ได้เป้าหมายความแม่นยำที่กำหนดลงอย่างมาก เมื่อเทียบกับการสุ่มตัวอย่าง
- สืบทอดความสามารถในการสรุปผล (generalization) และความทนทานต่อความไม่สมดุลของคลาสของ boosting ผ่านการถ่วงน้ำหนักตัวอย่างแบบปรับได้
- กลยุทธ์การเลือกข้อมูล (query strategy) มีพื้นฐานโดยตรงจากความไม่แน่นอนของโมเดลเอง ทำให้มีความเป็นหลักการและปรับเปลี่ยนได้
- ทำงานได้ดีกับข้อมูลแบบตารางที่มีประเภทฟีเจอร์ผสมกัน โดยไม่ต้องมีข้อสมมติฐานเกี่ยวกับการกระจายตัวของข้อมูล
- เข้ากันได้กับ boosting variant ใดๆ (AdaBoost, gradient boosting, XGBoost) ในฐานะตัวเรียนรู้พื้นฐาน
การประยุกต์ใช้
- การติดป้ายกำกับเวชระเบียน ซึ่งการติดป้ายกำกับโดยผู้เชี่ยวชาญมีจำกัดและมีค่าใช้จ่ายสูง
- การจำแนกประเภทเอกสารและข้อความด้วยคลังข้อมูลที่มีป้ายกำกับจำกัด
- การทำแผนที่การใช้ประโยชน์ที่ดินจากการสำรวจระยะไกล ซึ่งการรวบรวมข้อมูลภาคพื้นดินต้องใช้แรงงานภาคสนามอย่างเข้มข้น
- การสร้างโมเดลตรวจจับการฉ้อโกง เมื่อป้ายกำกับการฉ้อโกงที่ยืนยันแล้วต้องผ่านการตรวจสอบด้วยตนเอง
- การควบคุมคุณภาพในภาคอุตสาหกรรม ซึ่งการติดป้ายกำกับข้อบกพร่องต้องอาศัยการตรวจสอบโดยผู้เชี่ยวชาญ
วิธีการทำงาน
วิธีการทำงาน
รวบรวมชุดข้อมูลขนาดใหญ่ของตัวอย่างที่ไม่มีป้ายกำกับและชุดข้อมูลเริ่มต้นขนาดเล็กที่มีป้ายกำกับ ชุดข้อมูลเริ่มต้นควรมีความเป็นตัวแทนเพียงพอที่จะฝึก boosting ensemble ที่อ่อนแอเบื้องต้นได้ โดยทั่วไปแล้ว ตัวอย่างที่มีป้ายกำกับจำนวนไม่กี่สิบตัวอย่างก็เพียงพอที่จะเริ่มต้นวงจรได้
ทำการฝึก boosting algorithm (เช่น AdaBoost หรือ gradient boosting) บนชุดข้อมูลที่มีป้ายกำกับในปัจจุบัน ซึ่งจะสร้าง ensemble ของ weak learners พร้อมกับน้ำหนักของพวกมัน และที่สำคัญคือ ค่า margin ของการทำนายต่อตัวอย่าง (per-instance prediction margins) หรือคะแนนความเชื่อมั่น (confidence scores) ที่กลยุทธ์การเลือกข้อมูล (query strategy) จะนำไปใช้ประโยชน์
คำนวณเกณฑ์วัดความเป็นตัวแทนของข้อมูล (informativeness criterion) ที่ได้จาก boosting ensemble สำหรับตัวอย่างที่ไม่มีป้ายกำกับแต่ละตัวอย่าง กลยุทธ์ทั่วไป ได้แก่ การเลือกตัวอย่างที่มี ensemble margin ต่ำที่สุด (margin sampling) ความขัดแย้งของ ensemble สูงสุด หรือการใช้น้ำหนักของ boosting เพื่อระบุบริเวณที่จำแนกได้ยาก ชุดข้อมูลจำนวนหนึ่ง (batch) ของตัวอย่างที่ได้รับการจัดอันดับสูงสุดจะถูกเลือกเพื่อติดป้ายกำกับ
ตัวอย่างที่เลือกจะถูกนำเสนอต่อผู้ให้คำอธิบายกำกับที่เป็นมนุษย์หรือ oracle เพื่อติดป้ายกำกับ นี่เป็นขั้นตอนเดียวที่ต้องใช้ความพยายามจากภายนอก โดยมีค่าใช้จ่ายเป็นสัดส่วนกับขนาดของชุดข้อมูลที่เลือก ตัวอย่างที่มีป้ายกำกับใหม่จะถูกเพิ่มเข้าไปในชุดข้อมูลฝึกที่มีป้ายกำกับ
ทำการฝึกโมเดล boosting ใหม่ทั้งหมด (retrains from scratch) หรือปรับปรุงแบบเพิ่มส่วน (incrementally) บนชุดข้อมูลที่มีป้ายกำกับที่ขยายออกไป วงจรตั้งแต่ขั้นตอนที่ 3 จะทำซ้ำจนกว่างบประมาณในการติดป้ายกำกับจะหมดลง หรือถึงเกณฑ์ประสิทธิภาพที่ตั้งไว้ การทำนายสุดท้ายจะถูกสร้างขึ้นโดย boosting ensemble ที่ฝึกสมบูรณ์แล้ว
ข้อผิดพลาดที่พบบ่อย
- การใช้ชุดข้อมูลเริ่มต้นที่เล็กเกินไปหรือไม่เป็นตัวแทน ทำให้รอบการเลือกข้อมูลแรกมุ่งเน้นไปที่บริเวณขอบเขตที่มีสัญญาณรบกวน (noisy boundary regions)
- การลืมประเมินผลบนชุดข้อมูลทดสอบที่แยกออกมาซึ่งไม่เคยใช้ในวงจรการเลือกข้อมูลเลย ทำให้ประมาณการความแม่นยำสูงเกินจริง
- การละเลยการเปลี่ยนแปลงการกระจายตัว: รายงานความแม่นยำบนชุดข้อมูลทดสอบตามการกระจายตัวตามธรรมชาติ ในขณะที่ชุดข้อมูลที่มีป้ายกำกับถูกเลือกอย่างมีกลยุทธ์
- การใช้ active learning boosting เมื่อต้นทุนการติดป้ายกำกับน้อยมาก — ความซับซ้อนที่เพิ่มเข้ามาไม่คุ้มค่า
- การผสมผสานการเลือกข้อมูลตาม margin เข้ากับการเลือกค่าผิดปกติ (outlier selection); ตรวจสอบว่าตัวอย่างที่ถูกเลือกนั้นให้ข้อมูลจริง ไม่ใช่แค่สัญญาณรบกวน
คำถามที่พบบ่อย
Boosting algorithm ใดที่ทำงานได้ดีที่สุดในฐานะตัวเรียนรู้พื้นฐาน?
Boosting variant ใดๆ ที่ให้คะแนนความเชื่อมั่นหรือ margin ต่อตัวอย่างก็สามารถใช้ได้ AdaBoost เป็นที่ศึกษามากที่สุดในวรรณกรรม active learning ดั้งเดิม; gradient boosting (XGBoost, LightGBM) มักให้ความแม่นยำที่สูงกว่าในทางปฏิบัติและพบได้บ่อยขึ้นในไปป์ไลน์สมัยใหม่
ชุดข้อมูลเริ่มต้นที่มีป้ายกำกับควรมีขนาดเท่าใด?
แนวทางทั่วไปคือ 1–5% ของชุดข้อมูลทั้งหมด หรืออย่างน้อยตัวอย่างสองสามตัวอย่างต่อคลาส แล้วแต่ว่าอย่างใดจะมากกว่า หากชุดเริ่มต้นเล็กเกินไป จะทำให้โมเดลเริ่มต้นไม่เสถียร และการเลือกข้อมูลในช่วงแรกอาจทำให้เข้าใจผิดได้
Active learning boosting ให้ผลดีกว่าการสุ่มตัวอย่างเสมอหรือไม่?
ไม่เสมอไป เมื่อชุดงบประมาณในการติดป้ายกำกับมีขนาดใหญ่เมื่อเทียบกับชุดข้อมูลทั้งหมด การสุ่มตัวอย่างจะให้ความแม่นยำใกล้เคียงกัน ประโยชน์สูงสุดจะปรากฏในสภาวะที่มีงบประมาณน้อย ซึ่งค่าใช้จ่ายในการติดป้ายกำกับสูงและชุดข้อมูลที่ไม่มีป้ายกำกับมีขนาดใหญ่
ฉันจะประเมินโมเดลได้อย่างยุติธรรมได้อย่างไร?
กันชุดข้อมูลทดสอบออกไปก่อนที่จะเริ่มวงจร active learning และอย่ารวมไว้ในการตัดสินใจเลือกข้อมูลหรือการฝึกโมเดล ประเมิน boosting ensemble สุดท้ายบนชุดข้อมูลที่ไม่ได้แตะต้องนี้; ความแม่นยำบนชุดข้อมูลที่มีป้ายกำกับที่เลือกอย่างมีกลยุทธ์จะมีความคลาดเคลื่อนสูงเกินจริง (optimistically biased)
ฉันสามารถใช้การเลือกข้อมูลเป็นชุด (batch queries) แทนการเลือกทีละตัวอย่างได้หรือไม่?
ได้ Active learning แบบ batch เลือกชุดตัวอย่างที่มีความไม่แน่นอนสูงและหลากหลายในแต่ละรอบ เพื่อลดการโต้ตอบกับ oracle การใช้งานจริงส่วนใหญ่ใช้ batch ขนาด 10–100 ตัวอย่าง โดยสร้างสมดุลระหว่างความเป็นตัวแทนของข้อมูลและความหลากหลาย เพื่อหลีกเลี่ยงการเลือกตัวอย่างที่คล้ายกันมาก
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Abe, N. & Mamitsuka, H. (1998). Query Learning Strategies Using Boosting and Bagging. Proceedings of the 15th International Conference on Machine Learning (ICML 1998), pp. 1–9. Morgan Kaufmann.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้วSettles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว