การเรียนรู้เชิงรุกแบบ Gradient Boosting
- ผู้เสนอ
- Settles, B. (active learning); Friedman, J. H. (gradient boosting); combined framework developed by the research community
- ปี
- 2000s–2010s
- ประเภท
- Active learning framework with gradient boosting base learner
- กลุ่มวิธี
- Machine learning
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
การเรียนรู้เชิงรุกแบบ Gradient Boosting (Active Learning Gradient Boosting) ผสมผสานความแม่นยำในการทำนายอันทรงพลังของต้นไม้แบบ Gradient Boosted เข้ากับวงจรการเรียนรู้เชิงรุกที่เลือกตัวอย่างที่ไม่มีป้ายกำกับซึ่งให้ข้อมูลมากที่สุดสำหรับการระบุโดยมนุษย์ ด้วยการสอบถามเฉพาะกรณีที่โมเดลไม่แน่ใจมากที่สุด วิธีการนี้จึงมีความแม่นยำสูงโดยใช้ตัวอย่างที่มีป้ายกำกับน้อยกว่าการเรียนรู้แบบมีผู้สอนแบบพาสซีฟมาก
แนวคิดเบื้องหลังวิธีการ
การติดป้ายกำกับข้อมูลมีค่าใช้จ่ายสูง การเรียนรู้เชิงรุกจัดการปัญหานี้โดยให้โมเดลตัดสินใจว่าตัวอย่างใดควรได้รับการติดป้ายกำกับต่อไป ซึ่งโดยทั่วไปคือตัวอย่างที่โมเดลไม่แน่ใจมากที่สุด Gradient boosting ซึ่งเป็นที่รู้จักในด้านความแม่นยำสูงสำหรับข้อมูลเชิงตาราง ทำหน้าที่เป็นผู้เรียนหลักในวงจรนี้ หลังจากแต่ละรอบของการติดป้ายกำกับ โมเดลที่ได้รับการบูสต์จะถูกฝึกใหม่บนชุดข้อมูลที่มีป้ายกำกับที่เพิ่มขึ้น และระบุจุดที่ไม่มีป้ายกำกับซึ่งไม่แน่ใจมากที่สุดอีกครั้ง ผลลัพธ์ที่ได้คือโมเดลที่มีประสิทธิภาพสูงซึ่งสร้างขึ้นโดยใช้ข้อมูลที่มีป้ายกำกับเพียงเศษเสี้ยวของข้อมูลที่การฝึกแบบพาสซีฟจะต้องใช้
ประวัติศาสตร์
การเรียนรู้เชิงรุกในฐานะสาขาวิชาได้รับการจัดระบบโดย Burr Settles ในการสำรวจที่มีอิทธิพลของเขาในปี 2010 Gradient boosting ได้รับการจัดรูปแบบโดย Jerome Friedman ในปี 2001 การรวมกันของทั้งสองได้รับความสนใจในช่วงปี 2010 เมื่อไลบรารีต้นไม้แบบ gradient boosted (XGBoost 2016, LightGBM 2017) กลายเป็นเครื่องมือมาตรฐาน ทำให้สามารถฝึกโมเดลที่มีประสิทธิภาพใหม่ได้ในไปป์ไลน์การติดป้ายกำกับแบบวนซ้ำ การรวมกันนี้เป็นเรื่องปกติในปัจจุบันในการติดป้ายกำกับ NLP การคัดแยกภาพทางการแพทย์ และการควบคุมคุณภาพทางอุตสาหกรรม
ควรใช้เมื่อใด
ใช้การเรียนรู้เชิงรุกแบบ gradient boosting เมื่อคุณมีชุดข้อมูลเชิงตารางขนาดใหญ่ที่ไม่มีป้ายกำกับ แต่การติดป้ายกำกับมีค่าใช้จ่ายสูงหรือใช้เวลานาน และ gradient boosting จะเป็นโมเดลที่เลือกอยู่แล้ว วิธีนี้มีประสิทธิภาพเป็นพิเศษสำหรับชุดข้อมูลที่ไม่สมดุลซึ่งคลาสที่หายากนั้นยากต่อการสุ่มตัวอย่างแบบพาสซีฟ หลีกเลี่ยงเมื่อการติดป้ายกำกับมีราคาถูก (การเรียนรู้แบบพาสซีฟโดยใช้ป้ายกำกับทั้งหมดจะง่ายกว่า) เมื่อกลุ่มข้อมูลที่ไม่มีป้ายกำกับมีขนาดเล็กเกินไปที่จะทำให้การสอบถามคุ้มค่า เมื่อคุณต้องการโมเดลที่โปร่งใสอย่างสมบูรณ์ (สัมประสิทธิ์หรือกฎ) หรือเมื่อการฝึกใหม่แบบเรียลไทม์หลังจากการสอบถามแต่ละครั้งไม่สามารถทำได้
ข้อจำกัดและข้อควรพิจารณา
- การฝึก gradient boosting ใหม่ตั้งแต่ต้นหลังจากการสอบถามแต่ละรอบมีค่าใช้จ่ายในการคำนวณสูงสำหรับชุดข้อมูลขนาดใหญ่
- กลยุทธ์การสอบถามอาจประสบปัญหาการเลือกตัวอย่างที่ไม่เป็นกลาง ทำให้เกิดชุดข้อมูลที่มีป้ายกำกับที่ไม่เป็นตัวแทนหากชุดข้อมูลเริ่มต้นไม่เป็นตัวแทน
- การปรับเทียบความน่าจะเป็นของ gradient boosting อาจต้องมีขั้นตอนเพิ่มเติม (เช่น การปรับขนาดแบบ Platt) เพื่อให้แน่ใจว่าการประมาณค่าความไม่แน่นอนมีความน่าเชื่อถือ
- ประสิทธิภาพมีความไวต่อการเลือกกลยุทธ์การสอบถาม; ไม่มีกลยุทธ์ใดกลยุทธ์เดียวที่เหนือกว่าในทุกงาน
- ต้องมีโครงสร้างพื้นฐานสำหรับเวิร์กโฟลว์การติดป้ายกำกับแบบ human-in-the-loop ซึ่งเพิ่มค่าใช้จ่ายทางวิศวกรรม
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- มีความแม่นยำในการแข่งขันโดยใช้ตัวอย่างที่มีป้ายกำกับน้อยกว่าการเรียนรู้แบบมีผู้สอนแบบพาสซีฟอย่างมาก
- สืบทอดประสิทธิภาพที่แข็งแกร่งของ gradient boosting บนข้อมูลเชิงตาราง จัดการกับการโต้ตอบแบบไม่เชิงเส้นและประเภทคุณลักษณะที่หลากหลาย
- ยืดหยุ่น: เข้ากันได้กับกลยุทธ์การสอบถามใดๆ (ความไม่แน่นอน, ขอบ, เอนโทรปี, การสอบถามโดยคณะกรรมการ)
- ลดต้นทุนการติดป้ายกำกับอย่างเป็นระบบ ทำให้ใช้งานได้จริงสำหรับโดเมนที่ต้องใช้ผู้เชี่ยวชาญในการติดป้ายกำกับจำนวนมาก เช่น การแพทย์หรือกฎหมาย
- รองรับการปรับใช้แบบวนซ้ำ: โมเดลปรับปรุงอย่างต่อเนื่องเมื่อมีการรวบรวมป้ายกำกับมากขึ้น
การประยุกต์ใช้
- การจำแนกภาพทางการแพทย์หรือข้อความที่การติดป้ายกำกับโดยผู้เชี่ยวชาญหายากและมีค่าใช้จ่ายสูง
- การตรวจจับการฉ้อโกงในชุดข้อมูลธุรกรรมขนาดใหญ่ที่ป้ายกำกับการฉ้อโกงที่ยืนยันแล้วต้องมีการตรวจสอบด้วยตนเอง
- การติดป้ายกำกับความรู้สึกหรือเจตนาในไปป์ไลน์ NLP ที่งบประมาณการติดป้ายกำกับจากฝูงชนมีจำกัด
- การตรวจจับข้อบกพร่องทางอุตสาหกรรมที่มีความสามารถในการตรวจสอบที่จำกัด
- การติดป้ายกำกับข้อมูลทางวิทยาศาสตร์ในชีววิทยา เคมี หรือวัสดุศาสตร์ที่ผู้เชี่ยวชาญในสาขามีค่าใช้จ่ายสูง
- การสร้างแบบจำลองการเลิกใช้บริการของลูกค้าหรือความเสี่ยงด้านเครดิตด้วยตัวอย่างผลลัพธ์ที่ยืนยันแล้วที่จำกัด
วิธีการทำงาน
วิธีการทำงาน
การฝึกเริ่มต้นด้วยชุดข้อมูลเริ่มต้นขนาดเล็กที่มีป้ายกำกับ ข้อมูลที่เหลือที่พร้อมใช้งานยังคงไม่มีป้ายกำกับอยู่ในกลุ่มข้อมูล ชุดข้อมูลเริ่มต้นต้องมีขนาดใหญ่พอที่โมเดล gradient boosting จะสามารถสร้างการประมาณความน่าจะเป็นที่มีความหมายได้ โดยทั่วไปแล้วต้องมีอย่างน้อยหนึ่งตัวอย่างต่อคลาส
โมเดล gradient boosting (เช่น XGBoost, LightGBM หรือ GradientBoostingClassifier ของ scikit-learn) ได้รับการฝึกบนชุดข้อมูลที่มีป้ายกำกับปัจจุบัน โมเดลเรียนรู้ชุดรวมแบบเพิ่มของต้นไม้ตัดสินใจโดยการปรับค่าคงเหลือซ้ำๆ ทำให้เกิดความน่าจะเป็นของคลาสที่ปรับเทียบแล้วซึ่งใช้ในขั้นตอนการสอบถามถัดไป
เกณฑ์ความไม่แน่นอนหรือข้อมูลจะเลือกอินสแตนซ์ที่ไม่มีป้ายกำกับซึ่งโมเดลมีความมั่นใจน้อยที่สุด กลยุทธ์ทั่วไป ได้แก่ การสุ่มตัวอย่างความมั่นใจน้อยที่สุด (least-confidence sampling), การสุ่มตัวอย่างขอบ (margin sampling) และการสุ่มตัวอย่างเอนโทรปี (entropy sampling) เกณฑ์เอนโทรปีจะเลือก x* ที่ทำให้ H(p(y|x)) สูงสุดในกลุ่มข้อมูล U ที่ไม่มีป้ายกำกับ
สูตร
x^* = \arg\max_{x \in U}\, H(p(y \mid x))อินสแตนซ์ที่เลือกจะถูกนำเสนอต่อผู้ติดป้ายกำกับที่เป็นมนุษย์ (oracle) ซึ่งจะให้ป้ายกำกับที่เป็นความจริง ในทางปฏิบัติ ขั้นตอนนี้เป็นขั้นตอนที่ใช้ต้นทุนการติดป้ายกำกับ ดังนั้นประสิทธิภาพของกลยุทธ์การสอบถามจึงควบคุมงบประมาณการติดป้ายกำกับโดยตรง
ตัวอย่างที่ติดป้ายกำกับใหม่จะถูกเพิ่มลงในชุดข้อมูลการฝึก และโมเดล gradient boosting จะถูกฝึกใหม่ตั้งแต่ต้นหรืออัปเดต วงจรจะทำซ้ำจนกว่างบประมาณการติดป้ายกำกับจะหมดลง หรือเมื่อถึงเกณฑ์ประสิทธิภาพบนชุดข้อมูลตรวจสอบ
ข้อผิดพลาดที่พบบ่อย
- เริ่มต้นด้วยชุดข้อมูลเริ่มต้นที่เล็กเกินไปหรือไม่สมดุล ทำให้โมเดลสอบถามเฉพาะส่วนหนึ่งของพื้นที่คุณลักษณะ
- ละเลยการปรับเทียบความน่าจะเป็น: คะแนน gradient boosting ดิบไม่เป็นความน่าจะเป็นที่ปรับเทียบได้ดีเสมอไป และการประมาณค่าความไม่แน่นอนที่ได้จากคะแนนเหล่านั้นอาจทำให้เข้าใจผิดได้
- การประเมินประสิทธิภาพของโมเดลเฉพาะบนชุดข้อมูลที่มีป้ายกำกับที่เลือกอย่างกระตือรือร้น ซึ่งมีอคติต่อตัวอย่างที่ไม่แน่นอนหรือยาก
- การใช้กลุ่มข้อมูลที่ไม่มีป้ายกำกับทั้งหมดสำหรับการประเมินขั้นสุดท้ายหลังจากการเลือกเชิงรุก — ควรสำรองชุดทดสอบที่แยกต่างหากก่อนที่วงจรการเรียนรู้เชิงรุกจะเริ่มต้นขึ้นเสมอ
- ละเลยที่จะเปรียบเทียบกับ baseline แบบพาสซีฟที่ฝึกบนจำนวนป้ายกำกับที่สุ่มตัวอย่างเท่ากัน
คำถามที่พบบ่อย
กลยุทธ์การสอบถามใดที่ทำงานได้ดีที่สุดกับ gradient boosting?
การสุ่มตัวอย่างเอนโทรปี (entropy sampling) และการสุ่มตัวอย่างขอบ (margin sampling) เป็นตัวเลือกที่พบบ่อยที่สุดและทำงานได้ดีในทางปฏิบัติ การสอบถามโดยคณะกรรมการ (query-by-committee) โดยใช้ชุดรวมของโมเดล gradient boosting อาจมีความทนทานมากกว่า แต่เพิ่มต้นทุนการฝึก กลยุทธ์ที่ดีที่สุดขึ้นอยู่กับชุดข้อมูล; ควรเปรียบเทียบสองหรือสามกลยุทธ์บนตัวอย่างนำร่อง
ฉันจำเป็นต้องปรับเทียบความน่าจะเป็นของ gradient boosting หรือไม่?
ใช่ โดยเฉพาะอย่างยิ่งเมื่อใช้กลยุทธ์การสอบถามตามเอนโทรปีหรือความมั่นใจ Gradient boosting สามารถสร้างความน่าจะเป็นที่มั่นใจเกินไปได้ ใช้การปรับขนาดแบบ Platt (Platt scaling) หรือการถดถอยแบบไอโซโทนิก (isotonic regression) หลังจากการฝึกแต่ละรอบเพื่อให้ได้การประมาณค่าความไม่แน่นอนที่ปรับเทียบได้ดีขึ้นก่อนการสอบถาม
ฉันควรติดป้ายกำกับกี่ตัวอย่างต่อรอบ?
ขนาดชุดข้อมูลตั้งแต่ 1 ถึงหลายสิบเป็นเรื่องปกติ ชุดข้อมูลขนาดใหญ่มีประสิทธิภาพในการคำนวณมากกว่า แต่อาจมีประสิทธิภาพในการสุ่มตัวอย่างน้อยกว่าการสอบถามแบบจุดเดียว เริ่มต้นด้วยขนาดชุดข้อมูลที่สัมพันธ์กับประมาณ 1–5% ของชุดข้อมูลเริ่มต้นที่มีป้ายกำกับของคุณ และปรับตามปริมาณงานการติดป้ายกำกับ
ฉันควรหยุดวงจรการเรียนรู้เชิงรุกเมื่อใด?
หยุดเมื่อประสิทธิภาพการตรวจสอบคงที่ในหลายรอบติดต่อกัน เมื่องบประมาณการติดป้ายกำกับหมดลง หรือเมื่อความไม่แน่นอนของโมเดลในกลุ่มข้อมูลที่ไม่มีป้ายกำกับที่เหลือลดลงต่ำกว่าเกณฑ์ที่บ่งชี้ว่ากลุ่มข้อมูลส่วนใหญ่ไม่มีข้อมูล
ฉันสามารถใช้ XGBoost หรือ LightGBM แทน gradient boosting ของ scikit-learn ได้หรือไม่?
ได้ — XGBoost และ LightGBM เร็วกว่าและมักจะแม่นยำกว่า; เป็นการใช้งานที่ต้องการในทางปฏิบัติ ตรวจสอบให้แน่ใจว่าคุณใช้ predict_proba (หรือเทียบเท่า) พร้อมการปรับเทียบ แทนที่จะใช้คะแนน log-odds ดิบสำหรับกลยุทธ์การสอบถาม
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้วFriedman, J. H. (2001). Greedy Function Approximation: A Gradient Boosting Machine. Annals of Statistics, 29(5), 1189–1232.
เปิดเอกสารอ้างอิง DOIคัดลอกแล้ว