Skip to content
กลับไปยังผลการค้นหา

การเรียนรู้เชิงรุกแบบการลงคะแนนของคณะกรรมการ

ผู้เสนอ
Seung, H. S., Opper, M., & Sompolinsky, H.
ปี
1992
ประเภท
Active learning with ensemble voting
กลุ่มวิธี
Machine learning

ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ

ขนาดตัวอักษร

ใช้ทำอะไร?

การเรียนรู้เชิงรุกแบบการลงคะแนนของคณะกรรมการ — หรือที่รู้จักอย่างเป็นทางการว่า Query by Committee — เป็นกลยุทธ์การเรียนรู้เชิงรุกที่ฝึกคณะกรรมการของแบบจำลองที่หลากหลาย และเลือกตัวอย่างที่ไม่มีป้ายกำกับซึ่งสมาชิกคณะกรรมการมีความเห็นไม่ตรงกันมากที่สุดสำหรับการอธิบายโดยมนุษย์ ด้วยการมุ่งเน้นความพยายามในการติดป้ายกำกับไปยังจุดที่มีข้อมูลมากที่สุด จึงให้ความแม่นยำสูงโดยใช้ตัวอย่างที่มีป้ายกำกับน้อยกว่าที่การเรียนรู้แบบพาสซีฟต้องการมาก

แนวคิดเบื้องหลังวิธีการ

ลองนึกภาพการถามผู้เชี่ยวชาญห้าคนเพื่อจำแนกตัวอย่างที่ไม่มีป้ายกำกับ หากสี่คนเห็นด้วยและหนึ่งคนไม่เห็นด้วย คำตอบก็ชัดเจน — ไม่จำเป็นต้องเสียค่าใช้จ่ายสำหรับป้ายกำกับ แต่ถ้าพวกเขาแบ่งเป็นสามต่อสอง ตัวอย่างนั้นจะอยู่ตรงขอบการตัดสินใจ ซึ่งการติดป้ายกำกับจะสอนแบบจำลองทั้งหมดได้มากที่สุด การเรียนรู้เชิงรุกแบบการลงคะแนนของคณะกรรมการทำให้สัญชาตญาณนี้แม่นยำ: สร้างคณะกรรมการของแบบจำลอง ให้พวกเขาลงคะแนน และจ่ายเฉพาะป้ายกำกับเมื่อการลงคะแนนใกล้เคียงกัน ผลลัพธ์คือวงจรการเรียนรู้ที่มีประสิทธิภาพสูงซึ่งใช้ประโยชน์จากงบประมาณการอธิบายประกอบจำนวนเล็กน้อยให้ได้มากที่สุด

ประวัติศาสตร์

กรอบงาน Query by Committee (QBC) ถูกนำเสนอโดย Seung, Opper และ Sompolinsky ที่ COLT 1992 ในฐานะแนวทางที่มีหลักการสำหรับการเรียนรู้เชิงรุกด้วยคณะกรรมการเวอร์ชันสเปซ เป็นหนึ่งในบัญชีทางทฤษฎีแรกๆ ของการใช้ความเห็นที่แตกต่างกันของคณะกรรมการเพื่อนำทางการรวบรวมข้อมูล และยังคงเป็นข้อมูลอ้างอิงตามแบบฉบับสำหรับการเรียนรู้เชิงรุกตามคณะกรรมการ วรรณกรรมการเรียนรู้เชิงรุกที่กว้างขึ้นได้รับการรวบรวมในบทสำรวจทางเทคนิคปี 2009 ที่อ้างอิงอย่างกว้างขวางของ Burr Settles ซึ่งจัดระบบสถานการณ์ตามกลุ่ม ตามสตรีม และตามการสอบถามสมาชิก และกำหนดให้ QBC เป็นกลยุทธ์หลักควบคู่ไปกับการสุ่มตัวอย่างความไม่แน่นอน

ควรใช้เมื่อใด

ใช้การเรียนรู้เชิงรุกแบบการลงคะแนนของคณะกรรมการเมื่อการติดป้ายกำกับมีค่าใช้จ่ายสูงหรือใช้เวลานาน — การอธิบายทางการแพทย์ การติดแท็กเอกสารทางกฎหมาย การตรวจสอบภาพเฉพาะทาง — และมีข้อมูลที่ไม่มีป้ายกำกับจำนวนมากพร้อมกับชุดข้อมูลเริ่มต้นที่มีป้ายกำกับขนาดเล็ก มันทำงานได้ดีสำหรับงานจำแนกประเภทที่ความเห็นที่แตกต่างกันของคณะกรรมการเป็นสัญญาณที่มีความหมาย และเมื่อสามารถใช้แบบจำลองที่หลากหลายอย่างน้อย 3-5 แบบ หลีกเลี่ยงเมื่อป้ายกำกับมีราคาถูกและมีจำนวนมาก (การเรียนรู้แบบพาสซีฟบนชุดข้อมูลทั้งหมดจะมีประสิทธิภาพเท่ากันหรือดีกว่า) เมื่อกลุ่มที่ไม่มีป้ายกำกับมีขนาดเล็กมาก เมื่อการอธิบายแบบออนไลน์แบบเรียลไทม์เป็นไปไม่ได้ หรือเมื่อต้องการแบบจำลองที่ตีความได้เพียงแบบเดียวแทนที่จะเป็นคณะกรรมการ

ข้อจำกัดและข้อควรพิจารณา

  • ต้องการวงจรการอธิบายประกอบ ซึ่งเพิ่มความซับซ้อนของโครงสร้างพื้นฐาน: ตัวจัดการกลุ่ม อินเทอร์เฟซผู้ให้คำปรึกษา และไปป์ไลน์การฝึกอบรมใหม่
  • ประสิทธิภาพขึ้นอยู่กับความหลากหลายของคณะกรรมการอย่างมาก คณะกรรมการที่เป็นเนื้อเดียวกันจะสร้างความเห็นที่แตกต่างกันซึ่งไม่มีความหมาย
  • การเรียนรู้เชิงรุกแบบกลุ่มสมมติว่ากลุ่มที่ไม่มีป้ายกำกับทั้งหมดพอดีกับหน่วยความจำ กลุ่มที่มีขนาดใหญ่มากต้องใช้การประมาณค่า
  • ไม่รับประกันการบรรจบกันหากผู้ให้คำปรึกษาทำการติดป้ายกำกับข้อผิดพลาดอย่างเป็นระบบ

เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้

จุดแข็ง

  • ลดจำนวนตัวอย่างที่มีป้ายกำกับที่จำเป็นเพื่อให้ได้ความแม่นยำเป้าหมายอย่างมากเมื่อเทียบกับการสุ่มตัวอย่าง
  • การลงคะแนนของคณะกรรมการให้ประโยชน์สองเท่าของการคาดการณ์ที่มีความแปรปรวนต่ำลงในระหว่างการอนุมาน
  • ไม่ขึ้นกับแบบจำลอง: ตัวจำแนกประเภทที่หลากหลายใดๆ สามารถสร้างคณะกรรมการได้
  • คะแนนความเห็นที่แตกต่างกันให้สัญญาณความไม่แน่นอนในตัวที่ง่ายต่อการตรวจสอบและแสดงภาพ
  • มีพื้นฐานทางทฤษฎีที่ดีผ่านกรอบงาน Query by Committee ที่นำเสนอในปี 1992

การประยุกต์ใช้

  • การอธิบายภาพทางการแพทย์ที่รังสีแพทย์ผู้เชี่ยวชาญมีน้อยและมีค่าใช้จ่ายสูงในการติดป้ายกำกับ
  • การรู้จำเอนทิตีที่มีชื่อและการจำแนกประเภทข้อความด้วยคลังข้อมูลที่มีป้ายกำกับจำกัด
  • การวิเคราะห์ความรู้สึกด้วยศัพท์เฉพาะทางที่ต้องมีการตรวจสอบจากผู้เชี่ยวชาญ
  • การค้นพบยาและการคาดการณ์คุณสมบัติของโมเลกุลด้วยการตรวจสอบในห้องปฏิบัติการที่มีค่าใช้จ่ายสูง
  • การจำแนกประเภทภาพถ่ายดาวเทียมซึ่งมีเพียงส่วนเล็กน้อยของไทล์ที่สามารถตรวจสอบด้วยตนเองได้

วิธีการทำงาน

วิธีการทำงาน

1

คณะกรรมการของแบบจำลองพื้นฐานที่หลากหลาย k ตัว (คณะกรรมการลงคะแนน) จะถูกเริ่มต้นด้วยชุดตัวอย่างที่มีป้ายกำกับขนาดเล็ก ความหลากหลายเป็นสิ่งสำคัญ: แบบจำลองอาจแตกต่างกันในสถาปัตยกรรม พารามิเตอร์ หรือชุดข้อมูลการฝึกอบรม เพื่อให้ความเห็นที่แตกต่างกันมีความหมายมากกว่าการสุ่ม

2

สำหรับทุกตัวอย่างผู้สมัครที่ไม่มีป้ายกำกับ x ในกลุ่ม U ความเห็นที่แตกต่าง D(C, x) ในหมู่คณะกรรมการจะถูกวัด — ตัวชี้วัดทั่วไป ได้แก่ ความเอนโทรปีของการลงคะแนน (การกระจายของการลงคะแนน) หรือ KL divergence ระหว่างการคาดการณ์ ตัวอย่างที่มีคะแนนความเห็นที่แตกต่างสูงสุดจะถูกเลือก: x* = argmax D(C, x)

สูตร
x^* = \arg\max_{x \in U} D(C, x)
3

ตัวอย่างที่ไม่มีป้ายกำกับที่เลือกจะถูกส่งไปยังผู้ให้คำปรึกษาที่เป็นมนุษย์ (ผู้ให้คำอธิบายผู้เชี่ยวชาญ แพลตฟอร์ม crowdsourcing หรือผู้ติดป้ายกำกับอัตโนมัติ) เพื่อขอป้ายกำกับจริง นี่เป็นขั้นตอนเดียวที่ก่อให้เกิดค่าใช้จ่ายในการอธิบายประกอบ

4

ตัวอย่างที่ไม่มีป้ายกำกับที่เพิ่งติดป้ายกำกับจะถูกเพิ่มลงในชุดข้อมูลการฝึกอบรม และสมาชิกคณะกรรมการทั้งหมดจะได้รับการฝึกอบรมใหม่ (หรืออัปเดตแบบเพิ่มหน่วย) วงจรจะกลับไปที่ขั้นตอนการสอบถามจนกว่างบประมาณการอธิบายประกอบจะหมดลง หรือถึงเกณฑ์ประสิทธิภาพที่กำหนด

5

ในระหว่างการอนุมาน คณะกรรมการที่ได้รับการฝึกอบรมจะทำการลงคะแนนเสียงข้างมากในบรรดาสมาชิก k คนทั้งหมด: คลาสที่คาดการณ์คือโหมดของการคาดการณ์แต่ละรายการ h_1(x) ถึง h_k(x) ซึ่งรวมทั้งประโยชน์ด้านประสิทธิภาพของการเรียนรู้เชิงรุกและการลดความแปรปรวนของคณะกรรมการ

สูตร
\hat{y} = \text{mode}(h_1(x), h_2(x), \ldots, h_k(x))

ข้อผิดพลาดที่พบบ่อย

  • การใช้สมาชิกคณะกรรมการที่เหมือนกันหรือเกือบจะเหมือนกัน — ความหลากหลายเป็นกลไกของวิธีการ และหากไม่มีความเห็นที่แตกต่างกันก็จะยุบตัวลง
  • การฝึกอบรมใหม่ตั้งแต่ต้นหลังจากแต่ละการสอบถาม; การสอบถามแบบกลุ่ม (การเลือก b ตัวอย่างต่อรอบ) มีประโยชน์มากกว่าในทางปฏิบัติ
  • การลืมประเมินบนชุดทดสอบที่แยกไว้ซึ่งคงที่ตลอดวงจร — การวัดเฉพาะบนชุดข้อมูลการฝึกอบรมที่เพิ่มขึ้นจะซ่อนการเรียนรู้เกินจริง
  • การปฏิบัติต่อคะแนนความเห็นที่แตกต่างกันเป็นการวัดความมั่นใจในการอนุมานโดยไม่มีการปรับเทียบที่เหมาะสม
  • การละเลยการแลกเปลี่ยนระหว่างข้อมูลเชิงลึกกับความเป็นตัวแทน: ตัวอย่างที่ไม่แน่นอนสูงใกล้ขอบอาจเป็นค่าผิดปกติ ไม่ใช่ตัวอย่างทั่วไป

คำถามที่พบบ่อย

ฉันควรใช้สมาชิกคณะกรรมการกี่คน?

แบบจำลองที่หลากหลายสามถึงสิบตัวเป็นช่วงที่ใช้กันทั่วไปในทางปฏิบัติ สมาชิกน้อยลงให้การประมาณความเห็นที่แตกต่างกันที่เสียงดังขึ้น สมาชิกมากขึ้นเพิ่มต้นทุนการคำนวณ จากการทดลอง ตัวจำแนกประเภทที่หลากหลายห้ามักจะให้ความสมดุลที่ดีระหว่างความเสถียรและประสิทธิภาพ

ฉันจะวัดความเห็นที่แตกต่างกันในคณะกรรมการได้อย่างไร?

ความเอนโทรปีของการลงคะแนนเป็นมาตรวัดที่พบบ่อยที่สุด: H = -sum_c p(c) log p(c) โดยที่ p(c) คือสัดส่วนของสมาชิกคณะกรรมการที่คาดการณ์คลาส c สำหรับแบบจำลองเชิงความน่าจะเป็น การเฉลี่ย KL divergence จากการคาดการณ์เฉลี่ยเป็นทางเลือก คะแนนที่สูงขึ้นบ่งชี้ตัวอย่างที่มีข้อมูลมากขึ้น

ฉันสามารถใช้สิ่งนี้กับแบบจำลองการเรียนรู้เชิงลึกได้หรือไม่?

ได้ คณะกรรมการเชิงลึกหรือการประมาณค่า MC-dropout สามารถทำหน้าที่เป็นคณะกรรมการได้ ความท้าทายหลักคือต้นทุนการฝึกอบรมใหม่ — กลยุทธ์เช่นการปรับแต่งกระดูกสันหลังที่ใช้ร่วมกันด้วยส่วนหัวที่หลากหลายช่วยลดสิ่งนี้ได้อย่างมาก

จะเกิดอะไรขึ้นหากงบประมาณการอธิบายประกอบของฉันมีจำกัดมาก เช่น น้อยกว่า 20 ป้ายกำกับ?

ด้วยป้ายกำกับจำนวนน้อยมาก การสุ่มตัวอย่างแบบสุ่มหรือการเลือกชุดเริ่มต้นแบบแบ่งชั้นมักจะให้ผลลัพธ์ที่เทียบเคียงได้กับ QBC เนื่องจากทุกวิธีเริ่มต้นจากพื้นฐานที่ขาดข้อมูลเกือบจะเหมือนกัน ข้อได้เปรียบของ QBC จะปรากฏชัดเจนขึ้นเมื่อชุดเริ่มต้นมีตัวอย่างอย่างน้อย 20-50 ตัวอย่างต่อคลาส

การเรียนรู้เชิงรุกแบบการลงคะแนนของคณะกรรมการทำงานกับการถดถอยหรือไม่?

ใช่ โดยวัดความเห็นที่แตกต่างกันเป็นความแปรปรวนหรือส่วนเบี่ยงเบนมาตรฐานของการคาดการณ์ของคณะกรรมการ แทนที่จะเป็นความเอนโทรปีของการลงคะแนน วงจรการสอบถาม-ฝึกอบรมแบบเดียวกันจะใช้ได้ ผลลัพธ์สุดท้ายคือค่าเฉลี่ยของการคาดการณ์ของคณะกรรมการ

วิธีการที่เกี่ยวข้อง

แหล่งอ้างอิง

  1. Seung, H. S., Opper, M., & Sompolinsky, H. (1992). Query by committee. In Proceedings of the Fifth Annual Workshop on Computational Learning Theory (COLT '92), pp. 287–294. ACM.

    เปิดเอกสารอ้างอิง DOI
    คัดลอกแล้ว
  2. Settles, B. (2009). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว