Skip to content
กลับไปยังผลการค้นหา

การเรียนรู้เชิงรุกด้วยโลจิสติกส์รีเกรสชัน

ผู้เสนอ
Lewis, D. D. & Gale, W. A.; Settles, B. (survey)
ปี
1994–2010
ประเภท
Active learning framework with logistic regression base learner
กลุ่มวิธี
Machine learning

ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ

ขนาดตัวอักษร

ใช้ทำอะไร?

การเรียนรู้เชิงรุกด้วยโลจิสติกส์รีเกรสชัน (Active Learning with Logistic Regression) เป็นกรอบการทำงานแบบวนซ้ำที่ใช้ป้ายกำกับอย่างมีประสิทธิภาพ โดยโมเดลโลจิสติกส์รีเกรสชันจะเลือกตัวอย่างที่ไม่มีป้ายกำกับซึ่งโมเดลมีความไม่แน่นอนมากที่สุด จากนั้นผู้ให้คำตอบ (ผู้ประเมินที่เป็นมนุษย์) จะติดป้ายกำกับตัวอย่างเหล่านั้น และโมเดลจะได้รับการฝึกฝนใหม่ — ทำซ้ำไปเรื่อยๆ จนกว่างบประมาณการติดป้ายกำกับหรือเป้าหมายความแม่นยำจะบรรลุผล ช่วยลดต้นทุนการติดป้ายกำกับได้อย่างมากเมื่อเทียบกับการติดป้ายกำกับแบบสุ่ม

แนวคิดเบื้องหลังวิธีการ

การติดป้ายกำกับข้อมูลมีค่าใช้จ่ายสูง แทนที่จะประเมินตัวอย่างแบบสุ่ม ลองนึกภาพว่าโมเดลโลจิสติกส์ชี้ไปยังตัวอย่างที่ความน่าจะเป็นที่คาดการณ์ไว้ใกล้เคียง 0.5 มากที่สุด — ซึ่งหมายความว่าโมเดลไม่สามารถตัดสินใจได้อย่างแท้จริง ผู้เชี่ยวชาญจะติดป้ายกำกับเฉพาะกรณีที่ก้ำกึ่งเหล่านี้ และโมเดลจะได้รับการฝึกฝนใหม่ เนื่องจากตัวอย่างที่ติดป้ายกำกับแต่ละรายการให้ข้อมูลสูงสุด โมเดลจึงมีความแม่นยำที่ดีโดยใช้ป้ายกำกับน้อยกว่าการเรียนรู้แบบพาสซีฟมาก โลจิสติกส์รีเกรสชันเป็นที่นิยมใช้ในกรณีนี้ เนื่องจากให้ความน่าจะเป็นที่ปรับเทียบแล้วซึ่งสะท้อนถึงความไม่แน่นอนโดยตรง

ประวัติศาสตร์

กรอบการทำงานการเรียนรู้เชิงรุกได้รับการกำหนดรูปแบบอย่างเป็นทางการในช่วงต้นทศวรรษ 1990 Lewis และ Gale (1994) ได้นำเสนอการสุ่มตัวอย่างความไม่แน่นอนสำหรับการจำแนกประเภทข้อความโดยใช้ผู้เรียน Naive Bayes และแนวทางดังกล่าวก็ถูกนำไปปรับใช้กับโลจิสติกส์รีเกรสชันอย่างรวดเร็ว บทสำรวจของ Settles ในปี 2010 กลายเป็นเอกสารอ้างอิงหลัก โดยได้รวบรวมกลยุทธ์การสอบถามต่างๆ รวมถึงความเชื่อมั่นน้อยที่สุด (least confidence) การสุ่มตัวอย่างส่วนต่าง (margin sampling) และเอนโทรปี (entropy) โลจิสติกส์รีเกรสชันยังคงเป็นผู้เรียนพื้นฐานที่ถูกอ้างถึงบ่อยที่สุดในการทดสอบประสิทธิภาพการเรียนรู้เชิงรุกแบบ pool-based เนื่องจากความน่าจะเป็นที่ปรับเทียบได้และต้นทุนการฝึกฝนใหม่ที่ต่ำ

ควรใช้เมื่อใด

ใช้การเรียนรู้เชิงรุกด้วยโลจิสติกส์รีเกรสชันเมื่อการติดป้ายกำกับมีต้นทุนสูง (บันทึกทางการแพทย์ เอกสารทางกฎหมาย แบบสำรวจเฉพาะทาง) และมีข้อมูลที่ไม่มีป้ายกำกับจำนวนมาก แต่งบประมาณการติดป้ายกำกับโดยรวมมีจำกัด เหมาะอย่างยิ่งสำหรับการจำแนกประเภทข้อความแบบทวิภาคหรือหลายคลาส การวิเคราะห์ความรู้สึก และการเข้ารหัสทางคลินิกเมื่อคุณลักษณะสามารถแยกเชิงเส้นได้อย่างสมเหตุสมผล หลีกเลี่ยงในกรณีที่ (a) ขอบเขตการตัดสินใจมีความไม่เป็นเชิงเส้นสูงและโลจิสติกส์รีเกรสชันไม่สามารถจำลองได้แม้จะมีการสร้างคุณลักษณะ (feature engineering) (b) ผู้ให้คำตอบไม่น่าเชื่อถือหรือมีค่าใช้จ่ายสูงในการสอบถามซ้ำๆ (c) ชุดข้อมูลที่มีป้ายกำกับมีขนาดใหญ่พอสำหรับการกำกับดูแลเต็มรูปแบบแล้ว หรือ (d) ชุดข้อมูลที่ไม่มีป้ายกำกับมีขนาดเล็กเกินไปที่จะได้รับประโยชน์จากการสอบถามแบบเลือกสรร

ข้อจำกัดและข้อควรพิจารณา

  • ประสิทธิภาพลดลงเมื่อขอบเขตการตัดสินใจที่แท้จริงมีความไม่เป็นเชิงเส้น ในกรณีดังกล่าว ควรใช้ SVM แบบเคอร์เนล (kernel SVM) หรือผู้เรียนเชิงรุกแบบโครงข่ายประสาทเทียม (neural active learner) จะดีกว่า
  • การสุ่มตัวอย่างความไม่แน่นอน (uncertainty sampling) อาจสร้างชุดข้อมูลที่มีป้ายกำกับซึ่งมีอคติ โดยแสดงตัวอย่างที่ก้ำกึ่งมากเกินไปและแสดงตัวอย่างส่วนใหญ่ของแต่ละคลาสต่ำเกินไป
  • ต้องมีการโต้ตอบกับผู้ให้คำตอบซ้ำๆ ซึ่งเพิ่มภาระด้านการจัดการเมื่อเทียบกับการติดป้ายกำกับเป็นชุดเดียว
  • การเริ่มต้น (Cold-start): ชุดข้อมูลเริ่มต้นมีอิทธิพลอย่างมากต่อคำถามในช่วงแรก ดังนั้นชุดข้อมูลเริ่มต้นที่ไม่ดีอาจทำให้การลู่เข้าช้าลง

เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้

จุดแข็ง

  • ลดจำนวนป้ายกำกับที่จำเป็นเพื่อให้ได้ความแม่นยำตามเป้าหมายลงอย่างมากเมื่อเทียบกับการสุ่มตัวอย่าง
  • โลจิสติกส์รีเกรสชันให้ความน่าจะเป็นที่ปรับเทียบแล้วโดยธรรมชาติ ทำให้การประมาณค่าความไม่แน่นอนเชื่อถือได้โดยไม่ต้องมีการปรับเทียบเพิ่มเติม
  • โปร่งใสและตรวจสอบได้: ทั้งโมเดลเชิงเส้นและเกณฑ์การสอบถามสามารถตรวจสอบได้
  • ต้นทุนการคำนวณต่ำในการฝึกฝนใหม่หลังจากการสอบถามแต่ละครั้ง ทำให้เวิร์กโฟลว์การติดป้ายกำกับแบบเรียลไทม์หรือใกล้เคียงเรียลไทม์
  • ถ่ายโอนไปยังการจำแนกประเภทข้อความได้อย่างราบรื่นด้วยการแทนค่าคุณลักษณะแบบ TF-IDF หรือ bag-of-words

การประยุกต์ใช้

  • การจำแนกประเภทข้อความและการวิเคราะห์ความรู้สึกด้วยคลังข้อมูลที่มีป้ายกำกับจำกัด
  • การเข้ารหัสบันทึกทางการแพทย์และ NLP ทางคลินิกที่การประเมินโดยผู้เชี่ยวชาญมีค่าใช้จ่ายสูง
  • ไปป์ไลน์การติดป้ายกำกับเชิงรุกสำหรับแบบสำรวจสังคมศาสตร์และการกลั่นกรองเนื้อหา
  • การป้อนกลับความเกี่ยวข้องในการดึงข้อมูล (Information retrieval relevance feedback) โดยผู้ใช้ติดป้ายกำกับเฉพาะเอกสารที่ไม่แน่นอน
  • การเริ่มต้นการรู้จำเอนทิตีชีวการแพทย์ (Biomedical entity recognition bootstrapping) ด้วยการติดป้ายกำกับเริ่มต้นน้อยที่สุด

วิธีการทำงาน

วิธีการทำงาน

1

ชุดข้อมูลเริ่มต้นขนาดเล็กที่มีป้ายกำกับจะถูกรวบรวม — มักจะมีตั้งแต่ 10 ถึงหลายร้อยรายการ ขึ้นอยู่กับโดเมน โมเดลโลจิสติกส์รีเกรสชันจะถูกฝึกบนชุดข้อมูลเริ่มต้นนี้เพื่อสร้างขอบเขตการตัดสินใจเบื้องต้น ตัวอย่างที่ไม่มีป้ายกำกับที่เหลือจะประกอบกันเป็นกลุ่มข้อมูลที่จะดึงคำถามออกมา

2

โลจิสติกส์รีเกรสชันจะปรับขอบเขตการตัดสินเชิงเส้นโดยการเพิ่มค่า log-likelihood ของชุดข้อมูลที่มีป้ายกำกับให้สูงสุด ผลลัพธ์คือความน่าจะเป็น P(y=1|x) = sigmoid(w^T x) สำหรับแต่ละรายการ เนื่องจากโลจิสติกส์รีเกรสชันให้ความน่าจะเป็นที่ปรับเทียบแล้ว คะแนนความเชื่อมั่นจึงสามารถตีความได้โดยตรงว่าเป็นค่าประมาณความไม่แน่นอน — ซึ่งเป็นเหตุผลสำคัญที่ทำให้เข้ากันได้ดีกับการเรียนรู้เชิงรุก

สูตร
P(y=1 \mid x) = \sigma(\mathbf{w}^\top x)
3

ตัวอย่างที่ไม่มีป้ายกำกับแต่ละรายการในกลุ่มจะถูกให้คะแนนตามเกณฑ์ความไม่แน่นอน วิธีที่พบบ่อยที่สุดคือการสุ่มตัวอย่างด้วยความเชื่อมั่นน้อยที่สุด (least-confidence sampling): โมเดลจะเลือกตัวอย่างที่มีความน่าจะเป็นของคลาสสูงสุดต่ำที่สุด (กล่าวคือ โมเดลมีความมั่นใจน้อยที่สุด) สำหรับปัญหาแบบทวิภาค (binary problems) วิธีนี้จะลดลงเหลือการเลือกจุดที่อยู่ใกล้ขอบเขตการตัดสินใจมากที่สุด (ความน่าจะเป็นที่คาดการณ์ไว้ใกล้เคียง 0.5 มากที่สุด)

สูตร
x^* = \arg\min_{x \in U} \max_y P(y \mid x, \hat{\theta})
4

ตัวอย่างที่ไม่มีความแน่นอนมากที่สุด (หรือชุดของตัวอย่างที่ไม่มีความแน่นอนมากที่สุด k อันดับแรก) จะถูกนำเสนอต่อผู้ประเมินที่เป็นมนุษย์หรือผู้ให้คำตอบเพื่อติดป้ายกำกับ ผู้ให้คำตอบจะให้ป้ายกำกับคลาสจริง ซึ่งจะถูกเพิ่มเข้าไปในชุดข้อมูลฝึกอบรมที่มีป้ายกำกับ งบประมาณการติดป้ายกำกับที่กำหนดจะกำหนดจำนวนคำถามที่วงจรสามารถดำเนินการได้

5

โมเดลโลจิสติกส์รีเกรสชันจะได้รับการฝึกฝนใหม่บนชุดข้อมูลที่มีป้ายกำกับที่ขยายออก ประสิทธิภาพจะถูกประเมินบนชุดข้อมูลตรวจสอบที่แยกไว้ หากงบประมาณยังไม่หมดและเป้าหมายความแม่นยำยังไม่บรรลุ วงจรจะกลับไปที่ขั้นตอนการให้คะแนนความไม่แน่นอน กระบวนการจะสิ้นสุดลงเมื่อหมดงบประมาณหรือประสิทธิภาพคงที่

ข้อผิดพลาดที่พบบ่อย

  • การประเมินประสิทธิภาพเฉพาะบนชุดข้อมูลที่มีป้ายกำกับที่เลือกเชิงรุก แทนที่จะเป็นชุดข้อมูลที่แยกออกและเป็นอิสระ (i.i.d.) ซึ่งทำให้ค่าประมาณความแม่นยำสูงเกินจริง
  • การละเลยความไม่สมดุลของคลาสในชุดข้อมูลเริ่มต้น — ชุดข้อมูลเริ่มต้นที่ไม่สมดุลทำให้โมเดลสอบถามเกือบเฉพาะจากขอบเขตของคลาสส่วนน้อย
  • การใช้การสุ่มตัวอย่างความไม่แน่นอนกับกลุ่มข้อมูลที่มีการเปลี่ยนแปลงการกระจายระหว่างข้อมูลที่มีป้ายกำกับและไม่มีป้ายกำกับ โดยไม่มีการถ่วงน้ำหนักความหนาแน่นหรือการแก้ไขความเป็นตัวแทน
  • การปฏิบัติต่อโมเดลสุดท้ายเสมือนโลจิสติกส์รีเกรสชันมาตรฐาน โดยไม่ได้คำนึงถึงการสุ่มตัวอย่างที่มีอคติเมื่อรายงานช่วงความเชื่อมั่นหรือการทดสอบสมมติฐาน

คำถามที่พบบ่อย

เหตุใดจึงใช้โลจิสติกส์รีเกรสชันแทนโมเดลที่ทรงพลังกว่า

โลจิสติกส์รีเกรสชันให้ความน่าจะเป็นที่ปรับเทียบได้ดี ฝึกฝนใหม่ได้อย่างรวดเร็วหลังจากการสอบถามแต่ละครั้ง และสามารถตีความได้ — ทั้งหมดนี้มีความสำคัญอย่างยิ่งในวงจรการเรียนรู้เชิงรุกที่โมเดลได้รับการอัปเดตหลายครั้งและคะแนนความไม่แน่นอนต้องน่าเชื่อถือ โมเดลที่ซับซ้อนกว่าสามารถนำมาใช้ได้ แต่จะเพิ่มต้นทุนการฝึกฝนใหม่และอาจต้องมีการปรับเทียบความน่าจะเป็น (เช่น Platt scaling สำหรับ SVM)

ต้องใช้ป้ายกำกับเริ่มต้นกี่รายการจึงจะเริ่มได้

ไม่มีกฎตายตัว แต่ตัวอย่างที่มีป้ายกำกับ 10-50 รายการต่อคลาสถือเป็นจุดเริ่มต้นทั่วไปในวรรณกรรม การมีตัวอย่างเริ่มต้นน้อยเกินไปจะทำให้โมเดลเริ่มต้นไม่เสถียร ซึ่งการประมาณค่าความไม่แน่นอนไม่น่าเชื่อถือ การมีตัวอย่างเริ่มต้นมากเกินไปจะทำให้จุดประสงค์ของการเรียนรู้เชิงรุกเสียไป

อะไรคือความแตกต่างระหว่างการสุ่มตัวอย่างความไม่แน่นอน (uncertainty sampling) และการสอบถามโดยคณะกรรมการ (query by committee)

การสุ่มตัวอย่างความไม่แน่นอนใช้ความเชื่อมั่นในการทำนายของโมเดลเดียวเพื่อเลือกคำถาม การสอบถามโดยคณะกรรมการฝึกคณะกรรมการของโมเดลและเลือกจุดที่พวกเขามีความเห็นต่างกันมากที่สุด สำหรับโลจิสติกส์รีเกรสชัน การสุ่มตัวอย่างความไม่แน่นอน (ความเชื่อมั่นน้อยที่สุดหรือเอนโทรปี) เป็นที่นิยมมากกว่าเนื่องจากต้องการเพียงโมเดลเดียว

ฉันสามารถใช้การสอบถามแบบกลุ่ม (batch queries) แทนการสอบถามทีละรายการได้หรือไม่

ได้ การเรียนรู้เชิงรุกแบบกลุ่ม (Batch-mode active learning) จะเลือกตัวอย่างที่ไม่มีความแน่นอนมากที่สุด k อันดับแรกในแต่ละรอบเพื่อลดความถี่ในการโต้ตอบกับผู้ให้คำตอบ วิธีทั่วไปคือการใช้ขนาดกลุ่ม 10-50 รายการ และฝึกฝนใหม่หลังจากแต่ละกลุ่ม แทนที่จะเป็นหลังจากแต่ละคำถาม

ฉันจะประเมินเส้นโค้งการเรียนรู้เชิงรุก (active learning curve) ได้อย่างไร

พล็อตความแม่นยำในการจำแนกประเภท (หรือ F1, AUC) บนชุดข้อมูลทดสอบที่แยกออกและคงที่ โดยพิจารณาจากจำนวนป้ายกำกับที่สอบถาม เปรียบเทียบเส้นโค้งนี้กับเส้นฐานของการสุ่มตัวอย่างแบบสุ่ม พื้นที่ใต้เส้นโค้งการเรียนรู้เมื่อเทียบกับการสุ่มตัวอย่างแบบสุ่มจะวัดประสิทธิภาพการติดป้ายกำกับที่เพิ่มขึ้น

วิธีการที่เกี่ยวข้อง

แหล่งอ้างอิง

  1. Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin–Madison.

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว
  2. Lewis, D. D., & Gale, W. A. (1994). A sequential algorithm for training text classifiers. Proceedings of the 17th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, 3–12.

    เปิดเอกสารอ้างอิง DOI
    คัดลอกแล้ว