Skip to content
กลับไปยังผลการค้นหา

การถดถอยเชิงเส้นแบบเรียนรู้เชิงรุก

ผู้เสนอ
Cohn, D. A.; Ghahramani, Z.; Jordan, M. I.
ปี
1996
ประเภท
Active learning / iterative supervised learning
กลุ่มวิธี
Machine learning

ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ

ขนาดตัวอักษร

ใช้ทำอะไร?

การถดถอยเชิงเส้นแบบเรียนรู้เชิงรุก (Active Learning Linear Regression) เป็นแนวทางแบบวนซ้ำในการเรียนรู้ของเครื่องที่ผสมผสานแบบจำลองการถดถอยเชิงเส้นเข้ากับกลยุทธ์การสอบถามอัจฉริยะเพื่อเลือกจุดข้อมูลที่ไม่มีป้ายกำกับซึ่งให้ข้อมูลมากที่สุดสำหรับการติดป้าย ด้วยการมุ่งเน้นความพยายามในการติดป้ายในบริเวณที่มีความไม่แน่นอนสูงสุด จึงสามารถบรรลุความแม่นยำในการทำนายที่แข่งขันได้โดยใช้ตัวอย่างที่มีป้ายกำกับน้อยกว่าการสุ่มแบบพาสซีฟอย่างมาก

แนวคิดเบื้องหลังวิธีการ

การติดป้ายข้อมูลมักมีค่าใช้จ่ายสูง เช่น การวัดผลทางการแพทย์ การอธิบายประกอบโดยผู้เชี่ยวชาญ หรือการทดลองในห้องปฏิบัติการ แทนที่จะติดป้ายทุกอย่างแบบสุ่ม ผู้เรียนเชิงรุกจะปรับแบบจำลองการถดถอยเชิงเส้นบนชุดข้อมูลที่มีป้ายกำกับขนาดเล็กที่ตนมี ระบุว่าการทำนายของตนมีความไม่แน่นอนมากที่สุดที่ใด ขอให้ผู้ให้คำปรึกษา (oracle) ติดป้ายจุดเหล่านั้น และทำการฝึกใหม่ วงจรนี้จะทำซ้ำจนกว่างบประมาณจะหมดลงหรือประสิทธิภาพถึงเป้าหมาย ผลลัพธ์ที่ได้คือแบบจำลองที่เรียนรู้ได้อย่างมีประสิทธิภาพ โดยใช้ทรัพยากรในการติดป้ายในบริเวณที่สำคัญที่สุด เช่น ใกล้ขอบเขตการตัดสินใจ หรือในบริเวณที่ข้อมูลเบาบาง

ประวัติศาสตร์

กรอบงานอย่างเป็นทางการสำหรับการเรียนรู้เชิงรุกด้วยแบบจำลองทางสถิติถูกสร้างขึ้นโดย Cohn, Ghahramani และ Jordan ในปี 1996 ซึ่งแสดงให้เห็นว่าการลดความแปรปรวนภายใต้แบบจำลองความน่าจะเป็นเป็นเกณฑ์การสอบถามที่มีหลักการ งานนี้ได้รวมการเรียนรู้เชิงรุกเข้ากับวรรณกรรมเกี่ยวกับการออกแบบการทดลองที่เหมาะสมแบบคลาสสิก (ย้อนกลับไปถึง Kiefer และ Wolfowitz, 1959) ต่อมา Settles (2012) ได้รวบรวมสาขาการเรียนรู้เชิงรุกในวงกว้าง และการถดถอยเชิงเส้นแบบเรียนรู้เชิงรุกยังคงเป็นตัวอย่างมาตรฐานที่แสดงหลักการหลักของการสอบถามตามความไม่แน่นอน

ควรใช้เมื่อใด

ใช้การถดถอยเชิงเส้นแบบเรียนรู้เชิงรุกเมื่อความสัมพันธ์ระหว่างตัวทำนายและผลลัพธ์แบบต่อเนื่องเป็นเชิงเส้นโดยประมาณ ป้ายกำกับมีจำกัดหรือมีค่าใช้จ่ายสูงในการได้มา (เช่น การทดลองในห้องปฏิบัติการ การทดสอบทางการแพทย์ การอธิบายประกอบโดยผู้เชี่ยวชาญ) และมีชุดข้อมูลผู้สมัครที่ไม่มีป้ายกำกับจำนวนมาก เหมาะอย่างยิ่งสำหรับปัญหาการออกแบบการทดลองที่มีมิติต่ำ หลีกเลี่ยงเมื่อความสัมพันธ์ที่แท้จริงเป็นแบบไม่เชิงเส้นอย่างมาก (ควรเลือกใช้รูปแบบ Gaussian process หรือ neural-network แบบเรียนรู้เชิงรุก) เมื่อต้นทุนป้ายกำกับไม่สำคัญ (การสุ่มแบบพาสซีฟก็เพียงพอ) หรือเมื่อชุดข้อมูลที่ไม่มีป้ายกำกับมีขนาดเล็กเกินไปที่จะได้รับประโยชน์จากการเลือก

ข้อจำกัดและข้อควรพิจารณา

  • สมมติว่าความสัมพันธ์ที่แท้จริงเป็นเชิงเส้น การระบุแบบจำลองผิดพลาดอาจนำไปสู่การตัดสินใจสอบถามที่ไม่ดีและการประมาณค่าที่เอนเอียง
  • ประสิทธิภาพลดลงในสภาพแวดล้อมที่มีมิติสูง ซึ่งชุดข้อมูลที่มีป้ายกำกับเริ่มต้นเบาบางเกินไปที่จะประมาณค่าความแปรปรวนได้อย่างน่าเชื่อถือ
  • กลยุทธ์การสอบถามแบบละโมบ (greedy) อาจมุ่งเน้นไปที่บริเวณขอบเขตมากเกินไป ในขณะที่ละเลยการครอบคลุมส่วนใหญ่ของข้อมูล
  • ต้องการการเข้าถึงผู้ให้คำปรึกษา (ผู้เชี่ยวชาญที่เป็นมนุษย์หรือการทดลอง) ที่สามารถติดป้ายจุดที่ถูกสอบถามแต่ละจุดได้ตามต้องการ

เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้

จุดแข็ง

  • ลดความพยายามในการติดป้ายได้อย่างมากโดยการกำหนดเป้าหมายตัวอย่างที่ให้ข้อมูลมากที่สุดก่อน
  • มีพื้นฐานมาจากทฤษฎีการออกแบบการทดลองที่เหมาะสมแบบคลาสสิก โดยให้การรับประกันทางทฤษฎีในการลดความแปรปรวน
  • เรียบง่ายและตีความได้: แบบจำลองพื้นฐานยังคงเป็นการถดถอยเชิงเส้นธรรมดาพร้อมสัมประสิทธิ์ที่โปร่งใส
  • ต้นทุนการคำนวณต่ำ — ความแปรปรวนของการทำนายสำหรับการถดถอยเชิงเส้นมีการอัปเดตในรูปแบบปิด (closed-form)
  • ทำงานได้ดีในสภาพแวดล้อมที่มีมิติต่ำถึงปานกลาง โดยมีความสัมพันธ์เชิงเส้นที่แท้จริง

การประยุกต์ใช้

  • การค้นพบยาและวิทยาศาสตร์วัสดุ: การเลือกสารประกอบทางเคมีที่จะสังเคราะห์และทดสอบต่อไป
  • การทดลองทางคลินิก: การเลือกผู้ป่วยเพื่อทำการวัดผลแบบวนซ้ำเพื่อลดขนาดตัวอย่างให้เหลือน้อยที่สุด ในขณะที่ประมาณเส้นโค้งการตอบสนองต่อปริมาณยา
  • การเฝ้าระวังสิ่งแวดล้อม: การเลือกตำแหน่งการติดตั้งเซ็นเซอร์เพื่อประมาณค่าสนามมลพิษหรืออุณหภูมิอย่างเหมาะสมที่สุด
  • ไปป์ไลน์ NLP แบบ Annotator-in-the-loop: การเลือกประโยคสำหรับการติดป้ายโดยผู้เชี่ยวชาญในงานการให้คะแนนตามการถดถอย
  • การเพิ่มประสิทธิภาพกระบวนการทางอุตสาหกรรม: การออกแบบการทดลองแบบลำดับเพื่อสร้างแผนที่พื้นผิวผลลัพธ์แบบต่อเนื่องด้วยจำนวนครั้งน้อยที่สุด

วิธีการทำงาน

วิธีการทำงาน

1

อัลกอริทึมเริ่มต้นด้วยชุดข้อมูลที่มีป้ายกำกับเริ่มต้นขนาดเล็ก และชุดข้อมูลขนาดใหญ่ที่ไม่มีป้ายกำกับ ชุดข้อมูลเริ่มต้นควรมีความหลากหลายเพียงพอที่จะทำให้การถดถอยเบื้องต้นมีความเหมาะสมที่สมเหตุสมผล การสุ่มตัวอย่างแบบสุ่ม 5–20 จุดเป็นทางเลือกที่พบบ่อย

2

แบบจำลองการถดถอยเชิงเส้นจะถูกปรับบนชุดข้อมูลที่มีป้ายกำกับปัจจุบันโดยใช้วิธี Ordinary Least Squares (OLS) เวกเตอร์สัมประสิทธิ์ที่ประมาณได้ beta-hat กำหนดพื้นผิวการทำนายปัจจุบันสำหรับอินพุตทั้งหมด

สูตร
\hat{\beta} = (X^\top X)^{-1} X^\top y
3

สำหรับแต่ละจุดข้อมูลที่ไม่มีป้ายกำกับ จะมีการคำนวณเกณฑ์การสอบถาม โดยทั่วไปคือความแปรปรวนของการทำนายของแบบจำลองการถดถอย ณ จุดนั้น จุดที่มีความแปรปรวนสูงสุด (ความไม่แน่นอนสูงสุด) จะถูกเลือกเป็นตัวเลือกที่ให้ข้อมูลมากที่สุดสำหรับการติดป้าย การเลือกโดยใช้ความแปรปรวนสอดคล้องกับการออกแบบการทดลองที่เหมาะสมแบบคลาสสิก (เกณฑ์ D-optimal หรือ A-optimal)

สูตร
x^* = \arg\max_{x \in \mathcal{U}} \sigma^2(x)
4

จุดข้อมูลที่ไม่มีป้ายกำกับที่เลือกจะถูกนำเสนอต่อผู้ให้คำปรึกษา ซึ่งอาจเป็นผู้ให้คำอธิบายประกอบที่เป็นมนุษย์ เครื่องมือในห้องปฏิบัติการ หรือระบบวัดอัตโนมัติ ซึ่งจะให้ป้ายกำกับจริง (ค่าการตอบสนองแบบต่อเนื่อง) ขั้นตอนนี้มักเป็นคอขวดในด้านต้นทุนและเวลา

5

จุดข้อมูลที่มีป้ายกำกับใหม่จะถูกเพิ่มเข้าไปในชุดข้อมูลที่มีป้ายกำกับ และแบบจำลองการถดถอยเชิงเส้นจะถูกปรับใหม่บนชุดข้อมูลที่ขยายออกไป วงจรการสอบถาม-ติดป้าย-ปรับใหม่จะดำเนินต่อไปจนกว่างบประมาณในการติดป้ายจะหมดลง หรือจนกว่าจะถึงเกณฑ์การหยุด (เช่น เกณฑ์ความแปรปรวนขั้นต่ำ)

ข้อผิดพลาดที่พบบ่อย

  • การเริ่มต้นด้วยชุดข้อมูลเริ่มต้นที่มีขนาดเล็กเกินไปหรือไม่เป็นตัวแทน ทำให้การสอบถามในช่วงต้นถูกขับเคลื่อนโดยแบบจำลองที่ปรับไม่ดี
  • การละเลยการระบุแบบจำลองผิดพลาด — หากข้อมูลเป็นแบบไม่เชิงเส้น เกณฑ์ความแปรปรวนจะเลือกจุดที่ไม่เป็นประโยชน์อย่างเป็นระบบ
  • การปฏิบัติต่อแบบจำลองสุดท้ายราวกับว่าได้รับการปรับบนตัวอย่างสุ่มแบบพาสซีฟ ตัวอย่างเชิงรุกไม่ได้เป็นอิสระและเหมือนกัน (IID) ซึ่งอาจทำให้สูตรความคลาดเคลื่อนมาตรฐาน (standard-error) ใช้ไม่ได้
  • การสับสนระหว่างความแปรปรวนของการทำนายกับความแปรปรวนของส่วนที่เหลือ (residual variance) เกณฑ์การสอบถามควรเป็นความแปรปรวนของการทำนาย ณ จุดใหม่ ไม่ใช่ส่วนที่เหลือจากการฝึก

คำถามที่พบบ่อย

การเรียนรู้เชิงรุกแตกต่างจากการถดถอยเชิงเส้นธรรมดาอย่างไร

การถดถอยเชิงเส้นธรรมดาจะถูกปรับบนชุดข้อมูลที่มีป้ายกำกับที่รวบรวมแบบพาสซีฟ การถดถอยเชิงเส้นแบบเรียนรู้เชิงรุกจะเพิ่มวงจรการสอบถาม: หลังจากการปรับแต่ละครั้ง แบบจำลองจะเลือกจุดข้อมูลที่ไม่มีป้ายกำกับซึ่งมีความไม่แน่นอนมากที่สุด ขอป้ายกำกับของจุดนั้น และทำการฝึกใหม่ — วนซ้ำจนกว่างบประมาณในการติดป้ายจะหมดลง

กลยุทธ์การสอบถามใดที่ทำงานได้ดีที่สุด

สำหรับการถดถอยเชิงเส้น การเพิ่มความแปรปรวนของการทำนายให้สูงสุด (เทียบเท่ากับการออกแบบการทดลองแบบ D-optimal หรือ A-optimal) เป็นสิ่งที่ได้รับการพิสูจน์ทางทฤษฎีและมีประสิทธิภาพในทางปฏิบัติ โดยจะเลือกจุดที่จะลดความไม่แน่นอนของพารามิเตอร์โดยรวมได้มากที่สุด

ฉันสามารถใช้สิ่งนี้กับการถดถอยแบบ Regularized (Ridge, Lasso) ได้หรือไม่

ได้ ความแปรปรวนของการทำนายสามารถคำนวณได้สำหรับการถดถอย Ridge ด้วยการปรับรูปแบบปิดอย่างง่าย สำหรับ Lasso นิพจน์ความแปรปรวนมีความซับซ้อนน้อยกว่า ดังนั้นผู้ปฏิบัติงานมักใช้การประมาณค่าความไม่แน่นอนแบบ Bootstrap หรือเปลี่ยนไปใช้รูปแบบการถดถอยเชิงเส้นแบบ Bayesian

การสุ่มตัวอย่างเชิงรุกทำให้ความคลาดเคลื่อนมาตรฐานของสัมประสิทธิ์การถดถอยเอนเอียงหรือไม่

ใช่ เนื่องจากตัวอย่างที่มีป้ายกำกับไม่ได้ถูกสุ่มแบบ IID จากประชากร สูตรความคลาดเคลื่อนมาตรฐาน OLS มาตรฐานจึงเอนเอียง วิธีแก้ไข ได้แก่ ตัวประมาณค่าแบบถ่วงน้ำหนักด้วยความน่าจะเป็นผกผัน (inverse-probability-weighted estimators) หรือการปรับใหม่ด้วยชุดข้อมูลสุ่มที่แยกออกไป (holdout) ซึ่งสุ่มแบบพาสซีฟ

ฉันต้องการจุดเริ่มต้นกี่จุด

อย่างน้อยที่สุด คุณต้องมีจุดที่มีป้ายกำกับ p + 1 จุดเพื่อปรับการถดถอยที่มีตัวทำนาย p จุด แต่แนะนำให้ใช้ชุดข้อมูลเริ่มต้นอย่างน้อย 2p จุด เพื่อให้ได้ค่าประมาณความแปรปรวนเริ่มต้นที่เสถียร การสุ่มเลือกชุดข้อมูลเริ่มต้นเป็นแนวทางปฏิบัติมาตรฐาน

วิธีการที่เกี่ยวข้อง

แหล่งอ้างอิง

  1. Settles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning, 6(1), 1–114. Morgan & Claypool.

    เปิดเอกสารอ้างอิง DOI
    คัดลอกแล้ว
  2. Cohn, D. A., Ghahramani, Z., & Jordan, M. I. (1996). Active learning with statistical models. Journal of Artificial Intelligence Research, 4, 129–145.

    เปิดเอกสารอ้างอิง DOI
    คัดลอกแล้ว