การถดถอยเชิงเส้นแบบเรียนรู้เชิงรุก
- ผู้เสนอ
- Cohn, D. A.; Ghahramani, Z.; Jordan, M. I.
- ปี
- 1996
- ประเภท
- Active learning / iterative supervised learning
- กลุ่มวิธี
- Machine learning
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
การถดถอยเชิงเส้นแบบเรียนรู้เชิงรุก (Active Learning Linear Regression) เป็นแนวทางแบบวนซ้ำในการเรียนรู้ของเครื่องที่ผสมผสานแบบจำลองการถดถอยเชิงเส้นเข้ากับกลยุทธ์การสอบถามอัจฉริยะเพื่อเลือกจุดข้อมูลที่ไม่มีป้ายกำกับซึ่งให้ข้อมูลมากที่สุดสำหรับการติดป้าย ด้วยการมุ่งเน้นความพยายามในการติดป้ายในบริเวณที่มีความไม่แน่นอนสูงสุด จึงสามารถบรรลุความแม่นยำในการทำนายที่แข่งขันได้โดยใช้ตัวอย่างที่มีป้ายกำกับน้อยกว่าการสุ่มแบบพาสซีฟอย่างมาก
แนวคิดเบื้องหลังวิธีการ
การติดป้ายข้อมูลมักมีค่าใช้จ่ายสูง เช่น การวัดผลทางการแพทย์ การอธิบายประกอบโดยผู้เชี่ยวชาญ หรือการทดลองในห้องปฏิบัติการ แทนที่จะติดป้ายทุกอย่างแบบสุ่ม ผู้เรียนเชิงรุกจะปรับแบบจำลองการถดถอยเชิงเส้นบนชุดข้อมูลที่มีป้ายกำกับขนาดเล็กที่ตนมี ระบุว่าการทำนายของตนมีความไม่แน่นอนมากที่สุดที่ใด ขอให้ผู้ให้คำปรึกษา (oracle) ติดป้ายจุดเหล่านั้น และทำการฝึกใหม่ วงจรนี้จะทำซ้ำจนกว่างบประมาณจะหมดลงหรือประสิทธิภาพถึงเป้าหมาย ผลลัพธ์ที่ได้คือแบบจำลองที่เรียนรู้ได้อย่างมีประสิทธิภาพ โดยใช้ทรัพยากรในการติดป้ายในบริเวณที่สำคัญที่สุด เช่น ใกล้ขอบเขตการตัดสินใจ หรือในบริเวณที่ข้อมูลเบาบาง
ประวัติศาสตร์
กรอบงานอย่างเป็นทางการสำหรับการเรียนรู้เชิงรุกด้วยแบบจำลองทางสถิติถูกสร้างขึ้นโดย Cohn, Ghahramani และ Jordan ในปี 1996 ซึ่งแสดงให้เห็นว่าการลดความแปรปรวนภายใต้แบบจำลองความน่าจะเป็นเป็นเกณฑ์การสอบถามที่มีหลักการ งานนี้ได้รวมการเรียนรู้เชิงรุกเข้ากับวรรณกรรมเกี่ยวกับการออกแบบการทดลองที่เหมาะสมแบบคลาสสิก (ย้อนกลับไปถึง Kiefer และ Wolfowitz, 1959) ต่อมา Settles (2012) ได้รวบรวมสาขาการเรียนรู้เชิงรุกในวงกว้าง และการถดถอยเชิงเส้นแบบเรียนรู้เชิงรุกยังคงเป็นตัวอย่างมาตรฐานที่แสดงหลักการหลักของการสอบถามตามความไม่แน่นอน
ควรใช้เมื่อใด
ใช้การถดถอยเชิงเส้นแบบเรียนรู้เชิงรุกเมื่อความสัมพันธ์ระหว่างตัวทำนายและผลลัพธ์แบบต่อเนื่องเป็นเชิงเส้นโดยประมาณ ป้ายกำกับมีจำกัดหรือมีค่าใช้จ่ายสูงในการได้มา (เช่น การทดลองในห้องปฏิบัติการ การทดสอบทางการแพทย์ การอธิบายประกอบโดยผู้เชี่ยวชาญ) และมีชุดข้อมูลผู้สมัครที่ไม่มีป้ายกำกับจำนวนมาก เหมาะอย่างยิ่งสำหรับปัญหาการออกแบบการทดลองที่มีมิติต่ำ หลีกเลี่ยงเมื่อความสัมพันธ์ที่แท้จริงเป็นแบบไม่เชิงเส้นอย่างมาก (ควรเลือกใช้รูปแบบ Gaussian process หรือ neural-network แบบเรียนรู้เชิงรุก) เมื่อต้นทุนป้ายกำกับไม่สำคัญ (การสุ่มแบบพาสซีฟก็เพียงพอ) หรือเมื่อชุดข้อมูลที่ไม่มีป้ายกำกับมีขนาดเล็กเกินไปที่จะได้รับประโยชน์จากการเลือก
ข้อจำกัดและข้อควรพิจารณา
- สมมติว่าความสัมพันธ์ที่แท้จริงเป็นเชิงเส้น การระบุแบบจำลองผิดพลาดอาจนำไปสู่การตัดสินใจสอบถามที่ไม่ดีและการประมาณค่าที่เอนเอียง
- ประสิทธิภาพลดลงในสภาพแวดล้อมที่มีมิติสูง ซึ่งชุดข้อมูลที่มีป้ายกำกับเริ่มต้นเบาบางเกินไปที่จะประมาณค่าความแปรปรวนได้อย่างน่าเชื่อถือ
- กลยุทธ์การสอบถามแบบละโมบ (greedy) อาจมุ่งเน้นไปที่บริเวณขอบเขตมากเกินไป ในขณะที่ละเลยการครอบคลุมส่วนใหญ่ของข้อมูล
- ต้องการการเข้าถึงผู้ให้คำปรึกษา (ผู้เชี่ยวชาญที่เป็นมนุษย์หรือการทดลอง) ที่สามารถติดป้ายจุดที่ถูกสอบถามแต่ละจุดได้ตามต้องการ
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- ลดความพยายามในการติดป้ายได้อย่างมากโดยการกำหนดเป้าหมายตัวอย่างที่ให้ข้อมูลมากที่สุดก่อน
- มีพื้นฐานมาจากทฤษฎีการออกแบบการทดลองที่เหมาะสมแบบคลาสสิก โดยให้การรับประกันทางทฤษฎีในการลดความแปรปรวน
- เรียบง่ายและตีความได้: แบบจำลองพื้นฐานยังคงเป็นการถดถอยเชิงเส้นธรรมดาพร้อมสัมประสิทธิ์ที่โปร่งใส
- ต้นทุนการคำนวณต่ำ — ความแปรปรวนของการทำนายสำหรับการถดถอยเชิงเส้นมีการอัปเดตในรูปแบบปิด (closed-form)
- ทำงานได้ดีในสภาพแวดล้อมที่มีมิติต่ำถึงปานกลาง โดยมีความสัมพันธ์เชิงเส้นที่แท้จริง
การประยุกต์ใช้
- การค้นพบยาและวิทยาศาสตร์วัสดุ: การเลือกสารประกอบทางเคมีที่จะสังเคราะห์และทดสอบต่อไป
- การทดลองทางคลินิก: การเลือกผู้ป่วยเพื่อทำการวัดผลแบบวนซ้ำเพื่อลดขนาดตัวอย่างให้เหลือน้อยที่สุด ในขณะที่ประมาณเส้นโค้งการตอบสนองต่อปริมาณยา
- การเฝ้าระวังสิ่งแวดล้อม: การเลือกตำแหน่งการติดตั้งเซ็นเซอร์เพื่อประมาณค่าสนามมลพิษหรืออุณหภูมิอย่างเหมาะสมที่สุด
- ไปป์ไลน์ NLP แบบ Annotator-in-the-loop: การเลือกประโยคสำหรับการติดป้ายโดยผู้เชี่ยวชาญในงานการให้คะแนนตามการถดถอย
- การเพิ่มประสิทธิภาพกระบวนการทางอุตสาหกรรม: การออกแบบการทดลองแบบลำดับเพื่อสร้างแผนที่พื้นผิวผลลัพธ์แบบต่อเนื่องด้วยจำนวนครั้งน้อยที่สุด
วิธีการทำงาน
วิธีการทำงาน
อัลกอริทึมเริ่มต้นด้วยชุดข้อมูลที่มีป้ายกำกับเริ่มต้นขนาดเล็ก และชุดข้อมูลขนาดใหญ่ที่ไม่มีป้ายกำกับ ชุดข้อมูลเริ่มต้นควรมีความหลากหลายเพียงพอที่จะทำให้การถดถอยเบื้องต้นมีความเหมาะสมที่สมเหตุสมผล การสุ่มตัวอย่างแบบสุ่ม 5–20 จุดเป็นทางเลือกที่พบบ่อย
แบบจำลองการถดถอยเชิงเส้นจะถูกปรับบนชุดข้อมูลที่มีป้ายกำกับปัจจุบันโดยใช้วิธี Ordinary Least Squares (OLS) เวกเตอร์สัมประสิทธิ์ที่ประมาณได้ beta-hat กำหนดพื้นผิวการทำนายปัจจุบันสำหรับอินพุตทั้งหมด
สูตร
\hat{\beta} = (X^\top X)^{-1} X^\top yสำหรับแต่ละจุดข้อมูลที่ไม่มีป้ายกำกับ จะมีการคำนวณเกณฑ์การสอบถาม โดยทั่วไปคือความแปรปรวนของการทำนายของแบบจำลองการถดถอย ณ จุดนั้น จุดที่มีความแปรปรวนสูงสุด (ความไม่แน่นอนสูงสุด) จะถูกเลือกเป็นตัวเลือกที่ให้ข้อมูลมากที่สุดสำหรับการติดป้าย การเลือกโดยใช้ความแปรปรวนสอดคล้องกับการออกแบบการทดลองที่เหมาะสมแบบคลาสสิก (เกณฑ์ D-optimal หรือ A-optimal)
สูตร
x^* = \arg\max_{x \in \mathcal{U}} \sigma^2(x)จุดข้อมูลที่ไม่มีป้ายกำกับที่เลือกจะถูกนำเสนอต่อผู้ให้คำปรึกษา ซึ่งอาจเป็นผู้ให้คำอธิบายประกอบที่เป็นมนุษย์ เครื่องมือในห้องปฏิบัติการ หรือระบบวัดอัตโนมัติ ซึ่งจะให้ป้ายกำกับจริง (ค่าการตอบสนองแบบต่อเนื่อง) ขั้นตอนนี้มักเป็นคอขวดในด้านต้นทุนและเวลา
จุดข้อมูลที่มีป้ายกำกับใหม่จะถูกเพิ่มเข้าไปในชุดข้อมูลที่มีป้ายกำกับ และแบบจำลองการถดถอยเชิงเส้นจะถูกปรับใหม่บนชุดข้อมูลที่ขยายออกไป วงจรการสอบถาม-ติดป้าย-ปรับใหม่จะดำเนินต่อไปจนกว่างบประมาณในการติดป้ายจะหมดลง หรือจนกว่าจะถึงเกณฑ์การหยุด (เช่น เกณฑ์ความแปรปรวนขั้นต่ำ)
ข้อผิดพลาดที่พบบ่อย
- การเริ่มต้นด้วยชุดข้อมูลเริ่มต้นที่มีขนาดเล็กเกินไปหรือไม่เป็นตัวแทน ทำให้การสอบถามในช่วงต้นถูกขับเคลื่อนโดยแบบจำลองที่ปรับไม่ดี
- การละเลยการระบุแบบจำลองผิดพลาด — หากข้อมูลเป็นแบบไม่เชิงเส้น เกณฑ์ความแปรปรวนจะเลือกจุดที่ไม่เป็นประโยชน์อย่างเป็นระบบ
- การปฏิบัติต่อแบบจำลองสุดท้ายราวกับว่าได้รับการปรับบนตัวอย่างสุ่มแบบพาสซีฟ ตัวอย่างเชิงรุกไม่ได้เป็นอิสระและเหมือนกัน (IID) ซึ่งอาจทำให้สูตรความคลาดเคลื่อนมาตรฐาน (standard-error) ใช้ไม่ได้
- การสับสนระหว่างความแปรปรวนของการทำนายกับความแปรปรวนของส่วนที่เหลือ (residual variance) เกณฑ์การสอบถามควรเป็นความแปรปรวนของการทำนาย ณ จุดใหม่ ไม่ใช่ส่วนที่เหลือจากการฝึก
คำถามที่พบบ่อย
การเรียนรู้เชิงรุกแตกต่างจากการถดถอยเชิงเส้นธรรมดาอย่างไร
การถดถอยเชิงเส้นธรรมดาจะถูกปรับบนชุดข้อมูลที่มีป้ายกำกับที่รวบรวมแบบพาสซีฟ การถดถอยเชิงเส้นแบบเรียนรู้เชิงรุกจะเพิ่มวงจรการสอบถาม: หลังจากการปรับแต่ละครั้ง แบบจำลองจะเลือกจุดข้อมูลที่ไม่มีป้ายกำกับซึ่งมีความไม่แน่นอนมากที่สุด ขอป้ายกำกับของจุดนั้น และทำการฝึกใหม่ — วนซ้ำจนกว่างบประมาณในการติดป้ายจะหมดลง
กลยุทธ์การสอบถามใดที่ทำงานได้ดีที่สุด
สำหรับการถดถอยเชิงเส้น การเพิ่มความแปรปรวนของการทำนายให้สูงสุด (เทียบเท่ากับการออกแบบการทดลองแบบ D-optimal หรือ A-optimal) เป็นสิ่งที่ได้รับการพิสูจน์ทางทฤษฎีและมีประสิทธิภาพในทางปฏิบัติ โดยจะเลือกจุดที่จะลดความไม่แน่นอนของพารามิเตอร์โดยรวมได้มากที่สุด
ฉันสามารถใช้สิ่งนี้กับการถดถอยแบบ Regularized (Ridge, Lasso) ได้หรือไม่
ได้ ความแปรปรวนของการทำนายสามารถคำนวณได้สำหรับการถดถอย Ridge ด้วยการปรับรูปแบบปิดอย่างง่าย สำหรับ Lasso นิพจน์ความแปรปรวนมีความซับซ้อนน้อยกว่า ดังนั้นผู้ปฏิบัติงานมักใช้การประมาณค่าความไม่แน่นอนแบบ Bootstrap หรือเปลี่ยนไปใช้รูปแบบการถดถอยเชิงเส้นแบบ Bayesian
การสุ่มตัวอย่างเชิงรุกทำให้ความคลาดเคลื่อนมาตรฐานของสัมประสิทธิ์การถดถอยเอนเอียงหรือไม่
ใช่ เนื่องจากตัวอย่างที่มีป้ายกำกับไม่ได้ถูกสุ่มแบบ IID จากประชากร สูตรความคลาดเคลื่อนมาตรฐาน OLS มาตรฐานจึงเอนเอียง วิธีแก้ไข ได้แก่ ตัวประมาณค่าแบบถ่วงน้ำหนักด้วยความน่าจะเป็นผกผัน (inverse-probability-weighted estimators) หรือการปรับใหม่ด้วยชุดข้อมูลสุ่มที่แยกออกไป (holdout) ซึ่งสุ่มแบบพาสซีฟ
ฉันต้องการจุดเริ่มต้นกี่จุด
อย่างน้อยที่สุด คุณต้องมีจุดที่มีป้ายกำกับ p + 1 จุดเพื่อปรับการถดถอยที่มีตัวทำนาย p จุด แต่แนะนำให้ใช้ชุดข้อมูลเริ่มต้นอย่างน้อย 2p จุด เพื่อให้ได้ค่าประมาณความแปรปรวนเริ่มต้นที่เสถียร การสุ่มเลือกชุดข้อมูลเริ่มต้นเป็นแนวทางปฏิบัติมาตรฐาน
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Settles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning, 6(1), 1–114. Morgan & Claypool.
เปิดเอกสารอ้างอิง DOIคัดลอกแล้วCohn, D. A., Ghahramani, Z., & Jordan, M. I. (1996). Active learning with statistical models. Journal of Artificial Intelligence Research, 4, 129–145.
เปิดเอกสารอ้างอิง DOIคัดลอกแล้ว