Gaussian Process แบบเรียนรู้เชิงรุก (Active Learning Gaussian Process)
- ผู้เสนอ
- MacKay, D. J. C.
- ปี
- 1992
- ประเภท
- Bayesian active learning
- กลุ่มวิธี
- Machine learning
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
Gaussian Process แบบเรียนรู้เชิงรุก (GP-AL) เป็นการผสมผสานระหว่างแบบจำลองความน่าจะเป็นแบบ Gaussian Process กับกลยุทธ์การเลือกคำถาม (query strategy) แบบเรียนรู้เชิงรุก โดยใช้ความไม่แน่นอน (uncertainty) ของค่าประมาณภายหลัง (posterior) ของ GP เพื่อเลือกตัวอย่างที่ยังไม่มีป้ายกำกับ (unlabeled examples) ที่ให้ข้อมูลมากที่สุดสำหรับการติดป้ายกำกับ วิธีการวนซ้ำนี้ช่วยลดความพยายามในการติดป้ายกำกับให้เหลือน้อยที่สุด ในขณะที่เพิ่มความแม่นยำในการทำนายให้สูงสุด ทำให้เหมาะอย่างยิ่งเมื่อข้อมูลที่มีป้ายกำกับมีจำกัดหรือมีค่าใช้จ่ายสูงในการได้มา
แนวคิดเบื้องหลังวิธีการ
Gaussian Process ไม่เพียงแต่ทำนายค่า แต่ยังทำนายความมั่นใจของมันด้วย การเรียนรู้เชิงรุกใช้ประโยชน์จากสิ่งนี้ แทนที่จะติดป้ายกำกับข้อมูลแบบสุ่ม อัลกอริทึมจะตรวจสอบจุดที่ยังไม่มีป้ายกำกับทั้งหมด และขอให้มนุษย์ (หรือผู้ให้คำตอบ - oracle) ติดป้ายกำกับเฉพาะจุดที่ GP มีความไม่แน่นอนมากที่สุด หลังจากติดป้ายกำกับ GP จะปรับปรุงความเชื่อของมัน และวงจรจะดำเนินต่อไป วิธีการที่ตรงเป้าหมายนี้ได้รับป้ายกำกับที่มีข้อมูลอย่างมีประสิทธิภาพมากกว่าการสุ่มหรือการสังเกตแบบเฉื่อย (passive sampling) อย่างมาก บ่อยครั้งที่ให้ประสิทธิภาพของแบบจำลองที่แข็งแกร่งด้วยข้อมูลที่มีป้ายกำกับเพียงเศษเสี้ยว
ประวัติศาสตร์
แนวคิดในการใช้เกณฑ์ข้อมูลเชิงทฤษฎี (information-theoretic criteria) เพื่อเลือกจุดฝึกสำหรับแบบจำลองความน่าจะเป็นได้รับการทำให้เป็นทางการโดย MacKay (1992) ซึ่งแสดงให้เห็นว่าการเพิ่มผลกำไรของข้อมูล (information gain) จากผู้ให้คำตอบนั้นเทียบเท่ากับการเลือกจุดที่มีความแปรปรวนสูงภายใต้แบบจำลองเบย์ Gaussian processes กลายเป็นสิ่งที่เหมาะสมโดยธรรมชาติเนื่องจากให้การแจกแจงภายหลังที่แม่นยำ สาขานี้เติบโตเต็มที่ในช่วงปี 2000 ด้วยผลงานของ Lawrence, Settles (2012) และชุมชน Bayesian optimization ซึ่งนำกรอบการทำงาน GP-บวก-ฟังก์ชันการได้มา (GP-plus-acquisition-function framework) แบบเดียวกันมาใช้ซ้ำสำหรับการค้นหาไฮเปอร์พารามิเตอร์
ควรใช้เมื่อใด
ใช้ GP-AL เมื่อข้อมูลที่มีป้ายกำกับมีจำกัดหรือมีค่าใช้จ่ายสูงในการได้มา — ในการทดลองทางวิทยาศาสตร์, การศึกษาทางการแพทย์, หรือการทดสอบทางอุตสาหกรรม — และเมื่อคุณต้องการการประมาณค่าความไม่แน่นอนที่สอบเทียบได้ (calibrated uncertainty estimates) ควบคู่ไปกับการทำนาย วิธีการนี้จะโดดเด่นในปริภูมิอินพุตแบบต่อเนื่องที่มีมิติปานกลางถึงต่ำ (low-to-medium dimensional continuous input spaces) ที่มีฟังก์ชันที่เรียบหรือไม่เป็นเชิงเส้นปานกลาง และในสถานการณ์ที่มีชุดข้อมูลขนาดเล็กถึงปานกลาง (สูงสุดสองสามพันจุด) อย่าใช้เมื่อปริภูมิอินพุตมีมิติสูงมาก (เคอร์เนล GP มีความซับซ้อนตามขนาด) เมื่อชุดข้อมูลมีขนาดใหญ่อยู่แล้ว (การอนุมาน GP มีความซับซ้อน O(n^3)) หรือเมื่อต้นทุนการติดป้ายกำกับของผู้ให้คำตอบน้อยมากจนการสุ่มแบบธรรมดาก็เพียงพอแล้ว
ข้อจำกัดและข้อควรพิจารณา
- ความซับซ้อนในการคำนวณแบบลูกบาศก์ O(n^3) ตามจำนวนจุดที่มีป้ายกำกับ ทำให้การปรับขนาดให้รองรับการสังเกตหลายพันรายการมีค่าใช้จ่ายสูงหากไม่มีการประมาณค่าแบบเบาบาง (sparse approximations) หรือแบบจุดเหนี่ยวนำ (inducing-point approximations)
- ประสิทธิภาพลดลงในปริภูมิอินพุตที่มีมิติสูง เนื่องจากเคอร์เนล GP มีปัญหาในการจับโครงสร้างได้อย่างมีประสิทธิภาพ
- สมมติว่าผู้ให้คำตอบพร้อมใช้งานเสมอและสามารถติดป้ายกำกับจุดที่สอบถามได้ทุกจุดโดยไม่มีข้อผิดพลาดหรือความล่าช้า
- การเลือกเคอร์เนลไม่ใช่เรื่องง่าย เคอร์เนลที่ระบุผิดอาจนำไปสู่การวัดปริมาณความไม่แน่นอนที่ไม่ถูกต้องและการเลือกคำถามที่ไม่เหมาะสม
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- การวัดปริมาณความไม่แน่นอนที่มีหลักการ: ค่าประมาณภายหลังของ GP เป็นตัวขับเคลื่อนกลยุทธ์การเลือกคำถามโดยตรงโดยไม่มีการใช้ฮิวริสติก
- ประสิทธิภาพการใช้ป้ายกำกับที่น่าทึ่ง — บรรลุความแม่นยำเทียบเท่ากับแบบจำลองที่ฝึกแบบเฉื่อย (passively trained models) โดยใช้ตัวอย่างที่มีป้ายกำกับน้อยกว่ามาก
- การเลือกเคอร์เนลที่ยืดหยุ่นช่วยให้นักปฏิบัติสามารถเข้ารหัสความรู้เฉพาะทางเกี่ยวกับความเรียบของฟังก์ชันได้
- ให้ช่วงความเชื่อมั่นที่สอบเทียบได้ควบคู่ไปกับการทำนาย ซึ่งสนับสนุนการตัดสินใจในขั้นตอนต่อไป
- จัดการกับชุดข้อมูลขนาดเล็กถึงปานกลางได้ดี ซึ่งโดยทั่วไปแล้ววิธีการเรียนรู้เชิงลึก (deep learning) จะมีประสิทธิภาพต่ำกว่า
- วงจรการเรียนรู้เชิงรุกสามารถตีความได้: การสอบถามแต่ละครั้งมีเหตุผลด้วยคะแนนความไม่แน่นอนที่วัดผลได้
การประยุกต์ใช้
- การค้นพบยาและวิทยาศาสตร์วัสดุ ซึ่งการทดลองแต่ละครั้งมีค่าใช้จ่ายสูงและพื้นผิวอินพุต-เอาต์พุตไม่เป็นที่รู้จัก
- การอธิบายภาพทางการแพทย์ โดยเลือกสแกนที่คลุมเครือที่สุดเพื่อให้รังสีแพทย์ตรวจสอบ
- หุ่นยนต์และระบบอัตโนมัติสำหรับการเรียนรู้นโยบายการควบคุมอย่างมีประสิทธิภาพจากข้อมูลป้อนกลับจากเซ็นเซอร์ที่เบาบาง
- การเฝ้าระวังสิ่งแวดล้อม โดยกำหนดทิศทางเซ็นเซอร์ไปยังตำแหน่งที่มีความไม่แน่นอนเชิงพื้นที่สูงสุด
- การปรับไฮเปอร์พารามิเตอร์ (Bayesian optimization) ซึ่ง GP จำลองพื้นผิวค่าผิดพลาด (loss surface) และการเลือกคำถามเชิงรุกจะเลือกการกำหนดค่าถัดไปเพื่อประเมิน
วิธีการทำงาน
วิธีการทำงาน
เริ่มต้นด้วยชุดข้อมูลที่มีป้ายกำกับเริ่มต้นขนาดเล็ก และระบุเคอร์เนล (kernel) ของ GP (เช่น squared exponential, Matern) และแบบจำลองสัญญาณรบกวน (noise model) เคอร์เนลจะเข้ารหัสสมมติฐานล่วงหน้า (prior assumptions) เกี่ยวกับความเรียบ (smoothness) และมาตราส่วนความยาว (length-scale) ของฟังก์ชันที่กำลังเรียนรู้
ปรับ GP ให้เข้ากับชุดข้อมูลที่มีป้ายกำกับปัจจุบัน GP จะส่งคืนการแจกแจงการทำนายภายหลัง (posterior predictive distribution) ในปริภูมิผลลัพธ์ — การทำนายค่าเฉลี่ย (mean prediction) และความแปรปรวน (variance) หรือความไม่แน่นอน (uncertainty) สำหรับทุกจุด รวมถึงจุดที่ยังไม่มีป้ายกำกับทั้งหมดที่กำลังพิจารณา
สูตร
p(f^* | X, y, x^*) = \mathcal{N}(\mu^*, \sigma^{*2})ใช้ฟังก์ชันการได้มา (acquisition function) — ที่นิยมใช้มากที่สุดคือ maximum predictive variance แต่ก็มี entropy หรือ expected improvement ด้วย — เพื่อจัดอันดับจุดที่ยังไม่มีป้ายกำกับ จุดที่มีคะแนนสูงสุดจะถูกเลือกสำหรับการติดป้ายกำกับ เนื่องจากเป็นจุดที่ให้ข้อมูลมากที่สุดในการลดความไม่แน่นอนของแบบจำลอง
สูตร
x^* = \arg\max_{x \in \mathcal{U}} \sigma^2(x)นำเสนอจุดที่เลือกให้กับผู้ให้คำตอบ (oracle) (ผู้ให้คำอธิบายที่เป็นมนุษย์, การทดลอง, หรือเซ็นเซอร์อัตโนมัติ) เพื่อติดป้ายกำกับ ได้รับป้ายกำกับจริงและผนวกเข้ากับชุดข้อมูลที่มีป้ายกำกับที่กำลังเติบโต
ปรับ GP ใหม่โดยรวมจุดที่มีป้ายกำกับใหม่เข้าไปด้วย เนื่องจาก GP รองรับการอัปเดตแบบเบย์ (Bayesian updates) ที่แม่นยำ ค่าประมาณภายหลังจะเปลี่ยนไปเพื่อสะท้อนการสังเกตใหม่ ลดความไม่แน่นอนใกล้จุดนั้น และอาจปรับเปลี่ยนรูปร่างที่อื่น
ทำซ้ำวงจรการได้มา-การสอบถาม-การปรับปรุง จนกว่าจะถึงงบประมาณ (จำนวนป้ายกำกับ, เวลาประมวลผล, หรือเกณฑ์ความแม่นยำเป้าหมาย) เมื่อสิ้นสุดกระบวนการ GP สุดท้ายจะถูกใช้สำหรับการทำนายข้อมูลทดสอบใหม่
ข้อผิดพลาดที่พบบ่อย
- การใช้เคอร์เนล RBF เริ่มต้นโดยไม่ได้ตรวจสอบว่าฟังก์ชันมีความเรียบจริงหรือไม่ — สมมติฐานความเรียบที่ระบุผิดจะทำให้การประมาณค่าความไม่แน่นอนและการเลือกคำถามบิดเบือนไป
- การละเลยกลยุทธ์การเริ่มต้น: ชุดข้อมูลที่มีป้ายกำกับเริ่มต้นที่ไม่ดี (เช่น ทั้งหมดมาจากบริเวณแคบๆ) จะทำให้แบบจำลองมีอคติและทำให้การสำรวจล่าช้า
- การลืมปรับมาตราส่วนอินพุตและเอาต์พุต; GP มีความอ่อนไหวต่อมาตราส่วน และข้อมูลที่ไม่ได้ปรับมาตราส่วนอาจทำให้เกิดความไม่เสถียรเชิงตัวเลขในเมทริกซ์ความแปรปรวนร่วม (covariance matrix)
- การปฏิบัติต่อคะแนนการได้มา (acquisition score) เป็นการวัดความสำคัญสัมบูรณ์ แทนที่จะเป็นการจัดอันดับสัมพัทธ์ภายในกลุ่มที่ยังไม่มีป้ายกำกับในปัจจุบัน
- การใช้ GP-AL กับชุดข้อมูลหลายพันตัวอย่างโดยไม่มีการประมาณค่า GP แบบเบาบาง ส่งผลให้ระยะเวลารันนานเกินไป
คำถามที่พบบ่อย
GP-AL แตกต่างจาก Gaussian Process regression มาตรฐานอย่างไร?
Gaussian Process regression มาตรฐานจะปรับเข้ากับข้อมูลที่มีป้ายกำกับที่ได้รับมาแบบเฉยๆ GP-AL เพิ่มวงจรภายนอกที่เลือกจุดที่ยังไม่มีป้ายกำกับเพื่อติดป้ายกำกับถัดไป โดยมี GP ที่ไม่แน่นอนเป็นตัวนำทาง เพื่อให้แบบจำลองเรียนรู้ได้มากขึ้นต่อป้ายกำกับที่ได้รับ
ควรใช้ฟังก์ชันการได้มา (acquisition function) ใด?
Maximum predictive variance เป็นตัวเลือกที่ง่ายที่สุดและพบบ่อยที่สุด และทำงานได้ดีสำหรับการสำรวจล้วนๆ เกณฑ์ที่อิงตาม expected improvement หรือ entropy อาจเหมาะสมกว่าเมื่อมีค่าเป้าหมายเฉพาะหรือขอบเขตการจำแนกประเภทที่ต้องการค้นหา
ต้องใช้จุดที่มีป้ายกำกับเริ่มต้นกี่จุดจึงจะเริ่มได้?
เพียงไม่กี่จุด — บ่อยครั้ง 5 ถึง 20 จุด — ที่เลือกให้ครอบคลุมปริภูมิอินพุต (เช่น ผ่าน Latin hypercube หรือ space-filling design) ก็เพียงพอที่จะเริ่มต้น GP และให้การประมาณค่าความไม่แน่นอนที่มีความหมายสำหรับรอบการเลือกคำถามแรก
วิธีการนี้ใช้ได้กับงานจำแนกประเภท (classification tasks) หรือไม่?
ได้ โดยใช้ Gaussian Process classification (ด้วยฟังก์ชันเชื่อมโยงแบบ probit หรือ logistic) การวัดปริมาณความไม่แน่นอนต้องใช้การอนุมานโดยประมาณ (เช่น Laplace approximation หรือ expectation propagation) ซึ่งทำให้ซับซ้อนกว่ากรณี regression เล็กน้อย
เมื่อใดควรเลือก random forests หรือ neural networks แทน GP-AL?
เมื่อชุดข้อมูลมีขนาดใหญ่ (ตัวอย่างที่มีป้ายกำกับหลายพันรายการขึ้นไป) หรือมีมิติสูง (ฟีเจอร์อินพุตจำนวนมาก) เนื่องจากต้นทุนการคำนวณของ GP และความสามารถในการแสดงออกของเคอร์เนลมีข้อจำกัด Neural networks ที่มี Monte Carlo dropout สามารถใช้เป็นทางเลือกที่ปรับขนาดได้สำหรับการเรียนรู้เชิงรุกในสภาวะเหล่านั้น
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
MacKay, D. J. C. (1992). Information-based objective functions for active data selection. Neural Computation, 4(4), 590–604.
เปิดเอกสารอ้างอิง DOIคัดลอกแล้วSettles, B. (2012). Active Learning. Synthesis Lectures on Artificial Intelligence and Machine Learning. Morgan & Claypool.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว