การเรียนรู้แบบน้อยตัวอย่าง
- ผู้เสนอ
- Lake, B. M.; Vinyals, O.; Finn, C. et al.
- ปี
- 2011–2017
- ประเภท
- Meta-learning / low-data learning paradigm
- กลุ่มวิธี
- Machine learning
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
การเรียนรู้แบบน้อยตัวอย่าง (Few-shot learning) เป็นกระบวนทัศน์การเรียนรู้ของเครื่องที่ฝึกโมเดลให้สามารถจำแนกคลาสใหม่หรือแก้ปัญหางานใหม่ได้จากตัวอย่างที่มีป้ายกำกับเพียงไม่กี่ตัวอย่าง โดยทั่วไปคือหนึ่งถึงห้าตัวอย่าง โดยอาศัยความรู้เดิมที่ได้จากการกระจายข้อมูลการฝึกขนาดใหญ่ที่เกี่ยวข้อง มีความสำคัญอย่างยิ่งในโดเมนที่การติดป้ายกำกับมีค่าใช้จ่ายสูง ขาดแคลน หรือมีข้อจำกัดเชิงโครงสร้าง
แนวคิดเบื้องหลังวิธีการ
มนุษย์สามารถระบุชนิดนกสายพันธุ์ใหม่จากภาพถ่ายเพียงภาพเดียวได้อย่างน่าเชื่อถือ เนื่องจากพวกเขามีความรู้ด้านภาพที่สมบูรณ์จากประสบการณ์หลายปี การเรียนรู้แบบน้อยตัวอย่างพยายามจำลองความสามารถนี้ในเชิงคำนวณ: โมเดลจะได้รับข้อมูลงานที่หลากหลายจำนวนมากก่อน เพื่อให้เรียนรู้วิธีการเรียนรู้อย่างรวดเร็ว จากนั้นเมื่อถึงเวลาอนุมาน โมเดลจะปรับตัวเข้ากับงานใหม่ทั้งหมดโดยใช้ชุดข้อมูลสนับสนุนที่มีป้ายกำกับเพียงเล็กน้อย ข้อคิดสำคัญคือ การแสดงข้อมูล (representation) และกลยุทธ์การปรับตัวที่เหมาะสม สามารถทดแทนชุดข้อมูลที่มีป้ายกำกับขนาดใหญ่ที่การเรียนรู้แบบมีผู้สอนทั่วไปต้องการได้
ประวัติศาสตร์
การเรียนรู้แบบน้อยตัวอย่างได้รับความสนใจอย่างเป็นทางการประมาณปี 2011 เมื่อ Lake และคณะ แสดงให้เห็นถึงการเรียนรู้แบบหนึ่งตัวอย่าง (one-shot learning) ในระดับมนุษย์สำหรับอักขระลายมือ โดยใช้โมเดลการเหนี่ยวนำโปรแกรมแบบเบย์แบบลำดับชั้น (hierarchical Bayesian program induction model) สาขานี้เร่งตัวขึ้นหลังปี 2016 ด้วยแนวทางเมตริกการเรียนรู้เชิงลึก (deep metric-learning) — Matching Networks ของ Vinyals และคณะ และ Prototypical Networks ของ Snell และคณะ — ตามมาด้วย Model-Agnostic Meta-Learning (MAML) ของ Finn และคณะ ในปี 2017 ซึ่งรวมกระบวนทัศน์ภายใต้การปรับตัวอย่างรวดเร็วโดยใช้การไล่ระดับสี (gradient-based fast adaptation) นับตั้งแต่นั้นมา โมเดลที่ฝึกเบื้องต้นขนาดใหญ่ได้ทำให้การเรียนรู้แบบน้อยตัวอย่างกลายเป็นความสามารถมาตรฐานในระบบ NLP และ vision สมัยใหม่
ควรใช้เมื่อใด
ใช้การเรียนรู้แบบน้อยตัวอย่างเมื่อข้อมูลที่มีป้ายกำกับสำหรับงานเป้าหมายมีน้อยจริงๆ — น้อยกว่าประมาณ 10 ถึง 20 ตัวอย่างต่อคลาส — แต่มีชุดข้อมูลที่เกี่ยวข้องขนาดใหญ่พร้อมสำหรับการฝึกเบื้องต้นหรือการฝึกอภิมาน (meta-training) กรณีการใช้งานทั่วไป ได้แก่ การจำแนกโรคหายาก การจดจำสายพันธุ์ที่ใกล้สูญพันธุ์ งานภาษาที่มีทรัพยากรน้อย และการแนะนำส่วนบุคคลสำหรับผู้ใช้ที่เพิ่งเริ่มต้น อย่าใช้เป็นสิ่งทดแทนการรวบรวมข้อมูลที่มีป้ายกำกับเพิ่มเติมเมื่อการติดป้ายกำกับสามารถทำได้ ด้วยจำนวนป้ายกำกับที่เพียงพอ การเรียนรู้แบบมีผู้สอนเต็มรูปแบบหรือการเรียนรู้แบบถ่ายโอนที่ปรับละเอียด (fine-tuned transfer learning) เกือบจะให้ผลลัพธ์ดีกว่าวิธีการเรียนรู้แบบน้อยตัวอย่างเสมอ หลีกเลี่ยงหากการกระจายข้อมูลการฝึกอภิมานแตกต่างจากโดเมนเป้าหมายอย่างมาก เนื่องจากจะทำให้ความรู้เดิมที่เรียนรู้มาไม่ถูกต้อง
ข้อจำกัดและข้อควรพิจารณา
- ต้องการชุดข้อมูลการฝึกอภิมาน (meta-training set) ขนาดใหญ่และหลากหลาย ประสิทธิภาพจะลดลงอย่างมากเมื่อการกระจายข้อมูลการฝึกอภิมานและข้อมูลเป้าหมายแตกต่างกันอย่างมีนัยสำคัญ
- วิธีการอิงตามการปรับให้เหมาะสม (Optimization-based methods) (เช่น MAML) ใช้ทรัพยากรในการประมวลผลสูงในระหว่างการฝึกอภิมานเนื่องจากการไล่ระดับสีอันดับสอง (second-order gradients)
- ความแม่นยำตามเกณฑ์มาตรฐานบนชุดข้อมูลมาตรฐาน (miniImageNet, Omniglot) อาจประเมินประสิทธิภาพในโลกแห่งความเป็นจริงสูงเกินไป หากโดเมนทดสอบแตกต่างออกไป
- การเลือกสถาปัตยกรรมที่เหมาะสม, backbone สำหรับการฝังข้อมูล (embedding backbone), และกลยุทธ์การสุ่มตัวอย่างตอน (episode sampling strategy) เกี่ยวข้องกับการตัดสินใจเลือกไฮเปอร์พารามิเตอร์ที่ไม่ใช่เรื่องง่าย
- เมื่อมีตัวอย่างที่มีป้ายกำกับมากกว่าประมาณ 20 ตัวอย่างต่อคลาส การเรียนรู้แบบถ่ายโอนทั่วไปหรือการปรับละเอียดมักให้ความแม่นยำที่ดีกว่าด้วยความซับซ้อนน้อยกว่า
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- ช่วยให้สามารถเรียนรู้จากตัวอย่างที่มีป้ายกำกับหนึ่งถึงห้าตัวอย่างต่อคลาสได้อย่างมีประสิทธิภาพ ช่วยลดต้นทุนการติดป้ายกำกับได้อย่างมาก
- การฝึกแบบตอนๆ (Episodic training) เตรียมโมเดลให้พร้อมสำหรับสถานการณ์การใช้งานที่มีข้อมูลน้อยซึ่งจะต้องเผชิญอย่างชัดเจน
- รูปแบบอิงตามเมตริก (Metric-based variants) (Prototypical Networks, Matching Networks) ใช้ทรัพยากรในการประมวลผลน้อยในการอนุมาน — ไม่ต้องใช้การไล่ระดับสี (gradient steps)
- สามารถนำไปประยุกต์ใช้ได้อย่างกว้างขวางในงานด้านการมองเห็น (vision) การประมวลผลภาษาธรรมชาติ (NLP) เสียง และข้อมูลที่มีโครงสร้าง
- บูรณาการเข้ากับโมเดลที่ฝึกเบื้องต้นขนาดใหญ่ได้อย่างเป็นธรรมชาติ ช่วยให้สามารถใช้ประโยชน์จากความรู้เดิมอันทรงพลังได้โดยไม่ต้องปรับละเอียดทั้งหมด
การประยุกต์ใช้
- การจำแนกโรคหายากหรือความผิดปกติในภาพทางการแพทย์ ซึ่งกรณีที่ได้รับการกำกับดูแลมีอยู่อย่างจำกัดโดยธรรมชาติ
- งานประมวลผลภาษาธรรมชาติที่มีทรัพยากรน้อย เช่น การตรวจจับเจตนา (intent detection) ในภาษาหรือโดเมนใหม่ๆ
- การแนะนำส่วนบุคคลสำหรับผู้ใช้ใหม่ (cold-start personalization) ในระบบแนะนำ เมื่อผู้ใช้ใหม่มีการโต้ตอบน้อยมาก
- การจดจำสายพันธุ์ที่ใกล้สูญพันธุ์หรือการจำแนกสายพันธุ์อย่างละเอียดในนิเวศวิทยาและการติดตามความหลากหลายทางชีวภาพ
- การตรวจจับข้อบกพร่องในอุตสาหกรรม เมื่อมีตัวอย่างที่ชำรุดเพียงไม่กี่ตัวอย่างสำหรับการฝึก
- การสร้างต้นแบบอย่างรวดเร็วสำหรับงานจำแนกประเภทใหม่ในหุ่นยนต์และการเรียนรู้ของเครื่องแบบโต้ตอบ
วิธีการทำงาน
วิธีการทำงาน
การฝึกจะถูกจัดระเบียบเป็นตอนๆ (episodes) โดยแต่ละตอนจะจำลองสถานการณ์แบบน้อยตัวอย่าง ในแต่ละตอน จะมีการสุ่มตัวอย่างคลาสจำนวนเล็กน้อยจากกลุ่มการฝึก และโมเดลจะต้องเรียนรู้ที่จะแยกแยะคลาสเหล่านั้น การฝึกแบบตอนๆ นี้ช่วยให้มั่นใจได้ว่าความรู้เดิมของโมเดลจะถูกจัดโครงสร้างเพื่อการปรับตัวอย่างรวดเร็ว แทนที่จะเป็นการท่องจำคลาสเฉพาะเจาะจง
แต่ละตอนจะแบ่งตัวอย่างออกเป็นชุดข้อมูลสนับสนุน (support set) ซึ่งเป็นตัวอย่างที่มีป้ายกำกับจำนวนน้อยที่โมเดลสามารถใช้ได้ และชุดข้อมูลสอบถาม (query set) ซึ่งเป็นตัวอย่างที่ถูกเก็บไว้เพื่อวัดว่าโมเดลสามารถสรุปผลได้ดีเพียงใด งานแบบ k-shot, n-way จะให้ตัวอย่างที่มีป้ายกำกับ k ตัวอย่างสำหรับแต่ละคลาสใหม่ n คลาส โครงสร้างนี้สะท้อนสถานการณ์การใช้งานจริงในระหว่างการฝึก
โมเดลจะเรียนรู้ฟังก์ชันการฝัง (embedding function) ซึ่งโดยทั่วไปคือโครงข่ายประสาทเทียมเชิงลึก (deep neural network) ที่แมปอินพุตไปยังปริภูมิคุณลักษณะ (feature space) ที่ตัวอย่างคลาสเดียวกันจะรวมกลุ่มกัน และตัวอย่างคลาสที่แตกต่างกันจะถูกแยกออกจากกัน คุณภาพของการแสดงข้อมูลร่วมนี้เป็นตัวกำหนดหลักของความแม่นยำในการเรียนรู้แบบน้อยตัวอย่างในภายหลัง
เมื่อถึงเวลาทดสอบ โมเดลจะคำนวณความคล้ายคลึงระหว่างการฝังข้อมูลสอบถามและการฝังข้อมูลสนับสนุน (วิธีการอิงตามเมตริก เช่น Matching Networks หรือ Prototypical Networks) หรือทำการปรับพารามิเตอร์จำนวนเล็กน้อยโดยใช้การไล่ระดับสี (gradient steps) เพื่อปรับให้เข้ากับชุดข้อมูลสนับสนุน (วิธีการอิงตามการปรับให้เหมาะสม เช่น MAML) ทั้งสองกลยุทธ์ใช้ประโยชน์จากการแสดงข้อมูลที่เรียนรู้มาโดยไม่ต้องฝึกใหม่ทั้งหมด
การสูญเสีย (loss) บนชุดข้อมูลสอบถามจะถูกใช้เพื่ออัปเดตพารามิเตอร์ของ meta-learner ข้ามตอนต่างๆ เพื่อให้การแสดงข้อมูลและกลยุทธ์การปรับตัวได้รับการปรับปรุงในระดับโลก เมื่อนำไปใช้งาน โมเดลสุดท้ายจะปรับตัวเข้ากับชุดข้อมูลสนับสนุนใหม่ใดๆ ได้ในไม่กี่วินาที โดยทำการคาดการณ์บนตัวอย่างสอบถามที่ไม่เคยเห็นมาก่อนโดยไม่ต้องมีการปรับให้เหมาะสมเพิ่มเติม
ข้อผิดพลาดที่พบบ่อย
- การสับสนระหว่างการเรียนรู้แบบน้อยตัวอย่าง (few-shot learning) กับการเรียนรู้แบบศูนย์ตัวอย่าง (zero-shot learning): การเรียนรู้แบบน้อยตัวอย่างต้องการตัวอย่างที่มีป้ายกำกับอย่างน้อยหนึ่งตัวอย่างต่อคลาสใหม่เมื่อถึงเวลาทดสอบ
- การประเมินผลบนคลาสทดสอบที่เคยเห็นระหว่างการฝึกอภิมาน ซึ่งทำให้ความแม่นยำที่รายงานสูงเกินจริง
- การละเลยช่องว่างของโดเมน (domain gap): โมเดลที่ฝึกอภิมานบน ImageNet จะไม่สามารถสรุปผลไปยังภาพเนื้อเยื่อทางการแพทย์ได้โดยอัตโนมัติหากไม่มีการปรับโดเมน (domain adaptation)
- การใช้ฟังก์ชันการสูญเสียแบบมีผู้สอนทั่วไปโดยไม่มีการฝึกแบบตอนๆ (episodic training) และคาดหวังการสรุปผลแบบน้อยตัวอย่าง
- การรายงานเฉพาะความแม่นยำสูงสุดอันดับ 1 (top-1 accuracy) โดยไม่มีช่วงความเชื่อมั่น (confidence intervals) จากการสุ่มตอนหลายครั้ง ซึ่งบดบังความแปรปรวนในผลลัพธ์แบบน้อยตัวอย่าง
คำถามที่พบบ่อย
อะไรคือความแตกต่างระหว่างการเรียนรู้แบบน้อยตัวอย่างและการเรียนรู้แบบถ่ายโอน?
การเรียนรู้แบบถ่ายโอน (Transfer learning) ปรับละเอียดโมเดลที่ฝึกเบื้องต้นสำหรับงานใหม่ และโดยทั่วไปจะได้รับประโยชน์จากตัวอย่างที่มีป้ายกำกับตั้งแต่สิบถึงหลายพันตัวอย่าง การเรียนรู้แบบน้อยตัวอย่าง (Few-shot learning) ได้รับการออกแบบมาโดยเฉพาะเพื่อปรับตัวโดยใช้ตัวอย่างเพียงหนึ่งถึงห้าตัวอย่างต่อคลาส โดยใช้การฝึกอภิมานแบบตอนๆ (episodic meta-training) เพื่อให้โมเดลเรียนรู้วิธีการสรุปผลอย่างรวดเร็ว แทนที่จะเรียนรู้วิธีการปรับให้เข้ากับโดเมนเฉพาะเจาะจง
คำว่า k-shot n-way หมายถึงอะไร?
เป็นการอธิบายโครงสร้างของตอน (episode): n-way หมายถึง มี n คลาสใหม่ปรากฏขึ้นพร้อมกัน และ k-shot หมายถึง มีตัวอย่างที่มีป้ายกำกับ k ตัวอย่างต่อคลาส งานแบบ 5-way 1-shot คือการขอให้โมเดลจำแนกภาพสอบถามออกเป็นหนึ่งในห้าหมวดหมู่ โดยให้ตัวอย่างที่มีป้ายกำกับเพียงหนึ่งตัวอย่างสำหรับแต่ละหมวดหมู่
ฉันต้องใช้ GPU เพื่อรันการเรียนรู้แบบน้อยตัวอย่างหรือไม่?
การฝึกอภิมาน (Meta-training) — โดยเฉพาะวิธีการอิงตามการปรับให้เหมาะสม (optimization-based methods) เช่น MAML — ต้องการพลังการประมวลผลจำนวนมาก และโดยทั่วไปจะทำบน GPU อย่างไรก็ตาม การอนุมานแบบอิงตามเมตริก (การเปรียบเทียบการฝังข้อมูลสอบถามกับการฝังข้อมูลสนับสนุน) นั้นมีต้นทุนต่ำและสามารถรันบน CPU ในการใช้งานจริงได้เมื่อ backbone ได้รับการฝึกเบื้องต้นแล้ว
ฉันต้องการงานฝึกอภิมานกี่งาน?
ขึ้นอยู่กับความหลากหลายมากกว่าจำนวนที่แน่นอน งานที่สุ่มตัวอย่างเป็นตอนๆ หลายพันงานจากกลุ่มคลาสที่หลากหลายถือเป็นเกณฑ์มาตรฐานทั่วไป สิ่งที่สำคัญที่สุดคือ คลาสในการฝึกอภิมานต้องมีจำนวนมากและหลากหลายเพียงพอที่จะสรุปผลไปยังคลาสเป้าหมายที่ไม่เคยเห็นมาก่อนได้
การเรียนรู้แบบน้อยตัวอย่างเหมือนกับการเรียนรู้แบบศูนย์ตัวอย่างหรือไม่?
ไม่ การเรียนรู้แบบศูนย์ตัวอย่าง (Zero-shot learning) ไม่ต้องการตัวอย่างที่มีป้ายกำกับจากคลาสใหม่เมื่อถึงเวลาทดสอบ โดยอาศัยคำอธิบายความหมายของคลาสหรือคุณลักษณะ (attributes) ทั้งหมด ในขณะที่การเรียนรู้แบบน้อยตัวอย่างจะให้ตัวอย่างที่มีป้ายกำกับอย่างน้อยหนึ่งตัวอย่างต่อคลาสใหม่ในชุดข้อมูลสนับสนุนเสมอ
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Vinyals, O., Blundell, C., Lillicrap, T., Wierstra, D., & Kavukcuoglu, K. (2016). Matching Networks for One Shot Learning. Advances in Neural Information Processing Systems (NeurIPS), 29.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้วFinn, C., Abbeel, P., & Levine, S. (2017). Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks. Proceedings of the 34th International Conference on Machine Learning (ICML), PMLR 70:1126–1135.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว