การเรียนรู้แบบกำกับดูแลตนเอง
- ผู้เสนอ
- LeCun, Y. and community (formalized ~2018–2020)
- ปี
- 2018–2020
- ประเภท
- Representation learning paradigm
- กลุ่มวิธี
- Machine learning
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
การเรียนรู้แบบกำกับดูแลตนเอง (Self-supervised learning - SSL) เป็นกระบวนทัศน์การเรียนรู้ของเครื่องที่สร้างสัญญาณกำกับดูแลขึ้นเองจากข้อมูลที่ไม่มีป้ายกำกับ โดยการกำหนดงานเบื้องต้น (pretext task) แบบเสริมขึ้นมา เช่น การทำนายคำที่ถูกปิดบัง การหมุนภาพ หรือการเปรียบต่างมุมมองที่ถูกปรับแต่ง และใช้การแทนความหมายที่เรียนรู้ได้เป็นจุดเริ่มต้นที่มีประสิทธิภาพสำหรับงานปลายน้ำ (downstream tasks) โดยใช้ตัวอย่างที่มีป้ายกำกับน้อยที่สุด
แนวคิดเบื้องหลังวิธีการ
ข้อมูลส่วนใหญ่ในโลกแห่งความเป็นจริงไม่มีป้ายกำกับ การเรียนรู้แบบกำกับดูแลตนเองเปลี่ยนความอุดมสมบูรณ์นี้ให้เป็นทรัพยากรสำหรับการฝึกอบรม โดยการสร้างความท้าทายที่แบบจำลองต้องแก้ไขโดยใช้ข้อมูลเองเท่านั้น เช่น การซ่อนส่วนหนึ่งของประโยคและขอให้แบบจำลองทำนาย การแก้ปัญหาความท้าทายนั้นบังคับให้แบบจำลองสร้างการแทนความหมายภายในที่สมบูรณ์ เมื่อการแทนความหมายดีพอแล้ว จะต้องใช้ข้อมูลที่มีป้ายกำกับเพียงเล็กน้อยเพื่อปรับแบบจำลองสำหรับงานเฉพาะ ซึ่งช่วยลดต้นทุนการติดป้ายกำกับได้อย่างมาก
ประวัติศาสตร์
แนวคิดของการเรียนรู้จากข้อมูลที่ไม่มีป้ายกำกับผ่านงานตัวแทน (proxy tasks) มีมาก่อนการเรียนรู้เชิงลึก (deep learning) แต่การเรียนรู้แบบกำกับดูแลตนเองในฐานะกระบวนทัศน์ที่มีชื่อเสียงเริ่มโดดเด่นราวปี 2018–2020 ด้วย BERT (Devlin et al., 2018) ใน NLP และ MoCo / SimCLR ในคอมพิวเตอร์วิทัศน์ Yann LeCun ได้สนับสนุนคำนี้และวิสัยทัศน์ โดยอธิบาย SSL ว่าเป็น 'สสารมืดแห่งสติปัญญา' (dark matter of intelligence) ในปี 2022 ปัจจุบันเป็นรากฐานของแบบจำลองภาษาขนาดใหญ่และแบบจำลองพื้นฐานด้านภาพเกือบทั้งหมด
ควรใช้เมื่อใด
เลือกการเรียนรู้แบบกำกับดูแลตนเองเมื่อคุณมีคลังข้อมูลขนาดใหญ่ที่ไม่มีป้ายกำกับในโดเมนเป้าหมายของคุณ แต่การติดป้ายกำกับมีค่าใช้จ่ายสูงหรือใช้เวลานาน ซึ่งเป็นเรื่องปกติในภาพทางการแพทย์, การประมวลผลภาษาธรรมชาติ (NLP), ภาพถ่ายดาวเทียม และข้อมูลทางวิทยาศาสตร์ นี่เป็นแนวทางมาตรฐานเมื่อสร้างแบบจำลองพื้นฐานขนาดใหญ่ (foundation models) (BERT, GPT, DINO) หรือเมื่อชุดข้อมูลที่มีป้ายกำกับสำหรับงานปลายน้ำมีขนาดเล็ก หลีกเลี่ยง SSL เมื่อคลังข้อมูลที่ไม่มีป้ายกำกับมีขนาดเล็กเกินไป (น้อยกว่าไม่กี่พันตัวอย่าง) งานเบื้องต้นไม่ตรงกับงานปลายน้ำ หรือทรัพยากรคอมพิวเตอร์มีข้อจำกัดอย่างมาก ในกรณีเหล่านั้น การเรียนรู้แบบกำกับดูแลบนป้ายกำกับที่มีอยู่ หรือการเรียนรู้แบบถ่ายโอน (transfer learning) แบบดั้งเดิมจากจุดตรวจสอบสาธารณะ (public checkpoint) จะใช้งานได้จริงมากกว่า
ข้อจำกัดและข้อควรพิจารณา
- การฝึกเบื้องต้นแบบจำลองขนาดใหญ่ต้องการพลังประมวลผลจำนวนมาก (GPUs/TPUs เป็นเวลาหลายวันถึงหลายสัปดาห์) และคลังข้อมูลที่ไม่มีป้ายกำกับขนาดใหญ่
- การออกแบบงานเบื้องต้นไม่ใช่เรื่องง่าย งานที่เลือกไม่ดีอาจสร้างการแทนความหมายที่ไม่สามารถถ่ายโอนได้ดี
- ความเสถียรของการปรับละเอียดอาจอ่อนไหวต่ออัตราการเรียนรู้ (learning rate) และจำนวนชั้นที่ไม่ได้ถูกตรึง (unfrozen)
- การประเมินผลเป็นแบบทางอ้อม: ประสิทธิภาพของงานเบื้องต้นไม่ได้รับประกันประสิทธิภาพของงานปลายน้ำ
- ช่องว่างของโดเมนระหว่างคลังข้อมูลที่ใช้ฝึกเบื้องต้นและโดเมนเป้าหมายอาจจำกัดประโยชน์ที่ได้รับ
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- ใช้ประโยชน์จากข้อมูลที่ไม่มีป้ายกำกับจำนวนมหาศาล ทำให้เป็นแนวทางที่ปรับขนาดได้มากที่สุดสำหรับการฝึกเบื้องต้นบนคลังข้อมูลขนาดใหญ่
- สร้างการแทนความหมายทั่วไปที่สามารถถ่ายโอนไปยังงานปลายน้ำได้หลายงานโดยใช้ข้อมูลการปรับละเอียดเพียงเล็กน้อย
- ลดต้นทุนการติดป้ายกำกับได้อย่างมากโดยการสร้างการกำกับดูแลจากโครงสร้างข้อมูลแทนที่จะเป็นป้ายกำกับของมนุษย์
- แบบจำลองพื้นฐานที่ทันสมัย (state-of-the-art foundation models) (BERT, GPT, DINO, MAE) ล้วนสร้างขึ้นบนวัตถุประสงค์แบบกำกับดูแลตนเอง
- จัดการข้อมูลหลายรูปแบบได้อย่างเป็นธรรมชาติโดยการออกแบบงานเบื้องต้นข้ามรูปแบบ (cross-modal pretext tasks) (เช่น CLIP)
- ให้การฝังตัว (embeddings) ที่สมบูรณ์ซึ่งมีประโยชน์สำหรับการดึงข้อมูล (retrieval), การจัดกลุ่ม (clustering) และการตรวจจับความผิดปกติ (anomaly detection) โดยไม่ต้องปรับละเอียด
การประยุกต์ใช้
- การฝึกเบื้องต้นแบบจำลองภาษาขนาดใหญ่ (BERT, GPT, T5) สำหรับงาน NLP เช่น การจำแนกประเภทและการตอบคำถาม
- แบบจำลองพื้นฐานด้านภาพ (DINO, MAE, SimCLR) สำหรับการรู้จำภาพ การแบ่งส่วนภาพ และการดึงข้อมูลภาพ
- การวิเคราะห์ภาพทางการแพทย์ซึ่งภาพที่มีป้ายกำกับมีน้อย แต่ภาพที่ไม่มีป้ายกำกับมีมากมาย
- การเรียนรู้การแทนความหมายเสียงพูดและเสียง (wav2vec, HuBERT) สำหรับ ASR และการยืนยันตัวตนผู้พูด
- การเรียนรู้การแทนความหมายโมเลกุลและโปรตีน (ChemBERTa, ESM) สำหรับการค้นพบยา
- การตรวจจับความผิดปกติและการดึงข้อมูลผ่านความคล้ายคลึงของการฝังตัวโดยไม่มีความผิดปกติที่มีป้ายกำกับ
วิธีการทำงาน
วิธีการทำงาน
งานเบื้องต้น (pretext task) หรือ งานเสริม (auxiliary task) ถูกออกแบบมาเพื่อให้ป้ายกำกับมาจากโครงสร้างข้อมูลเอง เช่น การทำนายโทเค็นที่ถูกปิดบังในข้อความ (BERT) การทำนายเฟรมถัดไปในวิดีโอ หรือการเพิ่มความคล้ายคลึงระหว่างมุมมองที่ถูกปรับแต่งต่างกันของภาพเดียวกัน (SimCLR, MoCo) ไม่จำเป็นต้องมีการติดป้ายกำกับโดยมนุษย์สำหรับขั้นตอนนี้
ตัวเข้ารหัสโครงข่ายประสาทเทียม (neural encoder) แมปอินพุตแต่ละตัว x ไปยังการแทนความหมายแบบหนาแน่น (dense representation) z = f(x; theta) สถาปัตยกรรมของตัวเข้ารหัสจะแตกต่างกันไปตามรูปแบบข้อมูล เช่น Transformers สำหรับข้อความและภาพ, โครงข่ายประสาทแบบสังวัตนาการ (convolutional networks) สำหรับเสียง หรือโครงข่ายประสาทแบบกราฟ (graph neural networks) สำหรับข้อมูลโมเลกุล การแทนความหมายนี้คือสิ่งที่นำความรู้ไปสู่งานปลายน้ำ
สูตร
z = f_{\theta}(x)แบบจำลองจะถูกฝึกอบรมเพื่อลดฟังก์ชันการสูญเสีย (loss function) ที่วัดว่าแบบจำลองแก้ปัญหางานเบื้องต้นได้ดีเพียงใด เช่น cross-entropy สำหรับการทำนายแบบปิดบัง, contrastive loss (InfoNCE) สำหรับการยอมรับมุมมอง หรือ reconstruction error สำหรับ autoencoders การลดฟังก์ชันการสูญเสียนี้จะปรับแต่งการแทนความหมายให้จับโครงสร้างความหมายที่มีประโยชน์
เมื่อการฝึกเบื้องต้น (pre-training) สิ้นสุดลง น้ำหนักของตัวเข้ารหัสจะถูกถ่ายโอนไปยังงานปลายน้ำ จะมีการเพิ่มส่วนหัว (head) สำหรับการจำแนกประเภท (classification) หรือการถดถอย (regression) ที่มีน้ำหนักเบา และแบบจำลองทั้งหมด (หรือเฉพาะส่วนหัว) จะถูกปรับละเอียด (fine-tuned) บนชุดข้อมูลที่มีป้ายกำกับขนาดเล็ก ซึ่งให้ความแม่นยำเทียบเท่ากับแบบจำลองที่ได้รับการกำกับดูแลเต็มรูปแบบซึ่งฝึกอบรมด้วยข้อมูลที่มีป้ายกำกับจำนวนมากกว่ามาก
ข้อผิดพลาดที่พบบ่อย
- การเลือกงานเบื้องต้นโดยไม่มีการพิจารณาความสอดคล้องกับความหมายของงานปลายน้ำ
- การใช้คลังข้อมูลที่ไม่มีป้ายกำกับซึ่งมีขนาดเล็กเกินไปหรือไม่เป็นตัวแทนของโดเมนเป้าหมาย ทำให้ได้การแทนความหมายที่ไม่ดี
- การปรับละเอียดทุกชั้นด้วยอัตราการเรียนรู้สูง และการลืมการแทนความหมายที่ฝึกเบื้องต้นไปอย่างสิ้นเชิง (catastrophic forgetting)
- การรายงานเฉพาะความแม่นยำของงานปลายน้ำหลังจากการปรับละเอียด โดยไม่ได้เปรียบเทียบคุณค่าของการฝึกเบื้องต้นกับการกำกับดูแลโดยตรง
- การละเลยการออกแบบการเพิ่มข้อมูล (data augmentation) ในวิธีการเปรียบต่าง (contrastive methods) ซึ่งมีความสำคัญต่อคุณภาพของการแทนความหมาย
คำถามที่พบบ่อย
อะไรคือความแตกต่างระหว่างการเรียนรู้แบบกำกับดูแลตนเองและการเรียนรู้แบบไม่มีการกำกับดูแล?
ทั้งสองวิธีใช้ข้อมูลที่ไม่มีป้ายกำกับ แต่การเรียนรู้แบบกำกับดูแลตนเองจะสร้างสัญญาณกำกับดูแลที่เฉพาะเจาะจงจากโครงสร้างข้อมูล (เช่น โทเค็นที่ถูกปิดบัง มุมมองที่ถูกปรับแต่ง) และฝึกด้วยฟังก์ชันการสูญเสียที่กำหนดไว้ ในทางตรงกันข้าม การเรียนรู้แบบไม่มีการกำกับดูแลแบบคลาสสิก (เช่น การจัดกลุ่ม, PCA) จะค้นหาโครงสร้างโดยไม่มีวัตถุประสงค์การทำนายที่ชัดเจน
ฉันจำเป็นต้องฝึกเบื้องต้นตั้งแต่ต้น หรือสามารถใช้จุดตรวจสอบที่มีอยู่แล้วได้หรือไม่?
สำหรับโครงการประยุกต์ส่วนใหญ่ การปรับละเอียดจุดตรวจสอบที่เปิดเผยต่อสาธารณะ (เช่น BERT จาก Hugging Face, DINO จาก Meta) นั้นใช้งานได้จริงมากกว่าการฝึกเบื้องต้นตั้งแต่ต้น การฝึกเบื้องต้นตั้งแต่ต้นจะคุ้มค่าก็ต่อเมื่อโดเมนของคุณมีความเฉพาะทางสูง (เช่น ข้อความทางการแพทย์) และจุดตรวจสอบที่มีอยู่ถ่ายโอนได้ไม่ดี
ต้องใช้ข้อมูลที่ไม่มีป้ายกำกับเท่าใด?
ยิ่งมากยิ่งดีสำหรับการฝึกเบื้องต้น แต่ SSL ที่มีประสิทธิภาพเฉพาะโดเมนได้รับการแสดงให้เห็นแล้วด้วยข้อมูลที่ไม่มีป้ายกำกับหลายหมื่นตัวอย่างสำหรับแบบจำลองขนาดเล็ก เกณฑ์นี้ขึ้นอยู่กับขนาดของแบบจำลองและความซับซ้อนของงานเบื้องต้นอย่างมาก
งานเบื้องต้นแบบเปรียบต่าง (contrastive pretext task) คืออะไร?
งานเบื้องต้นแบบเปรียบต่าง (SimCLR, MoCo) จะสร้างมุมมองที่ถูกปรับแต่งสองแบบที่แตกต่างกันของตัวอย่างเดียวกัน และฝึกตัวเข้ารหัสเพื่อให้มุมมองเหล่านั้นมีความคล้ายคลึงกันในปริภูมิการแทนความหมาย ในขณะที่แตกต่างจากการแทนความหมายของตัวอย่างอื่น ๆ สิ่งนี้สอนให้แบบจำลองมีความไม่แปรเปลี่ยน (invariant) ต่อการปรับแต่ง ในขณะที่ยังคงรักษาเนื้อหาความหมายไว้
การเรียนรู้แบบกำกับดูแลตนเองเหมาะสำหรับข้อมูลแบบตาราง (tabular data) หรือไม่?
ใช่ แม้ว่าประโยชน์ที่ได้รับจะน้อยกว่าสำหรับภาพหรือข้อความ วิธีการต่างๆ เช่น SCARF, การฝึกเบื้องต้น TabNet และการทำนายคุณลักษณะที่ถูกปิดบัง (masked feature prediction) ได้แสดงให้เห็นถึงประโยชน์เมื่อข้อมูลแบบตารางที่มีป้ายกำกับมีน้อย แต่สำหรับชุดข้อมูลแบบตารางทั่วไปที่มีป้ายกำกับเพียงพอ วิธีการแบบกลุ่ม (ensemble methods) ที่มีการกำกับดูแลยังคงเป็นที่นิยมมากกว่า
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
LeCun, Y. & Misra, I. (2022). Self-supervised learning: The dark matter of intelligence. Meta AI Blog. https://ai.facebook.com/blog/self-supervised-learning-the-dark-matter-of-intelligence/
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้วSelf-supervised learning. Wikipedia.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว