Skip to content
กลับไปยังผลการค้นหา

การเรียนรู้แบบถ่ายโอน

ผู้เสนอ
Pan, S. J. & Yang, Q. (survey); Bengio, Y. (deep learning framing)
ปี
2010 (formalized); 1990s (early roots)
ประเภท
Learning paradigm
กลุ่มวิธี
Machine learning

ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ

ขนาดตัวอักษร

ใช้ทำอะไร?

การเรียนรู้แบบถ่ายโอน (Transfer Learning) เป็นกระบวนทัศน์การเรียนรู้ของเครื่อง (Machine Learning) ที่นำความรู้ที่ได้จากการฝึกโมเดลบนงาน (task) หรือโดเมน (domain) ต้นทาง มาปรับใช้เพื่อปรับปรุงการเรียนรู้บนงานหรือโดเมนเป้าหมายที่แตกต่างกันแต่มีความเกี่ยวข้องกัน โดยเฉพาะอย่างยิ่งเมื่อข้อมูลที่มีป้ายกำกับ (labeled data) สำหรับงานเป้าหมายมีจำกัด และเป็นพื้นฐานของแอปพลิเคชันการเรียนรู้เชิงลึก (deep learning) สมัยใหม่ส่วนใหญ่ในด้านคอมพิวเตอร์วิทัศน์ (computer vision) การประมวลผลภาษาธรรมชาติ (natural language processing) และสาขาอื่นๆ

แนวคิดเบื้องหลังวิธีการ

ลองนึกภาพการเรียนรู้ที่จะขี่จักรยาน แล้วนำความรู้เรื่องการทรงตัวและการประสานงานนั้นไปใช้กับการเรียนรู้ที่จะขี่มอเตอร์ไซค์ คุณไม่จำเป็นต้องเริ่มต้นใหม่ทั้งหมด การเรียนรู้แบบถ่ายโอนก็ทำงานในลักษณะเดียวกัน: โมเดลที่ฝึกบนชุดข้อมูลขนาดใหญ่และสมบูรณ์ (โดเมนต้นทาง) ได้เรียนรู้การแทนค่า (representations) ที่มีประโยชน์แล้ว เช่น ขอบ พื้นผิว หรือรูปแบบทางไวยากรณ์ เมื่อนำไปใช้กับชุดข้อมูลเป้าหมายใหม่ที่มีขนาดเล็กกว่า โมเดลต้องการข้อมูลที่มีป้ายกำกับน้อยลงมากเพื่อให้ได้ประสิทธิภาพที่ดี เนื่องจากงานการแทนค่าที่ยากได้ดำเนินการไปแล้ว

ประวัติศาสตร์

แนวคิดของการถ่ายโอนความรู้ระหว่างงานต่างๆ เกิดขึ้นในช่วงทศวรรษ 1990 (Pratt 1993; Thrun 1996) สาขานี้ได้รับการสำรวจและจัดระบบอย่างเป็นทางการโดย Pan และ Yang ในบทความ IEEE TKDE ปี 2010 ของพวกเขา ซึ่งยังคงเป็นเอกสารอ้างอิงหลัก กระบวนทัศน์นี้ได้รับการเร่งความเร็วด้วยความสำเร็จของการเรียนรู้เชิงลึก: Bengio และคณะแสดงให้เห็นว่าเครือข่ายเชิงลึกเรียนรู้การแทนค่าที่ถ่ายโอนได้ และการฝึกบน ImageNet ล่วงหน้า (Krizhevsky et al., 2012) ทำให้การถ่ายโอนกลายเป็นแนวปฏิบัติมาตรฐานในคอมพิวเตอร์วิทัศน์ การนำเสนอโมเดลภาษาขนาดใหญ่ เช่น BERT (2018) และ GPT (2018–) ได้ขยายการเรียนรู้แบบถ่ายโอนไปยัง NLP และเปลี่ยนให้กลายเป็นกระบวนทัศน์ที่โดดเด่นในแทบทุกแอปพลิเคชันการเรียนรู้เชิงลึก

ควรใช้เมื่อใด

การเรียนรู้แบบถ่ายโอนเป็นทางเลือกที่เหมาะสมเมื่อข้อมูลที่มีป้ายกำกับสำหรับงานเป้าหมายมีจำกัด แต่มีโดเมนต้นทางที่เกี่ยวข้องซึ่งมีป้ายกำกับจำนวนมาก หรือมีโมเดลที่ฝึกไว้ล่วงหน้าขนาดใหญ่ เช่น การปรับละเอียด BERT สำหรับตัวจำแนกข้อความเฉพาะทาง หรือการปรับ CNN ที่ฝึกบน ImageNet สำหรับการสร้างภาพทางการแพทย์ ช่วยลดความต้องการข้อมูลและพลังประมวลผลอย่างมากเพื่อให้ได้ประสิทธิภาพที่แข็งแกร่ง หลีกเลี่ยงเมื่อโดเมนต้นทางและเป้าหมายไม่เกี่ยวข้องกันโดยพื้นฐาน เนื่องจากอาจเกิดการถ่ายโอนเชิงลบที่ทำให้ประสิทธิภาพแย่ลงกว่าการฝึกตั้งแต่ต้น นอกจากนี้ยังไม่จำเป็นเมื่อชุดข้อมูลเป้าหมายมีขนาดใหญ่พอที่จะฝึกโมเดลที่มีความสามารถได้อย่างอิสระ

ข้อจำกัดและข้อควรพิจารณา

  • อาจเกิดการถ่ายโอนเชิงลบเมื่อโดเมนต้นทางและเป้าหมายมีความแตกต่างกันมากเกินไป ซึ่งอาจส่งผลเสียต่อประสิทธิภาพเมื่อเทียบกับการฝึกตั้งแต่ต้น
  • การปรับละเอียดโมเดลที่ฝึกไว้ล่วงหน้าขนาดใหญ่ต้องใช้หน่วยความจำจำนวนมาก และสำหรับโมเดลที่ใหญ่มาก ต้องใช้ทรัพยากร GPU ที่สำคัญ
  • ปริมาณที่เหมาะสมของโมเดลที่จะตรึงเทียบกับการปรับละเอียดนั้นขึ้นอยู่กับงานและต้องการการทดลอง
  • ความคลาดเคลื่อนของโดเมนระหว่างต้นทางและเป้าหมายอาจไม่ชัดเจน และอาจลดทอนประสิทธิภาพลงโดยไม่แจ้งให้ทราบ
  • ข้อจำกัดทางกฎหมายและจริยธรรมเกี่ยวกับโมเดลที่ฝึกไว้ล่วงหน้า (ใบอนุญาต, ความเอนเอียงของข้อมูลฝึก) อาจจำกัดการใช้งานในบางแอปพลิเคชัน

เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้

จุดแข็ง

  • ลดความต้องการข้อมูลที่มีป้ายกำกับสำหรับงานเป้าหมายลงอย่างมากโดยการนำการแทนค่าจากโดเมนต้นทางกลับมาใช้
  • ลดเวลาและต้นทุนการประมวลผลในการฝึก เมื่อเทียบกับการฝึกโมเดลขนาดใหญ่ตั้งแต่ต้น
  • มักจะบรรลุประสิทธิภาพระดับ State-of-the-art บนชุดข้อมูลเป้าหมายขนาดเล็กและขนาดกลาง
  • โมเดลที่ฝึกไว้ล่วงหน้าสำหรับวัตถุประสงค์ทั่วไป (เช่น ResNet, BERT, GPT) เป็นจุดเริ่มต้นที่แข็งแกร่งในหลายโดเมน
  • โหมดการสกัดคุณลักษณะช่วยให้สามารถใช้การแทนค่าเชิงลึกได้แม้ไม่ต้องมีการปรับละเอียดที่ใช้ GPU หนัก

การประยุกต์ใช้

  • การปรับละเอียดโมเดลภาษาที่ฝึกไว้ล่วงหน้า (BERT, GPT) สำหรับการจำแนกข้อความเฉพาะทาง การระบุชื่อเฉพาะ (NER) หรือการตอบคำถาม
  • การปรับ CNN ที่ฝึกบน ImageNet ล่วงหน้า (ResNet, VGG) สำหรับการวิเคราะห์ภาพทางการแพทย์ ซึ่งมีสแกนที่มีป้ายกำกับหายาก
  • ระบบรู้จำเสียงพูดที่ปรับมาจากโมเดลหลายภาษาขนาดใหญ่ไปยังภาษาที่มีทรัพยากรจำกัด
  • การวิเคราะห์ความรู้สึกข้ามโดเมน โดยการถ่ายโอนการแทนค่าที่เรียนรู้จากรีวิวผลิตภัณฑ์ไปยังข้อความบนโซเชียลมีเดีย
  • ข้อมูลตาราง (Tabular data): การใช้คุณลักษณะของโครงข่ายประสาทเทียมที่ฝึกไว้ล่วงหน้าบนชุดข้อมูลที่เกี่ยวข้องเพื่อปรับปรุงการทำนายบนตารางเป้าหมายขนาดเล็ก
  • โดเมนทางวิทยาศาสตร์ (การค้นพบยา, วัสดุศาสตร์) ที่ข้อมูลการทดลองที่มีป้ายกำกับมีราคาแพง และโมเดลต้นทางจากวรรณกรรมเคมีให้ค่าตั้งต้น (priors) ที่แข็งแกร่ง

วิธีการทำงาน

วิธีการทำงาน

1

โมเดลจะถูกฝึกบนชุดข้อมูลต้นทางขนาดใหญ่ที่มีข้อมูลป้ายกำกับจำนวนมาก ในระหว่างขั้นตอนนี้ โมเดลจะเรียนรู้การแทนค่าคุณลักษณะทั่วไป เช่น เครือข่ายคอนโวลูชัน (convolutional network) เรียนรู้ลำดับชั้นภาพ (visual hierarchies) จากรูปภาพนับล้าน หรือโมเดลภาษา (language model) เรียนรู้รูปแบบทางวากยสัมพันธ์ (syntactic) และอรรถศาสตร์ (semantic) จากโทเค็นนับพันล้าน

2

ประเมินความสัมพันธ์ระหว่างโดเมนต้นทางและโดเมนเป้าหมาย หากโดเมนมีความใกล้เคียงกัน (เช่น ทั้งคู่เกี่ยวข้องกับภาพธรรมชาติ) การแทนค่าที่เรียนรู้จะถูกถ่ายโอนได้โดยตรงมากขึ้น หากความคลาดเคลื่อนของโดเมน (domain shift) มีมาก จะมีการใช้เทคนิคต่างๆ เช่น การฝึกแบบปฏิปักษ์โดเมน (domain-adversarial training) หรือการถ่วงน้ำหนักอินสแตนซ์ (instance re-weighting) เพื่อลดความไม่ตรงกันของการกระจาย (distributional mismatch) ก่อนเริ่มการปรับตัว

3

นำโมเดลที่ฝึกไว้ล่วงหน้า (pre-trained model) ไปใช้กับงานเป้าหมาย ในการสกัดคุณลักษณะ (feature extraction) เลเยอร์ก่อนหน้าจะถูกตรึง (frozen) และมีเพียงเลเยอร์สุดท้ายที่เฉพาะเจาะจงกับงานเท่านั้นที่จะถูกแทนที่และฝึกฝน ในการปรับละเอียดทั้งหมด (full fine-tuning) เลเยอร์ทั้งหมดจะได้รับการอัปเดตบนข้อมูลเป้าหมาย โดยปกติจะใช้อัตราการเรียนรู้ (learning rate) ที่ต่ำกว่าเพื่อรักษาการแทนค่าที่เรียนรู้ไว้ก่อนหน้าและหลีกเลี่ยงการลืมแบบหายนะ (catastrophic forgetting)

4

โมเดลที่ปรับตัวแล้วจะถูกฝึกบนชุดข้อมูลเป้าหมายที่มีป้ายกำกับ (ซึ่งโดยทั่วไปมีขนาดเล็ก) กลยุทธ์การทำให้เป็นปกติ (regularization) เช่น L2-SP (การลงโทษต่อน้ำหนักต้นทาง) dropout หรือการหยุดก่อนกำหนด (early stopping) จะป้องกันการเรียนรู้เกิน (overfitting) กับป้ายกำกับเป้าหมายที่จำกัด การกำหนดอัตราการเรียนรู้ตามเลเยอร์ (Layer-wise learning rate scheduling) เป็นเรื่องปกติในเครือข่ายเชิงลึก

5

วัดประสิทธิภาพบนชุดข้อมูลทดสอบเป้าหมายที่แยกไว้ (held-out target test set) โดยใช้ตัวชี้วัดที่เหมาะสมกับงาน (ความแม่นยำ, F1, RMSE ฯลฯ) การเปรียบเทียบกับการฝึกตั้งแต่ต้น (training from scratch) และกับเกณฑ์มาตรฐานเฉพาะโดเมนต้นทาง (source-only baseline) จะวัดผลกำไรจากการถ่ายโอนและเปิดเผยว่ามีการถ่ายโอนเชิงลบ (negative transfer) เกิดขึ้นหรือไม่

ข้อผิดพลาดที่พบบ่อย

  • การสันนิษฐานว่าโมเดลที่ฝึกไว้ล่วงหน้าใดๆ จะถ่ายโอนได้ดีโดยไม่ได้ตรวจสอบความคล้ายคลึงของโดเมน — ควรเปรียบเทียบกับเกณฑ์มาตรฐานการฝึกตั้งแต่ต้นเสมอ
  • การใช้อัตราการเรียนรู้ที่สูงเกินไปในระหว่างการปรับละเอียด ซึ่งทำให้เกิดการลืมแบบหายนะของการแทนค่าจากโดเมนต้นทาง
  • การประเมินผลเฉพาะบนชุดข้อมูลฝึกเป้าหมาย หรือการละเลยการแบ่งชุดข้อมูลทดสอบที่แยกไว้อย่างเหมาะสม
  • การมองข้ามความเอนเอียงของชุดข้อมูลที่สืบทอดมาจากโดเมนต้นทาง ซึ่งอาจแพร่กระจายไปยังการทำนายเป้าหมาย
  • การปรับละเอียดบนชุดข้อมูลเป้าหมายที่มีขนาดเล็กมากโดยไม่มีการทำให้เป็นปกติ ซึ่งนำไปสู่การเรียนรู้เกินอย่างรุนแรง

คำถามที่พบบ่อย

อะไรคือความแตกต่างระหว่างการสกัดคุณลักษณะและการปรับละเอียดในการเรียนรู้แบบถ่ายโอน?

ในการสกัดคุณลักษณะ น้ำหนักของโมเดลที่ฝึกไว้ล่วงหน้าจะถูกตรึง และมีเพียงส่วนหัว (head) ที่เฉพาะเจาะจงกับงานใหม่เท่านั้นที่จะถูกฝึก ในการปรับละเอียด น้ำหนักบางส่วนหรือทั้งหมดของโมเดลที่ฝึกไว้ล่วงหน้าจะได้รับการอัปเดตบนข้อมูลเป้าหมายด้วย โดยทั่วไปจะใช้อัตราการเรียนรู้ที่ต่ำเพื่อหลีกเลี่ยงการลืมแบบหายนะ การสกัดคุณลักษณะจะเร็วกว่าและมีแนวโน้มที่จะเกิดการเรียนรู้เกินน้อยกว่าบนชุดข้อมูลขนาดเล็กมาก ในขณะที่การปรับละเอียดโดยทั่วไปจะให้ประสิทธิภาพที่ดีกว่าเมื่อมีข้อมูลเป้าหมายเพียงพอ

ฉันจะทราบได้อย่างไรว่าการเรียนรู้แบบถ่ายโอนจะช่วยหรือทำร้าย?

คำถามสำคัญคือความคล้ายคลึงของโดเมน หากการกระจายของโดเมนต้นทางและเป้าหมายมีโครงสร้างที่มีความหมายร่วมกัน (รูปแบบเดียวกัน คำศัพท์คล้ายกัน แนวคิดภาพที่เกี่ยวข้องกัน) การถ่ายโอนแทบจะช่วยเสมอ ลองฝึกเกณฑ์มาตรฐานตั้งแต่ต้นและเปรียบเทียบ: หากโมเดลที่ถ่ายโอนมาไม่ได้ดีกว่า โดเมนอาจแตกต่างกันเกินไป หรือคุณอาจต้องใช้เทคนิคการจัดแนวแบบปฏิปักษ์โดเมน

การถ่ายโอนเชิงลบคืออะไร?

การถ่ายโอนเชิงลบเกิดขึ้นเมื่อความรู้จากโดเมนต้นทางส่งผลเสียต่อประสิทธิภาพของงานเป้าหมายอย่างแท้จริง — การแทนค่าที่ฝึกไว้ล่วงหน้าไม่ตรงกับโครงสร้างเป้าหมายและนำไปสู่การหาค่าที่เหมาะสมที่ผิดพลาด เกิดขึ้นบ่อยที่สุดเมื่อโดเมนต้นทางและเป้าหมายมีความแตกต่างกันในเชิงความหมายหรือสถิติ การทำให้เป็นปกติเข้าหาค่าน้ำหนักต้นทาง (เช่น L2-SP) หรือการใช้เฉพาะเลเยอร์ที่ตื้นกว่าสามารถบรรเทาปัญหานี้ได้

ฉันต้องการข้อมูลเป้าหมายจำนวนเท่าใดสำหรับการปรับละเอียด?

ไม่มีเกณฑ์สากล แต่การเรียนรู้แบบถ่ายโอนมีประโยชน์มากที่สุดเมื่อจำนวนตัวอย่างที่มีป้ายกำกับเป้าหมายมีตั้งแต่หลักสิบถึงหลักพัน หากมีตัวอย่างน้อยมาก (น้อยกว่าประมาณ 100) การตรึงเลเยอร์ส่วนใหญ่และฝึกเฉพาะส่วนหัว (การสกัดคุณลักษณะ) จะปลอดภัยกว่า หากมีตัวอย่างหลายพันตัว การปรับละเอียดที่ลึกขึ้นจะทำได้และมักจะเป็นประโยชน์

การเรียนรู้แบบถ่ายโอนสามารถนำไปใช้กับข้อมูลตารางได้หรือไม่ ไม่ใช่แค่รูปภาพและข้อความ?

ใช่ แม้ว่าจะไม่สามารถใช้งานได้ทันที (plug-and-play) แนวทางต่างๆ ได้แก่ การฝึกโครงข่ายประสาทเทียมล่วงหน้าบนคลังข้อมูลตารางขนาดใหญ่จากโดเมนที่เกี่ยวข้อง หรือการใช้การฝัง (embeddings) จากโมเดลพื้นฐาน (foundation models) เป็นคุณลักษณะเพิ่มเติม ไลบรารี เช่น SAINT และ TabPFN กำลังสำรวจทิศทางนี้ สำหรับงานตารางแบบคลาสสิก การเพิ่มประสิทธิภาพแบบไล่ระดับ (gradient boosting) มักยังคงเป็นคู่แข่งที่แข็งแกร่งแม้ไม่มีการถ่ายโอน

วิธีการที่เกี่ยวข้อง

แหล่งอ้างอิง

  1. Pan, S. J., & Yang, Q. (2010). A Survey on Transfer Learning. IEEE Transactions on Knowledge and Data Engineering, 22(10), 1345–1359.

    เปิดเอกสารอ้างอิง DOI
    คัดลอกแล้ว
  2. Bengio, Y. (2012). Deep Learning of Representations for Unsupervised and Transfer Learning. In Proceedings of ICML Workshop on Unsupervised and Transfer Learning, PMLR 27, 17–36.

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว