การจำแนกภาพด้วยโครงข่ายประสาทเทียมแบบคอนโวลูชัน (CNN Image Classification)
- ผู้เสนอ
- He, K. et al. (ResNet); Tan, M. & Le, Q.V. (EfficientNet)
- ปี
- 2016
- ประเภท
- Deep convolutional neural network (supervised)
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
การจำแนกภาพด้วยโครงข่ายประสาทเทียมแบบคอนโวลูชัน (CNN) ใช้สถาปัตยกรรมคอนโวลูชันเชิงลึก เช่น ResNet (He et al., 2016), VGG และ EfficientNet (Tan & Le, 2019) เพื่อจัดเรียงภาพออกเป็นหมวดหมู่ เลเยอร์คอนโวลูชันที่ซ้อนกันจะเรียนรู้ลำดับชั้นของคุณลักษณะภาพโดยตรงจากพิกเซล และการเชื่อมต่อแบบข้าม (residual) จะช่วยป้องกันปัญหา vanishing-gradient ในโครงข่ายประสาทเทียมที่ลึกมาก
แนวคิดเบื้องหลังวิธีการ
แทนที่จะสร้างคุณลักษณะด้วยมือ โครงข่ายคอนโวลูชันจะเลื่อนฟิลเตอร์ขนาดเล็กที่เรียนรู้ได้ไปทั่วทั้งภาพ โดยตรวจจับขอบและพื้นผิวในเลเยอร์แรก ๆ และรวมเข้าเป็นรูปร่างและวัตถุในเลเยอร์ที่ลึกขึ้น เมื่อโครงข่ายประสาทเทียมลึกมาก สัญญาณการฝึกฝนอาจจางหายไป การเชื่อมต่อแบบ residual จะเพิ่มทางลัดที่ช่วยให้แต่ละบล็อกเรียนรู้เฉพาะการเปลี่ยนแปลงที่สัมพันธ์กับอินพุตของมัน ดังนั้น gradient จึงไหลได้อย่างราบรื่น และความลึกยังคงช่วยได้แทนที่จะเป็นอุปสรรค
ประวัติศาสตร์
โครงข่ายประสาทเทียมแบบคอนโวลูชันเชิงลึกได้เปลี่ยนแปลงการมองเห็นของคอมพิวเตอร์ในช่วงทศวรรษ 2010 He et al. (2016) ได้นำเสนอ ResNet พร้อมการเชื่อมต่อแบบ residual ที่งาน CVPR ทำให้สามารถฝึกฝนโครงข่ายประสาทเทียมที่มีความลึกหลายร้อยเลเยอร์ได้อย่างเป็นรูปธรรม และเอาชนะปัญหาการเสื่อมสภาพที่พบในโครงข่ายที่ซ้อนกันลึกมาก VGG ทำให้โครงข่ายคอนโวลูชันขนาดเล็กที่ซ้อนกันอย่างสม่ำเสมอเป็นที่นิยม และ Tan & Le (2019) ได้เสนอ EfficientNet ซึ่งปรับขนาดความลึก ความกว้าง และความละเอียดของอินพุตพร้อมกันเพื่อให้ได้ความแม่นยำสูงด้วยพารามิเตอร์ที่น้อยลง Backbone เหล่านี้ ซึ่งมักใช้แบบที่ได้รับการฝึกฝนล่วงหน้า ยังคงเป็นข้อมูลอ้างอิงมาตรฐานสำหรับการจำแนกภาพ
ควรใช้เมื่อใด
ใช้สำหรับการจำแนกหรือการทำนายหมวดหมู่จากข้อมูลภาพ เมื่อคุณมีชุดภาพที่มีป้ายกำกับอย่างน้อยประมาณ 500 ตัวอย่าง และควรมีหน่วยประมวลผลกราฟิก (GPU) ไม่ได้สมมติว่าข้อมูลมีการแจกแจงแบบปกติ แต่ควรใช้การเพิ่มข้อมูล หากมีภาพน้อยกว่าประมาณ 500 ภาพ CNN เชิงลึกมักจะเกิดภาวะโอเวอร์ฟิตติง ดังนั้นการเรียนรู้แบบถ่ายโอน (transfer learning) หรือโมเดลที่เรียบง่ายกว่าจึงเป็นที่นิยม หากมีภาพน้อยกว่าประมาณ 100 ภาพ ฟิลเตอร์จะไม่สามารถดึงคุณลักษณะที่มีความหมายได้ และตัวจำแนกแบบคลาสสิก เช่น SVM เป็นทางเลือกที่ปลอดภัยกว่า
ข้อจำกัดและข้อควรพิจารณา
- ต้องการข้อมูลมาก: ต้องการภาพอย่างน้อยประมาณ 500 ภาพ และเกิดภาวะโอเวอร์ฟิตติงอย่างรุนแรงในชุดข้อมูลที่เล็กกว่า
- จำเป็นต้องมี GPU สำหรับเวลาการฝึกฝนที่ใช้งานได้จริง
- โมเดลกล่องดำที่มีความสามารถในการตีความการตัดสินใจที่จำกัด
- เมื่อมีภาพน้อยมาก (ต่ำกว่าประมาณ 100 ภาพ) ฟิลเตอร์ไม่สามารถเรียนรู้คุณลักษณะที่มีความหมายได้เลย
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- เรียนรู้คุณลักษณะภาพโดยตรงจากพิกเซล ทำให้ไม่จำเป็นต้องสร้างคุณลักษณะด้วยมือ
- การเชื่อมต่อแบบ residual ช่วยให้โครงข่ายประสาทเทียมที่ลึกมากสามารถฝึกฝนได้โดยไม่มีปัญหา vanishing gradients
- ความแม่นยำระดับ State-of-the-art ในการจำแนกภาพในหลายโดเมน
- Backbone ที่ได้รับการฝึกฝนล่วงหน้า (ResNet, VGG, EfficientNet) ช่วยให้สามารถเรียนรู้แบบถ่ายโอนได้ในชุดข้อมูลขนาดปานกลาง
- สมมติฐานน้อย: ไม่ต้องการความเป็นปกติของข้อมูลอินพุต
การประยุกต์ใช้
- การจำแนกภาพออกเป็นหมวดหมู่ในโดเมนธรรมชาติ การแพทย์ และการสำรวจระยะไกล
- การเรียนรู้แบบถ่ายโอน: การปรับแต่ง backbone ที่ได้รับการฝึกฝนล่วงหน้าสำหรับงานภาพใหม่
- การควบคุมคุณภาพและการตรวจสอบด้วยสายตาในการตั้งค่าทางวิศวกรรม
- งานการทำนายที่อินพุตเป็นข้อมูลภาพแทนที่จะเป็นคุณลักษณะแบบตาราง
วิธีการทำงาน
วิธีการทำงาน
แต่ละเลเยอร์คอนโวลูชันจะใช้ชุดฟิลเตอร์ขนาดเล็กที่เรียนรู้ได้ทั่วทั้งภาพ ทำให้เกิดแผนที่คุณลักษณะที่เน้นรูปแบบเฉพาะที่ เช่น ขอบ มุม และพื้นผิว การซ้อนเลเยอร์ดังกล่าวจำนวนมากจะสร้างลำดับชั้นของคุณลักษณะภาพที่เป็นนามธรรมมากขึ้นเรื่อย ๆ ซึ่งเรียนรู้โดยตรงจากพิกเซลแทนที่จะออกแบบด้วยมือ
โครงข่ายที่ซ้อนกันลึกมากประสบปัญหา vanishing gradients การเชื่อมต่อแบบ residual (skip) ซึ่งเป็นหัวใจสำคัญของ ResNet จะเพิ่มอินพุตของบล็อกกลับไปยังเอาต์พุตของมัน เพื่อให้แต่ละบล็อกต้องเรียนรู้เฉพาะการเปลี่ยนแปลงส่วนที่เหลือ (residual change) ทางลัดนี้ช่วยให้ gradient ไหลผ่านเลเยอร์หลายสิบหรือหลายร้อยเลเยอร์ ซึ่งทำให้โครงข่ายประสาทเทียมเหล่านี้สามารถฝึกฝนให้มีความลึกมากได้ ตระกูลโครงข่ายประสาทเทียมอย่าง VGG นิยมใช้คอนโวลูชันที่ซ้อนกันอย่างสม่ำเสมอ ในขณะที่ EfficientNet ปรับขนาดความลึก ความกว้าง และความละเอียดพร้อมกันเพื่อประสิทธิภาพ
สูตร
y = \mathcal{F}(x, \{W_i\}) + xแผนที่คุณลักษณะสุดท้ายจะถูกรวม (pooled) และส่งไปยังส่วนหัวการจำแนก (classification head) ซึ่งจะให้ค่าความน่าจะเป็นสำหรับแต่ละหมวดหมู่ ในทางปฏิบัติ โมเดลที่ได้รับการฝึกฝนล่วงหน้าด้วยชุดข้อมูลขนาดใหญ่จะถูกปรับแต่ง (fine-tuned) โดยการแทนที่ส่วนหัวนี้สำหรับคลาสเป้าหมาย และมีการใช้การเพิ่มข้อมูล (data augmentation) เพื่อขยายชุดข้อมูลการฝึกฝนที่มีประสิทธิภาพและลดการเกิดภาวะโอเวอร์ฟิตติง (overfitting)
ข้อผิดพลาดที่พบบ่อย
- การฝึกฝน CNN เชิงลึกตั้งแต่เริ่มต้นด้วยชุดข้อมูลขนาดเล็กแทนที่จะใช้การเรียนรู้แบบถ่ายโอน
- การข้ามการเพิ่มข้อมูลและการเกิดภาวะโอเวอร์ฟิตติงกับภาพที่ใช้ในการฝึกฝน
- การละเลยความไม่สมดุลของคลาสในหมวดหมู่ภาพ
- การรายงานเฉพาะความแม่นยำโดยไม่มีเมตริกต่อคลาสในข้อมูลที่ไม่สมดุล
- การพยายามใช้การเรียนรู้เชิงลึกกับภาพเพียงไม่กี่สิบภาพ ซึ่งโมเดลแบบคลาสสิกจะทำงานได้ดีกว่า
คำถามที่พบบ่อย
ฉันต้องการภาพจำนวนเท่าใด?
ภาพที่มีป้ายกำกับประมาณ 500 ภาพเป็นจำนวนขั้นต่ำที่ใช้งานได้จริง และยิ่งมากยิ่งดี หากน้อยกว่าประมาณ 500 ภาพ CNN เชิงลึกจะเกิดภาวะโอเวอร์ฟิตติง ดังนั้นการเรียนรู้แบบถ่ายโอนจาก backbone ที่ได้รับการฝึกฝนล่วงหน้าหรือโมเดลที่เรียบง่ายกว่าจึงเป็นที่นิยม หากมีภาพน้อยกว่าประมาณ 100 ภาพ ฟิลเตอร์จะไม่สามารถเรียนรู้คุณลักษณะที่มีความหมายได้
ฉันจำเป็นต้องมี GPU หรือไม่?
แนะนำให้ใช้ GPU อย่างยิ่ง การฝึกฝนโครงข่ายประสาทเทียมแบบคอนโวลูชันเชิงลึกต้องใช้การคำนวณสูง และหากใช้ CPU เพียงอย่างเดียว เวลาการฝึกฝนจะใช้ไม่ได้จริงสำหรับชุดข้อมูลที่สมจริง
ฉันควรเลือกสถาปัตยกรรมใด — ResNet, VGG หรือ EfficientNet?
การเชื่อมต่อแบบ residual ของ ResNet ทำให้โครงข่ายประสาทเทียมที่ลึกมากสามารถฝึกฝนได้ และเป็นค่าเริ่มต้นที่แข็งแกร่ง VGG ใช้โครงข่ายคอนโวลูชันที่ซ้อนกันอย่างสม่ำเสมอ ในขณะที่ EfficientNet ปรับขนาดความลึก ความกว้าง และความละเอียดพร้อมกันเพื่อให้ได้ความแม่นยำสูงด้วยพารามิเตอร์ที่น้อยลง การเริ่มต้นจากเวอร์ชันที่ได้รับการฝึกฝนล่วงหน้าของโครงข่ายใด ๆ เหล่านี้มักเป็นวิธีที่น่าเชื่อถือที่สุด
เหตุใดการเพิ่มข้อมูลจึงมีความสำคัญ?
การเพิ่มข้อมูล — การพลิก การตัด การหมุน และการแปลงที่คล้ายกัน — ช่วยขยายชุดข้อมูลการฝึกฝนที่มีประสิทธิภาพและทำให้โครงข่ายประสาทเทียมได้สัมผัสกับความหลากหลายมากขึ้น ซึ่งช่วยลดภาวะโอเวอร์ฟิตติง เมื่อมีข้อมูลภาพจำกัด นี่เป็นหนึ่งในขั้นตอนที่สำคัญที่สุดสำหรับการทำให้โมเดลสามารถนำไปใช้กับข้อมูลใหม่ได้ดี (generalisation)
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
He, K., Zhang, X., Ren, S. & Sun, J. (2016). Deep Residual Learning for Image Recognition. CVPR.
เปิดเอกสารอ้างอิง DOIคัดลอกแล้วTan, M. & Le, Q.V. (2019). EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks. ICML, PMLR 97, 6105–6114. arXiv:1905.11946.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว