Klasifikasi Citra CNN
- Diperkenalkan oleh
- He, K. et al. (ResNet); Tan, M. & Le, Q.V. (EfficientNet)
- Tahun
- 2016
- Jenis
- Deep convolutional neural network (supervised)
Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris
Apa fungsinya?
Klasifikasi citra CNN menggunakan arsitektur konvolusional mendalam seperti ResNet (He et al., 2016), VGG, dan EfficientNet (Tan & Le, 2019) untuk mengurutkan citra ke dalam kategori.
Lapisan konvolusional yang bertumpuk mempelajari hierarki fitur visual langsung dari piksel, dan koneksi pintas (residual) mencegah masalah gradien menghilang pada jaringan yang sangat mendalam.
Intuisi di balik metode
Alih-alih merekayasa fitur secara manual, jaringan konvolusional menggeser filter kecil yang dapat dipelajari melintasi citra, mendeteksi tepi dan tekstur pada lapisan awal dan menggabungkannya menjadi bentuk dan objek pada lapisan yang lebih dalam. Seiring jaringan menjadi sangat mendalam, sinyal pelatihan dapat memudar; koneksi residual menambahkan jalan pintas yang memungkinkan setiap blok hanya mempelajari perubahan relatif terhadap inputnya, sehingga gradien mengalir dengan bersih dan kedalaman terus membantu alih-alih merugikan.
Sejarah
Jaringan konvolusional mendalam membentuk kembali visi komputer pada tahun 2010-an. He et al. (2016) memperkenalkan ResNet dengan koneksi residual di CVPR, membuatnya praktis untuk melatih jaringan ratusan lapisan mendalam dan mengatasi degradasi yang terlihat pada tumpukan biasa yang sangat mendalam. VGG mempopulerkan tumpukan konvolusi kecil yang seragam, dan Tan & Le (2019) mengusulkan EfficientNet, yang secara bersamaan menskalakan kedalaman, lebar, dan resolusi input untuk mencapai akurasi tinggi dengan parameter yang jauh lebih sedikit. Backbone ini, yang sering digunakan dalam keadaan pra-terlatih, tetap menjadi referensi standar untuk klasifikasi citra.
Kapan digunakan
Gunakan untuk mengklasifikasikan atau memprediksi kategori dari data citra ketika Anda memiliki kumpulan citra berlabel setidaknya sekitar 500 contoh dan idealnya GPU. Model ini tidak mengasumsikan data terdistribusi normal, tetapi augmentasi harus diterapkan. Di bawah sekitar 500 citra, CNN mendalam cenderung overfitting, sehingga pembelajaran transfer atau model yang lebih sederhana lebih disukai; dengan kurang dari sekitar 100 citra, filter tidak dapat mengekstrak fitur yang bermakna dan pengklasifikasi klasik seperti SVM adalah pilihan yang lebih aman.
Batasan dan pertimbangan
- Haus data: membutuhkan setidaknya sekitar 500 citra dan sangat overfitting pada kumpulan data yang lebih kecil.
- GPU secara efektif diperlukan untuk waktu pelatihan yang praktis.
- Model kotak hitam dengan interpretasi keputusan yang terbatas.
- Dengan sangat sedikit citra (di bawah sekitar 100) filter sama sekali tidak dapat mempelajari fitur yang bermakna.
Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.
Kelebihan
- Mempelajari fitur visual langsung dari piksel, menghilangkan kebutuhan akan fitur yang direkayasa secara manual.
- Koneksi residual memungkinkan jaringan yang sangat mendalam untuk dilatih tanpa gradien yang menghilang.
- Akurasi mutakhir pada klasifikasi citra di berbagai domain.
- Backbone yang telah dilatih sebelumnya (ResNet, VGG, EfficientNet) memungkinkan pembelajaran transfer pada kumpulan data yang sederhana.
- Asumsi ringan: tidak ada persyaratan normalitas pada data input.
Penerapan
- Mengklasifikasikan citra ke dalam kategori di berbagai domain alami, medis, dan penginderaan jauh.
- Pembelajaran transfer: menyempurnakan backbone yang telah dilatih sebelumnya untuk tugas citra baru.
- Kontrol kualitas dan inspeksi visual dalam pengaturan teknik.
- Tugas prediksi di mana inputnya adalah data citra daripada fitur tabular.
Cara kerjanya
Cara kerjanya
Setiap lapisan konvolusional menerapkan sekumpulan filter kecil yang dapat dipelajari melintasi citra, menghasilkan peta fitur yang menyoroti pola lokal seperti tepi, sudut, dan tekstur. Penumpukan banyak lapisan semacam itu membangun hierarki fitur visual yang semakin abstrak, dipelajari langsung dari piksel daripada dirancang secara manual.
Tumpukan yang sangat mendalam menderita gradien yang menghilang. Koneksi residual (pintas), yang menjadi inti ResNet, menambahkan input blok kembali ke outputnya sehingga setiap blok hanya perlu mempelajari perubahan residual. Jalan pintas ini menjaga gradien tetap mengalir melalui puluhan atau ratusan lapisan, yang memungkinkan jaringan ini dilatih hingga kedalaman yang besar. Keluarga seperti VGG mendukung konvolusi bertumpuk yang seragam sementara EfficientNet menskalakan kedalaman, lebar, dan resolusi secara bersamaan untuk efisiensi.
Rumus
y = \mathcal{F}(x, \{W_i\}) + xPeta fitur akhir dikumpulkan (pooled) dan diteruskan ke kepala klasifikasi yang mengeluarkan probabilitas untuk setiap kategori. Dalam praktiknya, model yang telah dilatih sebelumnya pada kumpulan data besar disesuaikan (fine-tuned) dengan mengganti kepala ini untuk kelas target, dan augmentasi data diterapkan untuk memperluas kumpulan pelatihan yang efektif dan mengurangi overfitting.
Kesalahan umum
- Melatih CNN mendalam dari awal pada kumpulan data kecil alih-alih menggunakan pembelajaran transfer.
- Mengabaikan augmentasi data dan overfitting pada citra pelatihan.
- Mengabaikan ketidakseimbangan kelas di seluruh kategori citra.
- Melaporkan hanya akurasi tanpa metrik per kelas pada data yang tidak seimbang.
- Mencoba pembelajaran mendalam pada beberapa lusin citra di mana model klasik akan bekerja lebih baik.
Pertanyaan yang sering diajukan
Berapa banyak citra yang saya butuhkan?
Sekitar 500 citra berlabel adalah minimum praktis, dan lebih banyak lebih baik. Di bawah sekitar 500, CNN mendalam mengalami overfitting, sehingga pembelajaran transfer dari backbone yang telah dilatih sebelumnya atau model yang lebih sederhana lebih disukai; di bawah sekitar 100 citra, filter tidak dapat mempelajari fitur yang bermakna.
Apakah saya memerlukan GPU?
GPU sangat direkomendasikan. Melatih jaringan konvolusional mendalam sangat berat secara komputasi, dan hanya dengan CPU waktu pelatihan menjadi tidak praktis untuk kumpulan data yang realistis.
Arsitektur mana yang harus saya pilih — ResNet, VGG, atau EfficientNet?
Koneksi residual ResNet membuat jaringan yang sangat mendalam dapat dilatih dan merupakan pilihan default yang kuat. VGG menggunakan tumpukan konvolusi seragam yang sederhana, sementara EfficientNet menskalakan kedalaman, lebar, dan resolusi secara bersamaan untuk mencapai akurasi tinggi dengan parameter lebih sedikit. Memulai dari versi pra-terlatih dari salah satunya biasanya merupakan rute yang paling andal.
Mengapa augmentasi data penting?
Augmentasi — pembalikan, pemotongan, rotasi, dan transformasi serupa — memperluas kumpulan pelatihan yang efektif dan mengekspos jaringan ke lebih banyak variasi, yang mengurangi overfitting. Dengan data citra yang terbatas, ini adalah salah satu langkah terpenting untuk generalisasi.
Metode terkait
Sumber
He, K., Zhang, X., Ren, S. & Sun, J. (2016). Deep Residual Learning for Image Recognition. CVPR.
Buka referensi DOIDisalin.Tan, M. & Le, Q.V. (2019). EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks. ICML, PMLR 97, 6105–6114. arXiv:1905.11946.
Buka referensi publikasiDisalin.