Pembelajaran Aktif
- Diperkenalkan oleh
- Burr Settles
- Tahun
- 2009
- Jenis
- Interactive supervised learning framework
- Keluarga
- Interactive ML
Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris
Apa fungsinya?
Pembelajaran aktif adalah paradigma pembelajaran mesin iteratif di mana algoritma pembelajaran secara selektif meminta sebuah oracle — biasanya anotator manusia — untuk label pada contoh yang belum berlabel yang paling informatif.
Diformalisasi oleh Burr Settles dalam survei literatur seminalnya tahun 2009, pembelajaran aktif mengatasi hambatan praktis biaya anotasi dengan mencapai akurasi model yang tinggi dengan contoh berlabel yang jauh lebih sedikit daripada yang dibutuhkan oleh pembelajaran terawasi pasif.
Intuisi di balik metode
Bayangkan seorang mahasiswa kedokteran yang, alih-alih menghafal setiap halaman buku teks, hanya bertanya kepada dokter jaga tentang kasus yang paling membingungkan. Siswa belajar lebih cepat dengan berfokus pada ketidakpastian daripada meninjau contoh yang sudah mereka pahami. Pembelajaran aktif bekerja dengan cara yang sama: model mengidentifikasi contoh yang paling membingungkannya, meminta label manusia untuk contoh-contoh spesifik tersebut, dan memperbarui dirinya sendiri — mengulangi siklus ini hingga kinerjanya memuaskan.
Sejarah
Konsep pemilihan contoh pelatihan informatif secara selektif berasal dari desain eksperimental optimal Fedorov (1972) dan pembelajaran kueri Cohn dkk. (1994). Bidang ini secara substansial disatukan dan dipopulerkan oleh laporan teknis Burr Settles tahun 2009, yang mengkatalogkan strategi kueri, batas teoritis, dan aplikasi di seluruh NLP, bioinformatika, dan visi komputer. Pembelajaran aktif dalam (deep active learning) muncul setelah tahun 2016 ketika jaringan saraf menjadi kelas model dominan, mendorong teknik estimasi ketidakpastian baru.
Kapan digunakan
Pembelajaran aktif paling bermanfaat ketika data yang belum berlabel melimpah tetapi anotasi ahli mahal, lambat, atau langka — umum dalam pencitraan medis, klasifikasi dokumen hukum, kurasi data ilmiah, dan pemrosesan bahasa alami. Ini mengasumsikan ketersediaan oracle dan bahwa strategi kueri dapat secara bermakna mengidentifikasi contoh informatif. Ini kurang cocok ketika biaya anotasi dapat diabaikan, kumpulan yang belum berlabel kecil, atau distribusi tugas bergeser secara substansial di antara kueri. Alternatif termasuk pembelajaran semi-terawasi (ketika label tidak dapat diperoleh secara interaktif) dan pelatihan mandiri (ketika kueri oracle tidak mungkin dilakukan).
Batasan dan pertimbangan
- Strategi kueri dapat menimbulkan bias pengambilan sampel, menyebabkan kumpulan berlabel tidak mewakili distribusi data yang sebenarnya.
- Peningkatan kinerja sangat bergantung pada pilihan strategi kueri, yang spesifik untuk tugas dan model.
- Melatih ulang model setelah setiap kueri mahal secara komputasi untuk jaringan saraf besar.
- Kebisingan oracle (ketidaksepakatan atau kesalahan anotator) dapat menurunkan kinerja jika tidak dimodelkan secara eksplisit.
Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.
Kelebihan
- Secara drastis mengurangi biaya pelabelan dengan memfokuskan upaya anotasi pada contoh yang paling informatif.
- Dapat diterapkan pada pembelajar terawasi apa pun — klasifikasi, regresi, prediksi terstruktur — tanpa memodifikasi arsitektur model yang mendasarinya.
- Didasarkan secara teoritis: pengambilan sampel ketidakpastian dan kueri-berdasarkan-komite memiliki justifikasi PAC-learning dan Bayesian.
- Kompatibel dengan alur kerja crowdsourcing dan platform anotasi modern.
Penerapan
- Anotasi citra medis (radiologi, patologi) di mana pelabelan ahli mahal dan langka.
- Pengenalan entitas bernama (named-entity recognition) dan ekstraksi relasi dalam NLP, mengurangi kebutuhan korpus berlabel manual.
- Penemuan obat: memilih kandidat molekuler mana yang akan disintesis dan diuji.
- Klasifikasi penginderaan jauh dan citra satelit dengan label kebenaran dasar yang terbatas.
- Mengemudi otonom: memprioritaskan anotasi skenario mengemudi yang langka atau kritis keselamatan.
Cara kerjanya
Cara kerjanya
Proses dimulai dengan kumpulan besar contoh yang belum berlabel U dan kumpulan berlabel L yang awalnya kosong. Model dasar dapat dilatih sebelumnya pada data benih berlabel yang tersedia, atau diinisialisasi secara acak. Pemisahan data berlabel dan belum berlabel ini adalah asumsi struktural yang mendefinisikan pembelajaran aktif berbasis kumpulan.
Rumus
\mathcal{U} = \{\mathbf{x}_1, \mathbf{x}_2, \ldots, \mathbf{x}_n\}, \quad \mathcal{L} = \emptysetPada setiap iterasi, pembelajar menilai setiap instance yang belum berlabel sesuai dengan kriteria informativitas — di sini, pengambilan sampel ketidakpastian memilih instance yang probabilitas posterior kelas maksimumnya paling rendah, menunjukkan ketidakpastian model maksimum. Kriteria alternatif termasuk ketidaksepakatan kueri-berdasarkan-komite dan perubahan model yang diharapkan.
Rumus
\mathbf{x}^* = \arg\max_{\mathbf{x} \in \mathcal{U}} \phi(\mathbf{x}; \theta), \quad \phi(\mathbf{x}) = 1 - \max_{y} P_\theta(y \mid \mathbf{x})Instance yang dipilih x* disajikan kepada oracle (ahli manusia, platform crowdsourcing, atau anotator otomatis) yang memberikan label y*. Pasangan yang baru diberi label dipindahkan dari U ke L, dan penghitung anggaran kueri dikurangi. Biaya oracle biasanya diperlakukan sebagai ser uniform per kueri.
Rumus
y^* = \mathcal{O}(\mathbf{x}^*), \quad \mathcal{L} \leftarrow \mathcal{L} \cup \{(\mathbf{x}^*, y^*)\}, \quad \mathcal{U} \leftarrow \mathcal{U} \setminus \{\mathbf{x}^*\}Parameter model dilatih ulang (atau disesuaikan) pada kumpulan berlabel saat ini L dengan meminimalkan kerugian empiris. Model yang diperbarui kemudian menilai ulang kumpulan yang tersisa, dan siklus kueri-pemilihan-label-pelatihan ulang berulang hingga anggaran habis atau ambang batas akurasi target tercapai.
Rumus
\theta^* = \arg\min_\theta \frac{1}{|\mathcal{L}|} \sum_{(\mathbf{x},y) \in \mathcal{L}} \mathcal{L}_{\text{loss}}(f_\theta(\mathbf{x}), y)Kesalahan umum
- Masalah awal (cold-start): dengan sangat sedikit label awal, perkiraan ketidakpastian tidak dapat diandalkan, yang mengarah pada kueri awal yang buruk.
- Pembelajaran aktif mode batch dapat memilih instance yang berlebihan jika korelasi antar-kueri diabaikan.
- Menerapkan pembelajaran aktif ke jaringan saraf dalam dengan ketidakpastian berbasis dropout (misalnya, MC Dropout) dapat meremehkan ketidakpastian di wilayah di luar distribusi.
- Membandingkan jalankan pembelajaran aktif di berbagai seed atau anggaran kueri tanpa interval kepercayaan mengarah pada kesimpulan yang menyesatkan tentang superioritas strategi.
Pertanyaan yang sering diajukan
Bagaimana pembelajaran aktif berbeda dari pembelajaran semi-terawasi?
Pembelajaran semi-terawasi memanfaatkan struktur data yang belum berlabel (misalnya, pengelompokan, asumsi manifold) tanpa meminta oracle, memperbarui model menggunakan label semu atau regularisasi konsistensi. Pembelajaran aktif secara eksplisit meminta label asli dari oracle untuk contoh yang dipilih. Kedua pendekatan saling melengkapi dan dapat digabungkan.
Strategi kueri mana yang harus saya gunakan dalam praktik?
Pengambilan sampel ketidakpastian adalah baseline yang paling banyak digunakan dan bekerja dengan baik untuk pengklasifikasi biner dan multi-kelas. Kueri-berdasarkan-komite lebih disukai ketika sebuah ansambel sudah tersedia. Perubahan model yang diharapkan atau BALD (Bayesian Active Learning by Disagreement) cenderung berkinerja lebih baik untuk model dalam tetapi lebih berat secara komputasi. Mulailah dengan pengambilan sampel ketidakpastian dan lakukan benchmark terhadap alternatif.
Bisakah pembelajaran aktif diterapkan pada tugas regresi?
Ya. Untuk regresi, informativitas biasanya diukur dengan varians prediktif (misalnya, dari proses Gaussian atau ansambel) daripada entropi probabilitas kelas. Pembelajar meminta titik-titik di mana varians paling tinggi. Ini adalah praktik standar dalam optimasi Bayesian dan desain eksperimen berbasis model pengganti.
Metode terkait
Sumber
Settles, B. (2009). Active learning literature survey. University of Wisconsin-Madison Computer Sciences Technical Report 1648.
Buka referensi publikasiDisalin.