Skip to content
Kembali ke hasil pencarian

Pembelajaran Daring

Diperkenalkan oleh
Rosenblatt, F.; Littlestone, N.; Shalev-Shwartz, S. (key contributors)
Tahun
1958–2000s
Jenis
Learning paradigm (sequential model update)
Keluarga
Machine learning

Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris

Ukuran huruf

Apa fungsinya?

Pembelajaran daring adalah paradigma pembelajaran mesin di mana model diperbarui secara inkremental saat setiap titik data baru tiba, alih-alih dilatih sekali pada kumpulan data tetap.

Ini penting ketika data mengalir secara terus-menerus, penyimpanan terbatas, atau distribusi yang mendasarinya bergeser seiring waktu. Kinerja teoretis diukur dengan penyesalan kumulatif relatif terhadap prediktor tetap terbaik dalam retrospeksi.

Intuisi di balik metode

Dalam pembelajaran batch klasik, Anda mengumpulkan semua data terlebih dahulu lalu melatih. Pembelajaran daring membalikkan ini: model menerima satu contoh pada satu waktu, membuat prediksi, melihat hasil sebenarnya, dan segera memperbarui dirinya sendiri. Pikirkan seorang pedagang yang menyesuaikan strateginya setelah setiap perdagangan daripada menunggu hingga akhir tahun. Jaminan teoretis utama adalah penyesalan rendah — selama banyak putaran, total kerugian pembelajar daring hampir sekecil strategi statis tunggal terbaik yang dipilih dalam retrospeksi.

Sejarah

Paradigma pembelajaran daring berawal dari Perceptron Rosenblatt (1958) dan diformalkan secara teoretis oleh Littlestone (model Mistake Bound, 1988) dan Freund & Schapire (Winnow, Hedge, 1990-an). Kerangka kerja optimasi cembung daring, yang menyatukan analisis penyesalan di berbagai algoritma, dikembangkan oleh Zinkevich (2003) dan disurvei secara ekstensif oleh Shalev-Shwartz (2011). Varian FTRL dan AdaGrad memberdayakan sistem industri skala besar di perusahaan seperti Google.

Kapan digunakan

Gunakan pembelajaran daring ketika data tiba sebagai aliran berkelanjutan dan melatih ulang dari awal tidak praktis; ketika distribusi data bergeser seiring waktu (pergeseran konsep) dan model harus beradaptasi tanpa pelatihan ulang penuh; atau ketika kendala penyimpanan dan memori mencegah penyimpanan seluruh kumpulan data. Ini cocok untuk sistem rekomendasi, deteksi penipuan, alur pemrosesan bahasa alami, dan aplikasi data sensor. JANGAN gunakan ketika volume data kecil dan statis (pembelajaran batch lebih sederhana dan sama efektifnya), ketika seluruh kumpulan data harus dilihat berkali-kali untuk konvergensi (misalnya, jaringan saraf dalam pada kumpulan kecil), atau ketika alur evaluasi reproduktifitas dan offline sangat penting dan infrastruktur streaming tidak tersedia.

Batasan dan pertimbangan

  • Sensitif terhadap pilihan laju pembelajaran dan hiperparameter; laju yang buruk menyebabkan konvergensi lambat atau ketidakstabilan.
  • Kinerja pada setiap langkah tertentu bergantung pada urutan contoh, membuat hasil sensitif terhadap urutan.
  • Metrik evaluasi batch (validasi silang, set pengujian terpisah) tidak berlaku secara langsung; evaluasi prekuensial diperlukan sebagai gantinya.
  • Pelatihan jaringan saraf dalam biasanya memerlukan beberapa lintasan data (epoch), yang bertentangan dengan pengaturan daring satu lintasan yang ketat.

Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.

Kelebihan

  • Menangani aliran data tak terbatas dengan memori konstan, membuatnya dapat diskalakan ke kumpulan data masif atau tak terbatas.
  • Beradaptasi secara otomatis terhadap pergeseran konsep dan pergeseran distribusi tanpa pemicu pelatihan ulang eksplisit.
  • Memberikan jaminan teoretis yang kuat melalui batas penyesalan, mengukur kinerja kasus terburuk terhadap pesaing tetap mana pun.
  • Pembaruan latensi rendah membuatnya cocok untuk aplikasi real-time dan sensitif waktu.
  • Banyak algoritma (SGD, AdaGrad, FTRL) memiliki sifat konvergensi dan penyesalan yang dipahami dengan baik.

Penerapan

  • Prediksi tingkat klik-tayang waktu nyata dan periklanan daring (FTRL-Proximal pada skala Google).
  • Deteksi penipuan dan anomali pada aliran transaksi keuangan yang memerlukan pembaruan model segera.
  • Alur pemrosesan bahasa alami atas umpan berita atau media sosial dengan kosakata yang berkembang.
  • Klasifikasi data sensor dan IoT di mana volume data menghalangi penyimpanan batch.
  • Sistem rekomendasi yang harus beradaptasi secara instan dengan pergeseran preferensi pengguna.
  • Penyaringan spam adaptif di mana definisi spam terus berkembang.

Cara kerjanya

Cara kerjanya

1

Pada setiap langkah waktu t, pembelajar menerima vektor fitur baru x_t dari aliran data. Instans diproses segera dan tidak disimpan secara permanen, membuat paradigma ini efisien memori bahkan untuk aliran data yang tidak terbatas.

2

Model saat ini f_t menghasilkan prediksi untuk x_t sebelum label sebenarnya terungkap. Model bisa berupa pengklasifikasi linier, jaringan saraf kecil, aturan keputusan, atau fungsi parametrik apa pun yang disimpan dalam memori.

Rumus
\hat{y}_t = f_t(x_t)
3

Setelah memprediksi, pembelajar mengamati label sebenarnya y_t dan menghitung kerugian. Sinyal umpan balik ini mengukur seberapa salah prediksi saat ini dan mendorong pembaruan parameter selanjutnya.

Rumus
\ell_t = \ell(\hat{y}_t, y_t)
4

Parameter model diperbarui menggunakan gradien kerugian terhadap parameter saat ini, diskalakan dengan laju pembelajaran. Algoritma umum termasuk Perceptron, Stochastic Gradient Descent, AdaGrad, dan Follow-the-Regularized-Leader (FTRL).

Rumus
w_{t+1} = w_t - \eta_t \nabla \ell_t
5

Kinerja dinilai berdasarkan penyesalan kumulatif: perbedaan antara total kerugian pembelajar daring dan total kerugian prediktor tetap terbaik yang diketahui dalam retrospeksi. Pertumbuhan penyesalan sub-linier (misalnya, O(sqrt(T))) menjamin pembelajar konvergen ke perilaku yang mendekati optimal.

Rumus
R_T = \sum_{t=1}^{T} \ell_t - \min_{f} \sum_{t=1}^{T} \ell(f(x_t), y_t)

Kesalahan umum

  • Menggunakan laju pembelajaran tetap ketika AdaGrad atau jadwal yang menurun diperlukan — menyebabkan pembelajaran lambat atau divergensi.
  • Mengabaikan pemantauan pergeseran konsep: bahkan model daring dapat tertinggal dari perubahan distribusi mendadak jika tidak dilacak secara eksplisit.
  • Mencampuradukkan 'pembelajaran daring' dengan pembelajaran berbasis web (e-learning); makna pembelajaran mesin secara ketat adalah pembaruan model inkremental.
  • Mengevaluasi dengan validasi silang batch alih-alih evaluasi prekuensial (uji-kemudian-latih), yang melebih-lebihkan atau meremehkan kinerja.
  • Menerapkan pembelajaran daring pada kumpulan data statis kecil di mana metode batch yang lebih sederhana dengan validasi silang yang tepat lebih sesuai.

Pertanyaan yang sering diajukan

Apakah pembelajaran daring sama dengan stochastic gradient descent?

SGD adalah algoritma optimasi yang paling umum digunakan dalam pembelajaran daring, tetapi keduanya tidak identik. Pembelajaran daring adalah paradigma (proses satu contoh, perbarui, lanjutkan); SGD adalah aturan pembaruan. Pembelajaran daring dapat menggunakan aturan pembaruan lain seperti Perceptron, AdaGrad, atau FTRL.

Bagaimana cara mengevaluasi model yang dilatih dengan pembelajaran daring?

Gunakan evaluasi prekuensial (juga disebut uji-kemudian-latih): untuk setiap contoh yang tiba, pertama prediksi, catat kesalahan, lalu perbarui. Rata-rata kumulatif kesalahan memberikan perkiraan tidak bias dari kinerja waktu nyata tanpa memerlukan set terpisah.

Bagaimana pembelajaran daring menangani pergeseran konsep?

Karena parameter diperbarui setelah setiap contoh, model secara alami melacak pergeseran distribusi yang lambat. Untuk pergeseran mendadak, yang terdeteksi secara eksplisit dengan memantau tingkat kesalahan atau uji statistik (misalnya, DDM, ADWIN), laju pembelajaran yang lebih tinggi atau pengaturan ulang model mungkin diperlukan.

Apa itu penyesalan dan mengapa itu penting?

Penyesalan adalah kerugian ekstra kumulatif yang ditanggung oleh algoritma daring dibandingkan dengan prediktor tetap terbaik yang dipilih dengan retrospeksi penuh. Penyesalan sub-linier (tumbuh lebih lambat dari T) menjamin bahwa rata-rata kerugian per putaran konvergen ke optimum, memberikan sertifikat kinerja kasus terburuk yang ketat.

Bisakah jaringan saraf dalam dilatih secara daring?

Ya, tetapi dengan catatan. DNN biasanya memerlukan beberapa epoch data untuk konvergensi yang stabil, yang bertentangan dengan batasan daring satu lintasan yang ketat. Dalam praktiknya, mini-batch streaming SGD digunakan sebagai kompromi — memproses batch terbaru dari beberapa contoh sebelum memperbarui bobot.

Metode terkait

Sumber

  1. Shalev-Shwartz, S. (2011). Online Learning and Online Convex Optimization. Foundations and Trends in Machine Learning, 4(2), 107–194.

    Buka referensi DOI
    Disalin.
  2. Cesa-Bianchi, N. & Lugosi, G. (2006). Prediction, Learning, and Games. Cambridge University Press.

    ISBN: 978-0-521-84108-5
    Disalin.