Skip to content
Kembali ke hasil pencarian

Deteksi Anomali Ensemble Autoencoder

Diperkenalkan oleh
Chen, J., Sathe, S., Aggarwal, C., & Turaga, D.
Tahun
2017
Jenis
Ensemble unsupervised anomaly detection
Keluarga
Machine learning

Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris

Ukuran huruf

Apa fungsinya?

Deteksi Anomali Ensemble Autoencoder melatih beberapa jaringan saraf autoencoder pada data kelas normal dan menggabungkan kesalahan rekonstruksinya untuk menghasilkan skor anomali yang kuat.

Dengan menggabungkan berbagai autoencoder daripada mengandalkan satu, metode ini menstabilkan peringkat pencilan dan mengurangi sensitivitas terhadap inisialisasi acak atau pilihan arsitektur yang suboptimal.

Intuisi di balik metode

Satu autoencoder belajar untuk mengompres lalu merekonstruksi observasi normal; anomali terkompresi dengan buruk dan menghasilkan kesalahan rekonstruksi yang tinggi. Masalahnya adalah skor anomali satu autoencoder rapuh — ia bergantung pada inisialisasi acak dan arsitektur tertentu. Sebuah ensemble melatih banyak autoencoder pada subset fitur atau data acak yang berbeda, lalu merata-ratakan kesalahan rekonstruksi mereka. Keunikan masing-masing jaringan saling meniadakan, menghasilkan sinyal anomali yang lebih stabil dan lebih percaya diri yang lebih sulit untuk ditipu dan lebih mudah untuk diberi ambang batas.

Sejarah

Deteksi anomali berbasis autoencoder dipopulerkan mengikuti karya Hinton dan Salakhutdinov tahun 2006 tentang autoencoder dalam, di mana kesalahan rekonstruksi yang tinggi muncul sebagai sinyal outlier alami. Perluasan ensemble diformalkan oleh Chen, Sathe, Aggarwal, dan Turaga pada konferensi SIAM Data Mining 2017, yang menunjukkan bahwa mendiversifikasi autoencoder melalui feature bagging secara andal mengungguli model tunggal mana pun. Pendekatan ini sekarang muncul secara rutin dalam pipeline deteksi anomali industri untuk intrusi jaringan, pemeliharaan prediktif, dan pemantauan medis.

Kapan digunakan

Gunakan ketika Anda memiliki data yang sebagian besar tidak berlabel dan ingin mendeteksi anomali langka dalam fitur kontinu berdimensi tinggi — misalnya, aliran sensor, log transaksi, atau sinyal medis — dan satu autoencoder telah menunjukkan ketidakstabilan di berbagai eksekusi. Juga efektif ketika tidak ada label anomali yang tersedia dan Anda memerlukan dasar pembanding tanpa pengawasan dengan stabilitas yang lebih baik daripada satu jaringan. Hindari ketika dataset sangat kecil (kurang dari beberapa ratus observasi normal per fitur), karena autoencoder tidak akan mempelajari manifold yang bermakna. Jangan gunakan untuk data teks kategorikal atau teks jarang tanpa pra-pemrosesan penyematan yang sesuai, dan jangan gunakan ketika isolation forest tunggal yang disetel dengan baik atau one-class SVM sudah cukup, karena ensemble menambah waktu pelatihan dan kompleksitas.

Batasan dan pertimbangan

  • Pelatihan K autoencoder melipatgandakan persyaratan komputasi dan memori; ensemble besar pada jaringan dalam sangat mahal.
  • Mengasumsikan anomali dicirikan oleh kesalahan rekonstruksi yang tinggi — anomali adversarial atau terstruktur yang terletak pada manifold yang dipelajari mungkin terlewatkan.
  • Sensitif terhadap proporsi anomali dalam data pelatihan; kontaminasi berat merusak manifold normal yang dipelajari dan menekan skor anomali.
  • Pilihan hyperparameter (jumlah model, arsitektur, fungsi agregasi) memerlukan data validasi atau pengetahuan domain.

Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.

Kelebihan

  • Mengurangi varians dalam skor anomali dibandingkan dengan autoencoder tunggal, memberikan peringkat yang lebih stabil di berbagai benih acak.
  • Agregasi detektor yang beragam menangkap aspek normalitas yang berbeda, meningkatkan perolehan kembali pada jenis anomali heterogen.
  • Sepenuhnya tanpa pengawasan — tidak memerlukan label anomali, hanya data normal atau campuran yang tidak berlabel.
  • Skalabilitas ke data kontinu berdimensi tinggi di mana metode berbasis jarak seperti deteksi anomali k-NN menurun kinerjanya.
  • Kompatibel dengan berbagai arsitektur autoencoder (vanilla, variasi, konvolusional) untuk menyesuaikan struktur data.
  • Skor ensemble lebih mudah diberi ambang batas secara andal daripada skor jaringan tunggal, mengurangi upaya kalibrasi.

Penerapan

  • Deteksi intrusi jaringan dari fitur paket atau aliran berdimensi tinggi.
  • Penilaian anomali pemeliharaan prediktif pada deret waktu sensor multivariat.
  • Deteksi penipuan transaksi keuangan dalam aliran yang tidak berlabel atau berlabel lemah.
  • Pemantauan biosinyal medis (EKG, EEG) untuk pola patologis langka.
  • Kontrol kualitas dalam manufaktur di mana contoh cacat langka.
  • Penilaian outlier tanpa pengawasan dasar sebelum kampanye pelabelan pembelajaran aktif.

Cara kerjanya

Cara kerjanya

1

K autoencoder dilatih secara independen pada data pelatihan normal (yang diasumsikan), masing-masing dengan inisialisasi acak yang berbeda dan secara opsional subset fitur input atau arsitektur jaringan yang berbeda. Pelatihan mendorong setiap jaringan untuk meminimalkan kerugian rekonstruksi pada sampel normal, sehingga ia mempelajari manifold perilaku normal.

2

Untuk setiap observasi uji, setiap autoencoder mengodekannya ke representasi laten dan mendekodenya kembali. Jarak L2 kuadrat antara input asli dan rekonstruksi adalah skor anomali per-jaringan: kesalahan tinggi menandakan bahwa observasi menyimpang dari manifold normal yang dipelajari.

Rumus
e_i^{(k)} = \|x_i - \hat{x}_i^{(k)}\|_2
3

K skor individu digabungkan menjadi satu skor anomali per observasi — umumnya dengan merata-ratakan, mengambil maksimum, atau menerapkan kombinasi yang dinormalisasi peringkatnya. Merata-ratakan mengurangi varians; maksimum lebih sensitif terhadap setidaknya satu detektor yang menangkap anomali.

Rumus
s_i = f(e_i^{(1)}, e_i^{(2)}, \ldots, e_i^{(K)})
4

Sebuah ambang batas diterapkan pada skor gabungan untuk memberi label observasi sebagai anomali. Ambang batas biasanya dipilih berdasarkan tingkat positif palsu target pada data normal yang disisihkan, atau dengan memperlakukan p persen nilai skor teratas sebagai anomali ketika label kebenaran dasar tidak tersedia.

Kesalahan umum

  • Memasukkan anomali ke dalam set pelatihan tanpa disadari — ini merusak manifold normal yang dipelajari dan menekan skor anomali untuk kontaminasi tersebut.
  • Mengevaluasi hanya pada set pelatihan tanpa sampel normal yang disisihkan untuk mengkalibrasi ambang batas, yang mengarah pada label anomali yang terlalu percaya diri.
  • Menggunakan kesalahan rekonstruksi saja tanpa memeriksa kontribusi per dimensi, menutupi fitur mana yang mendorong skor anomali.
  • Memperlakukan ensemble sebagai sesuatu yang tidak memerlukan penyetelan — jumlah autoencoder, kedalaman mereka, dan fungsi agregasi semuanya memengaruhi kinerja dan harus divalidasi.
  • Menerapkan metode ini pada dataset dengan observasi yang sangat sedikit relatif terhadap jumlah fitur, di mana autoencoder tidak dapat digeneralisasi dan setiap titik tampak anomali.

Pertanyaan yang sering diajukan

Berapa banyak autoencoder yang harus dimasukkan dalam ensemble?

Penelitian menunjukkan penurunan keuntungan di luar sekitar 10–20 jaringan yang beragam. Mulailah dengan 10 dan pantau apakah skor gabungan stabil di berbagai eksekusi; jika masih bervariasi, tambahkan lebih banyak atau tingkatkan keragaman melalui subsampling fitur.

Bagaimana cara memperkenalkan keragaman di antara autoencoder?

Strategi umum termasuk inisialisasi acak, subset acak fitur input (feature bagging), ukuran dimensi laten yang berbeda, tingkat dropout, atau arsitektur yang berbeda (dangkal vs. dalam). Feature bagging adalah yang paling sederhana dan paling efektif untuk data tabular.

Apakah data pelatihan perlu bebas anomali?

Idealnya ya, tetapi kontaminasi sedang (di bawah sekitar 5%) dapat ditoleransi. Jika proporsi anomali lebih tinggi, autoencoder belajar untuk merekonstruksinya dengan baik dan skor anomali menyusut. Pra-penyaringan dengan detektor yang lebih sederhana (isolation forest) sebelum melatih autoencoder dapat membantu.

Bagaimana cara mengatur ambang batas anomali?

Jika Anda memiliki tingkat positif palsu target (misalnya, 1%), atur ambang batas pada persentil yang sesuai dari distribusi skor pada data normal yang disisihkan. Tanpa label apa pun, perlakukan p% skor teratas sebagai anomali dan validasi dengan pakar domain atau metrik evaluasi hilir.

Kapan satu autoencoder lebih baik daripada ensemble?

Ketika komputasi sangat terbatas, dataset kecil, atau satu autoencoder yang disetel dengan baik sudah menunjukkan kinerja yang stabil di berbagai benih. Ensemble menambah nilai terutama ketika varians model individu tinggi atau keragaman anomali diharapkan.

Metode terkait

Sumber

  1. Chen, J., Sathe, S., Aggarwal, C., & Turaga, D. (2017). Outlier Detection with Autoencoder Ensembles. In Proceedings of the 2017 SIAM International Conference on Data Mining (SDM), pp. 90–98. SIAM.

    Buka referensi publikasi
    Disalin.
  2. Aggarwal, C. C. (2017). Outlier Analysis (2nd ed., Ch. 3 & 9). Springer.

    ISBN: 978-3-319-47578-3
    Disalin.