Skip to content
Kembali ke hasil pencarian

Pemungutan Suara Mayoritas

Diperkenalkan oleh
Leo Breiman
Tahun
1996
Jenis
voting aggregation
Keluarga
Ensemble

Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris

Ukuran huruf

Apa fungsinya?

Pemungutan suara mayoritas adalah metode ensemble yang menggabungkan prediksi dari beberapa pengklasifikasi dasar dengan memilih kelas yang menerima suara terbanyak.

Setiap pengklasifikasi dasar memberikan satu suara untuk kelas yang diprediksi, dan prediksi akhir adalah kelas dengan mayoritas (pluralitas). Pendekatan ini diformalkan oleh Leo Breiman dan rekan-rekannya pada tahun 1990-an sebagai cara yang sederhana namun efektif untuk meningkatkan akurasi klasifikasi.

Intuisi di balik metode

Ide intinya adalah bahwa menggabungkan pengklasifikasi lemah yang beragam dapat menghasilkan keputusan kolektif yang lebih kuat melalui pemungutan suara demokratis. Jika model individu tidak sempurna tetapi membuat kesalahan yang berbeda, suara mayoritas akan menyaring kesalahan klasifikasi yang terisolasi. Ini bekerja paling baik ketika pengklasifikasi dasar independen dan memiliki akurasi sedang—lebih baik daripada tebakan acak tetapi tidak sempurna. Kekuatan berasal dari ketidaksepakatan: ketika model tidak sepakat, keputusan kerumunan lebih andal daripada model tunggal mana pun.

Sejarah

Pemungutan suara mayoritas muncul pada awal 1990-an seiring dengan meningkatnya popularitas pembelajaran ensemble. Karya Breiman tentang bagging (1996) mempopulerkan gagasan menggabungkan beberapa model. Kuncheva (2004) memberikan teori komprehensif tentang metode penggabungan ensemble. Pemungutan suara keras tetap menjadi salah satu strategi ensemble yang paling sederhana dan paling intuitif, sering berfungsi sebagai baseline untuk metode yang lebih canggih seperti stacking dan boosting.

Kapan digunakan

Gunakan pemungutan suara mayoritas ketika Anda memiliki beberapa pengklasifikasi dasar yang tersedia dan memerlukan prediksi ensemble yang sederhana dan dapat diinterpretasikan. Ini bekerja dengan baik untuk klasifikasi multi-kelas dan mengasumsikan pengklasifikasi dasar relatif independen. Ini kurang efektif jika semua model dasar cenderung membuat kesalahan yang sama atau sangat berkorelasi. Pilih metode ensemble lain (boosting, stacking) jika Anda perlu memberi bobot pada pembelajar dasar berdasarkan akurasi individual mereka.

Batasan dan pertimbangan

  • Mengabaikan keandalan pengklasifikasi—setiap model mendapatkan suara yang sama terlepas dari akurasi.
  • Tidak efektif jika pengklasifikasi dasar sangat berkorelasi atau semuanya membuat kesalahan sistematis.
  • Seri dapat terjadi dalam pengaturan multi-kelas, yang memerlukan aturan pemutus seri yang sewenang-wenang.
  • Kinerja sangat bergantung pada keragaman pengklasifikasi dasar dan kualitas individual.

Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.

Kelebihan

  • Sederhana untuk diimplementasikan dan dipahami—aturan pemungutan suara yang lugas tidak memerlukan penyetelan.
  • Efisien secara komputasi—waktu prediksi berskala linier dengan jumlah pengklasifikasi dasar.
  • Tahan terhadap prediksi outlier ketika mayoritas jelas.
  • Bekerja dengan jenis pengklasifikasi dasar apa pun (ensemble heterogen dimungkinkan).

Penerapan

  • Diagnosis medis: menggabungkan prediksi dari beberapa model pendukung keputusan klinis untuk mengurangi bias model individual.
  • Deteksi spam: mengagregasi keputusan dari filter berbasis aturan, Naive Bayes, dan pengklasifikasi SVM.
  • Penilaian risiko kredit: ensemble pohon keputusan dan model regresi logistik yang memilih persetujuan pinjaman.
  • Klasifikasi gambar: beberapa jaringan saraf konvolusional memilih kategori objek dalam visi komputer.
  • Analisis sentimen: menggabungkan keluaran model LSTM, transformer, dan fitur buatan tangan pada ulasan teks.

Cara kerjanya

Cara kerjanya

1

Latih K pengklasifikasi dasar independen (misalnya, pohon keputusan, regresi logistik, jaringan saraf) pada sampel data pelatihan yang sama atau sampel bootstrap.

2

Untuk sampel baru, berikan sampel tersebut melalui masing-masing dari K pengklasifikasi yang terlatih dan kumpulkan prediksi individual mereka.

3

Hitung suara untuk setiap kelas dan tetapkan sampel baru ke kelas dengan suara terbanyak. Jika terjadi seri, gunakan aturan pemutus seri (misalnya, pemilihan acak atau prioritas yang telah ditentukan).

Kesalahan umum

  • Melatih semua pengklasifikasi dasar pada data yang identik mengurangi keragaman dan suara menjadi redundan.
  • Memasukkan pengklasifikasi lemah atau bias mengencerkan kekuatan pemungutan suara model yang akurat.
  • Mengasumsikan pemungutan suara mayoritas akan berhasil tanpa memeriksa bahwa model dasar cukup independen.
  • Mengabaikan penanganan seri secara strategis—pemutus seri acak dapat menimbulkan ketidakstabilan.

Pertanyaan yang sering diajukan

Bagaimana cara memilih jumlah pengklasifikasi dasar?

Mulai dengan 5–10 pengklasifikasi; menambahkan lebih banyak dapat meningkatkan stabilitas tetapi dengan hasil yang semakin berkurang. Seimbangkan peningkatan akurasi dengan biaya komputasi. Lebih banyak pengklasifikasi membantu ketika mereka beragam; model redundan tidak menambah nilai.

Bagaimana jika jumlah pengklasifikasi dasar genap dan terjadi seri?

Tentukan aturan pemutus seri sebelum pelatihan: tetapkan ke kelas dengan kepercayaan prediksi kumulatif tertinggi, gunakan pemilihan acak, atau tetapkan ke kelas default yang telah ditentukan. Pemutus seri yang konsisten memastikan reproduktibilitas.

Bisakah saya menggunakan pemungutan suara mayoritas dengan masalah regresi?

Pemungutan suara keras dirancang untuk klasifikasi. Untuk regresi, gunakan rata-rata lunak (rata-rata prediksi) atau rata-rata tertimbang sebagai gantinya.

Apakah keragaman pengklasifikasi dasar menjamin kinerja ensemble yang lebih baik?

Keragaman membantu tetapi tidak cukup. Pengklasifikasi dasar harus beragam dalam pola kesalahan dan secara individual lebih baik daripada tebakan acak. Ukur keragaman secara empiris melalui korelasi kesalahan pelatihan.

Metode terkait

Sumber

  1. Breiman, L. (1996). Bagging predictors. Machine Learning, 24(2), 123-140.

    Buka referensi DOI
    Disalin.
  2. Kuncheva, L. I. (2004). Combining Pattern Classifiers: Methods and Algorithms. Wiley-Interscience.

    Buka referensi publikasi
    Disalin.