Klasifikasi Teks — Kategorisasi Teks
- Jenis
- Supervised NLP classification task
Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris
Apa fungsinya?
Klasifikasi teks, juga disebut kategorisasi teks, adalah tugas pemrosesan bahasa alami (natural-language processing) terbimbing (supervised) yang secara otomatis menetapkan dokumen ke dalam kategori yang telah ditentukan sebelumnya.
Berlandaskan pendekatan mesin vektor pendukung (support-vector machine) untuk kategorisasi teks yang ditetapkan oleh Joachims (1998) dan dikonsolidasikan dalam literatur penambangan teks (text mining) oleh Aggarwal dan Zhai (2012), metode ini memberdayakan tugas-tugas seperti deteksi spam dan klasifikasi topik dengan belajar dari contoh berlabel.
Intuisi di balik metode
Ketika Anda memiliki banyak dokumen yang masing-masing termasuk dalam salah satu dari sekumpulan kategori tetap, menyortirnya secara manual tidak dapat diskalakan. Klasifikasi teks mempelajari pola-pola yang memisahkan satu kategori dari kategori lain dari sekumpulan contoh yang sudah berlabel, kemudian menerapkan pola-pola tersebut untuk memberi label dokumen baru yang belum pernah dilihat secara otomatis — mirip dengan mengajari seorang penyortir dengan menunjukkan tumpukan yang sudah disortir sebelumnya dan membiarkannya mengarsipkan sisanya.
Sejarah
Klasifikasi teks menjadi masalah tolok ukur pembelajaran mesin (machine-learning) melalui Joachims (1998), yang menunjukkan bahwa mesin vektor pendukung menangani banyak fitur relevan dari kategorisasi teks dengan baik. Aggarwal dan Zhai (2012) kemudian mengkonsolidasikan bidang ini dalam literatur penambangan teks yang lebih luas, dan tugas ini tetap menjadi blok bangunan inti dari pemrosesan bahasa alami terapan.
Kapan digunakan
Gunakan klasifikasi teks ketika Anda memiliki data teks yang dikategorikan ke dalam kategori yang telah ditentukan sebelumnya dan sekumpulan data pelatihan berlabel untuk belajar. Metode ini membutuhkan setidaknya sekitar 100 dokumen berlabel, dan distribusi kelas yang seimbang lebih disukai agar pengklasifikasi dapat mempelajari setiap kategori. Dengan kurang dari sekitar 100 dokumen, pengklasifikasi cenderung mengalami overfitting, sehingga pendekatan klasifikasi zero-shot lebih aman; tanpa data teks sama sekali, metode ini tidak dapat berjalan dan klasifikasi umum pada variabel kategorikal adalah alternatifnya.
Batasan dan pertimbangan
- Membutuhkan data pelatihan berlabel, yang bisa mahal untuk diproduksi.
- Distribusi kelas yang seimbang lebih disukai; kelas yang miring membuat beberapa kategori sulit dipelajari.
- Membutuhkan korpus berukuran cukup (sekitar 100 dokumen atau lebih) untuk menghindari overfitting.
Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.
Kelebihan
- Mengotomatiskan pelabelan koleksi dokumen besar yang tidak praktis untuk disortir secara manual.
- Beradaptasi dengan banyak tugas — deteksi spam, klasifikasi topik, dan masalah kategorisasi serupa — melalui alur kerja terbimbing yang sama.
- Mempelajari pola spesifik domain langsung dari contoh berlabel daripada mengandalkan aturan tetap.
Penerapan
- Deteksi spam — memisahkan pesan yang tidak diinginkan dari pesan yang sah.
- Klasifikasi topik — merutekan dokumen atau artikel ke dalam kategori subjek.
- Mengorganisir dan menyortir koleksi dokumen besar berdasarkan kategori.
- Tugas prediksi dan klasifikasi di berbagai korpus teks kesehatan, sosial, pendidikan, teknik, sains alam, dan bisnis.
Cara kerjanya
Cara kerjanya
Mulai dari korpus dokumen di mana setiap contoh sudah membawa salah satu label kategori yang telah ditentukan sebelumnya. Data pelatihan berlabel ini adalah fondasi dari tugas terbimbing; semakin seimbang distribusi kelasnya, semakin andal pengklasifikasi mempelajari setiap kategori.
Teks mentah dibersihkan dan distandardisasi sehingga dokumen menjadi sebanding: kebisingan (noise) dihilangkan dan konten dinormalisasi serta disegmentasi menjadi unit-unit yang dapat dianalisis. Melewatkan langkah ini akan membiarkan token yang berisik menurunkan kualitas segala sesuatu di hilir.
Teks yang dibersihkan diubah menjadi fitur numerik yang dapat dibaca oleh pengklasifikasi — misalnya, representasi frekuensi istilah (term-frequency) yang menangkap kata-kata mana yang membedakan kategori. Ini mengubah kata-kata menjadi angka yang dioperasikan oleh algoritma pembelajaran.
Pengklasifikasi terbimbing disesuaikan (fitted) pada data pelatihan berlabel yang telah diubah menjadi vektor, mempelajari asosiasi antara fitur teks dan label kategori sehingga dapat menetapkan label ke setiap dokumen baru.
Model yang terlatih diukur kinerjanya pada data berlabel yang disisihkan (held-out) dan kesalahan klasifikasinya diperiksa sebelum penerapan. Karena kelas yang tidak seimbang membuat akurasi mentah menyesatkan, kinerja dinilai berdasarkan kategori yang dimaksudkan untuk dipisahkan oleh model.
Kesalahan umum
- Pelatihan pada terlalu sedikit dokumen (di bawah ~100) menyebabkan overfitting pada set pelatihan kecil; lebih memilih pendekatan klasifikasi zero-shot sebagai gantinya.
- Melewatkan pra-pemrosesan teks memungkinkan token yang berisik menurunkan kualitas fitur dan model.
- Kelas yang tidak seimbang membuat akurasi biasa menjadi menyesatkan; periksa kinerja per kategori daripada mempercayai satu angka akurasi.
- Menerapkan metode ketika tidak ada data teks sama sekali — kembali ke klasifikasi umum pada variabel kategorikal.
Pertanyaan yang sering diajukan
Berapa banyak data berlabel yang saya butuhkan?
Rencanakan setidaknya sekitar 100 dokumen berlabel. Di bawah jumlah tersebut, pengklasifikasi cenderung mengalami overfitting pada set pelatihan kecil, sehingga pendekatan klasifikasi zero-shot adalah pilihan yang lebih aman.
Apakah keseimbangan kelas penting?
Ya. Distribusi kelas yang seimbang lebih disukai agar pengklasifikasi dapat mempelajari setiap kategori secara andal. Dengan kelas yang miring, nilai kinerja per kategori daripada mengandalkan akurasi keseluruhan.
Bagaimana jika saya tidak punya data teks?
Klasifikasi teks tidak dapat berjalan tanpa teks. Jika variabel Anda adalah kategorikal, gunakan metode klasifikasi umum pada data terstruktur tersebut.
Apa bedanya dengan pengelompokan dokumen (document clustering)?
Klasifikasi teks bersifat terbimbing: ia menetapkan dokumen ke kategori yang telah ditentukan sebelumnya yang dipelajari dari contoh berlabel. Pengelompokan dokumen bersifat tidak terbimbing dan mengelompokkan dokumen serupa tanpa label yang telah ditentukan sebelumnya.
Metode terkait
Sumber
Joachims, T. (1998). Text Categorization with Support Vector Machines: Learning with Many Relevant Features. ECML 1998. Lecture Notes in Computer Science, vol 1398. Springer.
Buka referensi DOIDisalin.Aggarwal, C. C. & Zhai, C. (2012). Mining Text Data. Springer.
ISBN: 978-1-4614-3222-7Disalin.