Peringkasan Teks — Ekstraktif dan Abstraktif
- Jenis
- NLP text-generation / text-reduction task
Teks ini adalah terjemahan mesin dan belum ditinjau. Baca versi asli dalam bahasa Inggris
Apa fungsinya?
Peringkasan teks otomatis adalah tugas pemrosesan bahasa alami yang memadatkan dokumen panjang menjadi ringkasan yang lebih pendek sambil mempertahankan informasi kuncinya.
Ini bekerja melalui salah satu dari dua keluarga pendekatan — peringkasan ekstraktif, yang memilih bagian terpenting dari sumber, atau peringkasan abstraktif, yang menghasilkan teks baru. Bidang ini dikonsolidasikan oleh Nenkova dan McKeown (2011), dan model urutan-ke-urutan seperti BART (Lewis et al., 2020) memajukan sisi abstraktif.
Intuisi di balik metode
Membaca dokumen panjang untuk mengekstrak pesan intinya lambat dan tidak dapat diskalakan di banyak dokumen. Tujuan peringkasan adalah untuk mempertahankan informasi kunci sambil membuat teks menjadi jauh lebih pendek. Pendekatan ekstraktif berperilaku seperti penyorot, mengangkat kalimat paling informatif dari sumber; pendekatan abstraktif lebih seperti seseorang yang menulis ulang intinya dalam kata-kata yang lebih sedikit. Apa pun caranya, hasilnya adalah ringkasan ringkas yang dapat diserap pembaca jauh lebih cepat daripada aslinya.
Sejarah
Peringkasan otomatis disurvei dan dikonsolidasikan oleh Nenkova dan McKeown (2011), yang membingkai tugas mengurangi teks sambil mempertahankan informasi kuncinya di sepanjang garis ekstraktif dan abstraktif. Sisi abstraktif maju secara nyata dengan model urutan-ke-urutan yang telah dilatih sebelumnya seperti BART (Lewis et al., 2020), yang menggunakan pra-pelatihan denoising untuk menghasilkan teks yang terkondensasi.
Kapan digunakan
Peringkasan teks cocok ketika Anda memiliki dokumen yang cukup panjang untuk diringkas dan bahasa sumber didukung oleh pendekatan yang dipilih. Ini cocok untuk tujuan deskriptif dan eksploratif pada data teks, bekerja pada koleksi lintas sektoral atau longitudinal. Dengan terlalu sedikit dokumen, model abstraktif tidak dapat dilatih secara andal — kembali ke ekstraksi kata kunci untuk informasi kunci — dan tanpa data teks sama sekali, peringkasan tidak dapat berjalan.
Batasan dan pertimbangan
- Model abstraktif tidak dapat dilatih secara andal pada sangat sedikit dokumen.
- Kinerja tergantung pada bahasa sumber yang didukung oleh pendekatan yang dipilih.
- Dokumen harus cukup panjang untuk memiliki konten yang bermakna untuk dikompresi.
Syarat dari sumber tidak menggantikan tinjauan ilmiah independen atau validasi oleh mesin analisis.
Kelebihan
- Memadatkan dokumen panjang menjadi ringkasan yang lebih pendek sambil mempertahankan informasi kuncinya.
- Menawarkan dua pendekatan pelengkap: pemilihan ekstraktif bagian sumber dan generasi abstraktif teks baru.
- Menskalakan upaya membaca di banyak atau dokumen panjang yang akan lambat dibaca seluruhnya.
Penerapan
- Menghasilkan ringkasan pendek dari laporan atau artikel panjang sehingga pembaca menyerap intinya dengan cepat.
- Memadatkan koleksi dokumen besar untuk tinjauan eksploratif.
- Menghasilkan abstrak atau ringkasan dari teks sumber yang panjang.
- Meringkas korpus teks dalam penelitian humaniora, ilmu sosial, bisnis, dan ilmu alam.
Cara kerjanya
Cara kerjanya
Satu atau lebih dokumen sumber dengan panjang yang cukup dimuat sebagai masukan. Peringkasan membutuhkan teks dengan konten yang cukup untuk dikompresi, sehingga fragmen yang sangat pendek memberikan sedikit untuk dikurangi; metode ini menargetkan dokumen yang lebih panjang di mana pemadatan benar-benar menghemat waktu pembaca.
Teks mentah dibersihkan dan disegmentasi menjadi unit yang dapat dianalisis seperti kalimat atau token. Karena bahasa sumber harus didukung oleh pendekatan yang dipilih, langkah ini juga mengonfirmasi bahwa bahasa dokumen adalah salah satu yang dapat ditangani oleh model atau teknik ekstraktif.
Ringkasan yang lebih pendek dihasilkan. Pendekatan ekstraktif menilai dan memilih bagian terpenting dari teks sumber, sementara pendekatan abstraktif menggunakan model urutan-ke-urutan untuk menghasilkan kata-kata baru yang terkondensasi. Informasi kunci dari aslinya dipertahankan sementara panjangnya dikurangi.
Ringkasan diperiksa terhadap sumber untuk cakupan informasi kunci dan untuk panjang, dan keluaran diperiksa sebelum metode digunakan. Ini melindungi dari ringkasan yang menjatuhkan konten penting atau yang, dalam kasus abstraktif, memperkenalkan kata-kata yang tidak didasarkan pada sumber.
Kesalahan umum
- Menjalankan model abstraktif pada korpus yang terlalu kecil (di bawah ~100 dokumen) — kembali ke ekstraksi kata kunci untuk mendapatkan informasi kunci sebagai gantinya.
- Menerapkan peringkasan ke bahasa yang tidak didukung oleh model atau teknik ekstraktif menurunkan keluaran.
- Mencoba meringkas ketika tidak ada data teks nyata; dengan data terstruktur, statistik deskriptif adalah alternatif yang sesuai.
- Mempercayai ringkasan tanpa memeriksanya terhadap sumber untuk informasi kunci yang hilang atau, dalam kasus abstraktif, kata-kata yang tidak didukung.
Pertanyaan yang sering diajukan
Ekstraktif atau abstraktif — mana yang harus saya gunakan?
Peringkasan ekstraktif memilih dan menyatukan bagian terpenting langsung dari sumber, sehingga tetap setia pada kata-kata asli. Peringkasan abstraktif menggunakan model urutan-ke-urutan untuk menghasilkan teks baru yang terkondensasi, yang dapat dibaca lebih alami tetapi membutuhkan model yang terlatih dan data yang cukup. Ekstraktif adalah pilihan aman pada korpus kecil atau sensitif; abstraktif cocok untuk koleksi yang lebih besar di mana penulisan ulang alami penting.
Berapa banyak dokumen yang saya butuhkan?
Peringkasan menargetkan dokumen dengan panjang yang cukup, dengan minimum praktis sekitar 20. Melatih atau mengandalkan model abstraktif pada kurang dari sekitar 100 dokumen tidak dapat diandalkan; dalam kasus itu gunakan ekstraksi kata kunci untuk menangkap informasi kunci sebagai gantinya.
Apakah ini berfungsi dalam bahasa selain Bahasa Inggris?
Ya, asalkan bahasa sumber didukung oleh pendekatan yang dipilih. Menerapkan model atau teknik ekstraktif ke bahasa yang tidak didukung adalah penyebab umum ringkasan yang buruk.
Bagaimana jika saya tidak punya data teks?
Peringkasan tidak dapat berjalan tanpa teks. Jika data Anda terstruktur daripada teks bebas, statistik deskriptif adalah alternatif yang sesuai untuk menyampaikan informasi kuncinya.
Metode terkait
Sumber
Nenkova, A. & McKeown, K. (2011). Automatic Summarization. Foundations and Trends in Information Retrieval.
Buka referensi DOIDisalin.Lewis, M. et al. (2020). BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension. ACL.
Buka referensi DOIDisalin.