İçeriğe atla
Arama sonuçlarına dön

Anlamsal Benzerlik — Metinler Arasındaki Anlamı Ölçme

Ortaya koyan
Nils Reimers & Iryna Gurevych (Sentence-BERT)
Yıl
2019
Tür
NLP text-comparison task

Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku

Yazı boyutu

Ne işe yarar?

Anlamsal benzerlik analizi, iki metnin anlam olarak ne kadar yakın olduğunu, yüzeyde ne kadar kelime paylaştıklarından ziyade ölçer.

Reimers ve Gurevych'in (2019) Sentence-BERT çalışmasından yola çıkarak, her metni bir vektör olarak temsil eder ve bu vektörleri karşılaştırır, böylece aynı anlama gelen ifadeler kelimeleri farklı olsa bile yüksek puan alır.

Yöntemin mantığı

İki cümle tamamen farklı kelimeler kullanıp aynı şeyi söyleyebilirken, diğer ikisi kelimeleri paylaşabilir ama farklı bir anlama gelebilir. Örtüşen kelimeleri saymak bunu kaçırır. Buradaki fikir, her metni bir anlam uzayında bir noktaya yerleştirmektir — bir gömme modeli kullanarak — böylece benzer anlama gelen metinler birbirine yakın düşer. Bu noktalar arasındaki mesafe daha sonra bir benzerlik puanı haline gelir: aynı anlama gelen ifadeler için yüksek, ilgisiz pasajlar için düşük.

Tarih

Anlamsal benzerlik, iki cümlenin anlam olarak ne kadar benzer olduğunu puanlama sorununu çerçeveleyen *SEM ve SemEval'de (Agirre vd., 2013) tanıtılan Anlamsal Metinsel Benzerlik ortak görevlerinden doğmuştur. Alan, doğrudan kosinüs benzerliği ile karşılaştırılabilen cümle gömmeleri üreten Sentence-BERT (Reimers & Gurevych, 2019) ile keskin bir şekilde ilerledi ve büyük ölçekli anlamsal karşılaştırmayı pratik hale getirdi.

Ne zaman kullanılır?

Metin çiftleriniz olduğunda ve kelime paylaşımlarından ziyade anlam olarak ne kadar yakın olduklarını bilmek istediğinizde anlamsal benzerliği kullanın — intihal ve kopya tespiti, paragraf eşleştirme veya bilgi alma için. Metinlerin dilini destekleyen bir gömme modeli ve karşılaştırmak için en azından küçük bir metin çifti seti gerektirir; metin verisi olmadan çalışamaz.

Sınırlar ve dikkat edilmesi gerekenler

  • Karşılaştırmak için metin çiftleri gerektirir; metin verisi olmadığında uygulanamaz.
  • Kalite, tamamen gömme modelinin metinlerin diline uymasına bağlıdır.
  • Bir benzerlik puanı, modelin alan özel veya yasal 'aynı' tanımıyla uyumlu olmayabilecek anlam anlayışını yansıtır.

Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.

Güçlü yönleri

  • Yüzey kelime örtüşmesinden ziyade anlamı yakalar, bu nedenle farklı kelimelere sahip aynı anlama gelen ifadeler benzer olarak puanlanır.
  • Çok dilli bir gömme modeli kullanıldığında diller arasında çalışır.
  • Kopya tespiti veya alma gibi görevler için eşiklenmesi kolay, çift başına tek, karşılaştırılabilir bir puan üretir.

Uygulama alanları

  • Gönderilen metni referans kaynaklarla karşılaştırarak intihal ve kopya tespiti.
  • Belgeler arasında paragraf ve pasaj eşleştirme.
  • Bilgi alma — belgeleri bir sorguya anlamsal yakınlığa göre sıralama.
  • Büyük metin koleksiyonlarındaki neredeyse aynı içeriğin tekilleştirilmesi.

Nasıl çalışır?

Nasıl çalışır?

1

Karşılaştırmak istediğiniz metin çiftlerinden başlarsınız — örneğin gönderilmiş bir paragraf ile bir referans pasaj veya bir sorgu ile aday belgeler. Karşılaştırmanın anlamlı olması için en azından mütevazı sayıda çift gereklidir ve her çiftin iki üyesi birlikte bulunmalıdır.

2

Her metin, anlamını yakalayan sayısal bir vektöre dönüştüren bir gömme modelinden geçirilir. Gömme modeli metinlerinizin dilini desteklemelidir; koleksiyon İngilizce değilse çok dilli bir cümle gömme modeli kullanılır. Bu, farklı kelimelere sahip aynı anlama gelen ifadelerin hala yakın vektörlere eşlenmesini sağlayan adımdır.

3

İki metnin vektörleri karşılaştırılır, en yaygın olarak kosinüs benzerliği ile, metinlerin anlam olarak ne kadar yakın olduğunu özetleyen tek bir sayı üretilir. Daha yüksek değerler daha yakın anlamı gösterir; puan sınırlıdır ve çiftler arasında karşılaştırılabilir.

4

Benzerlik puanları bağlam içinde okunur — olası kopyaları işaretleyerek, eşleşen paragrafları sıralayarak veya en ilgili pasajları alarak. Görev için genellikle bir eşik değeri seçilir ve herhangi bir karara geçilmeden önce sınırdaki çiftler incelenir.

Sık yapılan hatalar

  • Koleksiyon dilini desteklemeyen bir gömme modeli uygulamak güvenilmez puanlar üretir; modeli dile uygun eşleştirin.
  • Bir benzerlik puanını kesin bir karar olarak ele almak — görev için uygun bir eşik seçin ve yalnızca sayıya güvenmek yerine sınırdaki çiftleri inceleyin.
  • Çok az çift karşılaştırmak, mantıklı bir eşik seçmek için çok az temel sağlar.

Sık sorulan sorular

Bu, paylaşılan kelimeleri karşılaştırmaktan nasıl farklıdır?

Kelime-örtüşme ölçütleri yalnızca eşleşen belirteçleri sayar, bu nedenle farklı kelimelerle aynı anlama gelen aynı anlama gelen ifadeleri kaçırırlar. Anlamsal benzerlik, her metni bir anlam uzayına gömer ve vektörleri karşılaştırır, bu nedenle kelime farklı olsa bile anlamdaki yakınlık yakalanır.

İngilizce dışındaki dillerde çalışır mı?

Evet, gömme modeli hedef dili desteklediği sürece. Koleksiyon İngilizce değilse çok dilli bir cümle gömme modeli kullanılır; dili kapsamayan bir model uygulamak güvenilmez puanlar verir.

Bir benzerlik puanını bir karara nasıl dönüştürürüm?

Görev için uygun bir eşik seçin — örneğin olası kopyaları işaretlemek için yüksek bir kesme — ve harekete geçmeden önce sınırdaki çiftleri inceleyin. Ham puan çiftler arasında karşılaştırılabilir ancak kendi başına bir karar değildir.

Benzerlik puanı nasıl hesaplanır?

Her metin bir gömme modeli tarafından bir vektöre kodlanır ve iki vektör karşılaştırılır, en yaygın olarak kosinüs benzerliği ile, daha yüksek değerlerin daha yakın anlam anlamına geldiği tek bir sınırlı sayı elde edilir.

İlgili yöntemler

Kaynaklar

  1. Reimers, N. & Gurevych, I. (2019). Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. EMNLP.

    Yayın kaynağını aç
    Kopyalandı.
  2. Agirre, E. et al. (2013). *SEM 2013 shared task: Semantic Textual Similarity. ACL (*SEM).

    Yayın kaynağını aç
    Kopyalandı.