Skip to content
กลับไปยังผลการค้นหา

ความคล้ายคลึงทางความหมาย — การวัดความหมายระหว่างข้อความ

ผู้เสนอ
Nils Reimers & Iryna Gurevych (Sentence-BERT)
ปี
2019
ประเภท
NLP text-comparison task

ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ

ขนาดตัวอักษร

ใช้ทำอะไร?

การวิเคราะห์ความคล้ายคลึงทางความหมายเป็นการวัดว่าข้อความสองข้อความมีความหมายใกล้เคียงกันเพียงใด แทนที่จะนับจำนวนคำที่ปรากฏบนพื้นผิว การสร้างต่อยอดจากงาน Sentence-BERT ของ Reimers และ Gurevych (2019) เป็นการแทนข้อความแต่ละข้อความด้วยเวกเตอร์และเปรียบเทียบเวกเตอร์เหล่านั้น เพื่อให้การถอดความได้คะแนนสูงแม้ว่าการใช้คำจะแตกต่างกัน

แนวคิดเบื้องหลังวิธีการ

ประโยคสองประโยคสามารถใช้คำที่แตกต่างกันโดยสิ้นเชิง แต่มีความหมายเหมือนกัน ในขณะที่อีกสองประโยคสามารถใช้คำร่วมกัน แต่มีความหมายแตกต่างกัน การนับคำที่ซ้ำกันจะพลาดประเด็นนี้ แนวคิดคือการวางข้อความแต่ละข้อความไว้ในจุดหนึ่งในปริภูมิความหมาย — โดยใช้แบบจำลองการฝัง — เพื่อให้ข้อความที่มีความหมายคล้ายคลึงกันอยู่ใกล้กัน ระยะห่างระหว่างจุดเหล่านั้นจึงกลายเป็นคะแนนความคล้ายคลึง: สูงสำหรับการถอดความ ต่ำสำหรับข้อความที่ไม่เกี่ยวข้องกัน

ประวัติศาสตร์

ความคล้ายคลึงทางความหมายมีต้นกำเนิดมาจากภารกิจร่วม (shared tasks) ด้านความคล้ายคลึงทางความหมายของข้อความ (Semantic Textual Similarity) ที่เปิดตัวในงาน *SEM และ SemEval (Agirre et al., 2013) ซึ่งกำหนดปัญหาการให้คะแนนว่าประโยคสองประโยคมีความหมายคล้ายคลึงกันเพียงใด สาขานี้ก้าวหน้าอย่างรวดเร็วด้วย Sentence-BERT (Reimers & Gurevych, 2019) ซึ่งสร้างการฝังประโยคที่สามารถเปรียบเทียบได้โดยตรงด้วยความคล้ายคลึงโคไซน์ ทำให้การเปรียบเทียบความหมายในวงกว้างเป็นไปได้ในทางปฏิบัติ

ควรใช้เมื่อใด

ใช้ความคล้ายคลึงทางความหมายเมื่อคุณมีคู่ข้อความและต้องการทราบว่ามีความหมายใกล้เคียงกันเพียงใด แทนที่จะนับจำนวนคำที่ใช้ร่วมกัน — สำหรับการตรวจจับการลอกเลียนแบบและเนื้อหาซ้ำ การจับคู่ย่อหน้า หรือการดึงข้อมูล จำเป็นต้องมีแบบจำลองการฝังที่รองรับภาษาของข้อความและชุดคู่ข้อความอย่างน้อยหนึ่งชุดเพื่อเปรียบเทียบ หากไม่มีข้อมูลข้อความก็ไม่สามารถทำงานได้

ข้อจำกัดและข้อควรพิจารณา

  • ต้องใช้คู่ข้อความเพื่อเปรียบเทียบ ไม่สามารถใช้ได้เมื่อไม่มีข้อมูลข้อความ
  • คุณภาพขึ้นอยู่กับแบบจำลองการฝังที่ตรงกับภาษาของข้อความทั้งหมด
  • คะแนนความคล้ายคลึงสะท้อนถึงแนวคิดเรื่องความหมายของแบบจำลอง ซึ่งอาจไม่สอดคล้องกับคำจำกัดความเฉพาะทางหรือทางกฎหมายของ 'ความเหมือนกัน'

เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้

จุดแข็ง

  • จับความหมายแทนการทับซ้อนของคำบนพื้นผิว ดังนั้นการถอดความที่มีการใช้คำต่างกันยังคงได้คะแนนว่าคล้ายคลึงกัน
  • ทำงานได้ข้ามภาษาเมื่อใช้แบบจำลองการฝังหลายภาษา
  • ให้คะแนนเดียวที่เปรียบเทียบได้ต่อคู่ ซึ่งง่ายต่อการตั้งเกณฑ์สำหรับงานต่างๆ เช่น การตรวจจับเนื้อหาซ้ำหรือการดึงข้อมูล

การประยุกต์ใช้

  • การตรวจจับการลอกเลียนแบบและการคัดลอกโดยการเปรียบเทียบข้อความที่ส่งกับแหล่งข้อมูลอ้างอิง
  • การจับคู่ย่อหน้าและข้อความข้ามเอกสาร
  • การดึงข้อมูล — การจัดอันดับเอกสารตามความใกล้เคียงทางความหมายกับคำค้น
  • การขจัดข้อมูลซ้ำซ้อนของเนื้อหาที่เกือบจะเหมือนกันในคลังข้อความขนาดใหญ่

วิธีการทำงาน

วิธีการทำงาน

1

คุณเริ่มต้นจากคู่ข้อความที่คุณต้องการเปรียบเทียบ — ตัวอย่างเช่น ย่อหน้าที่ส่งเทียบกับข้อความอ้างอิง หรือคำค้นเทียบกับเอกสารผู้สมัคร จำเป็นต้องมีชุดคู่ข้อความอย่างน้อยปานกลางเพื่อให้การเปรียบเทียบมีความหมาย และสมาชิกทั้งสองของแต่ละคู่จะต้องพร้อมใช้งานร่วมกัน

2

ข้อความแต่ละข้อความจะถูกส่งผ่านแบบจำลองการฝัง (embedding model) ซึ่งจะแปลงให้เป็นเวกเตอร์เชิงตัวเลขที่จับความหมายของข้อความ แบบจำลองการฝังต้องรองรับภาษาของข้อความของคุณ แบบจำลองการฝังประโยคหลายภาษามักใช้เมื่อคลังข้อความไม่ใช่ภาษาอังกฤษ นี่คือขั้นตอนที่ทำให้การถอดความที่มีคำต่างกันยังคงจับคู่กับเวกเตอร์ที่อยู่ใกล้เคียงกันได้

3

เวกเตอร์ของข้อความทั้งสองจะถูกเปรียบเทียบ โดยทั่วไปที่สุดคือการใช้ความคล้ายคลึงโคไซน์ (cosine similarity) ซึ่งให้ผลลัพธ์เป็นตัวเลขเดียวที่สรุปว่าข้อความมีความหมายใกล้เคียงกันเพียงใด ค่าที่สูงขึ้นบ่งชี้ถึงความหมายที่ใกล้เคียงกันมากขึ้น คะแนนจะมีขอบเขตและสามารถเปรียบเทียบข้ามคู่ได้

4

คะแนนความคล้ายคลึงจะถูกอ่านในบริบท — เพื่อระบุสำเนาที่น่าจะเป็นไปได้ การจัดอันดับย่อหน้าที่ตรงกัน หรือการดึงข้อความที่เกี่ยวข้องมากที่สุด โดยทั่วไปจะมีการเลือกเกณฑ์ (threshold) สำหรับงานที่กำลังทำอยู่ และคู่ข้อความที่อยู่ก้ำกึ่งจะถูกตรวจสอบก่อนที่จะดำเนินการตัดสินใจใดๆ

ข้อผิดพลาดที่พบบ่อย

  • การใช้แบบจำลองการฝังที่ไม่รองรับภาษาของคลังข้อความจะให้คะแนนที่ไม่น่าเชื่อถือ — จับคู่แบบจำลองกับภาษา
  • การปฏิบัติต่อคะแนนความคล้ายคลึงเสมือนเป็นข้อตัดสินที่แน่นอน — เลือกเกณฑ์ที่เหมาะสมกับงานและตรวจสอบคู่ข้อความที่อยู่ก้ำกึ่ง แทนที่จะเชื่อถือตัวเลขเพียงอย่างเดียว
  • การเปรียบเทียบคู่ข้อความน้อยเกินไปทำให้มีพื้นฐานน้อยในการเลือกเกณฑ์ที่สมเหตุสมผล

คำถามที่พบบ่อย

สิ่งนี้แตกต่างจากการเปรียบเทียบคำที่ใช้ร่วมกันอย่างไร

มาตรวัดการทับซ้อนของคำนับเฉพาะโทเค็นที่ตรงกัน ดังนั้นจึงพลาดการถอดความที่มีความหมายเดียวกันแต่ใช้คำต่างกัน ความคล้ายคลึงทางความหมายจะฝังข้อความแต่ละข้อความลงในปริภูมิความหมายและเปรียบเทียบเวกเตอร์ ดังนั้นจึงจับความใกล้เคียงทางความหมายได้แม้ว่าการใช้คำจะแตกต่างกัน

ทำงานได้ในภาษาอื่นนอกเหนือจากภาษาอังกฤษหรือไม่

ใช่ โดยมีเงื่อนไขว่าแบบจำลองการฝังรองรับภาษาเป้าหมาย แบบจำลองการฝังประโยคหลายภาษามักใช้เมื่อคลังข้อความไม่ใช่ภาษาอังกฤษ การใช้แบบจำลองที่ไม่ครอบคลุมภาษานั้นจะให้คะแนนที่ไม่น่าเชื่อถือ

ฉันจะเปลี่ยนคะแนนความคล้ายคลึงเป็นการตัดสินใจได้อย่างไร

เลือกเกณฑ์ที่เหมาะสมกับงาน — ตัวอย่างเช่น เกณฑ์สูงสำหรับการระบุสำเนาที่น่าจะเป็นไปได้ — และตรวจสอบคู่ข้อความที่อยู่ก้ำกึ่งก่อนดำเนินการ คะแนนดิบสามารถเปรียบเทียบข้ามคู่ได้ แต่ไม่ใช่ข้อตัดสินในตัวเอง

คะแนนความคล้ายคลึงคำนวณอย่างไร

ข้อความแต่ละข้อความจะถูกเข้ารหัสเป็นเวกเตอร์โดยแบบจำลองการฝัง และเวกเตอร์ทั้งสองจะถูกเปรียบเทียบ โดยทั่วไปที่สุดคือการใช้ความคล้ายคลึงโคไซน์ ซึ่งให้ผลลัพธ์เป็นตัวเลขที่มีขอบเขตเดียว โดยค่าที่สูงขึ้นหมายถึงความหมายที่ใกล้เคียงกันมากขึ้น

วิธีการที่เกี่ยวข้อง

แหล่งอ้างอิง

  1. Reimers, N. & Gurevych, I. (2019). Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks. EMNLP.

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว
  2. Agirre, E. et al. (2013). *SEM 2013 shared task: Semantic Textual Similarity. ACL (*SEM).

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว