Skip to content
กลับไปยังผลการค้นหา

การขยายคำย่อ — การระบุคำย่อและรูปย่อ

ผู้เสนอ
Schwartz & Hearst (2003) — seminal algorithm for biomedical abbreviation detection
ปี
2003
ประเภท
NLP disambiguation pipeline

ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ

ขนาดตัวอักษร

ใช้ทำอะไร?

การระบุคำย่อและรูปย่อเป็นกระบวนการประมวลผลภาษาธรรมชาติ (natural-language-processing pipeline) ที่จับคู่รูปย่อแต่ละรายการในข้อความกับคำนิยามเต็มรูปแบบ โดยใช้เบาะแสจากบริบทแวดล้อม มีความสำคัญอย่างยิ่งในเอกสารทางการแพทย์ กฎหมาย และเทคนิค ซึ่งรูปย่อเดียวกันอาจมีความหมายแตกต่างกันอย่างสิ้นเชิงในแต่ละสาขาวิชา อัลกอริทึมพื้นฐานของสาขาวิชานี้ได้รับการตีพิมพ์โดย Schwartz และ Hearst (2003) สำหรับวรรณกรรมชีวการแพทย์ และต่อมาได้รับการขยายผลด้วยแนวทางที่ใช้โครงข่ายประสาทเทียมและแบบจำลองทรานส์ฟอร์มเมอร์ (transformer-based approaches)

แนวคิดเบื้องหลังวิธีการ

เอกสารที่เต็มไปด้วยคำย่อจะอ่านยากและวิเคราะห์ด้วยคอมพิวเตอร์ได้ยากยิ่งกว่า — ตัวอักษรสามตัวเดียวกันอาจมีความหมายต่างกันในสาขาที่ต่างกัน หรือแม้แต่ในย่อหน้าต่างกัน การขยายคำย่อทำงานเหมือนผู้อ่านผู้เชี่ยวชาญที่สังเกตเห็นคำย่อ มองย้อนกลับไปในข้อความเพื่อหาคำนิยาม และเขียนคำนิยามนั้นออกมาทุกครั้งที่คำย่อปรากฏ แทนที่จะอาศัยเพียงพจนานุกรมที่ตายตัว วิธีการนี้ใช้บริบท: มองหารูปแบบที่ผู้เขียนนิยามคำศัพท์ ('myocardial infarction (MI)') บันทึกคู่คำนั้น แล้วแทนที่รูปแบบเต็มเมื่อใดก็ตามที่รูปย่อปรากฏซ้ำ

ประวัติศาสตร์

ปัญหาการระบุรูปย่อในข้อความได้รับการกำหนดรูปแบบสำหรับวรรณกรรมชีวการแพทย์โดย Schwartz และ Hearst (2003) ผู้เสนอขั้นตอนวิธีบริบทด้านซ้ายแบบเบา (lightweight left-context algorithm) ซึ่งกลายเป็นเกณฑ์มาตรฐานของสาขาวิชานี้ วิธีการของพวกเขาแสดงให้เห็นว่ารูปย่อส่วนใหญ่ในบทความทางวิทยาศาสตร์ถูกนำเสนอพร้อมคำนิยามในวงเล็บที่ชัดเจน และกฎการจัดตำแหน่งอย่างง่ายให้ความแม่นยำสูง งานต่อมาได้ขยายแนวทางดังกล่าวด้วยตัวจำแนกประเภทการเรียนรู้ของเครื่อง (machine-learning classifiers), แบบจำลองสนามสุ่มแบบมีเงื่อนไข (conditional random fields), และล่าสุดคือตัวเข้ารหัสทรานส์ฟอร์มเมอร์ (transformer encoders) ที่เข้ารหัสทั้งรูปย่อและบริบทของมันร่วมกัน ชุดข้อมูล MACRONYM ปี 2022 โดย Veyseh และคณะ แสดงให้เห็นว่าการระบุรูปย่อยังคงเป็นความท้าทายที่เปิดกว้างแม้สำหรับแบบจำลองภาษาขนาดใหญ่ (large language models) เมื่อเกี่ยวข้องกับศัพท์เฉพาะสาขาหรือศัพท์เศรษฐมหภาค

ควรใช้เมื่อใด

การขยายคำย่อเหมาะสำหรับทุกกระบวนการที่รูปย่อที่ยังไม่ถูกระบุจะขัดขวางงานปลายน้ำ เช่น การสกัดข้อมูล (information extraction), การจัดทำดัชนีการค้นหา (search indexing), หรือการจำแนกประเภทข้อความ (text classification) มีความสำคัญสูงสุดในข้อความทางการแพทย์และคลินิก — ซึ่งความกำกวมของรูปย่ออาจก่อให้เกิดข้อผิดพลาดด้านความปลอดภัยของผู้ป่วย — แต่ก็มีประโยชน์เท่าเทียมกันในคลังข้อมูลทางกฎหมาย การเงิน และวิทยาศาสตร์ ควรมีพจนานุกรมเฉพาะสาขาหรือฐานข้อมูลคำย่อ หากไม่มีหน้าต่างบริบทและไม่มีพจนานุกรม วิธีการจะลดลงเหลือเพียงการคาดเดา คลังข้อมูลต้องมีรูปแบบคำนิยามอย่างน้อยบางส่วน (รูปย่อที่ปรากฏถัดจากรูปแบบเต็ม) เว้นแต่ฐานความรู้ที่สร้างไว้ล่วงหน้าจะครอบคลุมสาขานั้นอย่างสมบูรณ์

ข้อจำกัดและข้อควรพิจารณา

  • ประสิทธิภาพขึ้นอยู่กับว่าคลังข้อมูลมีรูปแบบคำนิยามที่ชัดเจนหรือไม่ รูปย่อที่นิยามไม่สมบูรณ์ซึ่งผู้เขียนไม่เคยขยายในรูปแบบเต็มจะไม่สามารถระบุได้จากบริบทเพียงอย่างเดียว
  • ความกำกวมของรูปย่อ — ซึ่งรูปย่อเดียวกันมีความหมายหลายอย่างในเอกสารเดียวกัน — ต้องการสัญญาณการจำแนกความหมายที่ระบบที่ใช้กฎจัดการได้ไม่ดี
  • การระบุข้ามเอกสาร (รูปย่อเดียวกันถูกนิยามในไฟล์หนึ่ง แต่ใช้โดยไม่มีคำนิยามในอีกไฟล์หนึ่ง) ต้องการฐานความรู้คำย่อที่ได้รับการดูแลรักษา
  • การเปลี่ยนแปลงสาขา: พจนานุกรมคำย่อที่ฝึกบนข้อความชีวการแพทย์อาจขยายรูปย่อผิดในเอกสารกฎหมายหรือวิศวกรรมที่มีลำดับตัวอักษรเดียวกัน

เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้

จุดแข็ง

  • ระบุคำย่อภายในเอกสารโดยไม่ต้องใช้พจนานุกรมที่สร้างไว้ล่วงหน้าอย่างสมบูรณ์ โดยการสกัดคำนิยามโดยตรงจากบริบท
  • ปรับขนาดได้ตั้งแต่ขั้นตอนวิธีแบบกฎอย่างง่าย (Schwartz–Hearst) ไปจนถึงแบบจำลองโครงข่ายประสาทเทียม โดยไม่เปลี่ยนแปลงโครงสร้างกระบวนการโดยรวม
  • ลดความกำกวมในงาน NLP ปลายน้ำ — การสกัดข้อมูล, การจำแนกประเภท, และการค้นหา — โดยการแทนที่รูปย่อที่คลุมเครือด้วยคำเต็มที่ตีความได้
  • มีคุณค่าอย่างยิ่งในสาขาที่มีความสำคัญสูง (คลินิก, กฎหมาย) ซึ่งรูปย่อที่อ่านผิดเพียงเล็กน้อยอาจเปลี่ยนความหมายของเอกสารไปอย่างสิ้นเชิง

การประยุกต์ใช้

  • NLP ทางคลินิก: การขยายชื่อยา, รหัสวินิจฉัย, และคำย่อขั้นตอนการรักษาในเวชระเบียนอิเล็กทรอนิกส์ก่อนการสกัดข้อมูลหรือการค้นหา
  • การประมวลผลข้อความทางกฎหมาย: การระบุคำย่อตามกฎหมายและรูปย่อตามกฎระเบียบเพื่อปรับปรุงการวิเคราะห์สัญญาและการตรวจสอบการปฏิบัติตามข้อกำหนด
  • การทำเหมืองวรรณกรรมทางวิทยาศาสตร์: การประมวลผลบทคัดย่อทางชีวการแพทย์หรือวิศวกรรมล่วงหน้า เพื่อให้การรู้จำเอนทิตี (entity recognition) และการสกัดความสัมพันธ์ (relation extraction) ปลายน้ำทำงานบนคำเต็ม
  • การจัดทำดัชนีการค้นหา: การขยายคำย่อในคิวรีและเอกสารเพื่อปรับปรุงการเรียกคืน (recall) ในระบบการดึงข้อมูลเฉพาะสาขา

วิธีการทำงาน

วิธีการทำงาน

1

กระบวนการนี้สแกนข้อความเพื่อหารูปย่อที่เป็นไปได้ — โดยทั่วไปคือลำดับตัวอักษรภาษาอังกฤษตัวใหญ่ 2 ถึง 10 ตัว, อักษรย่อ, หรือโทเค็นในวงเล็บที่ตรงกับรูปแบบของคำย่อ ฮิวริสติกส์ (Heuristics) จะทำเครื่องหมายรูปย่อเหล่านี้โดยที่ยังไม่ได้ตัดสินใจว่าจะขยายความอย่างไร

2

สำหรับรูปย่อที่ตรวจพบแต่ละรายการ หน้าต่างบริบทแวดล้อมจะถูกค้นหาเพื่อหารูปแบบเต็มที่ตรงกัน อัลกอริทึม Schwartz–Hearst แบบดั้งเดิมจะจัดตำแหน่งตัวอักษรเริ่มต้นของวลีที่เป็นไปได้กับตัวอักษรของรูปย่อ โดยสแกนหน้าต่างที่มีความยาวประมาณสองเท่าของความยาวของรูปย่อไปทางซ้าย พจนานุกรมคำย่อเฉพาะสาขาหรือฐานข้อมูลคำศัพท์สามารถจำกัดหรือเสริมการค้นหานี้ได้

3

ในบรรดารูปแบบเต็มที่เป็นไปได้หลายรายการ จะเลือกระบบที่น่าจะเป็นไปได้มากที่สุด ระบบที่ใช้กฎ (Rule-based systems) ใช้คะแนนการจัดตำแหน่ง แบบจำลองแบบมีผู้สอน (supervised models) ใช้คู่ข้อมูลฝึกสอนที่มีป้ายกำกับ แบบจำลองแบบทรานส์ฟอร์มเมอร์ (transformer-based systems) เข้ารหัสทั้งรูปย่อและบริบทเพื่อเลือกความหมายที่ถูกต้อง เมื่อบริบทไม่ชัดเจน — รูปย่อเดียวกันถูกใช้กับความหมายต่างกัน — จะมีการรวมสัญญาณการจำแนกความหมายของคำ (word-sense-disambiguation signals) เข้าไปด้วย

4

การจับคู่ที่ระบุได้จะถูกตรวจสอบความครอบคลุมและความแม่นยำ: สัดส่วนของรูปย่อที่ขยายสำเร็จมีเท่าใด และการขยายความถูกต้องมีจำนวนเท่าใด ข้อผิดพลาดจะถูกตรวจสอบด้วยตนเองหรือเทียบกับคำอธิบายมาตรฐาน (gold-standard annotation) และกรณีพิเศษเฉพาะสาขา (อักษรย่อที่ไม่มีคำนิยามปรากฏในเอกสาร) จะถูกทำเครื่องหมายเพื่อการตรวจสอบด้วยตนเอง

ข้อผิดพลาดที่พบบ่อย

  • การสมมติว่ารูปย่อมีความหมายเหมือนกันเสมอในทุกเอกสาร — รูปย่อเดียวกันสามารถขยายความแตกต่างกันในสาขาที่ต่างกัน หรือแม้แต่ส่วนต่าง ๆ ของรายงานเดียวกัน
  • การข้ามขั้นตอนการตรวจสอบ: แม้แต่ขั้นตอนวิธีที่มีความแม่นยำสูงก็ยังเกิดข้อผิดพลาดกับรูปย่อที่หายากหรือใหม่ และข้อผิดพลาดที่ตรวจไม่พบจะแพร่กระจายไปยังงานปลายน้ำทั้งหมด
  • การใช้เพียงพจนานุกรมแบบคงที่โดยไม่มีขั้นตอนการสกัดบริบท — หากผู้เขียนแนะนำคำย่อใหม่ที่ไม่มีในพจนานุกรม จะถูกมองข้ามไปโดยสิ้นเชิง
  • การปฏิบัติต่อลำดับตัวอักษรภาษาอังกฤษตัวใหญ่ทั้งหมดว่าเป็นคำย่อ — บางคำเป็นคำนามเฉพาะ, สัญลักษณ์ยีน, หรือรหัสที่ไม่ควรขยายความ

คำถามที่พบบ่อย

จะเกิดอะไรขึ้นหากรูปย่อไม่เคยถูกนิยามในเอกสาร?

หากไม่มีรูปแบบคำนิยามในข้อความ กระบวนการจะต้องกลับไปใช้พจนานุกรมคำย่อหรือฐานความรู้ที่สร้างไว้ล่วงหน้า หากไม่มีทั้งสองอย่าง รูปย่อจะไม่สามารถขยายความได้อย่างน่าเชื่อถือ และควรถูกทำเครื่องหมายว่ายังไม่ถูกระบุ แทนที่จะคาดเดา

วิธีการจัดการกับรูปย่อเดียวกันที่มีความหมายต่างกันในสถานที่ต่าง ๆ ได้อย่างไร?

นี่คือปัญหาย่อยของการจำแนกความหมายของรูปย่อ ระบบที่ใช้กฎซึ่งอาศัยหน้าต่างคำนิยามที่ใกล้ที่สุดจัดการกับปัญหานี้ได้ไม่ดีเมื่อมีคำนิยามหลายรายการปรากฏขึ้น แนวทางที่ใช้ทรานส์ฟอร์มเมอร์ซึ่งเข้ารหัสบริบทแวดล้อมสำหรับแต่ละการปรากฏจะจัดการได้ดีกว่า แต่ความแม่นยำในการจำแนกความหมายยังคงลดลงเมื่อบริบทเบาบางหรือเป็นเชิงเทคนิค

จำเป็นต้องมีพจนานุกรมคำย่อที่สร้างไว้ล่วงหน้าหรือไม่?

ไม่จำเป็นอย่างยิ่ง — อัลกอริทึม Schwartz–Hearst สกัดคู่คำนิยามจากบริบทภายในเอกสารโดยไม่ต้องใช้พจนานุกรม อย่างไรก็ตาม พจนานุกรมเฉพาะสาขาช่วยเร่งกระบวนการ จัดการกับรูปย่อที่นิยามไม่สมบูรณ์ซึ่งผู้เขียนไม่เคยขยายในข้อความ และลดความกำกวม สำหรับข้อความทางคลินิก ทรัพยากรเช่น UMLS หรือ ADAM ทำหน้าที่นี้

วิธีการนี้ใช้ได้กับหลายภาษาหรือไม่?

ใช่ แต่ฮิวริสติกส์การจับคู่รูปแบบและพจนานุกรมที่เกี่ยวข้องจะต้องปรับให้เข้ากับภาษาเป้าหมาย งานที่ตีพิมพ์ส่วนใหญ่กล่าวถึงภาษาอังกฤษ การขยายไปยังภาษาอื่น ๆ มักต้องการกฎเฉพาะภาษาและคลังข้อมูลที่มีป้ายกำกับสำหรับการฝึกหรือการประเมิน

วิธีการที่เกี่ยวข้อง

แหล่งอ้างอิง

  1. Schwartz, A.S. & Hearst, M.A. (2003). A Simple Algorithm for Identifying Abbreviation Definitions in Biomedical Text. Pacific Symposium on Biocomputing (PSB), 8, 451-462.

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว
  2. Veyseh, A.P.B. et al. (2022). MACRONYM: A Large-Scale Dataset for Macroeconomic Acronym Understanding. Findings of NAACL 2022.

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว