การขยายคำย่อ — การระบุคำย่อและรูปย่อ
- ผู้เสนอ
- Schwartz & Hearst (2003) — seminal algorithm for biomedical abbreviation detection
- ปี
- 2003
- ประเภท
- NLP disambiguation pipeline
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
การระบุคำย่อและรูปย่อเป็นกระบวนการประมวลผลภาษาธรรมชาติ (natural-language-processing pipeline) ที่จับคู่รูปย่อแต่ละรายการในข้อความกับคำนิยามเต็มรูปแบบ โดยใช้เบาะแสจากบริบทแวดล้อม มีความสำคัญอย่างยิ่งในเอกสารทางการแพทย์ กฎหมาย และเทคนิค ซึ่งรูปย่อเดียวกันอาจมีความหมายแตกต่างกันอย่างสิ้นเชิงในแต่ละสาขาวิชา อัลกอริทึมพื้นฐานของสาขาวิชานี้ได้รับการตีพิมพ์โดย Schwartz และ Hearst (2003) สำหรับวรรณกรรมชีวการแพทย์ และต่อมาได้รับการขยายผลด้วยแนวทางที่ใช้โครงข่ายประสาทเทียมและแบบจำลองทรานส์ฟอร์มเมอร์ (transformer-based approaches)
แนวคิดเบื้องหลังวิธีการ
เอกสารที่เต็มไปด้วยคำย่อจะอ่านยากและวิเคราะห์ด้วยคอมพิวเตอร์ได้ยากยิ่งกว่า — ตัวอักษรสามตัวเดียวกันอาจมีความหมายต่างกันในสาขาที่ต่างกัน หรือแม้แต่ในย่อหน้าต่างกัน การขยายคำย่อทำงานเหมือนผู้อ่านผู้เชี่ยวชาญที่สังเกตเห็นคำย่อ มองย้อนกลับไปในข้อความเพื่อหาคำนิยาม และเขียนคำนิยามนั้นออกมาทุกครั้งที่คำย่อปรากฏ แทนที่จะอาศัยเพียงพจนานุกรมที่ตายตัว วิธีการนี้ใช้บริบท: มองหารูปแบบที่ผู้เขียนนิยามคำศัพท์ ('myocardial infarction (MI)') บันทึกคู่คำนั้น แล้วแทนที่รูปแบบเต็มเมื่อใดก็ตามที่รูปย่อปรากฏซ้ำ
ประวัติศาสตร์
ปัญหาการระบุรูปย่อในข้อความได้รับการกำหนดรูปแบบสำหรับวรรณกรรมชีวการแพทย์โดย Schwartz และ Hearst (2003) ผู้เสนอขั้นตอนวิธีบริบทด้านซ้ายแบบเบา (lightweight left-context algorithm) ซึ่งกลายเป็นเกณฑ์มาตรฐานของสาขาวิชานี้ วิธีการของพวกเขาแสดงให้เห็นว่ารูปย่อส่วนใหญ่ในบทความทางวิทยาศาสตร์ถูกนำเสนอพร้อมคำนิยามในวงเล็บที่ชัดเจน และกฎการจัดตำแหน่งอย่างง่ายให้ความแม่นยำสูง งานต่อมาได้ขยายแนวทางดังกล่าวด้วยตัวจำแนกประเภทการเรียนรู้ของเครื่อง (machine-learning classifiers), แบบจำลองสนามสุ่มแบบมีเงื่อนไข (conditional random fields), และล่าสุดคือตัวเข้ารหัสทรานส์ฟอร์มเมอร์ (transformer encoders) ที่เข้ารหัสทั้งรูปย่อและบริบทของมันร่วมกัน ชุดข้อมูล MACRONYM ปี 2022 โดย Veyseh และคณะ แสดงให้เห็นว่าการระบุรูปย่อยังคงเป็นความท้าทายที่เปิดกว้างแม้สำหรับแบบจำลองภาษาขนาดใหญ่ (large language models) เมื่อเกี่ยวข้องกับศัพท์เฉพาะสาขาหรือศัพท์เศรษฐมหภาค
ควรใช้เมื่อใด
การขยายคำย่อเหมาะสำหรับทุกกระบวนการที่รูปย่อที่ยังไม่ถูกระบุจะขัดขวางงานปลายน้ำ เช่น การสกัดข้อมูล (information extraction), การจัดทำดัชนีการค้นหา (search indexing), หรือการจำแนกประเภทข้อความ (text classification) มีความสำคัญสูงสุดในข้อความทางการแพทย์และคลินิก — ซึ่งความกำกวมของรูปย่ออาจก่อให้เกิดข้อผิดพลาดด้านความปลอดภัยของผู้ป่วย — แต่ก็มีประโยชน์เท่าเทียมกันในคลังข้อมูลทางกฎหมาย การเงิน และวิทยาศาสตร์ ควรมีพจนานุกรมเฉพาะสาขาหรือฐานข้อมูลคำย่อ หากไม่มีหน้าต่างบริบทและไม่มีพจนานุกรม วิธีการจะลดลงเหลือเพียงการคาดเดา คลังข้อมูลต้องมีรูปแบบคำนิยามอย่างน้อยบางส่วน (รูปย่อที่ปรากฏถัดจากรูปแบบเต็ม) เว้นแต่ฐานความรู้ที่สร้างไว้ล่วงหน้าจะครอบคลุมสาขานั้นอย่างสมบูรณ์
ข้อจำกัดและข้อควรพิจารณา
- ประสิทธิภาพขึ้นอยู่กับว่าคลังข้อมูลมีรูปแบบคำนิยามที่ชัดเจนหรือไม่ รูปย่อที่นิยามไม่สมบูรณ์ซึ่งผู้เขียนไม่เคยขยายในรูปแบบเต็มจะไม่สามารถระบุได้จากบริบทเพียงอย่างเดียว
- ความกำกวมของรูปย่อ — ซึ่งรูปย่อเดียวกันมีความหมายหลายอย่างในเอกสารเดียวกัน — ต้องการสัญญาณการจำแนกความหมายที่ระบบที่ใช้กฎจัดการได้ไม่ดี
- การระบุข้ามเอกสาร (รูปย่อเดียวกันถูกนิยามในไฟล์หนึ่ง แต่ใช้โดยไม่มีคำนิยามในอีกไฟล์หนึ่ง) ต้องการฐานความรู้คำย่อที่ได้รับการดูแลรักษา
- การเปลี่ยนแปลงสาขา: พจนานุกรมคำย่อที่ฝึกบนข้อความชีวการแพทย์อาจขยายรูปย่อผิดในเอกสารกฎหมายหรือวิศวกรรมที่มีลำดับตัวอักษรเดียวกัน
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- ระบุคำย่อภายในเอกสารโดยไม่ต้องใช้พจนานุกรมที่สร้างไว้ล่วงหน้าอย่างสมบูรณ์ โดยการสกัดคำนิยามโดยตรงจากบริบท
- ปรับขนาดได้ตั้งแต่ขั้นตอนวิธีแบบกฎอย่างง่าย (Schwartz–Hearst) ไปจนถึงแบบจำลองโครงข่ายประสาทเทียม โดยไม่เปลี่ยนแปลงโครงสร้างกระบวนการโดยรวม
- ลดความกำกวมในงาน NLP ปลายน้ำ — การสกัดข้อมูล, การจำแนกประเภท, และการค้นหา — โดยการแทนที่รูปย่อที่คลุมเครือด้วยคำเต็มที่ตีความได้
- มีคุณค่าอย่างยิ่งในสาขาที่มีความสำคัญสูง (คลินิก, กฎหมาย) ซึ่งรูปย่อที่อ่านผิดเพียงเล็กน้อยอาจเปลี่ยนความหมายของเอกสารไปอย่างสิ้นเชิง
การประยุกต์ใช้
- NLP ทางคลินิก: การขยายชื่อยา, รหัสวินิจฉัย, และคำย่อขั้นตอนการรักษาในเวชระเบียนอิเล็กทรอนิกส์ก่อนการสกัดข้อมูลหรือการค้นหา
- การประมวลผลข้อความทางกฎหมาย: การระบุคำย่อตามกฎหมายและรูปย่อตามกฎระเบียบเพื่อปรับปรุงการวิเคราะห์สัญญาและการตรวจสอบการปฏิบัติตามข้อกำหนด
- การทำเหมืองวรรณกรรมทางวิทยาศาสตร์: การประมวลผลบทคัดย่อทางชีวการแพทย์หรือวิศวกรรมล่วงหน้า เพื่อให้การรู้จำเอนทิตี (entity recognition) และการสกัดความสัมพันธ์ (relation extraction) ปลายน้ำทำงานบนคำเต็ม
- การจัดทำดัชนีการค้นหา: การขยายคำย่อในคิวรีและเอกสารเพื่อปรับปรุงการเรียกคืน (recall) ในระบบการดึงข้อมูลเฉพาะสาขา
วิธีการทำงาน
วิธีการทำงาน
กระบวนการนี้สแกนข้อความเพื่อหารูปย่อที่เป็นไปได้ — โดยทั่วไปคือลำดับตัวอักษรภาษาอังกฤษตัวใหญ่ 2 ถึง 10 ตัว, อักษรย่อ, หรือโทเค็นในวงเล็บที่ตรงกับรูปแบบของคำย่อ ฮิวริสติกส์ (Heuristics) จะทำเครื่องหมายรูปย่อเหล่านี้โดยที่ยังไม่ได้ตัดสินใจว่าจะขยายความอย่างไร
สำหรับรูปย่อที่ตรวจพบแต่ละรายการ หน้าต่างบริบทแวดล้อมจะถูกค้นหาเพื่อหารูปแบบเต็มที่ตรงกัน อัลกอริทึม Schwartz–Hearst แบบดั้งเดิมจะจัดตำแหน่งตัวอักษรเริ่มต้นของวลีที่เป็นไปได้กับตัวอักษรของรูปย่อ โดยสแกนหน้าต่างที่มีความยาวประมาณสองเท่าของความยาวของรูปย่อไปทางซ้าย พจนานุกรมคำย่อเฉพาะสาขาหรือฐานข้อมูลคำศัพท์สามารถจำกัดหรือเสริมการค้นหานี้ได้
ในบรรดารูปแบบเต็มที่เป็นไปได้หลายรายการ จะเลือกระบบที่น่าจะเป็นไปได้มากที่สุด ระบบที่ใช้กฎ (Rule-based systems) ใช้คะแนนการจัดตำแหน่ง แบบจำลองแบบมีผู้สอน (supervised models) ใช้คู่ข้อมูลฝึกสอนที่มีป้ายกำกับ แบบจำลองแบบทรานส์ฟอร์มเมอร์ (transformer-based systems) เข้ารหัสทั้งรูปย่อและบริบทเพื่อเลือกความหมายที่ถูกต้อง เมื่อบริบทไม่ชัดเจน — รูปย่อเดียวกันถูกใช้กับความหมายต่างกัน — จะมีการรวมสัญญาณการจำแนกความหมายของคำ (word-sense-disambiguation signals) เข้าไปด้วย
การจับคู่ที่ระบุได้จะถูกตรวจสอบความครอบคลุมและความแม่นยำ: สัดส่วนของรูปย่อที่ขยายสำเร็จมีเท่าใด และการขยายความถูกต้องมีจำนวนเท่าใด ข้อผิดพลาดจะถูกตรวจสอบด้วยตนเองหรือเทียบกับคำอธิบายมาตรฐาน (gold-standard annotation) และกรณีพิเศษเฉพาะสาขา (อักษรย่อที่ไม่มีคำนิยามปรากฏในเอกสาร) จะถูกทำเครื่องหมายเพื่อการตรวจสอบด้วยตนเอง
ข้อผิดพลาดที่พบบ่อย
- การสมมติว่ารูปย่อมีความหมายเหมือนกันเสมอในทุกเอกสาร — รูปย่อเดียวกันสามารถขยายความแตกต่างกันในสาขาที่ต่างกัน หรือแม้แต่ส่วนต่าง ๆ ของรายงานเดียวกัน
- การข้ามขั้นตอนการตรวจสอบ: แม้แต่ขั้นตอนวิธีที่มีความแม่นยำสูงก็ยังเกิดข้อผิดพลาดกับรูปย่อที่หายากหรือใหม่ และข้อผิดพลาดที่ตรวจไม่พบจะแพร่กระจายไปยังงานปลายน้ำทั้งหมด
- การใช้เพียงพจนานุกรมแบบคงที่โดยไม่มีขั้นตอนการสกัดบริบท — หากผู้เขียนแนะนำคำย่อใหม่ที่ไม่มีในพจนานุกรม จะถูกมองข้ามไปโดยสิ้นเชิง
- การปฏิบัติต่อลำดับตัวอักษรภาษาอังกฤษตัวใหญ่ทั้งหมดว่าเป็นคำย่อ — บางคำเป็นคำนามเฉพาะ, สัญลักษณ์ยีน, หรือรหัสที่ไม่ควรขยายความ
คำถามที่พบบ่อย
จะเกิดอะไรขึ้นหากรูปย่อไม่เคยถูกนิยามในเอกสาร?
หากไม่มีรูปแบบคำนิยามในข้อความ กระบวนการจะต้องกลับไปใช้พจนานุกรมคำย่อหรือฐานความรู้ที่สร้างไว้ล่วงหน้า หากไม่มีทั้งสองอย่าง รูปย่อจะไม่สามารถขยายความได้อย่างน่าเชื่อถือ และควรถูกทำเครื่องหมายว่ายังไม่ถูกระบุ แทนที่จะคาดเดา
วิธีการจัดการกับรูปย่อเดียวกันที่มีความหมายต่างกันในสถานที่ต่าง ๆ ได้อย่างไร?
นี่คือปัญหาย่อยของการจำแนกความหมายของรูปย่อ ระบบที่ใช้กฎซึ่งอาศัยหน้าต่างคำนิยามที่ใกล้ที่สุดจัดการกับปัญหานี้ได้ไม่ดีเมื่อมีคำนิยามหลายรายการปรากฏขึ้น แนวทางที่ใช้ทรานส์ฟอร์มเมอร์ซึ่งเข้ารหัสบริบทแวดล้อมสำหรับแต่ละการปรากฏจะจัดการได้ดีกว่า แต่ความแม่นยำในการจำแนกความหมายยังคงลดลงเมื่อบริบทเบาบางหรือเป็นเชิงเทคนิค
จำเป็นต้องมีพจนานุกรมคำย่อที่สร้างไว้ล่วงหน้าหรือไม่?
ไม่จำเป็นอย่างยิ่ง — อัลกอริทึม Schwartz–Hearst สกัดคู่คำนิยามจากบริบทภายในเอกสารโดยไม่ต้องใช้พจนานุกรม อย่างไรก็ตาม พจนานุกรมเฉพาะสาขาช่วยเร่งกระบวนการ จัดการกับรูปย่อที่นิยามไม่สมบูรณ์ซึ่งผู้เขียนไม่เคยขยายในข้อความ และลดความกำกวม สำหรับข้อความทางคลินิก ทรัพยากรเช่น UMLS หรือ ADAM ทำหน้าที่นี้
วิธีการนี้ใช้ได้กับหลายภาษาหรือไม่?
ใช่ แต่ฮิวริสติกส์การจับคู่รูปแบบและพจนานุกรมที่เกี่ยวข้องจะต้องปรับให้เข้ากับภาษาเป้าหมาย งานที่ตีพิมพ์ส่วนใหญ่กล่าวถึงภาษาอังกฤษ การขยายไปยังภาษาอื่น ๆ มักต้องการกฎเฉพาะภาษาและคลังข้อมูลที่มีป้ายกำกับสำหรับการฝึกหรือการประเมิน
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Schwartz, A.S. & Hearst, M.A. (2003). A Simple Algorithm for Identifying Abbreviation Definitions in Biomedical Text. Pacific Symposium on Biocomputing (PSB), 8, 451-462.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้วVeyseh, A.P.B. et al. (2022). MACRONYM: A Large-Scale Dataset for Macroeconomic Acronym Understanding. Findings of NAACL 2022.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว