การวิเคราะห์คำคู่ — การเชื่อมโยงคำ
- ผู้เสนอ
- Church & Hanks
- ปี
- 1990
- ประเภท
- Statistical text-mining technique
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
การวิเคราะห์คำคู่ (Collocation analysis) เป็นเทคนิคการทำเหมืองข้อความเชิงสถิติที่ระบุคู่คำหรือวลีที่มักปรากฏร่วมกัน โดยใช้การวัดความสัมพันธ์ (association measures) แทนการปรากฏร่วมกันโดยบังเอิญ เทคนิคนี้ถูกนำมาใช้ในงานพจนานุกรมศาสตร์ของ Church และ Hanks (1990) เพื่อการสกัดคำศัพท์และการวิเคราะห์ภาษา โดยเผยให้เห็นหน่วยคำหลายคำที่สื่อความหมายในคลังข้อความ
แนวคิดเบื้องหลังวิธีการ
คำบางคำก็เข้ากันได้ดี — 'ชาเข้ม' ฟังดูเป็นธรรมชาติ ในขณะที่ 'ชาทรงพลัง' ไม่เป็นเช่นนั้น แม้ว่าความหมายจะคล้ายกัน การวิเคราะห์คำคู่จะมองข้ามความถี่ดิบและถามว่าคู่คำใดปรากฏร่วมกันบ่อยกว่าที่คาดการณ์โดยบังเอิญอย่างมาก ด้วยการให้คะแนนการปรากฏร่วมกันทางสถิติ เทคนิคนี้จะดึงเอาวลีที่มีความหมายและสำนวนที่ตายตัวซึ่งซ่อนอยู่ในเนื้อหาแทนที่จะเพียงแค่แสดงรายการคำที่พบบ่อย
ประวัติศาสตร์
การวิเคราะห์คำคู่ในฐานะเทคนิคทางสถิติได้รับการก่อตั้งโดย Church และ Hanks (1990) ซึ่งได้นำเสนอการวัดความสัมพันธ์ของคำและข้อมูลร่วม (mutual information) สำหรับพจนานุกรมศาสตร์ แสดงให้เห็นว่าสถิติการปรากฏร่วมกันสามารถเผยให้เห็นคู่คำที่มีความหมายได้อย่างไร แนวทางนี้ได้รับการรวบรวมภายในสาขาการประมวลผลภาษาธรรมชาติเชิงสถิติที่กว้างขึ้นโดย Manning และ Schütze (1999)
ควรใช้เมื่อใด
การวิเคราะห์คำคู่เหมาะสมเมื่อคุณมีคลังข้อความขนาดค่อนข้างใหญ่ (ประมาณ 50 เอกสารขึ้นไป) และต้องการค้นหาหน่วยคำหลายคำที่มีความหมาย แทนที่จะเป็นความถี่ของคำเดี่ยว เหมาะสำหรับงานสำรวจและงานเชิงพรรณนาในการสกัดคำศัพท์และการวิเคราะห์ภาษา สันนิษฐานว่ามีข้อความเพียงพอสำหรับการสถิติการปรากฏร่วมกันที่เสถียร และได้ลบคำหยุดออกแล้ว ด้วยข้อความน้อยมาก คะแนนความสัมพันธ์จะเชื่อถือไม่ได้
ข้อจำกัดและข้อควรพิจารณา
- ต้องการคลังข้อความขนาดใหญ่เพียงพอเพื่อให้สถิติการปรากฏร่วมกันมีความเสถียร
- ผลลัพธ์ขึ้นอยู่กับการประมวลผลล่วงหน้าอย่างมาก — คำหยุดที่หลงเหลืออยู่จะทำให้ความสัมพันธ์บิดเบือน
- การวัดเช่น PMI อาจให้คะแนนสูงเกินไปสำหรับคู่คำที่หายากซึ่งบังเอิญปรากฏร่วมกันสองสามครั้ง
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- เผยให้เห็นวลีคำหลายคำและสำนวนที่ตายตัวซึ่งมีความหมาย ซึ่งการนับความถี่คำเดี่ยวพลาดไป
- การวัดความสัมพันธ์ทางสถิติแยกความสัมพันธ์ของคำที่แท้จริงออกจากการอยู่ติดกันโดยบังเอิญ
- แนวคิดเรียบง่ายและนำไปใช้ได้ง่ายสำหรับการสกัดคำศัพท์และการวิเคราะห์ภาษา
การประยุกต์ใช้
- การสกัดคำศัพท์ — การระบุคำศัพท์เฉพาะทางที่มีหลายคำในคลังข้อความ
- พจนานุกรมศาสตร์และการสร้างพจนานุกรม เผยให้เห็นความสัมพันธ์ของคำที่เป็นลักษณะเฉพาะ
- การวิเคราะห์ภาษาและวาทกรรมเกี่ยวกับวิธีการรวมคำในเนื้อหา
- การเตรียมวลีที่เป็นไปได้สำหรับงานการทำเหมืองข้อความและการสกัดข้อมูลที่ตามมา
วิธีการทำงาน
วิธีการทำงาน
คลังข้อความจะถูกแบ่งเป็นโทเค็นและทำความสะอาด โดยลบคำหยุด (stop-words) ออก เพื่อไม่ให้คำหน้าที่ความถี่สูงกลบการเชื่อมโยงที่มีความหมาย การประมวลผลล่วงหน้าที่สอดคล้องกันจะช่วยให้การนับการปรากฏร่วมกันสามารถเปรียบเทียบได้ และทำให้คำคู่ที่ได้สามารถตีความได้
จะสร้างคู่คำที่เป็นไปได้ (โดยทั่วไปคือ bigrams) และรวบรวมการนับการปรากฏร่วมกันทั่วทั้งคลังข้อความ พร้อมกับความถี่ของแต่ละคำ จำนวนเหล่านี้เป็นวัตถุดิบตั้งต้นที่การวัดความสัมพันธ์ทุกชนิดสร้างขึ้นจาก
คู่คำที่เป็นไปได้แต่ละคู่จะถูกให้คะแนนด้วยการวัดความสัมพันธ์ทางสถิติ — เช่น pointwise mutual information (PMI) — ซึ่งเปรียบเทียบความถี่ที่คำปรากฏร่วมกันกับความถี่ที่คาดว่าจะปรากฏร่วมกันโดยบังเอิญ คะแนนสูงบ่งชี้ถึงความสัมพันธ์ที่แท้จริง แทนที่จะเป็นการอยู่ติดกันโดยบังเอิญ
คำคู่ที่เป็นไปได้จะถูกจัดอันดับตามคะแนนความสัมพันธ์ และจะเลือกคู่ที่แข็งแกร่งที่สุด (เช่น N อันดับแรกตาม PMI) ผลลัพธ์คือรายการคำคู่ที่มีความหมายและวลีคำหลายคำที่จัดอันดับแล้ว สำหรับการสกัดคำศัพท์หรือการวิเคราะห์ภาษา
ข้อผิดพลาดที่พบบ่อย
- การข้ามการลบคำหยุดจะทำให้คำหน้าที่ความถี่สูงครอบงำและกลบคำคู่ที่แท้จริง
- การวิเคราะห์ด้วยข้อความน้อยเกินไปให้คะแนนความสัมพันธ์ที่ไม่เสถียรและไม่น่าเชื่อถือ
- PMI ทำให้คะแนนของคู่คำที่หายากมากสูงเกินจริง ดังนั้นให้ใช้การนับการปรากฏร่วมกันขั้นต่ำก่อนการจัดอันดับ
- การปฏิบัติต่อคู่คำที่ความถี่สูงว่าเป็นคำคู่โดยไม่มีการทดสอบความสัมพันธ์ เป็นการเข้าใจผิดระหว่างความธรรมดากับความสัมพันธ์ที่มีความหมาย
คำถามที่พบบ่อย
คำคู่คืออะไรกันแน่?
คำคู่ (collocation) คือคู่หรือลำดับของคำที่ปรากฏร่วมกันบ่อยกว่าที่คาดการณ์โดยบังเอิญ — เป็นความสัมพันธ์ของคำที่เกิดขึ้นเป็นประจำ เช่น 'ชาเข้ม' หรือ 'ตัดสินใจ' การวิเคราะห์คำคู่ค้นหาสิ่งเหล่านี้โดยการให้คะแนนการปรากฏร่วมกันทางสถิติ แทนที่จะอ่านจากรายการความถี่
การวิเคราะห์คำคู่แตกต่างจากการวิเคราะห์ความถี่อย่างไร?
การวิเคราะห์ความถี่นับว่าคำหรือ n-grams ปรากฏบ่อยเพียงใด การวิเคราะห์คำคู่ไปไกลกว่านั้น: มันถามว่าคำสองคำปรากฏร่วมกันบ่อยกว่าที่คาดการณ์โดยบังเอิญหรือไม่ โดยใช้การวัดความสัมพันธ์ ดังนั้นจึงเผยให้เห็นคู่คำที่มีความหมาย แทนที่จะเป็นเพียงคำที่พบบ่อย
PMI คืออะไรและทำไมจึงใช้?
Pointwise mutual information (PMI) เปรียบเทียบความถี่ที่คำสองคำปรากฏร่วมกันกับความถี่ที่คาดว่าจะปรากฏร่วมกันอย่างอิสระ PMI สูงบ่งชี้ถึงความสัมพันธ์ที่แข็งแกร่ง เนื่องจาก PMI อาจให้คะแนนสูงเกินไปสำหรับคู่คำที่หายาก โดยทั่วไปจึงใช้การนับการปรากฏร่วมกันขั้นต่ำก่อนการจัดอันดับ
ต้องใช้ข้อความเท่าใด?
เทคนิคนี้คาดหวังคลังข้อความขนาดค่อนข้างใหญ่ — ประมาณ 50 เอกสารขึ้นไป — เพื่อให้การนับการปรากฏร่วมกันมีความเสถียร ด้วยข้อความน้อยเกินไป คะแนนความสัมพันธ์จะผันผวน และคำคู่ที่สกัดได้จะไม่น่าเชื่อถือ
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Church, K.W. & Hanks, P. (1990). Word Association Norms, Mutual Information, and Lexicography. Computational Linguistics, 16(1), 22-29.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้วManning, C.D. & Schütze, H. (1999). Foundations of Statistical Natural Language Processing. MIT Press.
ISBN: 9780262133609คัดลอกแล้ว