Skip to content
กลับไปยังผลการค้นหา

Active Learning Decision Tree

ผู้เสนอ
Settles, B. (active learning framework); Breiman et al. (decision tree base)
ปี
1984–2010
ประเภท
Active learning with decision tree base learner
กลุ่มวิธี
Machine learning

ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ

ขนาดตัวอักษร

ใช้ทำอะไร?

การเรียนรู้เชิงรุกร่วมกับต้นไม้ตัดสินใจ (Active Learning Decision Tree) เป็นการผสมผสานโครงสร้างที่ตีความได้ของต้นไม้แบบ CART เข้ากับกลยุทธ์การสอบถามที่เลือกตัวอย่างที่ไม่มีป้ายกำกับซึ่งให้ข้อมูลมากที่สุดสำหรับการอธิบายประกอบโดยมนุษย์ แบบจำลองจะร้องขอป้ายกำกับแบบวนซ้ำเฉพาะตัวอย่างที่แบบจำลองมีความไม่แน่นอนมากที่สุดเท่านั้น ซึ่งช่วยลดต้นทุนการติดป้ายกำกับในขณะที่เพิ่มความแม่นยำในการจำแนกประเภทข้อมูลแบบตารางให้สูงสุด

แนวคิดเบื้องหลังวิธีการ

การติดป้ายกำกับตัวอย่างการฝึกอบรมทุกตัวอย่างมีค่าใช้จ่ายสูง การเรียนรู้เชิงรุกจะแก้ปัญหานี้โดยการให้แบบจำลองถามว่า 'ตัวอย่างที่ไม่มีป้ายกำกับตัวใด หากติดป้ายกำกับแล้ว จะสอนฉันได้มากที่สุด?' ต้นไม้ตัดสินใจจะถูกใช้เป็นตัวจำแนกประเภทที่ประเมินความไม่แน่นอนในแต่ละขั้นตอนการสอบถาม หลังจากที่เพิ่มป้ายกำกับใหม่แต่ละครั้ง ต้นไม้จะถูกฝึกใหม่ และวงจรการสอบถามจะทำซ้ำ ผลลัพธ์ที่ได้คือแบบจำลองที่ให้ความแม่นยำที่แข่งขันได้โดยใช้ตัวอย่างที่มีป้ายกำกับน้อยลงมากเมื่อเทียบกับต้นไม้แบบกำกับดูแลเต็มรูปแบบที่ฝึกตั้งแต่ต้น ทำให้สามารถนำไปใช้ได้จริงในสถานการณ์ที่การติดป้ายกำกับมีค่าใช้จ่ายสูงหรือใช้เวลานาน

ประวัติศาสตร์

ต้นไม้ตัดสินใจในฐานะตัวจำแนกประเภทมีรากฐานมาจาก CART (1984) ของ Breiman et al. และ C4.5 (1993) ของ Quinlan การเรียนรู้เชิงรุกในฐานะกรอบการทำงานที่เป็นระบบได้รับการสำรวจอย่างครอบคลุมโดย Burr Settles (2010) ซึ่งได้บันทึกกลยุทธ์การสุ่มตัวอย่างความไม่แน่นอน การสอบถามตามคณะกรรมการ และการเปลี่ยนแปลงแบบจำลองที่คาดหวัง ต้นไม้ตัดสินใจเป็นตัวเรียนรู้พื้นฐานมาตรฐานในการวัดประสิทธิภาพการเรียนรู้เชิงรุกตั้งแต่ช่วงปลายทศวรรษ 1990 โดยปรากฏในงานการสุ่มตัวอย่างแบบกลุ่มในช่วงต้นของ Cohn, Atlas, และ Ladner (1994) และการเปรียบเทียบเชิงประจักษ์ในภายหลังระหว่างประเภทตัวเรียนรู้

ควรใช้เมื่อใด

ใช้การเรียนรู้เชิงรุกด้วยต้นไม้ตัดสินใจเมื่อข้อมูลการฝึกอบรมที่มีป้ายกำกับมีน้อยหรือมีค่าใช้จ่ายสูงในการได้รับ แต่มีชุดข้อมูลที่ไม่มีป้ายกำกับจำนวนมาก เช่น ในการติดป้ายกำกับทางการแพทย์ การจำแนกเอกสาร หรืองานตรวจจับความผิดปกติของเซ็นเซอร์ ต้นไม้ตัดสินใจเป็นพื้นฐานที่เหมาะสมอย่างยิ่งเมื่อต้องการความสามารถในการตีความของแบบจำลองสุดท้ายควบคู่ไปกับประสิทธิภาพการติดป้ายกำกับ หลีกเลี่ยงแนวทางนี้เมื่อชุดข้อมูลทั้งหมดสามารถติดป้ายกำกับได้ในราคาถูก (การเรียนรู้เชิงรับก็เพียงพอแล้ว) เมื่อชุดข้อมูลที่มีป้ายกำกับมีขนาดใหญ่มากอยู่แล้ว (หลายร้อยหรือหลายพัน) เมื่อปริภูมิคุณลักษณะมีมิติสูงมาก (การเรียนรู้เชิงรุกแบบ gradient boosting หรือ neural จะให้ผลดีกว่า) หรือเมื่อต้นทุนการฝึกใหม่ต่อรอบการทำซ้ำสูงเกินไปสำหรับชุดข้อมูลขนาดใหญ่มาก

ข้อจำกัดและข้อควรพิจารณา

  • กลยุทธ์การสอบถามและการฝึกต้นไม้ใหม่ร่วมกันอาจใช้ทรัพยากรในการคำนวณสูงเมื่อชุดข้อมูลที่ไม่มีป้ายกำกับมีขนาดใหญ่มาก
  • ต้นไม้ตัดสินใจเป็นตัวเรียนรู้ที่มีความแปรปรวนสูง ด้วยป้ายกำกับเริ่มต้นเพียงไม่กี่รายการ ต้นไม้ในช่วงต้นอาจไม่น่าเชื่อถือ ซึ่งนำไปสู่การสอบถามในช่วงต้นที่ไม่ดี
  • เพดานประสิทธิภาพต่ำกว่าวิธีการแบบกลุ่ม (ensemble methods) เช่น random forest หรือ gradient boosting บนงบประมาณป้ายกำกับเดียวกัน
  • สมมติว่าป้ายกำกับของผู้ให้ข้อมูลมีความแม่นยำ ป้ายกำกับที่มีสัญญาณรบกวนหรือไม่สอดคล้องกันอาจทำให้วงจรการเรียนรู้เชิงรุกเสื่อมโทรมเร็วกว่าการเรียนรู้เชิงรับ

เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้

จุดแข็ง

  • ลดจำนวนป้ายกำกับที่จำเป็นเพื่อให้ได้ความแม่นยำเป้าหมายลงอย่างมากเมื่อเทียบกับการสุ่มตัวอย่างแบบสุ่ม
  • แบบจำลองพื้นฐานต้นไม้ตัดสินใจสามารถตีความได้โดยมนุษย์ ทำให้เหมาะสำหรับโดเมนที่ต้องมีการกำกับดูแลหรือต้องมีการอธิบาย
  • ทำงานได้ดีบนชุดข้อมูลแบบตารางขนาดปานกลางที่มีคุณลักษณะหลากหลายประเภทโดยไม่ต้องปรับขนาดคุณลักษณะ
  • กลยุทธ์การสอบถามตามความไม่แน่นอนนั้นง่ายต่อการนำไปใช้และอธิบายให้ผู้มีส่วนได้ส่วนเสียเข้าใจ
  • ความแม่นยำแบบนอกถุง (out-of-bag) หรือความแม่นยำบนชุดข้อมูลตรวจสอบหลังจากการวนซ้ำแต่ละครั้งจะแสดงเส้นโค้งการเรียนรู้ที่โปร่งใส

การประยุกต์ใช้

  • การติดป้ายกำกับรูปภาพทางการแพทย์หรือบันทึกทางการแพทย์ ซึ่งเวลาติดป้ายกำกับของผู้เชี่ยวชาญมีจำกัด
  • การจำแนกประเภทข้อความที่มีเอกสารที่มีป้ายกำกับน้อยและคลังเอกสารที่ไม่มีป้ายกำกับจำนวนมาก
  • การตรวจจับความผิดปกติของเซ็นเซอร์และอุตสาหกรรมที่มีต้นทุนการติดป้ายกำกับสูง
  • ชุดข้อมูลทางนิเวศวิทยาหรือการสำรวจระยะไกลซึ่งการตรวจสอบภาคสนามมีค่าใช้จ่ายสูง
  • ไปป์ไลน์การตรวจจับการฉ้อโกงซึ่งสามารถตรวจสอบธุรกรรมได้เพียงเศษเสี้ยวเล็กๆ ด้วยตนเอง

วิธีการทำงาน

วิธีการทำงาน

1

ชุดข้อมูลเริ่มต้นขนาดเล็กที่มีตัวอย่างที่มีป้ายกำกับจะถูกรวบรวมเพื่อเริ่มต้นกระบวนการ พร้อมด้วยชุดข้อมูลขนาดใหญ่ที่ไม่มีป้ายกำกับ โดยทั่วไปจะเลือกชุดข้อมูลที่มีป้ายกำกับแบบสุ่มหรือผ่านการสุ่มตัวอย่างแบบแบ่งชั้นเพื่อให้แน่ใจว่ามีตัวอย่างอย่างน้อยหนึ่งตัวอย่างของแต่ละคลาสที่คาดหวังอยู่ก่อนที่วงจรการเรียนรู้เชิงรุกจะเริ่มต้น

2

ตัวจำแนกประเภทต้นไม้ตัดสินใจ (โดยทั่วไปคือ CART หรือ C4.5) จะถูกฝึกบนชุดข้อมูลที่มีป้ายกำกับในปัจจุบัน ต้นไม้จะเรียนรู้กฎการแบ่งที่ลดความไม่บริสุทธิ์ (Gini หรือ entropy) ที่แต่ละโหนด ทำให้เกิดตัวจำแนกประเภทที่สามารถส่งออกการประมาณค่าความน่าจะเป็นของคลาสสำหรับตัวอย่างที่ไม่มีป้ายกำกับใดๆ ได้

3

เกณฑ์การให้ข้อมูล - ส่วนใหญ่มักเป็นการสุ่มตัวอย่างความไม่แน่นอนตาม entropy ของการทำนาย H หรือส่วนต่างระหว่างความน่าจะเป็นของสองคลาสสูงสุด - จะให้คะแนนตัวอย่างที่ไม่มีป้ายกำกับแต่ละตัวอย่าง ตัวอย่างที่มีคะแนนความไม่แน่นอนสูงสุดจะถูกเลือกเป็นคำถาม: x* = argmax H(y-hat | x)

สูตร
x^* = \arg\max_{x \in U} H(\hat{y} \mid x)
4

ตัวอย่างที่เลือกจะถูกนำเสนอต่อผู้ให้ข้อมูล (ผู้ติดป้ายกำกับที่เป็นมนุษย์หรือกลไกการติดป้ายกำกับอัตโนมัติ) เพื่อติดป้ายกำกับ ป้ายกำกับจริงของมันจะถูกเพิ่มเข้าไปในชุดข้อมูลการฝึกอบรมที่มีป้ายกำกับ และชุดข้อมูลที่ไม่มีป้ายกำกับจะลดลงหนึ่งรายการ ขั้นตอนนี้เป็นคอขวดที่สำคัญในการใช้งานจริง และควรตรวจสอบความน่าเชื่อถือของผู้ติดป้ายกำกับ

5

ต้นไม้ตัดสินใจจะถูกฝึกใหม่ตั้งแต่ต้นบนชุดข้อมูลที่มีป้ายกำกับที่ขยายใหญ่ขึ้น และวงจรการสอบถาม-คะแนน-ป้ายกำกับจะทำซ้ำ เกณฑ์การหยุดรวมถึงการถึงงบประมาณการติดป้ายกำกับ เกณฑ์ความแม่นยำขั้นต่ำบนชุดข้อมูลตรวจสอบที่แยกออก หรือจำนวนการวนซ้ำสูงสุด การประเมินผลขั้นสุดท้ายควรใช้ชุดข้อมูลทดสอบที่เป็นอิสระอย่างสมบูรณ์

ข้อผิดพลาดที่พบบ่อย

  • การใช้ชุดข้อมูลทดสอบเพื่อนำทางกลยุทธ์การสอบถาม ซึ่งเป็นการรั่วไหลของข้อมูลและทำให้เมตริกการประเมินผลสูงเกินจริง
  • การไม่ตั้งค่า seed แบบสุ่มที่แน่นอน ทำให้ลำดับและผลลัพธ์การติดป้ายกำกับไม่สามารถทำซ้ำได้ในแต่ละครั้งที่รัน
  • การละเลยความไม่สมดุลของคลาสในชุดข้อมูลเริ่มต้น ทำให้ต้นไม้สอบถามส่วนใหญ่จากคลาสส่วนใหญ่
  • การหยุดวงจรเร็วเกินไปโดยพิจารณาจากความแม่นยำในการฝึกอบรม แทนที่จะเป็นชุดข้อมูลตรวจสอบอิสระ
  • การปฏิบัติต่อความแม่นยำของการเรียนรู้เชิงรุกขั้นสุดท้ายว่าสามารถเปรียบเทียบได้กับแบบจำลองพื้นฐานแบบกำกับดูแลเต็มรูปแบบโดยไม่ต้องรายงานจำนวนป้ายกำกับที่ใช้

คำถามที่พบบ่อย

เหตุใดจึงใช้ต้นไม้ตัดสินใจแทนแบบจำลองที่มีประสิทธิภาพมากกว่าเป็นตัวเรียนรู้พื้นฐาน

ต้นไม้ตัดสินใจสามารถฝึกใหม่ได้อย่างรวดเร็วในแต่ละรอบการทำซ้ำและสร้างการประมาณค่าความน่าจะเป็นที่จำเป็นสำหรับการให้คะแนนความไม่แน่นอน ความสามารถในการตีความก็มีความสำคัญในโดเมนที่ต้องการคำอธิบายของแบบจำลองสุดท้าย สำหรับความแม่นยำสูงสุด อาจเลือกใช้ตัวเรียนรู้เชิงรุกแบบ random forest หรือ gradient boosting โดยแลกกับความสามารถในการตีความ

ฉันต้องมีตัวอย่างที่มีป้ายกำกับเริ่มต้นกี่ตัวอย่างจึงจะเริ่มได้

กฎทั่วไปที่ใช้กันคืออย่างน้อยหนึ่งหรือสองตัวอย่างต่อคลาสเพื่อให้แน่ใจว่าต้นไม้สามารถทำการแบ่งที่สมเหตุสมผลได้ ในทางปฏิบัติ การเริ่มต้นด้วยตัวอย่างที่มีป้ายกำกับ 5-20 ตัวอย่างเป็นเรื่องปกติ น้อยกว่านั้นอาจทำให้ต้นไม้เริ่มต้นเสื่อมโทรมเกินไปที่จะให้คะแนนความไม่แน่นอนที่มีข้อมูล

ลำดับการสอบถามมีความสำคัญหรือไม่

ใช่ ลำดับการสอบถามขึ้นอยู่กับเส้นทาง: การสอบถามในช่วงต้นจะกำหนดสิ่งที่ต้นไม้เรียนรู้และดังนั้นตัวอย่างถัดไปที่ดูเหมือนไม่แน่นอนที่สุด seed แบบสุ่มที่แตกต่างกันหรือชุดข้อมูลเริ่มต้นที่มีป้ายกำกับอาจนำไปสู่เส้นโค้งการเรียนรู้ที่แตกต่างกันอย่างมาก ดังนั้นควรทำซ้ำการทดลองกับ seed ต่างๆ เมื่อเปรียบเทียบกลยุทธ์

ฉันควรหยุดการสอบถามเมื่อใด

กำหนดงบประมาณการติดป้ายกำกับล่วงหน้า หรือติดตามความแม่นยำบนชุดข้อมูลตรวจสอบและหยุดเมื่อการปรับปรุงต่อป้ายกำกับใหม่ลดลงต่ำกว่าเกณฑ์ อย่าใช้ชุดข้อมูลทดสอบเป็นเกณฑ์การหยุด เนื่องจากถือเป็นการรั่วไหลของข้อมูล

ฉันสามารถใช้วิธีการนี้กับปัญหาหลายคลาสได้หรือไม่

ได้ การสุ่มตัวอย่างความไม่แน่นอนตาม entropy สามารถขยายไปยังหลายคลาสได้อย่างเป็นธรรมชาติ สำหรับการตั้งค่าหลายคลาสที่ไม่สมดุลอย่างมาก ให้พิจารณาต้นไม้ตัดสินใจที่คำนึงถึงต้นทุนหรือถ่วงน้ำหนักตามคลาส และตรวจสอบให้แน่ใจว่าชุดข้อมูลเริ่มต้นครอบคลุมทุกคลาส

วิธีการที่เกี่ยวข้อง

แหล่งอ้างอิง

  1. Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin-Madison.

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว
  2. Breiman, L., Friedman, J., Olshen, R., & Stone, C. (1984). Classification and Regression Trees. Wadsworth & Brooks.

    ISBN: 978-0-412-04841-8
    คัดลอกแล้ว