Skip to content
กลับไปยังผลการค้นหา

การเรียนรู้เชิงรุกร่วมกับออโตเอ็นโค้ดเดอร์สำหรับการตรวจจับความผิดปกติ

ผู้เสนอ
Multiple (Guo et al.; Pimentel et al.)
ปี
2014–2018
ประเภท
Active learning + unsupervised deep anomaly detection hybrid
กลุ่มวิธี
Machine learning

ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ

ขนาดตัวอักษร

ใช้ทำอะไร?

การเรียนรู้เชิงรุกร่วมกับออโตเอ็นโค้ดเดอร์สำหรับการตรวจจับความผิดปกติ (Active Learning Autoencoder Anomaly Detection) ผสมผสานการให้คะแนนข้อผิดพลาดจากการสร้างใหม่แบบไม่มีผู้สอน (unsupervised reconstruction-error scoring) ของออโตเอ็นโค้ดเดอร์เข้ากับวงรอบการสอบถามแบบเรียนรู้เชิงรุก (active learning query loop) โมเดลจะตั้งค่าสถานะอินสแตนซ์ที่มีข้อผิดพลาดสูงเป็นความผิดปกติที่อาจเกิดขึ้น โดยจะเลือกสอบถามผู้เชี่ยวชาญ (human oracle) เพื่อติดป้ายกำกับอินสแตนซ์ที่มีข้อมูลมากที่สุด และทำการฝึกอบรมซ้ำเป็นระยะๆ ซึ่งจะบรรลุผลการตรวจจับความผิดปกติที่แข็งแกร่งด้วยงบประมาณการติดป้ายกำกับเพียงเล็กน้อย

แนวคิดเบื้องหลังวิธีการ

ออโตเอ็นโค้ดเดอร์แบบธรรมดาเรียนรู้ที่จะสร้างข้อมูลปกติขึ้นใหม่และตั้งค่าสถานะข้อผิดพลาดในการสร้างใหม่ที่สูงว่าเป็นความผิดปกติ แต่ไม่มีการตอบรับว่าสถานะนั้นถูกต้องหรือไม่ การเรียนรู้เชิงรุกจะเพิ่มขั้นตอนการสอบถามอัจฉริยะ: หลังจากให้คะแนนตัวอย่างที่ไม่มีป้ายกำกับทั้งหมดแล้ว ระบบจะเลือกตัวเลือกที่คลุมเครือที่สุดหรือมีข้อผิดพลาดสูงสุด และขอให้ผู้เชี่ยวชาญติดป้ายกำกับเฉพาะตัวเลือกเหล่านั้น อินสแตนซ์ที่ติดป้ายกำกับแต่ละรายการจะปรับปรุงความเข้าใจของโมเดลเกี่ยวกับสิ่งที่นับว่าเป็นความผิดปกติที่แท้จริงเทียบกับค่าผิดปกติที่มีสัญญาณรบกวนทันที ดังนั้นขอบเขตการตรวจจับจะคมชัดขึ้นด้วยความพยายามในการอธิบายประกอบน้อยที่สุด

ประวัติศาสตร์

การตรวจจับความผิดปกติโดยใช้ออโตเอ็นโค้ดเดอร์มีต้นกำเนิดมาจากวรรณกรรมเกี่ยวกับการตรวจจับสิ่งแปลกใหม่ (novelty detection) ในช่วงปี 2010 โดยมีการทบทวนอย่างครอบคลุมโดย Pimentel และคณะ (2014) การบูรณาการกับการเรียนรู้เชิงรุกได้รับแรงผลักดันจากข้อจำกัดด้านการติดป้ายกำกับในทางปฏิบัติในโดเมนต่างๆ เช่น การบุกรุกเครือข่ายและการติดตามทางการแพทย์ ภายในช่วงปลายปี 2010 เอกสารจาก Guo, Görnitz และคนอื่นๆ ได้กำหนดกลยุทธ์การสอบถามที่ปรับให้เข้ากับลักษณะของข้อผิดพลาดในการสร้างใหม่ ทำให้แนวทางแบบผสมผสานนี้เป็นที่ยอมรับในวรรณกรรมเกี่ยวกับการตรวจจับความผิดปกติแบบดีปเลิร์นนิง

ควรใช้เมื่อใด

ใช้วิธีการนี้เมื่อคุณมีข้อมูลที่ไม่มีป้ายกำกับจำนวนมากพร้อมความผิดปกติที่หายาก การติดป้ายกำกับมีค่าใช้จ่ายสูงหรือต้องอาศัยการตัดสินของผู้เชี่ยวชาญ และคุณมีงบประมาณการอธิบายประกอบเพียงเล็กน้อย วิธีการนี้เหมาะอย่างยิ่งสำหรับการตรวจจับความผิดปกติในภาคอุตสาหกรรม การคัดกรองความผิดปกติทางการแพทย์ การตรวจจับการฉ้อโกง และการตรวจจับการบุกรุก ซึ่งความผิดปกติทั้งหายากและมีความหลากหลาย หลีกเลี่ยงวิธีการนี้เมื่อคุณมีข้อมูลที่ติดป้ายกำกับเพียงพอ (วิธีการแบบมีผู้สอนจะให้ผลลัพธ์ที่ดีกว่า) หรือเมื่อผู้เชี่ยวชาญไม่พร้อมใช้งานหรือไม่น่าเชื่อถือ นอกจากนี้ยังไม่เหมาะสมเมื่อแนวคิดความผิดปกติเปลี่ยนแปลงเร็วเกินกว่าที่การฝึกอบรมซ้ำเป็นระยะๆ จะตามทัน

ข้อจำกัดและข้อควรพิจารณา

  • วงรอบการสอบถามนำไปสู่ความล่าช้าของมนุษย์ในวงรอบ (human-in-the-loop latency); ผู้เชี่ยวชาญต้องพร้อมใช้งานตลอดการฝึกอบรม
  • ประสิทธิภาพขึ้นอยู่กับคุณภาพของกลยุทธ์การสอบถาม — ฟังก์ชันการได้มาซึ่งข้อมูลที่ไม่ดีอาจทำให้งบประมาณการติดป้ายกำกับสูญเปล่าไปกับตัวอย่างที่ซ้ำซ้อน
  • ออโตเอ็นโค้ดเดอร์อาจไม่สามารถตรวจจับความผิดปกติที่บังเอิญสร้างใหม่ได้ดี (เช่น ค่าผิดปกติที่ถูกโจมตี หรือค่าผิดปกติที่อยู่ในกลุ่มข้อมูล)
  • การฝึกอบรมซ้ำเป็นระยะๆ ของเครือข่ายเชิงลึกอาจใช้ทรัพยากรในการคำนวณสูง โดยเฉพาะอย่างยิ่งสำหรับโมเดลขนาดใหญ่หรือข้อมูลแบบสตรีมมิ่ง

เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้

จุดแข็ง

  • บรรลุประสิทธิภาพการตรวจจับที่แข็งแกร่งด้วยงบประมาณการติดป้ายกำกับเพียงเล็กน้อย ทำให้การอธิบายประกอบโดยผู้เชี่ยวชาญคุ้มค่า
  • ขั้นตอนออโตเอ็นโค้ดเดอร์ไม่ต้องการป้ายกำกับใดๆ สำหรับการฝึกอบรมเบื้องต้น ทำให้สามารถเริ่มต้นใช้งานได้ก่อนที่จะมีการสอบถามใดๆ
  • การสอบถามเชิงรุกมุ่งเน้นความพยายามในการอธิบายประกอบไปที่กรณีขอบเขตการตัดสินใจที่มีข้อมูลมากที่สุด ซึ่งช่วยปรับปรุงการสอบเทียบเกณฑ์ความผิดปกติ
  • สถาปัตยกรรมที่ยืดหยุ่น: ส่วนหลักของออโตเอ็นโค้ดเดอร์สามารถสลับเปลี่ยนเป็นรูปแบบคอนโวลูชัน (convolutional) แบบเวียนซ้ำ (recurrent) หรือแบบแปรผัน (variational) เพื่อให้เหมาะกับข้อมูลประเภทต่างๆ
  • ผสมผสานพลังการแทนค่าของดีปเลิร์นนิงเข้ากับประสิทธิภาพการใช้ป้ายกำกับของการเรียนรู้เชิงรุก

การประยุกต์ใช้

  • การตรวจจับความผิดปกติและข้อบกพร่องในภาคอุตสาหกรรม ซึ่งตัวอย่างข้อบกพร่องที่ติดป้ายกำกับนั้นหายากและมีค่าใช้จ่ายสูงในการได้มา
  • การคัดกรองความผิดปกติของภาพทางการแพทย์ด้วยการอธิบายประกอบซ้ำๆ โดยนักรังสีวิทยา
  • การตรวจจับการบุกรุกเครือข่ายด้วยการติดป้ายกำกับทราฟฟิกที่น่าสงสัยโดยนักวิเคราะห์ความปลอดภัย
  • การตรวจจับการฉ้อโกงในการทำธุรกรรมทางการเงิน ซึ่งรูปแบบการฉ้อโกงมีการเปลี่ยนแปลงและกรณีการฉ้อโกงที่ติดป้ายกำกับนั้นมีน้อย
  • การบำรุงรักษาเชิงคาดการณ์สำหรับข้อมูลเซ็นเซอร์อนุกรมเวลา (time-series sensor data) โดยมีการติดป้ายกำกับเหตุการณ์ความล้มเหลวโดยวิศวกรน้อยที่สุด

วิธีการทำงาน

วิธีการทำงาน

1

ออโตเอ็นโค้ดเดอร์จะถูกฝึกอบรมเบื้องต้นด้วยข้อมูลที่ไม่มีป้ายกำกับที่มีอยู่ ซึ่งโดยหลักแล้วควรเป็นตัวอย่างปกติ ตัวเข้ารหัสจะบีบอัดอินพุตแต่ละรายการให้อยู่ในรูปของการแทนค่าในปริภูมิแฝง (latent representation) และตัวถอดรหัสจะสร้างมันขึ้นมาใหม่ เครือข่ายจะเรียนรู้รูปแบบของข้อมูลปกติโดยการลดข้อผิดพลาดในการสร้างใหม่ให้เหลือน้อยที่สุดทั่วทั้งชุดข้อมูลฝึกอบรม

2

หลังจากการฝึกอบรม อินสแตนซ์ที่ไม่มีป้ายกำกับแต่ละรายการจะได้รับคะแนนความผิดปกติเท่ากับข้อผิดพลาดในการสร้างใหม่ (ค่าเฉลี่ยของความคลาดเคลื่อนกำลังสอง หรือ ค่าเฉลี่ยของความคลาดเคลื่อนสัมบูรณ์) อินสแตนซ์ที่ออโตเอ็นโค้ดเดอร์ไม่สามารถสร้างใหม่ได้ดีจะเบี่ยงเบนไปจากรูปแบบปกติที่เรียนรู้มาและได้คะแนนสูงสุด

สูตร
s_i = \|x_i - \hat{x}_i\|^2
3

ฟังก์ชันการได้มาซึ่งข้อมูลสำหรับการเรียนรู้เชิงรุก (active learning acquisition function) เช่น ข้อผิดพลาดในการสร้างใหม่สูงสุด การสุ่มตัวอย่างตามส่วนต่าง หรือความไม่แน่นอนจากตัวจำแนกประเภทดาวน์สตรีม จะเลือกอินสแตนซ์ที่ไม่มีป้ายกำกับซึ่งมีข้อมูลมากที่สุดและนำเสนอต่อผู้เชี่ยวชาญเพื่อติดป้ายกำกับ มีการใช้เพียงงบประมาณการสอบถามจำนวนเล็กน้อยในแต่ละรอบ

4

อินสแตนซ์ที่ติดป้ายกำกับใหม่จะถูกรวมเข้ากับชุดข้อมูลฝึกอบรม ออโตเอ็นโค้ดเดอร์ (และส่วนหัวแบบมีผู้สอนที่ฝึกอบรมด้วยคู่ความผิดปกติ/ปกติที่ติดป้ายกำกับ) จะถูกฝึกอบรมใหม่หรือปรับแต่งเพิ่มเติม คะแนนความผิดปกติจะถูกคำนวณใหม่ และวงรอบการสอบถาม-ติดป้ายกำกับ-ฝึกอบรมซ้ำจะดำเนินต่อไปจนกว่างบประมาณการอธิบายประกอบจะหมดลง

5

จะมีการเลือกเกณฑ์การตัดสินใจ (decision threshold) จากข้อผิดพลาดในการสร้างใหม่ ซึ่งมักจะผ่านการตรวจสอบความถูกต้องบนชุดย่อยที่ติดป้ายกำกับ และอินสแตนซ์ที่ไม่มีป้ายกำกับทั้งหมดที่อยู่เหนือเกณฑ์นี้จะถูกจำแนกเป็นความผิดปกติ การตอบรับแบบมีป้ายกำกับจากการเรียนรู้เชิงรุกทำให้การเลือกเกณฑ์นี้มีหลักการมากขึ้นกว่าการอาศัยควอนไทล์ตามอำเภอใจ

ข้อผิดพลาดที่พบบ่อย

  • การฝึกอบรมออโตเอ็นโค้ดเดอร์ด้วยชุดข้อมูลที่มีความผิดปกติอยู่แล้วจำนวนมากจะทำให้เส้นฐานการสร้างใหม่บิดเบือนและลดทอนการให้คะแนน
  • การใช้ข้อผิดพลาดในการสร้างใหม่เพียงอย่างเดียวเป็นฟังก์ชันการสอบถามโดยไม่พิจารณาความหลากหลาย อาจนำไปสู่การสอบถามที่ซ้ำซ้อนในบริเวณปกติที่มีความหนาแน่นสูง
  • การละเลยความไม่สมดุลของคลาสเมื่อปรับแต่งด้วยข้อมูลที่ติดป้ายกำกับ; ป้ายกำกับความผิดปกติที่หายากจำเป็นต้องมีการให้น้ำหนักเพิ่ม หรือการสุ่มตัวอย่างเกิน (oversampling)
  • การตั้งค่าเกณฑ์ความผิดปกติบนข้อมูลที่ไม่มีป้ายกำกับโดยไม่ใช้ป้ายกำกับที่มาจากผู้เชี่ยวชาญจะทำให้วัตถุประสงค์ของการเรียนรู้เชิงรุกเสียไป
  • การหยุดวงรอบการสอบถามเร็วเกินไปก่อนที่ขอบเขตการตัดสินใจจะเสถียร และการปฏิบัติต่อคะแนนการสร้างใหม่เริ่มต้นเสมือนเป็นคะแนนสุดท้าย

คำถามที่พบบ่อย

โดยทั่วไปต้องใช้การสอบถามที่ติดป้ายกำกับกี่ครั้ง?

ผลลัพธ์แตกต่างกันไปตามชุดข้อมูลและความหายากของความผิดปกติ แต่งานวิจัยส่วนใหญ่มักแสดงให้เห็นถึงการปรับปรุงที่มีความหมายด้วยการสอบถามที่ติดป้ายกำกับเพียง 20-100 ครั้ง สิ่งสำคัญคือกลยุทธ์การเรียนรู้เชิงรุกจะมุ่งเน้นการสอบถามเหล่านี้ไปยังตัวอย่างที่ขอบเขตการตัดสินใจมีความไม่แน่นอนมากที่สุด แทนที่จะเป็นการสุ่ม

ควรใช้กลยุทธ์การสอบถามใด?

ข้อผิดพลาดในการสร้างใหม่สูงสุดเป็นจุดเริ่มต้นที่ง่ายที่สุดและมักจะแข่งขันได้ ตัวเลือกที่ซับซ้อนกว่า ได้แก่ การสุ่มตัวอย่างความไม่แน่นอนจากตัวจำแนกประเภททวิภาคีดาวน์สตรีมที่ฝึกอบรมบนชุดย่อยที่ติดป้ายกำกับ หรือกลยุทธ์แบบผสมที่สมดุลระหว่างข้อมูลเชิงลึกและความหลากหลายเพื่อหลีกเลี่ยงการสอบถามกลุ่มที่ซ้ำซ้อน

จำเป็นต้องใช้ variational autoencoder (VAE) แทน autoencoder แบบธรรมดาหรือไม่?

ออโตเอ็นโค้ดเดอร์มาตรฐานใช้ได้กับงานส่วนใหญ่ที่เป็นตารางข้อมูลและอนุกรมเวลา VAE ให้ปริภูมิแฝงแบบความน่าจะเป็น (probabilistic latent space) ที่สามารถให้การประมาณค่าความไม่แน่นอนที่ดีขึ้นสำหรับการเลือกการสอบถาม ทำให้เหมาะสำหรับข้อมูลรูปภาพ หรือเมื่อคะแนนความไม่แน่นอนที่สอบเทียบแล้วมีความสำคัญ

จะประเมินประสิทธิภาพได้อย่างไรเมื่อข้อมูลส่วนใหญ่ไม่มีป้ายกำกับ?

ใช้ชุดย่อยที่ติดป้ายกำกับโดยผู้เชี่ยวชาญเป็นชุดตรวจสอบที่แยกออก (held-out validation set) เพื่อคำนวณค่าความแม่นยำ (precision) ค่าความระลึก (recall) และ AUC-ROC สำหรับกลุ่มข้อมูลที่ไม่มีป้ายกำกับ ให้รายงานการกระจายตัวของข้อผิดพลาดในการสร้างใหม่ก่อนและหลังรอบการเรียนรู้เชิงรุก เพื่อยืนยันว่าโมเดลกำลังปรับปรุง

สามารถใช้ในสภาพแวดล้อมแบบสตรีมมิ่งหรือแบบออนไลน์ได้หรือไม่?

ได้ แต่ต้องปรับวงรอบการสอบถามให้เข้ากับหน้าต่างเลื่อน (sliding window) หรือระเบียบวิธีแบบมินิแบตช์ (mini-batch regime) ออโตเอ็นโค้ดเดอร์ควรได้รับการอัปเดตแบบเพิ่มหน่วย (incrementally) และการจัดการงบประมาณต้องคำนึงถึงการเปลี่ยนแปลงของแนวคิด (concept drift) — ความผิดปกติที่พบในช่วงแรกอาจแตกต่างจากที่ปรากฏในภายหลัง

วิธีการที่เกี่ยวข้อง

แหล่งอ้างอิง

  1. Pimentel, M. A. F., Clifton, D. A., Clifton, L., & Tarassenko, L. (2014). A review of novelty detection. Signal Processing, 99, 215–249.

    เปิดเอกสารอ้างอิง DOI
    คัดลอกแล้ว
  2. Zhu, Y., Lukasiewicz, T. (2020). DPLAN: Discourse-level Plan-based Text Generation. Proceedings of the 28th International Conference on Computational Linguistics, 3464–3474. (See also: Guo et al. (2018). Deep Active Learning for Anomaly Detection. Neurocomputing, 290, 135–143.)

    เปิดเอกสารอ้างอิงสิ่งพิมพ์
    คัดลอกแล้ว