การเรียนรู้เชิงรุกร่วมกับออโตเอ็นโค้ดเดอร์สำหรับการตรวจจับความผิดปกติ
- ผู้เสนอ
- Multiple (Guo et al.; Pimentel et al.)
- ปี
- 2014–2018
- ประเภท
- Active learning + unsupervised deep anomaly detection hybrid
- กลุ่มวิธี
- Machine learning
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
การเรียนรู้เชิงรุกร่วมกับออโตเอ็นโค้ดเดอร์สำหรับการตรวจจับความผิดปกติ (Active Learning Autoencoder Anomaly Detection) ผสมผสานการให้คะแนนข้อผิดพลาดจากการสร้างใหม่แบบไม่มีผู้สอน (unsupervised reconstruction-error scoring) ของออโตเอ็นโค้ดเดอร์เข้ากับวงรอบการสอบถามแบบเรียนรู้เชิงรุก (active learning query loop) โมเดลจะตั้งค่าสถานะอินสแตนซ์ที่มีข้อผิดพลาดสูงเป็นความผิดปกติที่อาจเกิดขึ้น โดยจะเลือกสอบถามผู้เชี่ยวชาญ (human oracle) เพื่อติดป้ายกำกับอินสแตนซ์ที่มีข้อมูลมากที่สุด และทำการฝึกอบรมซ้ำเป็นระยะๆ ซึ่งจะบรรลุผลการตรวจจับความผิดปกติที่แข็งแกร่งด้วยงบประมาณการติดป้ายกำกับเพียงเล็กน้อย
แนวคิดเบื้องหลังวิธีการ
ออโตเอ็นโค้ดเดอร์แบบธรรมดาเรียนรู้ที่จะสร้างข้อมูลปกติขึ้นใหม่และตั้งค่าสถานะข้อผิดพลาดในการสร้างใหม่ที่สูงว่าเป็นความผิดปกติ แต่ไม่มีการตอบรับว่าสถานะนั้นถูกต้องหรือไม่ การเรียนรู้เชิงรุกจะเพิ่มขั้นตอนการสอบถามอัจฉริยะ: หลังจากให้คะแนนตัวอย่างที่ไม่มีป้ายกำกับทั้งหมดแล้ว ระบบจะเลือกตัวเลือกที่คลุมเครือที่สุดหรือมีข้อผิดพลาดสูงสุด และขอให้ผู้เชี่ยวชาญติดป้ายกำกับเฉพาะตัวเลือกเหล่านั้น อินสแตนซ์ที่ติดป้ายกำกับแต่ละรายการจะปรับปรุงความเข้าใจของโมเดลเกี่ยวกับสิ่งที่นับว่าเป็นความผิดปกติที่แท้จริงเทียบกับค่าผิดปกติที่มีสัญญาณรบกวนทันที ดังนั้นขอบเขตการตรวจจับจะคมชัดขึ้นด้วยความพยายามในการอธิบายประกอบน้อยที่สุด
ประวัติศาสตร์
การตรวจจับความผิดปกติโดยใช้ออโตเอ็นโค้ดเดอร์มีต้นกำเนิดมาจากวรรณกรรมเกี่ยวกับการตรวจจับสิ่งแปลกใหม่ (novelty detection) ในช่วงปี 2010 โดยมีการทบทวนอย่างครอบคลุมโดย Pimentel และคณะ (2014) การบูรณาการกับการเรียนรู้เชิงรุกได้รับแรงผลักดันจากข้อจำกัดด้านการติดป้ายกำกับในทางปฏิบัติในโดเมนต่างๆ เช่น การบุกรุกเครือข่ายและการติดตามทางการแพทย์ ภายในช่วงปลายปี 2010 เอกสารจาก Guo, Görnitz และคนอื่นๆ ได้กำหนดกลยุทธ์การสอบถามที่ปรับให้เข้ากับลักษณะของข้อผิดพลาดในการสร้างใหม่ ทำให้แนวทางแบบผสมผสานนี้เป็นที่ยอมรับในวรรณกรรมเกี่ยวกับการตรวจจับความผิดปกติแบบดีปเลิร์นนิง
ควรใช้เมื่อใด
ใช้วิธีการนี้เมื่อคุณมีข้อมูลที่ไม่มีป้ายกำกับจำนวนมากพร้อมความผิดปกติที่หายาก การติดป้ายกำกับมีค่าใช้จ่ายสูงหรือต้องอาศัยการตัดสินของผู้เชี่ยวชาญ และคุณมีงบประมาณการอธิบายประกอบเพียงเล็กน้อย วิธีการนี้เหมาะอย่างยิ่งสำหรับการตรวจจับความผิดปกติในภาคอุตสาหกรรม การคัดกรองความผิดปกติทางการแพทย์ การตรวจจับการฉ้อโกง และการตรวจจับการบุกรุก ซึ่งความผิดปกติทั้งหายากและมีความหลากหลาย หลีกเลี่ยงวิธีการนี้เมื่อคุณมีข้อมูลที่ติดป้ายกำกับเพียงพอ (วิธีการแบบมีผู้สอนจะให้ผลลัพธ์ที่ดีกว่า) หรือเมื่อผู้เชี่ยวชาญไม่พร้อมใช้งานหรือไม่น่าเชื่อถือ นอกจากนี้ยังไม่เหมาะสมเมื่อแนวคิดความผิดปกติเปลี่ยนแปลงเร็วเกินกว่าที่การฝึกอบรมซ้ำเป็นระยะๆ จะตามทัน
ข้อจำกัดและข้อควรพิจารณา
- วงรอบการสอบถามนำไปสู่ความล่าช้าของมนุษย์ในวงรอบ (human-in-the-loop latency); ผู้เชี่ยวชาญต้องพร้อมใช้งานตลอดการฝึกอบรม
- ประสิทธิภาพขึ้นอยู่กับคุณภาพของกลยุทธ์การสอบถาม — ฟังก์ชันการได้มาซึ่งข้อมูลที่ไม่ดีอาจทำให้งบประมาณการติดป้ายกำกับสูญเปล่าไปกับตัวอย่างที่ซ้ำซ้อน
- ออโตเอ็นโค้ดเดอร์อาจไม่สามารถตรวจจับความผิดปกติที่บังเอิญสร้างใหม่ได้ดี (เช่น ค่าผิดปกติที่ถูกโจมตี หรือค่าผิดปกติที่อยู่ในกลุ่มข้อมูล)
- การฝึกอบรมซ้ำเป็นระยะๆ ของเครือข่ายเชิงลึกอาจใช้ทรัพยากรในการคำนวณสูง โดยเฉพาะอย่างยิ่งสำหรับโมเดลขนาดใหญ่หรือข้อมูลแบบสตรีมมิ่ง
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- บรรลุประสิทธิภาพการตรวจจับที่แข็งแกร่งด้วยงบประมาณการติดป้ายกำกับเพียงเล็กน้อย ทำให้การอธิบายประกอบโดยผู้เชี่ยวชาญคุ้มค่า
- ขั้นตอนออโตเอ็นโค้ดเดอร์ไม่ต้องการป้ายกำกับใดๆ สำหรับการฝึกอบรมเบื้องต้น ทำให้สามารถเริ่มต้นใช้งานได้ก่อนที่จะมีการสอบถามใดๆ
- การสอบถามเชิงรุกมุ่งเน้นความพยายามในการอธิบายประกอบไปที่กรณีขอบเขตการตัดสินใจที่มีข้อมูลมากที่สุด ซึ่งช่วยปรับปรุงการสอบเทียบเกณฑ์ความผิดปกติ
- สถาปัตยกรรมที่ยืดหยุ่น: ส่วนหลักของออโตเอ็นโค้ดเดอร์สามารถสลับเปลี่ยนเป็นรูปแบบคอนโวลูชัน (convolutional) แบบเวียนซ้ำ (recurrent) หรือแบบแปรผัน (variational) เพื่อให้เหมาะกับข้อมูลประเภทต่างๆ
- ผสมผสานพลังการแทนค่าของดีปเลิร์นนิงเข้ากับประสิทธิภาพการใช้ป้ายกำกับของการเรียนรู้เชิงรุก
การประยุกต์ใช้
- การตรวจจับความผิดปกติและข้อบกพร่องในภาคอุตสาหกรรม ซึ่งตัวอย่างข้อบกพร่องที่ติดป้ายกำกับนั้นหายากและมีค่าใช้จ่ายสูงในการได้มา
- การคัดกรองความผิดปกติของภาพทางการแพทย์ด้วยการอธิบายประกอบซ้ำๆ โดยนักรังสีวิทยา
- การตรวจจับการบุกรุกเครือข่ายด้วยการติดป้ายกำกับทราฟฟิกที่น่าสงสัยโดยนักวิเคราะห์ความปลอดภัย
- การตรวจจับการฉ้อโกงในการทำธุรกรรมทางการเงิน ซึ่งรูปแบบการฉ้อโกงมีการเปลี่ยนแปลงและกรณีการฉ้อโกงที่ติดป้ายกำกับนั้นมีน้อย
- การบำรุงรักษาเชิงคาดการณ์สำหรับข้อมูลเซ็นเซอร์อนุกรมเวลา (time-series sensor data) โดยมีการติดป้ายกำกับเหตุการณ์ความล้มเหลวโดยวิศวกรน้อยที่สุด
วิธีการทำงาน
วิธีการทำงาน
ออโตเอ็นโค้ดเดอร์จะถูกฝึกอบรมเบื้องต้นด้วยข้อมูลที่ไม่มีป้ายกำกับที่มีอยู่ ซึ่งโดยหลักแล้วควรเป็นตัวอย่างปกติ ตัวเข้ารหัสจะบีบอัดอินพุตแต่ละรายการให้อยู่ในรูปของการแทนค่าในปริภูมิแฝง (latent representation) และตัวถอดรหัสจะสร้างมันขึ้นมาใหม่ เครือข่ายจะเรียนรู้รูปแบบของข้อมูลปกติโดยการลดข้อผิดพลาดในการสร้างใหม่ให้เหลือน้อยที่สุดทั่วทั้งชุดข้อมูลฝึกอบรม
หลังจากการฝึกอบรม อินสแตนซ์ที่ไม่มีป้ายกำกับแต่ละรายการจะได้รับคะแนนความผิดปกติเท่ากับข้อผิดพลาดในการสร้างใหม่ (ค่าเฉลี่ยของความคลาดเคลื่อนกำลังสอง หรือ ค่าเฉลี่ยของความคลาดเคลื่อนสัมบูรณ์) อินสแตนซ์ที่ออโตเอ็นโค้ดเดอร์ไม่สามารถสร้างใหม่ได้ดีจะเบี่ยงเบนไปจากรูปแบบปกติที่เรียนรู้มาและได้คะแนนสูงสุด
สูตร
s_i = \|x_i - \hat{x}_i\|^2ฟังก์ชันการได้มาซึ่งข้อมูลสำหรับการเรียนรู้เชิงรุก (active learning acquisition function) เช่น ข้อผิดพลาดในการสร้างใหม่สูงสุด การสุ่มตัวอย่างตามส่วนต่าง หรือความไม่แน่นอนจากตัวจำแนกประเภทดาวน์สตรีม จะเลือกอินสแตนซ์ที่ไม่มีป้ายกำกับซึ่งมีข้อมูลมากที่สุดและนำเสนอต่อผู้เชี่ยวชาญเพื่อติดป้ายกำกับ มีการใช้เพียงงบประมาณการสอบถามจำนวนเล็กน้อยในแต่ละรอบ
อินสแตนซ์ที่ติดป้ายกำกับใหม่จะถูกรวมเข้ากับชุดข้อมูลฝึกอบรม ออโตเอ็นโค้ดเดอร์ (และส่วนหัวแบบมีผู้สอนที่ฝึกอบรมด้วยคู่ความผิดปกติ/ปกติที่ติดป้ายกำกับ) จะถูกฝึกอบรมใหม่หรือปรับแต่งเพิ่มเติม คะแนนความผิดปกติจะถูกคำนวณใหม่ และวงรอบการสอบถาม-ติดป้ายกำกับ-ฝึกอบรมซ้ำจะดำเนินต่อไปจนกว่างบประมาณการอธิบายประกอบจะหมดลง
จะมีการเลือกเกณฑ์การตัดสินใจ (decision threshold) จากข้อผิดพลาดในการสร้างใหม่ ซึ่งมักจะผ่านการตรวจสอบความถูกต้องบนชุดย่อยที่ติดป้ายกำกับ และอินสแตนซ์ที่ไม่มีป้ายกำกับทั้งหมดที่อยู่เหนือเกณฑ์นี้จะถูกจำแนกเป็นความผิดปกติ การตอบรับแบบมีป้ายกำกับจากการเรียนรู้เชิงรุกทำให้การเลือกเกณฑ์นี้มีหลักการมากขึ้นกว่าการอาศัยควอนไทล์ตามอำเภอใจ
ข้อผิดพลาดที่พบบ่อย
- การฝึกอบรมออโตเอ็นโค้ดเดอร์ด้วยชุดข้อมูลที่มีความผิดปกติอยู่แล้วจำนวนมากจะทำให้เส้นฐานการสร้างใหม่บิดเบือนและลดทอนการให้คะแนน
- การใช้ข้อผิดพลาดในการสร้างใหม่เพียงอย่างเดียวเป็นฟังก์ชันการสอบถามโดยไม่พิจารณาความหลากหลาย อาจนำไปสู่การสอบถามที่ซ้ำซ้อนในบริเวณปกติที่มีความหนาแน่นสูง
- การละเลยความไม่สมดุลของคลาสเมื่อปรับแต่งด้วยข้อมูลที่ติดป้ายกำกับ; ป้ายกำกับความผิดปกติที่หายากจำเป็นต้องมีการให้น้ำหนักเพิ่ม หรือการสุ่มตัวอย่างเกิน (oversampling)
- การตั้งค่าเกณฑ์ความผิดปกติบนข้อมูลที่ไม่มีป้ายกำกับโดยไม่ใช้ป้ายกำกับที่มาจากผู้เชี่ยวชาญจะทำให้วัตถุประสงค์ของการเรียนรู้เชิงรุกเสียไป
- การหยุดวงรอบการสอบถามเร็วเกินไปก่อนที่ขอบเขตการตัดสินใจจะเสถียร และการปฏิบัติต่อคะแนนการสร้างใหม่เริ่มต้นเสมือนเป็นคะแนนสุดท้าย
คำถามที่พบบ่อย
โดยทั่วไปต้องใช้การสอบถามที่ติดป้ายกำกับกี่ครั้ง?
ผลลัพธ์แตกต่างกันไปตามชุดข้อมูลและความหายากของความผิดปกติ แต่งานวิจัยส่วนใหญ่มักแสดงให้เห็นถึงการปรับปรุงที่มีความหมายด้วยการสอบถามที่ติดป้ายกำกับเพียง 20-100 ครั้ง สิ่งสำคัญคือกลยุทธ์การเรียนรู้เชิงรุกจะมุ่งเน้นการสอบถามเหล่านี้ไปยังตัวอย่างที่ขอบเขตการตัดสินใจมีความไม่แน่นอนมากที่สุด แทนที่จะเป็นการสุ่ม
ควรใช้กลยุทธ์การสอบถามใด?
ข้อผิดพลาดในการสร้างใหม่สูงสุดเป็นจุดเริ่มต้นที่ง่ายที่สุดและมักจะแข่งขันได้ ตัวเลือกที่ซับซ้อนกว่า ได้แก่ การสุ่มตัวอย่างความไม่แน่นอนจากตัวจำแนกประเภททวิภาคีดาวน์สตรีมที่ฝึกอบรมบนชุดย่อยที่ติดป้ายกำกับ หรือกลยุทธ์แบบผสมที่สมดุลระหว่างข้อมูลเชิงลึกและความหลากหลายเพื่อหลีกเลี่ยงการสอบถามกลุ่มที่ซ้ำซ้อน
จำเป็นต้องใช้ variational autoencoder (VAE) แทน autoencoder แบบธรรมดาหรือไม่?
ออโตเอ็นโค้ดเดอร์มาตรฐานใช้ได้กับงานส่วนใหญ่ที่เป็นตารางข้อมูลและอนุกรมเวลา VAE ให้ปริภูมิแฝงแบบความน่าจะเป็น (probabilistic latent space) ที่สามารถให้การประมาณค่าความไม่แน่นอนที่ดีขึ้นสำหรับการเลือกการสอบถาม ทำให้เหมาะสำหรับข้อมูลรูปภาพ หรือเมื่อคะแนนความไม่แน่นอนที่สอบเทียบแล้วมีความสำคัญ
จะประเมินประสิทธิภาพได้อย่างไรเมื่อข้อมูลส่วนใหญ่ไม่มีป้ายกำกับ?
ใช้ชุดย่อยที่ติดป้ายกำกับโดยผู้เชี่ยวชาญเป็นชุดตรวจสอบที่แยกออก (held-out validation set) เพื่อคำนวณค่าความแม่นยำ (precision) ค่าความระลึก (recall) และ AUC-ROC สำหรับกลุ่มข้อมูลที่ไม่มีป้ายกำกับ ให้รายงานการกระจายตัวของข้อผิดพลาดในการสร้างใหม่ก่อนและหลังรอบการเรียนรู้เชิงรุก เพื่อยืนยันว่าโมเดลกำลังปรับปรุง
สามารถใช้ในสภาพแวดล้อมแบบสตรีมมิ่งหรือแบบออนไลน์ได้หรือไม่?
ได้ แต่ต้องปรับวงรอบการสอบถามให้เข้ากับหน้าต่างเลื่อน (sliding window) หรือระเบียบวิธีแบบมินิแบตช์ (mini-batch regime) ออโตเอ็นโค้ดเดอร์ควรได้รับการอัปเดตแบบเพิ่มหน่วย (incrementally) และการจัดการงบประมาณต้องคำนึงถึงการเปลี่ยนแปลงของแนวคิด (concept drift) — ความผิดปกติที่พบในช่วงแรกอาจแตกต่างจากที่ปรากฏในภายหลัง
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Pimentel, M. A. F., Clifton, D. A., Clifton, L., & Tarassenko, L. (2014). A review of novelty detection. Signal Processing, 99, 215–249.
เปิดเอกสารอ้างอิง DOIคัดลอกแล้วZhu, Y., Lukasiewicz, T. (2020). DPLAN: Discourse-level Plan-based Text Generation. Proceedings of the 28th International Conference on Computational Linguistics, 3464–3474. (See also: Guo et al. (2018). Deep Active Learning for Anomaly Detection. Neurocomputing, 290, 135–143.)
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว