SHAP (SHapley Additive exPlanations: การอธิบายแบบบวกด้วยค่า Shapley)
- ผู้เสนอ
- Lundberg, S.M. & Lee, S.-I.
- ปี
- 2017
- ประเภท
- Model-explanation method (Shapley-value attribution)
ข้อความนี้เป็นการแปลด้วยเครื่องและยังไม่ได้รับการตรวจทาน อ่านต้นฉบับภาษาอังกฤษ
ใช้ทำอะไร?
SHAP เป็นวิธีการอธิบายโมเดล ซึ่ง Scott Lundberg และ Su-In Lee นำเสนอในปี 2017 โดยใช้วิธี Shapley values จากทฤษฎีเกมแบบร่วมมือ เพื่อวัดว่าแต่ละฟีเจอร์มีส่วนช่วยในการทำนายแต่ละรายการมากน้อยเพียงใด ทำให้ผลลัพธ์ของโมเดลการเรียนรู้ของเครื่องแบบกล่องดำ (black-box) สามารถตีความได้ SHAP รองรับทั้งการอธิบายผลในภาพรวม (global explanations) และการอธิบายผลเฉพาะกรณี (local explanations) ว่าเหตุใดการทำนายเฉพาะรายการจึงออกมาเช่นนั้น
แนวคิดเบื้องหลังวิธีการ
โมเดลที่ผ่านการฝึกแล้ว เช่น random forest หรือ deep network จะแปลงแถวของฟีเจอร์ให้เป็นการทำนาย แต่จะไม่บอกเหตุผล SHAP นำแนวคิดจากทฤษฎีเกมมาใช้ โดยสมมติว่าฟีเจอร์ต่างๆ เป็นผู้เล่นที่ร่วมมือกันเพื่อให้ได้ผลการทำนาย และตั้งคำถามว่า 'ผลตอบแทน' ซึ่งก็คือส่วนต่างระหว่างการทำนายนี้กับการทำนายโดยเฉลี่ย ควรจะแบ่งปันให้กับผู้เล่นเหล่านั้นอย่างยุติธรรมอย่างไร ส่วนแบ่งที่ยุติธรรมของแต่ละฟีเจอร์คือค่า SHAP ของฟีเจอร์นั้น ทำให้เราสามารถอ่านได้ว่าฟีเจอร์ใดที่ทำให้การทำนายสูงขึ้น และฟีเจอร์ใดที่ทำให้ลดลง สำหรับกรณีเดียวหรือทั่วทั้งชุดข้อมูล
ประวัติศาสตร์
SHAP ถูกนำเสนอโดย Scott Lundberg และ Su-In Lee ในปี 2017 ในฐานะแนวทางที่เป็นหนึ่งเดียวในการตีความผลการทำนายของโมเดล โดยเชื่อมโยงวิธีการอธิบายผลก่อนหน้านี้หลายวิธีเข้ากับ Shapley values ของทฤษฎีเกมแบบร่วมมือ อัลกอริทึม TreeSHAP ที่มาพร้อมกันทำให้การอธิบายผลที่แม่นยำและรวดเร็วเป็นไปได้จริงสำหรับกลุ่มโมเดลที่ใช้ต้นไม้เป็นหลัก และนับตั้งแต่นั้นมา SHAP ก็ได้กลายเป็นเครื่องมือมาตรฐานในการไขความลับของโมเดลกล่องดำในสาขาต่างๆ ตั้งแต่สุขภาพ เศรษฐศาสตร์ ไปจนถึงวิทยาศาสตร์ธรรมชาติและพฤติกรรม
ควรใช้เมื่อใด
ใช้ SHAP เมื่อคุณมีโมเดลกล่องดำที่ผ่านการฝึกแล้ว (เช่น XGBoost, random forest หรือ deep learning) บนข้อมูลภาคตัดขวาง (cross-sectional) หรือข้อมูลแบบพาเนล (panel data) ที่มีฟีเจอร์ต่อเนื่อง, ฟีเจอร์เชิงกลุ่ม (categorical) หรือฟีเจอร์แบบไบนารี และคุณต้องการอธิบายการทำนายของโมเดลนั้น แทนที่จะรายงานเพียงแค่ความถูกต้อง (accuracy) SHAP ทำงานได้ทั้งในระดับภาพรวม (ฟีเจอร์ใดมีความสำคัญโดยรวม) และระดับเฉพาะกรณี (เหตุใดกรณีหนึ่งจึงถูกทำนายเช่นนั้น) จำเป็นต้องมีข้อมูลอย่างน้อยประมาณ 30 ตัวอย่าง (observations) หากน้อยกว่านั้น ค่า SHAP จะไม่เสถียร และโมเดลที่ตีความได้โดยตรง เช่น decision tree จะปลอดภัยกว่า
ข้อจำกัดและข้อควรพิจารณา
- ต้องใช้โมเดล ML ที่ผ่านการฝึกแล้ว SHAP อธิบายโมเดล ไม่ได้สร้างโมเดล
- ในกลุ่มตัวอย่างขนาดเล็ก (n ต่ำกว่าประมาณ 30) ค่า SHAP จะไม่เสถียร และการมีส่วนร่วมของฟีเจอร์จะไม่น่าเชื่อถือ
- KernelSHAP เป็น model-agnostic แต่ใช้ทรัพยากรในการคำนวณสูง โดยเฉพาะอย่างยิ่งกับข้อมูลขนาดใหญ่หรือมีฟีเจอร์จำนวนมาก
- การกระจายส่วนร่วมอธิบายพฤติกรรมของโมเดล ไม่ใช่ผลเชิงสาเหตุที่แท้จริงของฟีเจอร์ในโลกแห่งความเป็นจริง
เงื่อนไขจากแหล่งที่มาไม่สามารถใช้แทนการทบทวนทางวิทยาศาสตร์ที่เป็นอิสระหรือการตรวจสอบโดยเอนจินวิเคราะห์ได้
จุดแข็ง
- เปลี่ยนโมเดลกล่องดำให้สามารถตีความได้ โดยการกระจายส่วนร่วม (attribution) ของการทำนายแต่ละรายการไปยังฟีเจอร์ของมัน
- ให้ทั้งความสำคัญของฟีเจอร์ในภาพรวมและการอธิบายผลการทำนายเดียวในระดับเฉพาะกรณี จากกรอบการทำงานเดียว
- มีพื้นฐานมาจาก Shapley values จากทฤษฎีเกม ทำให้การกระจายส่วนร่วมมีหลักการรองรับ และมีสมบัติความเป็นธรรมแบบบวกรวม
- TreeSHAP ให้การอธิบายผลที่แม่นยำและรวดเร็วสำหรับโมเดลที่ใช้ต้นไม้เป็นหลัก เช่น random forest และ XGBoost
- KernelSHAP เป็น model-agnostic ดังนั้นแนวทางเดียวกันนี้จึงสามารถใช้ได้กับโมเดลเกือบทุกชนิดที่ผ่านการฝึกแล้ว
การประยุกต์ใช้
- การอธิบายผลการทำนายรายบุคคลของโมเดลกล่องดำสำหรับการตัดสินใจทางคลินิก การเงิน หรือความเสี่ยง
- การจัดอันดับความสำคัญของฟีเจอร์โดยรวม เพื่อทำความเข้าใจว่าโมเดลที่ผ่านการฝึกแล้วอาศัยอะไร
- การตรวจสอบโมเดลเพื่อความเป็นธรรมและการพึ่งพาฟีเจอร์ที่ละเอียดอ่อนโดยไม่คาดคิด
- การสื่อสารพฤติกรรมของโมเดลให้กับผู้ตรวจสอบและผู้มีส่วนได้ส่วนเสียที่คาดหวังผลลัพธ์ที่ตีความได้
วิธีการทำงาน
วิธีการทำงาน
SHAP อาศัยโมเดลกล่องดำที่ผ่านการฝึกแล้ว เช่น XGBoost, random forest หรือ deep network เป้าหมายไม่ใช่การฟิตโมเดลใหม่ แต่เป็นการอธิบายสิ่งที่โมเดลได้เรียนรู้ไปแล้ว โดยการกระจายส่วนร่วม (attribution) ของการทำนายไปยังฟีเจอร์อินพุต
การทำนายแต่ละรายการจะถูกแยกย่อยออกเป็นส่วนๆ ในลักษณะของการบวก: ผลทำนายเท่ากับค่าพื้นฐาน (ค่าเฉลี่ยของผลลัพธ์จากโมเดล) บวกกับการมีส่วนร่วมของฟีเจอร์ทั้งหมด ฟีเจอร์แต่ละรายการจะได้รับค่า SHAP ซึ่งเป็นส่วนแบ่งของผลต่างระหว่างการทำนายนี้กับค่าพื้นฐาน และส่วนแบ่งเหล่านั้นจะรวมกันเท่ากับการทำนายพอดี
สูตร
f(x) = \phi_0 + \sum_{i=1}^{M} \phi_iส่วนแบ่งเหล่านี้คำนวณเป็น Shapley values ซึ่งเป็นการหาค่าเฉลี่ยของการมีส่วนร่วมของฟีเจอร์แบบส่วนเพิ่ม (marginal contribution) ในทุกๆ วิธีที่ฟีเจอร์สามารถถูกเพิ่มเข้าไปในการทำนายได้ TreeSHAP คำนวณค่าเหล่านี้ได้อย่างแม่นยำและรวดเร็วสำหรับโมเดลที่ใช้ต้นไม้เป็นหลัก (tree-based models) ในขณะที่ KernelSHAP ซึ่งเป็น model-agnostic สามารถใช้ได้กับโมเดลใดก็ได้ แต่จะช้ากว่า
ค่า SHAP ที่ได้สามารถอ่านได้ในระดับเฉพาะกรณี (locally) เพื่ออธิบายการทำนายเดียวโดยแสดงว่าฟีเจอร์ใดทำให้สูงขึ้นหรือต่ำลง หรือสามารถรวบรวม (aggregated) ทั่วทั้งชุดข้อมูลเพื่อให้ได้การจัดอันดับความสำคัญของฟีเจอร์ในภาพรวม (globally) ทำให้โมเดลกล่องดำสามารถตรวจสอบได้โดยผู้ตรวจสอบ
ข้อผิดพลาดที่พบบ่อย
- การคำนวณค่า SHAP บนชุดข้อมูลที่เล็กเกินไป (n ต่ำกว่าประมาณ 30) เพื่อให้ได้การกระจายส่วนร่วมที่เสถียร
- การอ่านค่า SHAP เป็นผลเชิงสาเหตุ แทนที่จะเป็นการอธิบายการทำนายของโมเดล
- การใช้ KernelSHAP ที่ช้ากับข้อมูลขนาดใหญ่ เมื่อ TreeSHAP สามารถให้ผลลัพธ์ที่แม่นยำเร็วกว่ามากสำหรับโมเดลที่ใช้ต้นไม้
- การอธิบายโมเดลที่ฟิตไม่ดี และเชื่อถือการกระจายส่วนร่วมของโมเดลที่ไม่สามารถทำนายผลได้ดี
คำถามที่พบบ่อย
ฉันต้องฝึกโมเดลใหม่เพื่อใช้ SHAP หรือไม่?
ไม่ SHAP อธิบายโมเดลที่คุณฝึกแล้ว เช่น XGBoost, random forest หรือ deep network โดยการกระจายส่วนร่วม (attribution) ของการทำนายที่มีอยู่ไปยังฟีเจอร์อินพุต SHAP ไม่ได้ฟิตโมเดลใหม่หรือเปลี่ยนแปลงโมเดล
ความแตกต่างระหว่าง TreeSHAP และ KernelSHAP คืออะไร?
TreeSHAP คำนวณค่า SHAP ที่แม่นยำอย่างรวดเร็วสำหรับโมเดลที่ใช้ต้นไม้เป็นหลัก เช่น random forest และ XGBoost ส่วน KernelSHAP เป็น model-agnostic และทำงานได้กับโมเดลใดก็ได้ แต่เป็นการประมาณค่าและช้ากว่าอย่างมาก โดยเฉพาะอย่างยิ่งกับข้อมูลขนาดใหญ่
SHAP สามารถอธิบายการทำนายเดียวได้หรือไม่?
ได้ นั่นคือโหมดเฉพาะกรณี (local mode) ของมัน: สำหรับกรณีเดียว มันจะแสดงว่าฟีเจอร์แต่ละรายการผลักดันการทำนายให้สูงขึ้นหรือต่ำลงจากค่าพื้นฐานเท่าใด โดยผลรวมของการมีส่วนร่วมจะเท่ากับการทำนายพอดี การรวบรวมสิ่งเหล่านี้ทั่วทั้งชุดข้อมูลจะให้ความสำคัญของฟีเจอร์ในภาพรวม
ต้องใช้ข้อมูลเท่าใด?
อย่างน้อยประมาณ 30 ตัวอย่าง หากน้อยกว่านั้น ค่า SHAP จะไม่เสถียร และการมีส่วนร่วมของฟีเจอร์จะไม่น่าเชื่อถือ ดังนั้นโมเดลที่ตีความได้โดยตรง เช่น decision tree จึงเป็นทางเลือกที่ปลอดภัยกว่า
วิธีการที่เกี่ยวข้อง
แหล่งอ้างอิง
Lundberg, S.M. & Lee, S.-I. (2017). A Unified Approach to Interpreting Model Predictions. Advances in Neural Information Processing Systems, 30, 4766–4777.
เปิดเอกสารอ้างอิงสิ่งพิมพ์คัดลอกแล้ว