SHAP (Shapley Toplamsal Açıklamalar; SHapley Additive exPlanations)
- Ortaya koyan
- Lundberg, S.M. & Lee, S.-I.
- Yıl
- 2017
- Tür
- Model-explanation method (Shapley-value attribution)
Bu metin makine çevirisidir ve henüz incelenmedi. Asıl metni İngilizce oku
Ne işe yarar?
SHAP, Scott Lundberg ve Su-In Lee tarafından 2017'de tanıtılan, işbirlikçi oyun kuramından Shapley değerlerini kullanarak her bir özniteliğin bireysel bir tahmine ne kadar katkıda bulunduğunu ölçen ve böylece kara kutu makine öğrenmesi modellerinin çıktısını yorumlanabilir hale getiren bir model açıklama yöntemidir.
Hem global açıklamaları (genel öznitelik önemi) hem de yerel açıklamaları (neden belirli bir tahminin o şekilde sonuçlandığı) destekler.
Yöntemin mantığı
Eğitilmiş bir model, örneğin rastgele bir orman veya derin bir ağ, bir dizi özniteliği bir tahmine dönüştürür, ancak nedenini söylemez. SHAP, oyun kuramından bir fikir ödünç alır: özniteliklerin tahmini üretmek için işbirliği yapan oyuncular olduğunu hayal edin ve 'ödülün' — bu tahmin ile ortalama tahmin arasındaki farkın — aralarında nasıl adilce bölüştürülmesi gerektiğini sorun. Her özniteliğin adil payı onun SHAP değeridir, böylece hangi özniteliklerin bir tahmini yukarı çektiğini ve hangilerinin aşağı çektiğini, tek bir vaka veya tüm veri kümesi genelinde okuyabilirsiniz.
Tarih
SHAP, 2017'de Scott Lundberg ve Su-In Lee tarafından, birkaç önceki açıklama yöntemini işbirlikçi oyun kuramının Shapley değerlerine bağlayan, model tahminlerini yorumlamak için birleşik bir yaklaşım olarak tanıtıldı. Eşlik eden TreeSHAP algoritması, ağaç tabanlı topluluklar için kesin, hızlı açıklamaları pratik hale getirdi ve SHAP o zamandan beri sağlık ve ekonomi alanlarından doğa ve davranış bilimlerine kadar birçok alanda kara kutu modellerini açmak için standart bir araç haline geldi.
Ne zaman kullanılır?
Kesitsel veya panel verilerde sürekli, kategorik veya ikili özniteliklere sahip eğitilmiş bir kara kutu modeliniz (örneğin XGBoost, rastgele orman veya derin öğrenme) olduğunda ve yalnızca doğruluğu rapor etmek yerine tahminlerini açıklamanız gerektiğinde SHAP kullanın. Hem global düzeyde (hangi öznitelikler genel olarak önemlidir) hem de yerel düzeyde (neden bir vakanın o şekilde tahmin edildiği) çalışır. En az yaklaşık 30 gözlem gereklidir; bunun altında, SHAP değerleri kararsız hale gelir ve doğrudan yorumlanabilir bir model, örneğin bir karar ağacı, daha güvenlidir.
Sınırlar ve dikkat edilmesi gerekenler
- Zaten eğitilmiş bir ML modeli gerektirir; SHAP bir modeli açıklar, bir model oluşturmaz.
- Küçük örneklemlerde (yaklaşık 30'un altındaki n) SHAP değerleri kararsızdır ve öznitelik katkıları güvenilmez hale gelir.
- KernelSHAP modelden bağımsızdır ancak özellikle büyük veri kümelerinde veya çok sayıda öznitelikte hesaplama açısından yavaştır.
- Katkı dağılımları modelin davranışını açıklar, bir özniteliğin dünyadaki gerçek nedensel etkisini değil.
Kaynak metnin koşulları, bağımsız bilimsel inceleme veya analiz motoru doğrulaması yerine geçmez.
Güçlü yönleri
- Kara kutu modelleri, her tahmini özniteliklerine atfederek yorumlanabilir hale getirir.
- Tek bir çerçeveden hem global öznitelik önemi hem de yerel tekil tahmin açıklamaları sağlar.
- Oyun kuramından Shapley değerlerine dayanır, katkı dağılımlarına ilkeli, toplamsal bir adalet temeli verir.
- TreeSHAP, rastgele orman ve XGBoost gibi ağaç tabanlı modeller için hızlı, kesin açıklamalar sağlar.
- KernelSHAP modelden bağımsızdır, bu nedenle aynı yaklaşım neredeyse her eğitilmiş model için geçerlidir.
Uygulama alanları
- Klinik, finansal veya risk kararları için kara kutu modellerinin bireysel tahminlerini açıklamak.
- Eğitilmiş bir modelin neye dayandığını anlamak için genel öznitelik önemini sıralamak.
- Modelleri adalet ve korunan (hassas) özniteliklere beklenmedik bağımlılık açısından denetlemek.
- Model davranışını, yorumlanabilir sonuçlar bekleyen değerlendiricilere ve paydaşlara iletmek.
Nasıl çalışır?
Nasıl çalışır?
SHAP, eğitilmiş bir kara kutu modele — örneğin XGBoost, rastgele orman veya derin bir ağ — dayanır. Amaç hiçbir şeyi yeniden uydurmak değil, modelin zaten öğrendiği şeyi açıklamak, tahminlerini girdi özniteliklerine atfetmektir.
Her tahmin toplamsal olarak ayrıştırılır: bir temel değere (ortalama model çıktısı) artı tüm özniteliklerin katkılarına eşittir. Her öznitelik, bu tahmin ile temel değer arasındaki farkın payı olan bir SHAP değeri alır ve bu paylar tam olarak tahmine eklenir.
Formül
f(x) = \phi_0 + \sum_{i=1}^{M} \phi_iPaylar, bir özniteliğin tahminlere eklenme yollarının tümü üzerindeki marjinal katkısının ortalamasını alan Shapley değerleri olarak hesaplanır. TreeSHAP, ağaç tabanlı modeller için bunları tam ve hızlı bir şekilde hesaplarken, modelden bağımsız KernelSHAP herhangi bir model için çalışır ancak daha yavaştır.
Ortaya çıkan SHAP değerleri yerel olarak okunabilir — hangi özniteliklerin onu yükselttiğini veya düşürdüğünü göstererek tek bir tahmini açıklayarak — veya veri kümesi boyunca toplayarak öznitelik öneminin global bir sıralamasını vererek, kara kutu bir modeli bir değerlendiricinin inceleyebileceği bir şeye dönüştürür.
Sık yapılan hatalar
- Kararlı katkı dağılımları vermek için fazla küçük bir veri kümesinde (n ~30'un altında) SHAP değerlerini hesaplamak.
- SHAP değerlerini modelin tahminlerinin açıklamaları yerine nedensel etkiler olarak okumak.
- Ağaç modelleri için TreeSHAP'ın çok daha hızlı kesin sonuçlar vereceği durumlarda büyük verilerde yavaş KernelSHAP kullanmak.
- Kötü uyum sağlamış bir modeli açıklamak ve iyi tahmin yapmayan bir modelin katkı dağılımlarına güvenmek.
Sık sorulan sorular
SHAP kullanmak için modelimi yeniden eğitmem gerekiyor mu?
Hayır. SHAP, zaten eğitmiş olduğunuz bir modeli — örneğin XGBoost, rastgele orman veya derin bir ağ — mevcut tahminlerini girdi özniteliklerine atfederek açıklar. Modeli yeniden uydurmaz veya değiştirmez.
TreeSHAP ve KernelSHAP arasındaki fark nedir?
TreeSHAP, rastgele orman ve XGBoost gibi ağaç tabanlı modeller için SHAP değerlerini hızlı ve kesin olarak hesaplar. KernelSHAP modelden bağımsızdır ve herhangi bir model için çalışır, ancak bir yaklaşımdır ve özellikle büyük verilerde önemli ölçüde daha yavaştır.
SHAP tek bir tahmini açıklayabilir mi?
Evet. Bu onun yerel modudur: tek bir vaka için her özniteliğin tahmini temel değerin ne kadar üzerine veya altına çektiğini gösterir ve katkılar tam olarak tahmine eklenir. Bunları veri kümesi boyunca toplamak global öznitelik önemini verir.
Ne kadar veriye ihtiyacım var?
En az yaklaşık 30 gözlem. Bunun altında, SHAP değerleri kararsız hale gelir ve öznitelik katkıları güvenilmez hale gelir, bu nedenle karar ağacı gibi doğrudan yorumlanabilir bir model daha güvenli bir seçimdir.
İlgili yöntemler
Kaynaklar
Lundberg, S.M. & Lee, S.-I. (2017). A Unified Approach to Interpreting Model Predictions. Advances in Neural Information Processing Systems, 30, 4766–4777.
Yayın kaynağını açKopyalandı.