SHAP (SHapley Additive exPlanations)
- Eingeführt von
- Lundberg, S.M. & Lee, S.-I.
- Jahr
- 2017
- Typ
- Model-explanation method (Shapley-value attribution)
Dieser Text ist eine maschinelle Übersetzung und wurde noch nicht geprüft. Original auf Englisch lesen
Was leistet sie?
SHAP ist eine Methode zur Modellinterpretation, die 2017 von Scott Lundberg und Su-In Lee eingeführt wurde und Shapley-Werte aus der kooperativen Spieltheorie verwendet, um zu messen, wie stark jedes Merkmal zu einer einzelnen Vorhersage beiträgt, wodurch die Ausgabe von Black-Box-Maschinenlernmodellen interpretierbar wird.
Sie unterstützt sowohl globale Erklärungen (Gesamtbedeutung von Merkmalen) als auch lokale Erklärungen (warum eine bestimmte Vorhersage so ausfiel).
Die Intuition hinter der Methode
Ein trainiertes Modell wie ein Zufallswald oder ein tiefes neuronales Netz wandelt eine Zeile von Merkmalen in eine Vorhersage um, aber es sagt Ihnen nicht, warum. SHAP leiht sich eine Idee aus der Spieltheorie: Stellen Sie sich vor, die Merkmale sind Spieler, die kooperieren, um die Vorhersage zu erzeugen, und fragen Sie, wie die „Auszahlung“ – die Differenz zwischen dieser Vorhersage und der durchschnittlichen Vorhersage – fair unter ihnen aufgeteilt werden sollte. Der faire Anteil jedes Merkmals ist sein SHAP-Wert, sodass Sie ablesen können, welche Merkmale eine Vorhersage nach oben gedrückt und welche sie nach unten gezogen haben, für einen einzelnen Fall oder über den gesamten Datensatz hinweg.
Geschichte
SHAP wurde 2017 von Scott Lundberg und Su-In Lee als einheitlicher Ansatz zur Interpretation von Modellvorhersagen eingeführt und verband mehrere frühere Erklärungsmethoden mit den Shapley-Werten der kooperativen Spieltheorie. Der begleitende TreeSHAP-Algorithmus machte exakte, schnelle Erklärungen für baumbasierte Ensembles praktikabel, und SHAP ist seitdem zu einem Standardwerkzeug geworden, um Black-Box-Modelle in Bereichen von Gesundheit und Wirtschaft bis hin zu Natur- und Verhaltenswissenschaften zu öffnen.
Wann wird sie eingesetzt?
Verwenden Sie SHAP, wenn Sie bereits ein trainiertes Black-Box-Modell (wie XGBoost, Zufallswald oder Deep Learning) auf Querschnitts- oder Paneldaten mit kontinuierlichen, kategorialen oder binären Merkmalen haben und dessen Vorhersagen erklären müssen, anstatt nur die Genauigkeit zu berichten. Es funktioniert sowohl auf globaler Ebene (welche Merkmale insgesamt wichtig sind) als auch auf lokaler Ebene (warum ein Fall so vorhergesagt wurde, wie er wurde). Es werden mindestens etwa 30 Beobachtungen benötigt; darunter werden SHAP-Werte instabil und ein direkt interpretierbares Modell wie ein Entscheidungsbaum ist sicherer.
Grenzen und Hinweise
- Erfordert ein bereits trainiertes ML-Modell; SHAP erklärt ein Modell, es baut keines.
- Bei kleinen Stichproben (n unter ca. 30) sind SHAP-Werte instabil und Merkmalbeiträge werden unzuverlässig.
- KernelSHAP ist modellagnostisch, aber rechenintensiv, insbesondere bei großen Datensätzen oder vielen Merkmalen.
- Zuordnungen beschreiben das Verhalten des Modells, nicht den tatsächlichen kausalen Effekt eines Merkmals in der Welt.
Die Bedingungen der Quelle ersetzen weder eine unabhängige wissenschaftliche Prüfung noch die Validierung durch eine Analyse-Engine.
Stärken
- Macht Black-Box-Modelle interpretierbar, indem jede Vorhersage ihren Merkmalen zugeordnet wird.
- Bietet sowohl globale Merkmalbedeutung als auch lokale Erklärungen für einzelne Vorhersagen aus einem einzigen Framework.
- Basiert auf Shapley-Werten aus der Spieltheorie und gibt den Zuordnungen eine prinzipienbasierte, additive Fairness-Basis.
- TreeSHAP liefert schnelle, exakte Erklärungen für baumbasierte Modelle wie Zufallswald und XGBoost.
- KernelSHAP ist modellagnostisch, sodass derselbe Ansatz für fast jedes trainierte Modell gilt.
Anwendungen
- Erklärung individueller Vorhersagen von Black-Box-Modellen für klinische, finanzielle oder Risikobewertungsentscheidungen.
- Rangfolge der gesamten Merkmalbedeutung, um zu verstehen, worauf ein trainiertes Modell angewiesen ist.
- Prüfung von Modellen auf Fairness und unerwartete Abhängigkeit von sensiblen Merkmalen.
- Kommunikation des Modellverhaltens an Gutachter und Stakeholder, die interpretierbare Ergebnisse erwarten.
So funktioniert es
So funktioniert es
SHAP ruht auf einem trainierten Black-Box-Modell – zum Beispiel XGBoost, einem Zufallswald oder einem tiefen neuronalen Netz. Das Ziel ist nicht, etwas neu anzupassen, sondern zu erklären, was dieses Modell bereits gelernt hat, und seine Vorhersagen den Eingabemerkmalen zuzuordnen.
Jede Vorhersage wird additiv zerlegt: Sie entspricht einem Basiswert (der durchschnittlichen Modellausgabe) plus den Beiträgen aller Merkmale. Jedes Merkmal erhält einen SHAP-Wert, seinen Anteil an der Differenz zwischen dieser Vorhersage und dem Basiswert, und diese Anteile summieren sich exakt zur Vorhersage.
Formel
f(x) = \phi_0 + \sum_{i=1}^{M} \phi_iDie Anteile werden als Shapley-Werte berechnet, die den marginalen Beitrag eines Merkmals über alle Möglichkeiten mitteln, wie Merkmale zur Vorhersage hinzugefügt werden können. TreeSHAP berechnet diese exakt und schnell für baumbasierte Modelle, während das modellagnostische KernelSHAP für jedes Modell funktioniert, aber langsamer ist.
Die resultierenden SHAP-Werte können lokal gelesen werden – um eine einzelne Vorhersage zu erklären, indem gezeigt wird, welche Merkmale sie erhöht oder verringert haben – oder über den Datensatz aggregiert werden, um eine globale Rangfolge der Merkmalbedeutung zu erhalten, wodurch ein Black-Box-Modell zu etwas wird, das ein Prüfer untersuchen kann.
Häufige Fallstricke
- Berechnung von SHAP-Werten auf einem zu kleinen Datensatz (n unter ca. 30) zur Erzielung stabiler Zuordnungen.
- Lesen von SHAP-Werten als kausale Effekte statt als Erklärungen der Modellvorhersagen.
- Verwendung des langsamen KernelSHAP bei großen Daten, wenn TreeSHAP bei Baummodellen weitaus schnellere exakte Ergebnisse liefern würde.
- Erklärung eines schlecht angepassten Modells und Vertrauen in die Zuordnungen eines Modells, das nicht gut vorhersagt.
Häufig gestellte Fragen
Muss ich mein Modell neu trainieren, um SHAP zu verwenden?
Nein. SHAP erklärt ein Modell, das Sie bereits trainiert haben – wie XGBoost, einen Zufallswald oder ein tiefes neuronales Netz –, indem es seine bestehenden Vorhersagen den Eingabemerkmalen zuordnet. Es passt das Modell nicht neu an oder verändert es.
Was ist der Unterschied zwischen TreeSHAP und KernelSHAP?
TreeSHAP berechnet exakte SHAP-Werte schnell für baumbasierte Modelle wie Zufallswald und XGBoost. KernelSHAP ist modellagnostisch und funktioniert für jedes Modell, ist aber eine Annäherung und erheblich langsamer, insbesondere bei großen Daten.
Kann SHAP eine einzelne Vorhersage erklären?
Ja. Das ist sein lokaler Modus: Für einen Fall zeigt es, wie stark jedes Merkmal die Vorhersage über oder unter den Basiswert gedrückt hat, wobei sich die Beiträge exakt zur Vorhersage summieren. Die Aggregation dieser über den Datensatz hinweg ergibt die globale Merkmalbedeutung.
Wie viele Daten benötige ich?
Mindestens etwa 30 Beobachtungen. Darunter werden SHAP-Werte instabil und Merkmalbeiträge unzuverlässig, sodass ein direkt interpretierbares Modell wie ein Entscheidungsbaum die sicherere Wahl ist.
Verwandte Methoden
Quellen
Lundberg, S.M. & Lee, S.-I. (2017). A Unified Approach to Interpreting Model Predictions. Advances in Neural Information Processing Systems, 30, 4766–4777.
Publikationsreferenz öffnenKopiert.