Skip to content
Voltar aos resultados

SHAP (Explicações Aditivas de Shapley, SHapley Additive exPlanations)

Proposto por
Lundberg, S.M. & Lee, S.-I.
Ano
2017
Tipo
Model-explanation method (Shapley-value attribution)

Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês

Tamanho da fonte

O que ele faz?

SHAP é um método de explicação de modelos, introduzido por Scott Lundberg e Su-In Lee em 2017, que utiliza valores de Shapley da teoria dos jogos cooperativos para medir a contribuição de cada variável para uma predição individual, tornando interpretável a saída de modelos de aprendizado de máquina de caixa-preta.

Ele suporta tanto explicações globais (importância geral das variáveis) quanto explicações locais (por que uma predição específica resultou da maneira que resultou).

A intuição por trás do método

Um modelo treinado, como uma floresta aleatória (random forest) ou uma rede neural profunda (deep network), transforma uma linha de variáveis em uma predição, mas não explica o porquê. SHAP empresta uma ideia da teoria dos jogos: imagine que as variáveis são jogadores cooperando para produzir a predição e pergunte como o 'pagamento' — a diferença entre esta predição e a predição média — deve ser dividido de forma justa entre eles. A parte justa de cada variável é seu valor SHAP, permitindo que se leia quais variáveis aumentaram uma predição e quais a diminuíram, para um caso único ou para todo o conjunto de dados.

História

SHAP foi introduzido por Scott Lundberg e Su-In Lee em 2017 como uma abordagem unificada para interpretar predições de modelos, conectando vários métodos de explicação anteriores aos valores de Shapley da teoria dos jogos cooperativos. O algoritmo TreeSHAP associado tornou explicações exatas e rápidas práticas para ensembles baseados em árvores, e SHAP desde então se tornou uma ferramenta padrão para abrir modelos de caixa-preta em campos que vão da saúde e economia às ciências naturais e comportamentais.

Quando usar

Use SHAP quando você já tem um modelo de caixa-preta treinado (como XGBoost, floresta aleatória ou aprendizado profundo) em dados de corte transversal ou em painel com variáveis contínuas, categóricas ou binárias, e precisa explicar suas predições em vez de apenas reportar a acurácia. Ele funciona tanto no nível global (quais variáveis importam no geral) quanto no nível local (por que um caso foi predito como foi). São necessárias pelo menos cerca de 30 observações; abaixo disso, os valores SHAP tornam-se instáveis e um modelo diretamente interpretável, como uma árvore de decisão, é mais seguro.

Limitações e considerações

  • Requer um modelo de ML já treinado; SHAP explica um modelo, não o constrói.
  • Em amostras pequenas (n abaixo de cerca de 30), os valores SHAP são instáveis e as contribuições das variáveis tornam-se não confiáveis.
  • KernelSHAP é agnóstico a modelos, mas computacionalmente lento, especialmente em grandes conjuntos de dados ou com muitas variáveis.
  • As atribuições descrevem o comportamento do modelo, não o efeito causal verdadeiro de uma variável no mundo.

As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.

Pontos fortes

  • Transforma modelos de caixa-preta em modelos interpretáveis ao atribuir cada predição às suas variáveis.
  • Fornece tanto a importância global das variáveis quanto explicações locais de predições únicas a partir de uma única estrutura.
  • Fundamentado nos valores de Shapley da teoria dos jogos, conferindo às atribuições uma base de justiça aditiva e fundamentada em princípios.
  • TreeSHAP fornece explicações exatas e rápidas para modelos baseados em árvores, como floresta aleatória e XGBoost.
  • KernelSHAP é agnóstico a modelos, de modo que a mesma abordagem se aplica a quase qualquer modelo treinado.

Aplicações

  • Explicar predições individuais de modelos de caixa-preta para decisões clínicas, financeiras ou de risco.
  • Rankear a importância geral das variáveis para entender no que um modelo treinado se baseia.
  • Auditar modelos quanto à justiça e dependência inesperada de variáveis sensíveis.
  • Comunicar o comportamento do modelo a revisores e partes interessadas que esperam resultados interpretáveis.

Como funciona

Como funciona

1

SHAP baseia-se em um modelo de caixa-preta treinado — por exemplo, XGBoost, uma floresta aleatória ou uma rede neural profunda. O objetivo não é reajustar nada, mas explicar o que esse modelo já aprendeu, atribuindo suas predições às variáveis de entrada.

2

Cada predição é decomposta aditivamente: ela é igual a um valor de linha de base (a saída média do modelo) mais as contribuições de todas as variáveis. Cada variável recebe um valor SHAP, sua participação na diferença entre esta predição e a linha de base, e essas participações somam exatamente a predição.

Fórmula
f(x) = \phi_0 + \sum_{i=1}^{M} \phi_i
3

As participações são calculadas como valores de Shapley, que calculam a média da contribuição marginal de uma variável sobre todas as maneiras pelas quais as variáveis podem ser adicionadas à predição. TreeSHAP calcula estes de forma exata e rápida para modelos baseados em árvores, enquanto o KernelSHAP, agnóstico a modelos, funciona para qualquer modelo, mas é mais lento.

4

Os valores SHAP resultantes podem ser lidos localmente — explicando uma predição única mostrando quais variáveis a aumentaram ou diminuíram — ou agregados em todo o conjunto de dados para fornecer um ranking global de importância das variáveis, transformando um modelo de caixa-preta em algo que um revisor pode inspecionar.

Erros comuns

  • Computar valores SHAP em um conjunto de dados pequeno demais (n abaixo de ~30) para fornecer atribuições estáveis.
  • Interpretar valores SHAP como efeitos causais em vez de explicações das predições do modelo.
  • Usar o KernelSHAP lento em dados grandes quando TreeSHAP forneceria resultados exatos muito mais rapidamente para modelos de árvore.
  • Explicar um modelo mal ajustado e confiar nas atribuições de um modelo que não prediz bem.

Perguntas frequentes

Preciso retreinar meu modelo para usar SHAP?

Não. SHAP explica um modelo que você já treinou — como XGBoost, uma floresta aleatória ou uma rede neural profunda — atribuindo suas predições existentes às variáveis de entrada. Ele não reajusta nem modifica o modelo.

Qual a diferença entre TreeSHAP e KernelSHAP?

TreeSHAP calcula valores SHAP exatos rapidamente para modelos baseados em árvores como floresta aleatória e XGBoost. KernelSHAP é agnóstico a modelos e funciona para qualquer modelo, mas é uma aproximação e é consideravelmente mais lento, especialmente em dados grandes.

O SHAP pode explicar uma única predição?

Sim. Esse é o seu modo local: para um caso, ele mostra o quanto cada variável elevou ou diminuiu a predição acima ou abaixo da linha de base, com as contribuições somando exatamente à predição. Agregar estas em todo o conjunto de dados fornece a importância global das variáveis.

Quantos dados eu preciso?

Pelo menos cerca de 30 observações. Abaixo disso, os valores SHAP tornam-se instáveis e as contribuições das variáveis não confiáveis, de modo que um modelo diretamente interpretável, como uma árvore de decisão, é a escolha mais segura.

Métodos relacionados

Fontes

  1. Lundberg, S.M. & Lee, S.-I. (2017). A Unified Approach to Interpreting Model Predictions. Advances in Neural Information Processing Systems, 30, 4766–4777.

    Abrir referência da publicação
    Copiado.