Rede Neural em Grafos — GCN / GAT / GraphSAGE
- Ano
- 2017–2018 (major variants)
- Tipo
- Deep learning on graph-structured data
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
Uma Rede Neural em Grafos (GNN) é uma arquitetura de aprendizado profundo que opera diretamente em dados estruturados em grafos, combinando características de nós com informações estruturais através de passagem de mensagens iterativa de vizinhança.
As três variantes canônicas — a Rede Convolucional em Grafos (GCN) introduzida por Kipf e Welling em 2017, a Rede de Atenção em Grafos (GAT) introduzida por Veličković et al. em 2018, e GraphSAGE — diferem na forma como agregam informações de vizinhos: GCN aplica uma convolução espectral sobre a adjacência completa, GAT pondera vizinhos por escores de atenção aprendidos, e GraphSAGE amostra e agrega vizinhanças locais indutivamente, permitindo generalização para nós não vistos.
A intuição por trás do método
Pense em cada nó em um grafo como uma pessoa em uma rede social. Essa pessoa tem seu próprio perfil (características), mas quem ela conhece também diz muito sobre ela. Uma GNN permite que cada nó colete repetidamente mensagens de seus vizinhos, misture essas mensagens com suas próprias informações e atualize sua representação — camada por camada. Após algumas rodadas dessa troca no estilo de fofoca, a incorporação de cada nó reflete não apenas a si mesmo, mas o subgrafo local ao seu redor. GCN faz isso com uma média simétrica fixa de vizinhos; GAT decide quais vizinhos confiar mais aprendendo pesos de atenção; GraphSAGE amostra um subconjunto fixo de vizinhos e aprende uma função de agregação que pode ser aplicada a nós que nunca viu antes.
História
As bases para aplicar redes neurais a grafos foram estabelecidas por Scarselli et al. (2009), mas a era moderna das GNNs começou com a Rede Convolucional em Grafos (2017) de Kipf e Welling, que simplificou a convolução espectral em grafos em uma aproximação eficiente de primeira ordem usando multiplicação de adjacência normalizada simétrica. Um ano depois, Veličković et al. (2018) introduziram Redes de Atenção em Grafos, substituindo a média fixa do GCN por coeficientes de atenção aprendíveis em cada aresta — permitindo que o modelo pondere seletivamente os vizinhos. Concomitantemente, Hamilton et al. (2017) propuseram GraphSAGE, um framework indutivo que amostra vizinhanças de tamanho fixo e aprende funções de agregação transferíveis para nós não vistos, tornando as GNNs práticas para grafos grandes e dinâmicos. Esses três artigos estabeleceram o paradigma de passagem de mensagens que agora sustenta a maioria das pesquisas em GNNs.
Quando usar
Use uma GNN quando seus dados forem naturalmente estruturados em grafos — redes sociais, redes de citação, grafos moleculares, grafos de conhecimento, ou qualquer cenário onde as relações entre entidades carregam um sinal preditivo. Você precisa de uma matriz de características de nós e uma lista de arestas. Um mínimo de cerca de 50 nós é necessário para treinamento significativo. GNNs são aplicáveis à classificação de nós (prever um rótulo para cada nó), predição de links (inferir arestas ausentes) e classificação de grafos (atribuir um rótulo a um grafo inteiro). A suposição de homofilia — nós conectados tendem a compartilhar o mesmo rótulo — é implicitamente explorada por GCN e GAT padrão; se seu grafo for heterofílico, considere arquiteturas projetadas para essa configuração. Para grafos grandes, treinamento em lote completo é proibitivo em termos de memória e amostragem de vizinhança em mini-lotes (estilo GraphSAGE) é necessária. Se seu grafo tiver menos de 20 nós, métricas de centralidade tradicionais são uma escolha mais apropriada.
Limitações e considerações
- Super-suavização (Over-smoothing): empilhar muitas camadas GNN empurra todas as incorporações de nós para um valor comum, limitando a profundidade efetiva a cerca de 2–4 camadas na prática.
- Escalabilidade: GCN e GAT em lote completo exigem manter a matriz de adjacência e a matriz de características inteiras na memória, o que é inviável para grafos muito grandes sem amostragem ou particionamento.
- A suposição de homofilia embutida na agregação padrão degrada o desempenho em grafos heterofílicos onde vizinhos tendem a ter rótulos diferentes.
- Tamanho mínimo de amostra de ~50 nós é necessário; menos nós deixam o modelo sem sinal suficiente para aprender representações significativas.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Aproveita conjuntamente características de nós e topologia de grafo, superando métodos que usam apenas um deles.
- O mecanismo de atenção do GAT fornece pontuações de importância por aresta, adicionando interpretabilidade à agregação.
- GraphSAGE é indutivo e pode generalizar para nós e grafos não vistos durante o treinamento, permitindo implantação em redes crescentes.
- Um framework unificado de passagem de mensagens cobre classificação de nós, predição de links e classificação de grafos com a mesma espinha dorsal arquitetônica.
Aplicações
- Classificação de nós em redes de citação — prever o tópico de um artigo com base em seu conteúdo e links de citação.
- Descoberta de drogas — prever propriedades moleculares tratando átomos como nós e ligações químicas como arestas.
- Sistemas de recomendação — modelar usuários e itens como um grafo bipartido e prever interações usuário-item via predição de links.
- Detecção de fraude em redes de transações financeiras — identificar nós anômalos com base em suas características e estrutura de vizinhança.
- Conclusão de grafos de conhecimento — inferir relações ausentes entre entidades em bases de conhecimento em larga escala.
Como funciona
Como funciona
O grafo é definido por uma matriz de características de nós X (uma linha por nó, uma coluna por atributo) e uma lista de arestas (ou matriz de adjacência) A. Arestas não direcionadas são padrão para GCN e GAT; GraphSAGE também suporta grafos direcionados. Auto-loops são tipicamente adicionados a A para que cada nó seja incluído em sua própria agregação.
Atributos brutos de nós são normalizados e, se necessário, incorporados em um espaço vetorial contínuo. Atributos de arestas, se presentes, podem ser incorporados como sinais adicionais. O resultado é uma matriz de características densa que cada camada GNN transformará.
Cada camada GNN computa uma nova representação de nó agregando as características dos vizinhos de um nó e combinando-as com as características do próprio nó através de uma matriz de pesos aprendível e uma ativação não linear. GCN aplica uma multiplicação de adjacência normalizada (convolução espectral); GAT computa coeficientes de atenção softmax para cada aresta, de modo que vizinhos influentes contribuam mais; GraphSAGE amostra aleatoriamente um vizinho de tamanho fixo e aplica um agregador diferenciável (média, LSTM ou pooling). Empilhar L camadas permite que a informação flua L saltos de distância, mas empilhar muitas camadas causa super-suavização (over-smoothing), onde todas as incorporações de nós convergem para o mesmo valor.
As incorporações finais de nós são alimentadas em um cabeçalho específico da tarefa. Para classificação de nós, uma camada softmax atribui probabilidades de classe a cada nó. Para predição de links, um produto interno ou MLP pontua a probabilidade de uma aresta entre duas incorporações de nós. Para classificação de grafos, um pooling global (soma, média ou hierárquico) agrega todas as incorporações de nós em um único vetor em nível de grafo antes da camada de classificação.
O desempenho do modelo é medido em um conjunto de teste retido usando métricas apropriadas para a tarefa: acurácia ou F1 para classificação de nós e grafos, AUC-ROC para predição de links. Como conjuntos de dados de grafos frequentemente têm tamanho limitado, a avaliação transdutiva (máscaras de treino/validação/teste no mesmo grafo) ou divisões indutivas (subgrafos disjuntos) devem corresponder ao cenário de implantação.
Erros comuns
- Adicionar muitas camadas GNN causa super-suavização: todas as incorporações de nós convergem e o modelo perde poder discriminatório. Mantenha o número de camadas em 2–4 e monitore a variância das incorporações.
- Treinar no grafo completo sem mini-lotes é proibitivo em termos de memória para redes grandes; use amostragem de vizinhos estilo GraphSAGE ou particionamento de grafo para grafos com mais de alguns milhares de nós.
- Aplicar um GCN treinado transdutivamente diretamente a nós novos e não vistos em tempo de inferência é incorreto; use um método indutivo como GraphSAGE se sua implantação exigir generalização para novos nós.
- Ignorar a suposição de homofilia em grafos heterofílicos produz resultados ruins; inspecione o coeficiente de assortatividade do grafo antes de escolher uma variante GNN padrão.
- Com menos de 20 nós, o treinamento GNN produz representações não confiáveis; prefira análise convencional baseada em centralidade de rede nesse regime.
Perguntas frequentes
Qual variante GNN devo começar — GCN, GAT ou GraphSAGE?
GCN é a linha de base mais simples e funciona bem em grafos homofílicos de pequeno a médio porte onde todos os nós são conhecidos no momento do treinamento. GAT é preferível quando a importância do vizinho varia e você deseja pesos de atenção interpretáveis. GraphSAGE é a escolha certa quando você precisa generalizar para nós não vistos durante o treinamento ou quando o grafo é muito grande para processamento em lote completo.
O que é super-suavização e como evitá-la?
Super-suavização ocorre quando muitas camadas GNN fazem com que todas as incorporações de nós converjam para o mesmo valor, eliminando informações discriminatórias. Na prática, 2–4 camadas é geralmente o ideal. Técnicas como conexões residuais, redes de conhecimento saltitantes (jumping knowledge networks) e DropEdge podem ajudar se arquiteturas mais profundas forem necessárias.
GNNs exigem dados rotulados para todos os nós?
Não. GCN e GAT são comumente usados em configurações semissupervisionadas onde apenas uma pequena fração de nós possui rótulos; a estrutura do grafo propaga informações de nós rotulados para não rotulados. GraphSAGE também pode ser treinado de forma totalmente supervisionada ou não supervisionada, dependendo da tarefa.
Qual o tamanho necessário do grafo?
Um mínimo de cerca de 50 nós é necessário para treinamento GNN significativo. Com menos de 20 nós, o modelo não consegue aprender representações confiáveis e a análise convencional baseada em centralidade é mais apropriada. Para grafos com milhões de nós, amostragem de vizinhos em mini-lotes (como em GraphSAGE) ou métodos de particionamento de grafo são necessários para manter o uso de memória tratável.
Métodos relacionados
Fontes
Kipf, T.N. & Welling, M. (2017). Semi-Supervised Classification with Graph Convolutional Networks. International Conference on Learning Representations (ICLR).
Abrir referência DOICopiado.Veličković, P., Cucurull, G., Casanova, A., Romero, A., Liò, P., & Bengio, Y. (2018). Graph Attention Networks. International Conference on Learning Representations (ICLR).
Abrir referência DOICopiado.Hamilton, W.L. (2020). Graph Representation Learning. Morgan & Claypool.
Abrir referência DOICopiado.