Regras de Associação Semi-supervisionadas
- Proposto por
- Liu, B.; Hsu, W.; Ma, Y. (and subsequent researchers)
- Ano
- 2003–2010s
- Tipo
- Pattern mining with partial supervision
- Família
- Machine learning
Este texto é uma tradução automática e ainda não foi revisado. Ler o original em inglês
O que ele faz?
A mineração de regras de associação semi-supervisionada estende o aprendizado clássico de regras de associação incorporando uma pequena quantidade de dados rotulados ao lado de um conjunto de dados não rotulados maior.
Ela utiliza informações de classe conhecidas ou restrições fornecidas pelo usuário para guiar a descoberta de regras que são estatisticamente frequentes e semanticamente significativas, conectando a mineração de padrões não supervisionada com supervisão leve.
A intuição por trás do método
A mineração padrão de regras de associação encontra todos os padrões de coocorrência frequentes sem qualquer noção do que é importante. As regras de associação semi-supervisionadas mudam isso permitindo que um pequeno conjunto de exemplos rotulados ou restrições de domínio direcionem a busca: regras que se alinham com a estrutura de classe conhecida são preferidas em relação às estatisticamente frequentes, mas sem significado. Pense nisso como dar ao algoritmo algumas dicas sobre o que o analista se importa, para que ele pare de apresentar padrões triviais ou já conhecidos e, em vez disso, destaque relacionamentos genuinamente novos e acionáveis. O resultado combina a amplitude da descoberta de padrões não supervisionada com orientação suficiente para manter os resultados relevantes.
História
A mineração de regras de associação foi formalizada por Agrawal, Imielinski e Swami em 1993 com a introdução do algoritmo Apriori, visando a descoberta não supervisionada de conjuntos de itens frequentes em dados de cesta de compras. A integração de rótulos de classe e restrições na mineração de regras de associação ganhou impulso no início dos anos 2000, notavelmente através dos frameworks CMAR e CBA de Liu e colegas, que trataram rótulos de classe como consequentes de regras. Extensões semi-supervisionadas surgiram à medida que pesquisadores reconheceram que a supervisão parcial poderia reduzir a explosão combinatória de regras candidatas, mantendo a contribuição estatística dos dados não rotulados. A abordagem agora aparece em bioinformática, mineração de dados educacionais e sistemas de recomendação.
Quando usar
Use a mineração de regras de associação semi-supervisionada quando você tiver um grande conjunto de dados transacionais ou tabulares, apenas uma fração dos quais carrega rótulos de classe ou anotações de domínio, e você precisa descobrir padrões de coocorrência que sejam genuinamente relevantes para um conceito alvo, em vez de meramente frequentes. É bem adequado para análise de cesta de compras com alguns resultados de compra conhecidos, mineração de registros médicos onde apenas um subconjunto de casos tem diagnósticos confirmados e categorização de texto onde exemplos rotulados são escassos. Evite-o quando a porção rotulada for negligenciável (menos de algumas dezenas de instâncias rotuladas), quando a supervisão completa for viável, ou quando os requisitos de interpretabilidade exigirem um modelo mais simples, como regressão logística ou árvore de decisão.
Limitações e considerações
- A qualidade da regra depende fortemente da qualidade e representatividade do conjunto de sementes rotuladas; um subconjunto rotulado enviesado propaga o viés para as regras descobertas.
- A combinação de limiares de suporte, confiança e restrição cria um grande espaço de hiperparâmetros que é difícil de ajustar sem dados de validação rotulados.
- O custo computacional escala com o número de conjuntos de itens candidatos; conjuntos de dados com espaços de itens de alta dimensionalidade requerem estratégias de poda agressivas.
- Loops de auto-treinamento podem amplificar erros iniciais se os pseudo-rótulos iniciais forem ruidosos, levando à deriva das regras ao longo das iterações.
As condições da fonte não substituem a revisão científica independente nem a validação por um motor de análise.
Pontos fortes
- Aproveita dados não rotulados abundantes para encontrar padrões que seriam estatisticamente invisíveis apenas com dados rotulados.
- Restrições derivadas de rótulos podam regras irrelevantes, resultando em um conjunto de regras menor e mais acionável do que a mineração puramente não supervisionada.
- As regras permanecem declarações IF-THEN legíveis por humanos, preservando a vantagem de interpretabilidade do aprendizado clássico de regras de associação.
- O refinamento por auto-treinamento pode melhorar iterativamente tanto a qualidade das regras quanto a cobertura de pseudo-rótulos sem custo adicional de rotulagem.
- Flexível: restrições podem codificar conhecimento de domínio além de simples rótulos de classe (por exemplo, ordenação temporal, hierarquias de itens).
Aplicações
- Mineração de registros médicos onde apenas um subconjunto de registros de pacientes carrega diagnósticos confirmados.
- Análise de cesta de compras guiada por um subconjunto conhecido de resultados de compra de alto valor.
- Mineração de dados educacionais para descobrir padrões de comportamento de aprendizado associados a um pequeno conjunto de resultados de desempenho de alunos rotulados.
- Mineração de texto e categorização de documentos com escassos corpora rotulados.
- Detecção de intrusão onde apenas uma fração de eventos de rede são ataques confirmados.
- Sistemas de recomendação que usam avaliações esparsas de usuários para restringir regras de coocorrência de itens.
Como funciona
Como funciona
O conjunto de dados é dividido em uma pequena porção rotulada (com rótulos de classe conhecidos ou restrições especificadas pelo usuário) e uma porção não rotulada maior. Exemplos rotulados servem como sementes ou âncoras que definem o espaço conceitual alvo, enquanto transações não rotuladas fornecem a massa estatística necessária para calcular contagens de suporte confiáveis.
A enumeração de conjuntos de itens frequentes é executada em dados rotulados e não rotulados usando algoritmos clássicos como Apriori ou FP-Growth, calculando o suporte como a fração de transações contendo um determinado conjunto de itens. Apenas conjuntos de itens que excedem o limiar mínimo de suporte são retidos como candidatos para a geração de regras.
Fórmula
\text{support}(X) = \frac{|\{t \in D : X \subseteq t\}|}{|D|} \geq \text{min\_sup}Restrições derivadas de rótulos ou especificadas pelo usuário são aplicadas para podar o espaço de candidatos. As restrições podem assumir a forma de 'must-link' (dois itens devem coocorrer no consequente com uma classe alvo), 'cannot-link' (certas combinações são excluídas) ou filtros de rótulo de classe que restringem quais regras envolvem um resultado alvo. Isso reduz drasticamente o número de regras espúrias ou redundantes.
Regras válidas X implica Y são geradas a partir dos conjuntos de itens frequentes sobreviventes, filtradas por um limiar mínimo de confiança. A confiança mede a probabilidade condicional de Y aparecer dado X. Em um cenário semi-supervisionado, regras cujo consequente se alinha com uma classe rotulada ou restrição são priorizadas ou ponderadas mais fortemente.
Fórmula
\text{confidence}(X \Rightarrow Y) = \frac{\text{support}(X \cup Y)}{\text{support}(X)} \geq \text{min\_conf}As regras descobertas podem ser usadas iterativamente para atribuir pseudo-rótulos a transações anteriormente não rotuladas, que são então realimentadas em rodadas de mineração subsequentes. Este loop de auto-treinamento enriquece gradualmente o conjunto rotulado e aprimora o conjunto de regras, convergindo quando nenhuma nova regra de alta confiança é encontrada ou um limite de iteração predefinido é atingido.
Erros comuns
- Definir o suporte mínimo muito baixo sem restrições, inundando o resultado com regras trivialmente frequentes, mas não informativas.
- Ignorar o desequilíbrio de classes no conjunto de sementes rotuladas, o que faz com que o filtro de restrição super-represente a classe majoritária nas regras descobertas.
- Tratar a confiança como a única medida de interesse e perder regras com alto lift ou convicção que são mais úteis na prática.
- Pular uma avaliação separada da qualidade preditiva das regras e aceitar as regras mineradas como estão, sem validação em dados não vistos.
- Confundir associação (coocorrência) com causalidade ao relatar descobertas.
Perguntas frequentes
Como isso difere da mineração padrão de regras de associação?
A mineração padrão de regras de associação é totalmente não supervisionada: ela encontra todos os padrões de coocorrência acima de um limiar de suporte e confiança, sem conceito de classe alvo. As regras de associação semi-supervisionadas incorporam informações parciais de rótulo ou restrições de domínio para filtrar e priorizar regras que são relevantes para um resultado específico, produzindo um conjunto de resultados menor e mais acionável.
Quanta informação rotulada é necessária?
Mesmo um pequeno conjunto rotulado pode fornecer restrições úteis, mas a qualidade das sementes importa mais do que a quantidade. Na prática, ter pelo menos algumas dezenas de exemplos rotulados por classe é aconselhável para evitar restrições severamente enviesadas. Se os rótulos forem extremamente esparsos, os resultados devem ser validados cuidadosamente em um subconjunto rotulado separado.
Quais limiares devo definir para suporte e confiança?
Não há resposta universal: os limiares dependem do tamanho do conjunto de dados, do domínio e de quantas regras você pode avaliar realisticamente. Comece com limiares moderados (por exemplo, suporte 0.05–0.10, confiança 0.60–0.80), examine o número de regras resultantes e ajuste. Quando as restrições estão ativas, você pode frequentemente usar limiares de suporte ligeiramente mais baixos porque regras irrelevantes são filtradas pelas condições de rótulo.
Este método pode lidar com características contínuas ou numéricas?
A mineração de regras de associação opera nativamente em itens discretos. Características contínuas devem ser discretizadas em intervalos antes da mineração. A escolha da estratégia de discretização afeta quais conjuntos de itens se tornam frequentes, portanto, vale a pena experimentar discretização de largura igual, frequência igual e baseada em domínio e verificar quão sensíveis os resultados são à escolha.
Como avalio a qualidade das regras descobertas?
Além de suporte e confiança, avalie as regras usando lift (valores acima de 1 indicam coocorrência genuína além do acaso), convicção e alavancagem. Se as regras forem usadas para predição, meça a acurácia da classificação, F1 ou AUC em um conjunto rotulado separado. Medidas de interesse sozinhas não são suficientes para avaliar a utilidade prática.
Métodos relacionados
Fontes
Liu, B., Hsu, W., & Ma, Y. (2003). Integrating Classification and Association Rule Mining. In Proceedings of the 4th IEEE International Conference on Data Mining (ICDM), pp. 339–346.
Abrir referência da publicaçãoCopiado.Association rule learning. Wikipedia.
Abrir referência da publicaçãoCopiado.