Saltar al contenido
Volver a los resultados

Árbol de Decisión

Propuesto por
Breiman, Friedman, Olshen & Stone
Año
1984
Tipo
Recursive partitioning (if-then rules)

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

Un árbol de decisión es un método interpretable de clasificación y regresión, formalizado por Breiman, Friedman, Olshen y Stone en su marco CART de 1984, que particiona los datos con reglas jerárquicas de tipo "si-entonces".

Cada división envía observaciones por una rama u otra hasta que se lee una predicción en la hoja.

La intuición detrás del método

Piense en un árbol de decisión como un diagrama de flujo de preguntas de sí/no. Partiendo de todos los datos, el árbol pregunta repetidamente la única cuestión sobre una característica que mejor separa los casos —por ejemplo, "¿la edad es superior a 40?"— y divide los datos en dos grupos. Sigue dividiendo cada grupo hasta que los casos interiores son razonablemente homogéneos, y los grupos finales (las hojas) proporcionan la predicción. La cadena de preguntas desde la raíz hasta una hoja es una regla que cualquier lector puede seguir.

Historia

Los árboles de decisión fueron puestos sobre una base rigurosa por Leo Breiman, Jerome Friedman, Richard Olshen y Charles Stone en su monografía de 1984 Classification and Regression Trees, que introdujo el algoritmo CART y su uso de medidas de impureza como el índice Gini. La estructura transparente de "si-entonces" convirtió a los árboles en un pilar del análisis aplicado, y más tarde se convirtieron en el bloque de construcción central de ensambles más potentes —agrupados en Random Forests y potenciados en Gradient Boosting— donde se combinan muchos árboles para superar la inestabilidad de cualquiera de ellos.

Cuándo usarlo

Utilice un árbol de decisión cuando desee un modelo interpretable para clasificación, predicción o explicación sobre datos tabulares transversales con al menos unas 30 observaciones, mezclando características continuas, categóricas, binarias y ordinales. No se necesita escalado de características y las reglas son fáciles de comunicar. Por debajo de unas 30 observaciones, el árbol se sobreajusta fácilmente —las hojas pueden contener una sola observación— y un modelo más simple y estable, como la regresión logística o Naive Bayes, es más seguro.

Limitaciones y consideraciones

  • Propenso al sobreajuste a menos que se pode mediante max_depth o min_samples_leaf.
  • En muestras pequeñas (n por debajo de unas 30) el árbol se sobreajusta fácilmente, con hojas que pueden contener una sola observación.
  • Después de podar, un árbol de muestra pequeña puede retener muy pocas divisiones para ser útil, donde la regresión logística es más estable.
  • Un solo árbol es inestable — pequeños cambios en los datos pueden producir una estructura muy diferente.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Altamente interpretable: el camino de la raíz a la hoja es una regla simple de "si-entonces".
  • No se requiere escalado de características; maneja características continuas, categóricas, binarias y ordinales directamente.
  • Baja dificultad — adecuado incluso para usuarios principiantes.
  • Sirve como bloque de construcción de ensambles como Random Forest y Gradient Boosting.

Aplicaciones

  • Clasificación interpretable de datos tabulares transversales.
  • Predicción y segmentación de riesgos donde se valoran las reglas transparentes.
  • Análisis explicativo para identificar qué características y umbrales impulsan un resultado.
  • Un aprendiz base dentro de ensambles como Random Forest y Gradient Boosting.

Cómo funciona

Cómo funciona

1

En cada nodo, el árbol busca cada característica y cada umbral posible para la división que más mejora la pureza —el algoritmo CART utiliza típicamente el índice Gini o la ganancia de información para la clasificación. Se elige la división que produce la mayor reducción de impureza, por lo que cada rama contiene casos que son más similares entre sí que antes.

Fórmula
\Delta i = i(t) - p_L\, i(t_L) - p_R\, i(t_R)
2

Se aplica la división elegida y el procedimiento se repite en cada rama resultante, particionando los datos una y otra vez. Dado que no se requiere escalado de características, se pueden usar directamente características continuas, categóricas, binarias y ordinales. Si no se controla, el árbol sigue creciendo hasta que las hojas son casi puras —que es exactamente donde aparece el sobreajuste.

3

Para controlar el sobreajuste, el árbol se restringe —limitando la profundidad (max_depth), exigiendo un número mínimo de casos por hoja (min_samples_leaf), o podando ramas que aportan poco. El resultado es un conjunto compacto de reglas legibles: el camino desde la raíz hasta la hoja es una regla de decisión transparente, razón por la cual los árboles de decisión son muy adecuados incluso para principiantes.

Errores comunes

  • Crecer el árbol hasta la profundidad máxima sin limitar max_depth o min_samples_leaf.
  • Confiar en un solo árbol profundo con menos de unas 30 observaciones.
  • Interpretar un árbol frágil de muestra pequeña como una explicación estable de los datos.
  • Informar la precisión dentro de la muestra sin una división de entrenamiento/prueba o validación cruzada.

Preguntas frecuentes

¿Cómo se elige una división?

El algoritmo CART evalúa divisiones candidatas en todas las características y umbrales y elige la que más reduce la impureza del nodo, comúnmente medida por el índice Gini o la ganancia de información para clasificación.

¿Por qué un árbol de decisión se sobreajusta y cómo lo detengo?

Si se deja crecer libremente, un árbol sigue dividiendo hasta que las hojas están casi puras, memorizando el ruido. Restrínjalo limitando la profundidad (max_depth), exigiendo un número mínimo de casos por hoja (min_samples_leaf), o podando ramas que aportan poco.

¿Cuántos datos necesito?

Apunte a al menos unas 30 observaciones. Por debajo de eso, el árbol se sobreajusta fácilmente —las hojas pueden contener un solo caso— y un modelo más simple como la regresión logística o Naive Bayes es más estable.

¿Cómo se relaciona un árbol de decisión con Random Forest?

Un solo árbol de decisión es el bloque de construcción de los ensambles: Random Forest crece muchos árboles en datos remuestreados y combina sus votos, y Gradient Boosting construye árboles secuencialmente —ambos intercambian la transparencia del árbol único por mayor precisión y estabilidad.

Métodos relacionados

Fuentes

  1. Breiman, L., Friedman, J.H., Olshen, R.A. & Stone, C.J. (1984). Classification and Regression Trees. Wadsworth.

    Abrir referencia DOI
    Copiado.