Saltar al contenido
Volver a los resultados

Aprendizaje Federado

Propuesto por
McMahan et al.
Año
2017
Tipo
Distributed privacy-preserving machine learning
Familia
Privacy-preserving analysis

Este texto es una traducción automática y aún no se ha revisado. Leer el original en inglés

Tamaño de letra

¿Qué hace?

El Aprendizaje Federado es un paradigma de aprendizaje automático distribuido introducido por McMahan et al. en 2017, en el cual un modelo global se entrena colaborativamente a través de múltiples clientes descentralizados —como dispositivos móviles o sistemas hospitalarios— sin transferir nunca datos brutos a un servidor central. Cada participante calcula actualizaciones del modelo localmente utilizando sus datos privados; solo esas actualizaciones, no los datos subyacentes, son comunicadas y agregadas por el servidor para mejorar el modelo compartido.

La intuición detrás del método

Imagine a un grupo de investigadores en diferentes hospitales, cada uno estudiando registros de pacientes que no pueden compartir debido a leyes de privacidad. En lugar de agrupar los registros en una sola base de datos, cada hospital entrena una versión local del modelo con sus propios pacientes, y luego envía solo un resumen de lo aprendido —no los registros en sí— a un coordinador que combina todos los resúmenes en un modelo mejorado. Ningún dato del paciente abandona su institución de origen, pero se captura la inteligencia colectiva de todos los hospitales.

Historia

El término y el marco fueron introducidos por McMahan et al. en Google en 2017, motivados por la necesidad de entrenar modelos de lenguaje en dispositivos móviles sin subir texto sensible. El algoritmo fundamental FedAvg demostró que promediar pesos entrenados localmente es eficiente en comunicación y competitivo con el entrenamiento centralizado. Investigaciones posteriores ampliaron el aprendizaje federado para manejar datos no-IID, agregar garantías formales de privacidad diferencial, incorporar computación segura multipartita para la agregación y aplicar el paradigma a entornos inter-silo como redes hospitalarias.

Cuándo usarlo

Utilice el Aprendizaje Federado cuando los datos de entrenamiento estén distribuidos en muchos clientes y no puedan centralizarse debido a regulaciones de privacidad, restricciones de propiedad de datos o costos de comunicación — por ejemplo, teclados móviles, imágenes médicas entre hospitales o redes de sensores IoT. Las suposiciones clave incluyen datos locales suficientes por cliente y una tarea compartida entre todos los participantes. Es menos adecuado cuando las distribuciones de datos de los clientes son muy heterogéneas (no-IID), el ancho de banda de comunicación es severamente limitado, o cuando se requieren garantías de privacidad formales sólidas más allá de la localidad de los datos (considere combinar con privacidad diferencial en ese caso).

Limitaciones y consideraciones

  • La convergencia puede ser lenta e inestable cuando las distribuciones de datos de los clientes son muy no-IID.
  • La sobrecarga de comunicación a través de muchas rondas puede ser significativa en redes de bajo ancho de banda.
  • Las actualizaciones del modelo aún pueden filtrar información sobre los datos locales a través de ataques de inversión de gradientes o inferencia de membresía.
  • Los clientes lentos y desconectados complican la agregación síncrona y pueden sesgar el modelo global.

Las condiciones de la fuente no sustituyen una revisión científica independiente ni la validación por un motor de análisis.

Fortalezas

  • Preserva la privacidad de los datos por diseño: los datos brutos nunca abandonan el dispositivo o la institución cliente.
  • Escala a millones de dispositivos de borde heterogéneos sin centralizar el almacenamiento.
  • Reduce los costos de transferencia de datos porque solo se comunican las actualizaciones del modelo, no los conjuntos de datos.
  • Permite el aprendizaje a partir de dominios sensibles (salud, finanzas) donde el intercambio de datos está legalmente restringido.

Aplicaciones

  • Predicción de la siguiente palabra y personalización del teclado en dispositivos móviles sin subir texto del usuario.
  • Entrenamiento de modelos de imágenes médicas entre hospitales que no pueden compartir registros de pacientes.
  • Detección de fraude entre bancos que comparten patrones de comportamiento pero no historiales de transacciones.
  • Modelos de percepción de vehículos autónomos entrenados en una flota sin centralizar registros de sensores.
  • Monitorización de salud portátil que aprende líneas de base personales mientras mantiene los datos biométricos en el dispositivo.

Cómo funciona

Cómo funciona

1

Al inicio de cada ronda de comunicación, el servidor selecciona un subconjunto aleatorio de clientes disponibles y les transmite los pesos del modelo global actual. Esta difusión asegura que todos los clientes participantes comiencen el cálculo local desde un punto de partida común, permitiendo una agregación coherente posterior. Seleccionar solo un subconjunto en lugar de todos los clientes mantiene cada ronda manejable, incluso cuando hay miles de dispositivos registrados.

Fórmula
w_t \rightarrow \text{subset } S_t \subset \{1,\ldots,N\}
2

Cada cliente seleccionado ejecuta uno o más pasos de descenso de gradiente estocástico sobre su conjunto de datos local privado utilizando los pesos recibidos como punto de partida. El cliente calcula el gradiente de su función de pérdida local y actualiza los pesos en consecuencia. Solo estos pesos actualizados —no los gradientes brutos ni los datos de entrenamiento— se preparan para su transmisión de vuelta al servidor.

Fórmula
w_{t+1}^k = w_t - \eta \nabla \mathcal{L}_k(w_t)
3

El servidor recopila los pesos actualizados de todos los clientes participantes y calcula un promedio ponderado, donde la contribución de cada cliente es proporcional al tamaño de su conjunto de datos local en relación con los datos totales de todos los participantes. Este paso de Promedio Federado (FedAvg) produce un nuevo modelo global que incorpora información de los datos privados de cada cliente sin que ningún dato bruto abandone los dispositivos.

Fórmula
w_{t+1} = \sum_{k \in S_t} \frac{n_k}{n} w_{t+1}^k
4

El modelo global agregado se evalúa frente a un criterio de convergencia, típicamente un límite en la pérdida esperada en relación con la pérdida óptima. Si el criterio aún no se cumple, el servidor incrementa el contador de rondas y transmite el modelo global actualizado a un nuevo subconjunto de clientes, repitiendo el ciclo hasta que el modelo converja o se alcance un número máximo de rondas.

Fórmula
\mathbb{E}[\mathcal{L}(w_T)] \leq \mathcal{L}^* + \epsilon

Errores comunes

  • Asumir que el entrenamiento federado por sí solo es suficiente para la privacidad: sin mecanismos adicionales como privacidad diferencial o agregación segura, las actualizaciones del modelo siguen siendo vulnerables.
  • Ignorar la heterogeneidad de los datos: aplicar FedAvg estándar a datos severamente no-IID a menudo conduce a la deriva del cliente y a un rendimiento deficiente del modelo global.
  • Pasar por alto clientes bizantinos o maliciosos: una pequeña fracción de participantes adversarios puede corromper el modelo agregado si no se aplica una agregación robusta.
  • Tratar las rondas de comunicación como gratuitas: el costo acumulativo de muchas rondas a través de enlaces lentos puede superar el beneficio de la descentralización.

Preguntas frecuentes

¿Garantiza el Aprendizaje Federado privacidad completa?

No por sí solo. Si bien los datos brutos nunca abandonan los dispositivos cliente, las actualizaciones del modelo (gradientes) aún pueden filtrar información a través de ataques de inversión de gradientes o inferencia de membresía. Combinar el aprendizaje federado con la adición de ruido de privacidad diferencial y protocolos de agregación segura fortalece sustancialmente las garantías de privacidad, pero cada capa añade sus propios compromisos de precisión o comunicación.

¿Cómo maneja el Aprendizaje Federado los datos no-IID entre clientes?

FedAvg estándar puede divergir cuando las distribuciones de datos de los clientes difieren drásticamente entre sí — un fenómeno llamado deriva del cliente. Los remedios incluyen aumentar los tamaños de lote locales, reducir las épocas locales, aplicar variantes de aprendizaje federado personalizadas (como FedProx o SCAFFOLD), o usar impulso del lado del servidor. La gravedad depende del grado de heterogeneidad estadística entre los clientes.

¿Cuántos clientes y rondas se necesitan típicamente para la convergencia?

McMahan et al. demostraron que incluso con una pequeña fracción de clientes muestreados por ronda (por ejemplo, 10 de 100), FedAvg converge en decenas a cientos de rondas para tareas estándar. En la práctica, el número depende del tamaño del conjunto de datos por cliente, el grado de no-IID-ness, la tasa de aprendizaje y el número de pasos de gradiente local realizados antes de cada agregación.

Métodos relacionados

Fuentes

  1. McMahan, B., Moore, E., Ramage, D., Hampson, S., & Arcas, B. A. (2017). Communication-efficient learning of deep networks from decentralized data. Artificial Intelligence and Statistics, 1273–1282.

    Abrir referencia de la publicación
    Copiado.