Skip to content
Retour aux résultats

Test A/B adaptatif — Test A/B adaptatif

Introduite par
Herbert Robbins (bandit framework); Thompson Sampling formalized by William R. Thompson
Année
1952 (Robbins); applied to A/B testing from ~2010s onward
Type
Adaptive experimental design
Famille
Experimental design

Ce texte est une traduction automatique et n’a pas encore été relu. Lire l’original en anglais

Taille de police

À quoi sert-elle ?

Un test A/B adaptatif est une conception expérimentale qui réalloue dynamiquement le trafic ou les participants vers les variantes les plus performantes pendant l'expérience elle-même, plutôt que de maintenir des allocations fixes jusqu'à la fin.

S'appuyant sur des algorithmes de bandits manchots tels que l'échantillonnage de Thompson ou le calcul de la borne supérieure de confiance (UCB), il équilibre l'exploration des variantes incertaines avec l'exploitation de celles qui montrent déjà des performances supérieures, produisant généralement des résultats agrégés plus élevés tout en produisant des conclusions inférentielles valides.

L’intuition derrière la méthode

Dans un test A/B classique, vous répartissez les visiteurs à 50/50 entre deux versions et attendez la fin pour déclarer un gagnant — pendant ce temps, la moitié du trafic continue d'atteindre la variante inférieure. Un test A/B adaptatif fonctionne davantage comme un système d'apprentissage : il commence à peu près à égalité, mais à mesure que les preuves s'accumulent que la variante B surpasse la variante A, il réoriente progressivement plus de trafic vers B. L'expérience continue de collecter des données pour l'inférence statistique, mais le coût de l'exécution de l'option la moins performante est activement minimisé en temps réel. L'analogie est celle d'un joueur de machine à sous qui suit quelles machines rapportent le plus et ajuste son jeu en conséquence, tout en échantillonnant toutes les machines suffisamment pour rester confiant dans la comparaison.

Histoire

Le fondement théorique du test A/B adaptatif réside dans le problème des bandits manchots, formalisé pour la première fois par Herbert Robbins en 1952. William R. Thompson avait précédemment proposé une stratégie d'échantillonnage bayésien pour les essais cliniques en 1933, plus tard nommée échantillonnage de Thompson, qui est devenue l'un des algorithmes les plus largement mis en œuvre. L'intérêt académique pour la randomisation adaptative à la réponse dans les essais cliniques a grandi dans les années 1970-1990. L'application des algorithmes de bandits aux tests A/B en ligne à l'échelle d'Internet s'est popularisée à partir d'environ 2010, stimulée par les entreprises technologiques cherchant à réduire les coûts d'opportunité pendant l'expérimentation et par les chercheurs reliant les méthodes de bandits aux cadres d'inférence causale.

Quand l’utiliser

Le test A/B adaptatif est le plus précieux lorsque (1) l'exposition à une variante inférieure entraîne un coût significatif — dans les soins de santé, les produits numériques à fort trafic, ou les campagnes à durée limitée ; (2) l'expérience dure suffisamment longtemps pour que l'algorithme d'allocation puisse se déplacer de manière significative (généralement des centaines à des milliers d'observations) ; et (3) les résultats sont observés rapidement par rapport à la durée de l'expérience. Il est également bien adapté lorsque l'on teste plusieurs variantes simultanément (contexte multi-bras) et lorsque l'objectif est de maximiser les résultats agrégés pendant l'essai, pas seulement après. N'utilisez pas de test A/B adaptatif lorsque : le résultat est retardé par rapport à l'époque de décision (le retour d'information retardé rend les mises à jour peu fiables) ; lorsque l'interprétabilité des ratios d'allocation est requise pour un examen réglementaire (par exemple, certains contextes d'essais cliniques) ; lorsque la taille de l'échantillon est très petite (moins d'environ 200 observations au total), car l'algorithme n'a pas suffisamment de données pour s'adapter de manière significative ; ou lorsqu'une conception équilibrée simple suffira et que la complexité opérationnelle n'est pas justifiée.

Limites et points d’attention

  • Nécessite une observation des résultats quasi en temps réel ou à faible latence ; le retour d'information retardé (par exemple, les résultats mesurés des semaines après le traitement) interrompt le cycle de mise à jour et mine l'adaptation.
  • L'inférence statistique est plus complexe que dans les conceptions à allocation fixe — les tests t standard ne sont pas valides ; des procédures de test séquentielles ou bayésiennes spécialisées sont nécessaires.
  • L'allocation adaptative peut créer des groupes déséquilibrés, ce qui réduit la puissance pour détecter de petits effets et complique les analyses de sous-groupes.
  • La mise en œuvre nécessite une infrastructure technique pour la collecte de données en temps réel, la mise à jour des distributions postérieures et le routage du trafic — non facilement disponible dans les plateformes d'enquête ou de laboratoire standard.

Les conditions de la source ne remplacent ni une revue scientifique indépendante ni la validation par un moteur d’analyse.

Points forts

  • Réduit l'exposition cumulative aux variantes inférieures par rapport à une allocation égale fixe, ce qui est important lorsque la métrique de résultat est moralement ou commercialement importante.
  • Bien adapté aux contextes multi-bras où de nombreuses variantes sont testées simultanément et où une allocation fixe disperserait trop l'échantillon.
  • Produit une inférence statistique valide lorsqu'il est combiné avec des règles d'arrêt pré-enregistrées, malgré l'allocation non fixe.
  • S'intègre naturellement avec la mise à jour bayésienne, permettant une quantification transparente de l'incertitude et des preuves à tout moment de l'essai.
  • Flexible au contexte — applicable dans l'expérimentation en ligne, les essais cliniques (randomisation adaptative à la réponse) et les expériences comportementales sur le terrain.

Applications

  • Expérimentation de produits en ligne — acheminer le trafic Web vers des variantes de pages Web plus performantes pendant le test pour minimiser la perte de revenus due à des conceptions inférieures.
  • Interventions de santé numérique — allouer de manière adaptative les patients à des bras de traitement plus efficaces dans des essais cliniques à distance ou basés sur des applications.
  • Campagnes d'e-mails et de notifications push — réorienter dynamiquement la diffusion des messages vers des lignes d'objet ou des variantes de contenu ayant des taux d'ouverture ou de clics plus élevés.
  • Technologie éducative — attribuer des étudiants à des variantes pédagogiques plus efficaces en temps réel en fonction des signaux de résultats d'apprentissage.
  • Systèmes de tarification et de recommandation — tester plusieurs niveaux de prix ou algorithmes de recommandation tout en orientant les utilisateurs vers les options les plus performantes pendant la période de test.

Comment ça marche

Comment ça marche

1

Le chercheur spécifie les variantes à comparer (généralement deux versions ou plus d'une page Web, d'un message, d'un traitement ou d'un produit), la métrique de résultat principale (par exemple, taux de conversion, taux de clics, achèvement de tâche), la taille minimale de l'effet détectable et la règle d'arrêt — soit un horizon fixe (taille d'échantillon maximale), soit une limite séquentielle (règle de dépense alpha pré-enregistrée).

2

Chaque variante se voit attribuer une croyance a priori sur sa performance, exprimée sous forme de distribution de probabilité sur le résultat attendu (par exemple, une distribution Beta pour les résultats binaires). Dans les approches fréquentistes UCB, les intervalles de confiance initiaux sont définis largement pour refléter une incertitude égale. Toutes les variantes commencent avec une allocation égale ou quasi égale pour assurer une exploration précoce suffisante.

3

À chaque époque de décision — qui peut être chaque nouveau participant, lot de participants ou unité de temps — l'algorithme adaptatif détermine comment allouer la ou les prochaines unités de trafic. Selon l'échantillonnage de Thompson, une probabilité de succès est échantillonnée à partir de la distribution postérieure actuelle de chaque variante et la variante avec la valeur échantillonnée la plus élevée reçoit la prochaine unité ; selon UCB, la variante avec la borne supérieure de confiance la plus élevée est choisie. Cette étape est répétée en continu tout au long de l'expérience.

4

Après chaque observation, le résultat est enregistré et la distribution de croyance de la variante choisie est mise à jour (mise à jour bayésienne postérieure) ou son intervalle de confiance est recalculé (mise à jour fréquentiste). Les croyances mises à jour informent immédiatement la prochaine décision d'allocation, de sorte que la conception apprend de manière incrémentielle à partir des preuves accumulées.

5

L'expérience s'arrête lorsqu'un critère pré-enregistré est atteint : soit la taille maximale de l'échantillon est atteinte, soit une limite séquentielle est franchie, soit la probabilité postérieure qu'une variante soit la meilleure dépasse un seuil pré-spécifié (par exemple, 95 %). Les règles d'arrêt doivent être déclarées avant la collecte des données pour contrôler l'inflation de l'erreur de type I qui découle de la surveillance continue.

6

Le chercheur rapporte la taille de l'effet estimée et l'incertitude pour chaque variante, la proportion de participants alloués à chaque variante, et le gain métrique global par rapport à une référence à allocation fixe. Les déclarations inférentielles sont faites en utilisant le cadre de règle d'arrêt pré-enregistré (fréquentiste ou bayésien) plutôt que les tests t conventionnels de fin d'étude, qui ne tiennent pas compte de l'allocation adaptative.

Pièges courants

  • Jeter un coup d'œil sans règle d'arrêt — surveiller les résultats en continu et s'arrêter lorsque la signification est d'abord atteinte sans règle de dépense alpha pré-enregistrée gonfle considérablement le taux d'erreur de type I ; toujours pré-enregistrer le critère d'arrêt.
  • Ignorer les résultats retardés — si la métrique de résultat est en retard par rapport au traitement (par exemple, la rétention à 30 jours mesurée pour une variante attribuée aujourd'hui), l'algorithme se met à jour sur des données incomplètes et alloue incorrectement ; utiliser des conceptions qui tiennent compte du retour d'information retardé ou passer à une conception fixe.
  • Appliquer une analyse à allocation fixe — rapporter des intervalles de confiance standard ou des valeurs p à partir de tests t de fin d'étude après une allocation adaptative produit des estimations biaisées ; utiliser des tests séquentiels par rapport de vraisemblance, des intervalles de crédibilité postérieurs, ou des estimateurs de correction hors politique.
  • Trop peu d'observations pour que l'adaptation ait un impact — avec un échantillon total très petit, l'algorithme ne modifie guère l'allocation avant la fin de l'expérience ; dans les contextes à petit échantillon, une conception randomisée équilibrée est plus efficace.
  • Confondre l'objectif d'exploration avec l'objectif d'inférence — l'allocation adaptative optimise les résultats agrégés pendant l'essai ; si le seul objectif est l'estimation précise de l'effet de chaque variante, une conception équilibrée fixe fournit des erreurs standard plus étroites.

Questions fréquentes

Un test A/B adaptatif est-il statistiquement valide ?

Oui, à condition que la règle d'arrêt et la méthode d'analyse soient pré-enregistrées et correspondent à la conception adaptative. Les tests t standard et les intervalles de confiance à échantillon fixe ne sont pas valides après une allocation adaptative. Les alternatives valides comprennent les tests séquentiels de dépense alpha (par exemple, les limites de O'Brien-Fleming), l'échantillonnage de Thompson avec des intervalles de crédibilité bayésiens, ou des estimateurs de correction hors politique tels que la pondération par l'inverse de la propension. La discipline clé est de s'engager sur la règle d'arrêt avant le début de la collecte des données.

En quoi cela diffère-t-il d'une expérience multi-bras standard ?

Une expérience multi-bras standard attribue les participants aux variantes selon des proportions fixes (souvent égales) tout au long de l'essai et analyse toutes les données à la fin. Un test A/B adaptatif met à jour en continu les ratios d'allocation pendant l'essai en fonction des données de résultats accumulées, de sorte que les bras les plus performants reçoivent plus de participants au fil du temps. Le mécanisme inférentiel doit tenir compte de cette allocation non fixe, tandis que l'analyse multi-bras standard suppose une randomisation fixe.

Qu'est-ce que l'échantillonnage de Thompson et pourquoi est-il populaire ?

L'échantillonnage de Thompson est un algorithme bayésien qui, à chaque étape de décision, échantillonne une estimation de performance à partir de la distribution postérieure de chaque variante et attribue la prochaine unité à la variante ayant la valeur échantillonnée la plus élevée. Il est populaire car il est simple à mettre en œuvre, équilibre naturellement l'exploration et l'exploitation, et s'est avéré théoriquement et empiriquement atteindre des résultats cumulatifs quasi optimaux. Pour les résultats binaires, il utilise des distributions Beta conjuguées, ce qui rend la mise à jour postérieure un calcul en une ligne.

Quand devrais-je m'en tenir à un test A/B classique à allocation fixe ?

Utilisez une conception fixe lorsque : les résultats sont considérablement retardés (le décalage du retour d'information dépasse l'intervalle inter-décision) ; l'échantillon est petit et l'algorithme ne peut pas s'adapter de manière significative ; les exigences réglementaires imposent une allocation équilibrée (par exemple, certains essais cliniques de phase III) ; ou le seul objectif est une estimation précise de l'effet plutôt que la maximisation des résultats pendant l'essai. Dans ces situations, une conception randomisée contrôlée équilibrée fournit une inférence plus claire avec une analyse plus simple.

Le test A/B adaptatif peut-il être utilisé pour plus de deux variantes ?

Oui. Le cadre des bandits manchots s'étend naturellement à n'importe quel nombre de bras (variantes). Avec de nombreuses variantes, l'allocation adaptative est particulièrement précieuse car une allocation égale fixe dans un contexte multi-bras disperse trop l'échantillon sur les bras peu performants. Des algorithmes tels que l'échantillonnage de Thompson, UCB et Successive Rejects s'adaptent directement aux contextes multi-bras.

Méthodes associées

Sources

  1. Russo, D., Van Roy, B., Kazerouni, A., Osband, I., & Wen, Z. (2018). A Tutorial on Thompson Sampling. Foundations and Trends in Machine Learning, 11(1), 1–96.

    Ouvrir la référence DOI
    Copié.
  2. Offer-Westort, M., Coppock, A., & Green, D. P. (2021). Adaptive Experimental Design: Prospects and Applications in Political Science. American Journal of Political Science, 65(4), 826–844.

    Ouvrir la référence DOI
    Copié.