Comment concevoir un A/B test qui estime réellement un effet ?
Le protocole fixe avant le test : population, unité de randomisation, variante, métrique primaire, MDE, durée, exclusions et analyse en intention de traiter.
Réponse directe
Estimer un ITT avec une précision connue pour la population éligible.
Le protocole fixe avant le test : population, unité de randomisation, variante, métrique primaire, MDE, durée, exclusions et analyse en intention de traiter.
ITT = mean(Y assigned B) − mean(Y assigned A)ESTIMAND
Profil de l’estimation
- Unité d’analyse
- Unité assignée × groupe × périodeNomenclature scientifique contrôlée (EN)
randomization unit - Estimand exact
ITT = E[Y|Z=1] − E[Y|Z=0]- Modèle ou livrable
ITT = mean(Y assigned B) − mean(Y assigned A)
01—08
Cadre d’analyse vérifiable
- 01Question
Comment concevoir un A/B test qui estime réellement un effet ?
- 02Estimand
ITT = E[Y|Z=1] − E[Y|Z=0] · randomization unit
- 03Données
unit_id · assignment · outcome · pre_period · exposure
- 04Modèle ou livrable
ITT = mean(Y assigned B) − mean(Y assigned A)
- 05Calcul déclaré
ITT = mean(Y assigned B) − mean(Y assigned A) → ITT = E[Y|Z=1] − E[Y|Z=0]
- 06Contrôles d’incertitude
Sample ratio mismatch · Pre-period balance · Missing outcomes
- 07Validation spécifique
Vérifier données, stabilité de l’estimation et limites d’interprétation. Sample ratio mismatch · Pre-period balance · Missing outcomes
- 08Limites
Changer métrique ou durée après avoir vu le résultat.
Variables nécessaires
unit_idassignmentoutcomepre_periodexposure
Contrôles · Nomenclature scientifique contrôlée (EN)
- Sample ratio mismatch
- Pre-period balance
- Missing outcomes
Estimer un ITT avec une précision connue pour la population éligible.
Changer métrique ou durée après avoir vu le résultat.
Sources scientifiques
1 source
Dataset · Outil
Connexions méthodologiques
