Contenu du cours
Practitioner · Cours 2 : Analytique numérique et tests · Leçon 2 sur 5

Mettre en place un test A/B qui isole réellement une seule variable

Niveau: AdvancedDurée: 45 minutesCommande utilisée: A (le T-shirt)Outil: Fiche d'analytique numérique et de tests
Pour les usines, acheteurs et détaillants qui gèrent leur propre boutique d'usine en ligne et veulent tester un changement sur une page produit de façon à réellement prouver que ce changement a causé le résultat. La leçon 2.1 est utile en arrière-plan mais non requise. Les chiffres sont des chiffres pédagogiques construits sur la commande A, le T-shirt.
UsineDelta Garments, sa propre boutique d'usine en ligne
ProduitT-shirt de type commande A, second choix
Variante 1 (contrôle)Photo produit studio existante
Variante 2 (test)Nouvelle photo produit sur mannequin
Répartition du trafic50/50, même période de deux semaines
Seul changement testéLa photo uniquement ; prix, description et mise en page inchangés
02Ouverture

Cette page enseigne comment mettre en place un test A/B d'une page produit de sorte qu'une seule variable change entre les deux versions, et que tout écart de résultat puisse être attribué à cette variable elle-même

Une page produit peut être changée de nombreuses façons à la fois, une nouvelle photo, une description plus courte, une couleur de bouton différente, mais changer plusieurs choses ensemble puis comparer le résultat à l'ancienne page ne laisse aucun moyen de savoir quel changement a réellement causé un meilleur ou un moins bon résultat. Un test ne prouve quelque chose que si tout, sauf la seule chose testée, reste identique.

Cette leçon donne la méthode qu'une usine ou un détaillant utilise pour mettre en place un test équitable à une seule variable avant d'en tirer une quelconque conclusion. Vous l'appliquerez à la propre boutique d'usine en ligne de Delta Garments, en testant une nouvelle photo produit pour un T-shirt de type commande A en second choix face à la photo existante, car un test mêlant plus d'un changement ne peut honnêtement dire à personne lequel a fonctionné.

03Avant de commencer

Ce dont vous avez besoin, et ce que cette leçon ne couvre pas

Vous avez besoin de : l'idée de lire correctement le propre taux de conversion de référence d'une page produit, de la leçon 2.1, est utile en arrière-plan mais non requise.

À la fin de cette leçon, vous pourrez :

  • choisir une seule variable à tester et garder tout autre facteur inchangé ;
  • répartir le trafic équitablement entre une version de contrôle et une variante de test ;
  • exécuter un test pendant une période assez longue pour recueillir un résultat digne de confiance ;
  • reconnaître un facteur confondant qui ruinerait un test avant même qu'il ne commence ;
  • consigner la mise en place d'un test assez clairement pour que son résultat puisse être digne de confiance plus tard.

Non couvert ici : juger si le résultat d'un test terminé est réel ou du bruit ordinaire (leçon 2.3), ou diagnostiquer une page qui reçoit déjà beaucoup de trafic mais convertit mal (leçon 2.4). Cette leçon enseigne uniquement comment mettre en place correctement un test avant qu'il ne s'exécute.

04Termes clés

Mots que vous rencontrerez dans cette leçon

TermeSignification
Test à une seule variableUn test dans lequel exactement un élément d'une page change entre le contrôle et la variante de test, si bien que tout écart de résultat peut être attribué à cet élément seul.
Variante testéeL'une des deux versions concurrentes ou plus d'une page comparées dans un test.
Condition de contrôleGarder tout facteur, sauf la seule variable testée, identique entre les deux versions, afin que la comparaison isole cette seule variable.
Facteur confondantTout autre changement survenant en même temps qu'un test et qui pourrait aussi expliquer un changement dans le résultat.
Répartition du traficLa façon dont les visiteurs entrants sont divisés entre la version de contrôle et la variante de test, généralement aussi près de l'égalité que possible.
Page en directLa version d'une page réellement montrée à un visiteur pendant un test, que ce soit le contrôle ou la variante de test, décidée par la répartition du trafic.
Période de testLa durée fixe pendant laquelle un test s'exécute avant que son résultat ne soit lu, convenue à l'avance et non prolongée ni raccourcie en cours de route.
05Enseignement
La règle

Un test à une seule variable change exactement un élément d'une page entre le contrôle et la variante de test, et garde tout autre facteur identique, si bien que tout écart de résultat peut être attribué à cet élément unique

Changer la photo et le prix en même temps, puis observer un taux de conversion plus élevé sur la nouvelle version, ne laisse aucun moyen de savoir si la photo, le prix, ou une combinaison des deux a produit le résultat, car deux explications se disputent désormais le même chiffre unique.

Plusieurs changements à la foisNouvelle photo, nouveau prix,nouvelle description ensembleImpossible de savoir lequel a marchéTest à une seule variableNouvelle photo seule ; prix,description, mise en page fixesLe résultat appartient à la photo seule
Changer un élément et garder chaque autre facteur fixe est ce qui permet d'attribuer le résultat d'un test à cet élément seul. Changer plusieurs choses ensemble mélange leurs effets en un chiffre que personne ne peut plus séparer ensuite.
Ce que vous rencontrez dans la réalité

Ce qui compte comme « une seule variable » et comment le trafic est réparti varient selon le modèle économique, le marché et le nombre de visiteurs disponibles

Ce qui peut varierLes formes que vous rencontrezPourquoi cela compte pour vous
Modèle économiqueUne boutique d'usine en fabrication sur commande comme celle de Delta Garments teste un seul style à la fois, car le stock d'un style donné est limité et ne se répète pas indéfiniment. Un détaillant en fabrication sur stock gérant un style permanent peut exécuter un test plus long, puisque le même style reste disponible tout du long.La période de test et la répartition du trafic doivent correspondre à la durée pendant laquelle le produit restera réellement en vente.
MarchéLa boutique en ligne d'une marque exportatrice servant plusieurs pays à la fois devrait répartir le trafic séparément dans chaque pays si le comportement d'achat diffère selon le pays, plutôt que de regrouper tous les pays en un seul résultat combiné.Regrouper des marchés différents dans un seul test peut cacher un résultat qui n'est vrai que dans l'un d'eux.
Volume de traficUne page à fort trafic quotidien peut atteindre une répartition fiable en quelques jours. Une page de boutique d'usine à trafic plus faible, comme celle en second choix de Delta Garments, nécessite une période de test plus longue pour recueillir assez de visites par variante pour que cela ait un sens.Un trafic plus faible ne rend pas un test à une variable incorrect ; il allonge la période de test nécessaire à un résultat fiable.
Nombre de variantes testéesTester deux versions divise le trafic en deux ; tester trois ou quatre options de photo à la fois divise le même trafic davantage, si bien que chaque variante recueille moins de visites sur la même période.Tester davantage de variantes à la fois nécessite proportionnellement plus de trafic total, ou une période plus longue, pour garder chaque comparaison fiable.
Le cas que nous suivons

Delta Garments teste une nouvelle photo produit sur mannequin face à sa photo studio existante pour le même T-shirt de type commande A en second choix

Delta Garments gère une petite boutique d'usine en ligne vendant des T-shirts de type commande A en second choix qui ne répondent pas à la norme d'exportation de Northline Apparel mais restent assez solides pour être vendus localement à un prix inférieur. L'équipe numérique veut savoir si une nouvelle photo produit sur mannequin convertit mieux que la photo studio simple existante.

Tout le reste sur la page reste exactement identique entre les deux versions : le même prix, la même description produit, la même mise en page, et la même période de deux semaines, avec les visiteurs entrants répartis à environ 50/50 entre la photo studio existante (le contrôle) et la nouvelle photo sur mannequin (la variante de test).

Le chiffre calculé

Une répartition du trafic 50/50 sur une période de test de deux semaines donne à chaque variante un nombre comparable de visiteurs avant toute comparaison de résultat

Visites hebdomadaires totales sur la page de la boutique : 2 000
Répartition du trafic : 50 % contrôle, 50 % variante de test
Groupe contrôle (photo studio) : 2 000 × 50 % = 1 000 visiteurs par semaine
Groupe variante de test (photo mannequin) : 2 000 × 50 % = 1 000 visiteurs par semaine
Sur la période de test de deux semaines : 2 000 visiteurs par variante au total

Une répartition égale, maintenue pendant les deux semaines entières sans ajuster le ratio en cours de route, est ce qui permet ensuite de comparer le propre taux de conversion de chaque variante sur un pied d'égalité ; changer la répartition en cours de test deviendrait lui-même un facteur confondant.

Contrôle (photo studio) : 1 000 visiteurs/semaineVariante de test (photo mannequin) : 1 000 visiteurs/semaine
Une répartition égale garde chaque groupe de variante à la même taille, si bien qu'une comparaison ultérieure n'est pas faussée par le simple fait qu'un groupe a plus de visiteurs.
La méthode

Mettez en place un test équitable à une seule variable en cinq étapes

  1. Choisissez exactement un élément de la page à changer, comme la seule photo produit.
  2. Fixez chaque autre élément, prix, description et mise en page, de façon identique entre le contrôle et la variante de test.
  3. Répartissez le trafic entrant aussi équitablement que possible entre les deux versions et gardez cette répartition fixe pendant tout le test.
  4. Définissez une période de test à l'avance, assez longue pour que le trafic normal de la page produise un nombre de visiteurs fiable dans chaque variante.
  5. Surveillez tout facteur confondant, comme une rupture de stock ou une promotion sans rapport, qui pourrait toucher le groupe d'une variante et pas l'autre pendant le test.
Le piège

Une erreur courante est de changer la photo et, en cours de test, de corriger aussi une faute de frappe sans rapport dans la description produit sur une seule variante

Une équipe qui corrige une faute d'orthographe qu'elle remarque par hasard sur la page de la variante de test, sans apporter la même correction sur la page de contrôle, a discrètement introduit une seconde variable dans ce qui devait être un test à une seule variable, même si le changement semblait petit et entièrement sans rapport avec la photo réellement testée. Le coût de cette erreur n'est pas la correction elle-même, inoffensive en soi ; c'est que le résultat entier du test devient inutilisable, puisque personne ne peut plus dire honnêtement si la photo, la correction, ou un mélange des deux, a produit le résultat, gaspillant les deux semaines complètes de trafic consommées par le test et forçant à refaire toute la comparaison depuis le début.

06En mots simples

Si vous voulez savoir si une nouvelle photo se vend mieux qu'une ancienne, ne changez que la photo et laissez tout le reste sur la page exactement identique. Répartissez vos visiteurs également entre l'ancienne version et la nouvelle, et gardez cette répartition stable pour une période fixe convenue avant le début du test. Ne corrigez, n'ajustez ni n'améliorez rien d'autre sur l'une ou l'autre version pendant que le test s'exécute, même quelque chose de petit et sans rapport, car tout second changement ruine votre capacité à dire que la photo seule a causé le résultat.

07Vérification rapide
  • Changez exactement un élément entre le contrôle et la variante de test ; jamais deux changements à la fois.
  • Répartissez le trafic aussi près de 50/50 que la plateforme le permet, et gardez cette répartition pendant toute la période de test.
  • Convenez de la période de test à l'avance, typiquement une à quatre semaines selon le propre volume de trafic de la page.
  • Surveillez tout changement sans rapport, comme un problème de stock ou une promotion, touchant une seule variante pendant le test.
  • Consignez la configuration exacte, ce qui a changé et ce qui est resté fixe, avant le début du test, non après avoir lu le résultat.
08Scénario professionnel

L'équipe de Delta Garments remarque que la photo de la variante de test se charge aussi plus vite que celle du contrôle, sur une connexion mobile lente

En cours du test de deux semaines de la nouvelle photo sur mannequin contre la photo studio existante, un membre de l'équipe remarque que le fichier de la nouvelle photo est plus petit et se charge nettement plus vite sur une connexion mobile lente, purement à cause de la façon dont il a été exporté, non parce que quelqu'un avait voulu un changement de vitesse.

  • Le fichier de la photo studio (contrôle) fait 480 Ko ; celui de la photo mannequin (variante de test) fait 140 Ko.
  • Environ un tiers des visiteurs de la boutique d'usine naviguent sur une connexion mobile lente où la vitesse de chargement affecte visiblement si une page finit de charger avant que le visiteur ne parte.
  • Il reste une semaine au test.

Delta Garments doit-elle traiter le résultat final du test comme la preuve que la photo sur mannequin elle-même convertit mieux ? Décidez avant d'ouvrir la réponse.

Voir la décision

Non. La différence non intentionnelle de taille de fichier et de vitesse de chargement est un facteur confondant ; le test ne peut plus isoler l'effet visuel propre de la photo de sa vitesse de chargement plus rapide.

1. Un test à une seule variable exige que tout autre facteur soit maintenu égal, et la vitesse de chargement, surtout sur des connexions mobiles lentes, est elle-même un facteur pouvant changer la conversion indépendamment de ce que montre la photo. 2. Un tiers des visiteurs sont sur des connexions où cette différence est assez grande pour compter, ce n'est donc pas une erreur d'arrondi négligeable. 3. La réponse honnête est de noter le facteur confondant, de réexporter les deux images à une taille de fichier équivalente, et de relancer le test, plutôt que de rapporter un résultat qui mélange deux causes comme s'il en avait prouvé une.

09Ce que ça coûte

Exécuter un test confondu et faire confiance à son résultat peut amener une boutique d'usine à conserver un mauvais choix pour des raisons jamais réellement testées

Le T-shirt de la commande A porte un prix boutique de 19,90 USD par pièce, bien que la propre boutique d'usine en second choix de Delta Garments vende le même style remisé à environ 60 % de ce prix, 11,94 USD par pièce (docs/02 section 7 fixe le chiffre plein tarif). Si un test confondu créditait à tort la photo sur mannequin d'un résultat en réalité dû à la vitesse de chargement plus rapide, et que Delta Garments déployait la photo sans corriger l'écart de vitesse sous-jacent sur d'autres pages :

19,90 USD × 60 % = 11,94 USD prix boutique d'usine par pièce
Si 500 visites hebdomadaires convertissent 1 point de pourcentage plus mal que ce que suggérait le test confondu : 500 × 1 % = 5 ventes de moins par semaine
5 × 11,94 USD = 59,70 USD par semaine sous-estimés dans chaque prévision future

Un petit chiffre hebdomadaire s'accumule silencieusement chaque semaine où une leçon erronée continue d'être appliquée, un coût réel bien plus élevé que la seule semaine supplémentaire qu'aurait coûtée un nouveau test propre.

10Modèle de travail

Fiche d'analytique numérique et de tests : consigner la propre configuration de chaque test

Utilisez la fiche T23-C02 d'analytique numérique et de tests, feuille « Journal de configuration de test ». Pour chaque test, consignez la seule variable changée, ce qui a été gardé fixe, la répartition du trafic, la période de test, et tout facteur confondant remarqué pendant l'exécution du test. Commencez par l'exemple de Delta Garments ci-dessus, puis ajoutez votre propre test.

[Télécharger la fiche d'analytique numérique et de tests](../../templates/T23-C02-digital-analytics-and-testing-worksheet.xlsx)

Télécharger Fiche d'analytique numérique et de tests (Excel)

11Vérifiez-vous

1. Pourquoi changer la photo et le prix en même temps rend-il le résultat d'un test impossible à interpréter proprement ?

2. La photo de la variante de test de Delta Garments se charge par hasard plus vite que la photo de contrôle sur des connexions lentes, pour des raisons sans rapport avec le test. Que devrait faire l'équipe ?

3. Pourquoi la répartition du trafic et la période d'un test devraient-elles être fixées à l'avance, plutôt qu'ajustées une fois que des résultats précoces commencent à arriver ?

12Glossaire
FRENARTRSignification
Test à une seule variableOne-variable testاختبار متغيّر واحدTek değişkenli testUn test dans lequel exactement un élément d'une page change entre le contrôle et la variante de test, si bien que tout écart de résultat peut être attribué à cet élément seul.
Variante testéeTest variantمتغيّر الاختبارTest varyantıL'une des deux versions concurrentes ou plus d'une page comparées dans un test.
Condition de contrôleControl conditionشرط الضبطKontrol koşuluGarder tout facteur, sauf la seule variable testée, identique entre les deux versions, afin que la comparaison isole cette seule variable.
Facteur confondantConfounding factorعامل مربكKarıştırıcı etkenTout autre changement survenant en même temps qu'un test et qui pourrait aussi expliquer un changement dans le résultat.
Répartition du traficTraffic splitتقسيم الزياراتTrafik bölünmesiLa façon dont les visiteurs entrants sont divisés entre la version de contrôle et la variante de test, généralement aussi près de l'égalité que possible.
Page en directLive pageالصفحة المباشرةCanlı sayfaLa version d'une page réellement montrée à un visiteur pendant un test, que ce soit le contrôle ou la variante de test, décidée par la répartition du trafic.
Période de testTest periodفترة الاختبارTest dönemiLa durée fixe pendant laquelle un test s'exécute avant que son résultat ne soit lu, convenue à l'avance et non prolongée ni raccourcie en cours de route.
13Suivant

Leçon 2.3 : Calculer si le résultat d'un test est un écart réel ou du bruit ordinaire

Vous prendrez ensuite les deux résultats d'un test terminé et déciderez si l'écart entre eux est assez grand pour être digne de confiance, ou assez petit pour n'être que du bruit ordinaire. Retour à la carte du cours

14Échelle

Reconnaître Distinguez un vrai test à une seule variable d'un test qui a discrètement changé plus d'une chose.
Relier Voyez comment la répartition du trafic et la période de test fonctionnent ensemble pour donner à chaque variante un résultat fiable.
Comparer Jugez si une différence inattendue remarquée en cours de test compte comme un facteur confondant.
Décider Choisissez si la configuration d'un test est assez propre pour faire confiance à son résultat, ou nécessite d'abord une reprise.