Kurs içeriği
Practitioner · Kurs 2: Dijital Analitik ve Test · Ders 2 / 5

Gerçekten tek bir değişkeni izole eden bir A/B testi kurmak

Seviye: AdvancedSüre: 45 minutesKullanılan sipariş: A (tişört)Araç: Dijital analitik ve test çalışma sayfası
Kendi çevrimiçi fabrika satış mağazasını yöneten ve bir ürün sayfasındaki bir değişikliği, o değişikliğin sonuca gerçekten neden olduğunu kanıtlayacak şekilde test etmek isteyen fabrikalar, alıcılar ve perakendeciler için. Ders 2.1 arka plan olarak faydalıdır ama zorunlu değildir. Rakamlar, Sipariş A'ya, tişörte, dayanan öğretici rakamlardır.
FabrikaDelta Garments, kendi çevrimiçi fabrika satış mağazası
ÜrünSipariş A tarzı ikinci kalite tişört
Varyant 1 (kontrol)Mevcut stüdyo ürün fotoğrafı
Varyant 2 (test)Manken üzerinde yeni ürün fotoğrafı
Trafik bölünmesi50/50, aynı iki haftalık dönem
Test edilen tek değişiklikYalnızca fotoğraf; fiyat, açıklama ve düzen değişmedi
02Giriş

Bu sayfa, iki versiyon arasında yalnızca tek bir değişkenin değiştiği ve sonuçtaki herhangi bir farkın o değişkenin kendi etkisi olarak güvenilebileceği şekilde bir ürün sayfasında A/B testinin nasıl kurulacağını öğretir

Bir ürün sayfası aynı anda birçok şekilde değiştirilebilir, yeni bir fotoğraf, daha kısa bir açıklama, farklı bir buton rengi, ama birkaç şeyi birlikte değiştirip sonra sonucu eski sayfayla karşılaştırmak, hangi değişikliğin gerçekte daha iyi ya da daha kötü bir sonuca neden olduğunu bilmenin hiçbir yolunu bırakmaz. Bir test, yalnızca test edilen tek şey dışında her şey aynı kaldığında bir şey kanıtlar.

Bu ders, bir fabrika veya perakendecinin ondan herhangi bir sonuç çıkarmadan önce adil, tek değişkenli bir test kurmak için kullandığı yöntemi verir. Bunu Delta Garments'ın kendi çevrimiçi fabrika satış mağazasına, Sipariş A tarzı ikinci kalite bir tişört için yeni bir ürün fotoğrafını mevcut fotoğrafa karşı test ederek uygulayacaksınız; çünkü birden fazla değişikliğin karıştığı bir test, kimseye dürüstçe hangi değişikliğin işe yaradığını söyleyemez.

03Başlamadan önce

İhtiyacınız olan şey ve bu dersin kapsamadığı şey

İhtiyacınız olan: Ders 2.1'den, bir ürün sayfasının kendi referans dönüşüm oranını doğru okuma fikri, arka plan olarak faydalıdır ama zorunlu değildir.

Bu dersin sonunda şunları yapabileceksiniz:

  • test edilecek tek bir değişken seçmek ve diğer her faktörü değiştirmeden tutmak;
  • gelen trafiği bir kontrol versiyonu ile bir test varyantı arasında adil bir şekilde bölmek;
  • güvenilir bir sonuç toplamaya yetecek kadar uzun bir dönem boyunca test yürütmek;
  • bir testi başlamadan önce mahvedecek bir karıştırıcı etkeni fark etmek;
  • bir testin kurulumunu, sonucuna daha sonra güvenilebilecek kadar açık şekilde kaydetmek.

Bu derste ele alınmayan: tamamlanmış bir testin sonucunun gerçek mi yoksa sıradan gürültü mü olduğuna karar vermek (Ders 2.3), veya zaten bol trafik alan ama zayıf dönüşen bir sayfayı teşhis etmek (Ders 2.4). Bu ders yalnızca bir testin çalışmadan önce doğru şekilde nasıl kurulacağını öğretir.

04Temel terimler

Bu derste karşılaşacağınız kelimeler

TerimAnlamı
Tek değişkenli testKontrol ile test varyantı arasında bir sayfanın tam olarak tek bir öğesinin değiştiği, böylece sonuçtaki herhangi bir farkın yalnızca o öğeye atfedilebildiği bir test.
Test varyantıBir testte karşılaştırılan bir sayfanın iki veya daha fazla rakip versiyonundan biri.
Kontrol koşuluTest edilen tek değişken dışında her faktörü iki versiyon arasında aynı tutmak, böylece karşılaştırma o tek değişkeni izole eder.
Karıştırıcı etkenBir testle aynı anda meydana gelen ve sonuçtaki bir değişikliği de açıklayabilecek başka herhangi bir değişiklik.
Trafik bölünmesiGelen ziyaretçilerin kontrol versiyonu ile test varyantı arasında bölünme şekli, genellikle mümkün olduğunca eşite yakın.
Canlı sayfaTest sırasında bir ziyaretçiye gerçekten gösterilen sayfa versiyonu, ister kontrol ister test varyantı, trafik bölünmesine göre kararlaştırılır.
Test dönemiBir testin sonucu okunmadan önce çalıştığı sabit süre, önceden kararlaştırılmış ve yarıda uzatılmamış ya da kısaltılmamış.
05Öğretim
Kural

Tek değişkenli bir test, kontrol ile test varyantı arasında bir sayfanın tam olarak tek bir öğesini değiştirir ve diğer her faktörü aynı tutar, böylece sonuçtaki herhangi bir fark o tek öğeye atfedilebilir

Fotoğrafı ve fiyatı aynı anda değiştirip ardından yeni versiyonda daha yüksek bir dönüşüm oranı görmek, sonucu fotoğrafın mı, fiyatın mı, yoksa ikisinin bir bileşiminin mi ürettiğini bilmenin hiçbir yolunu bırakmaz, çünkü artık aynı tek rakam için iki açıklama yarışır.

Aynı anda birkaç değişiklikYeni fotoğraf, yeni fiyat,yeni açıklama birlikteHangisinin işe yaradığı bilinemezTek değişkenli testYalnızca yeni fotoğraf; fiyat,açıklama, düzen sabitSonuç yalnızca fotoğrafa aittir
Tek bir öğeyi değiştirmek ve her diğer faktörü sabit tutmak, bir testin sonucunun yalnızca o öğeye atfedilmesini sağlayan şeydir. Birkaç şeyi birlikte değiştirmek, etkilerini kimsenin sonradan ayıramayacağı tek bir rakamda karıştırır.
Gerçek hayatta karşılaştıklarınız

Neyin "tek değişken" sayıldığı ve trafiğin nasıl bölündüğü, iş modeline, pazara ve mevcut ziyaretçi sayısına göre değişir

Neyin değişebileceğiKarşılaşacağınız biçimlerSizin için neden önemli
İş modeliDelta Garments'ın kendi mağazası gibi sipariş üzerine üretim yapan bir fabrika satış mağazası her seferinde tek bir stili test eder, çünkü herhangi bir stilin stoğu sınırlıdır ve sonsuza kadar tekrarlanmaz. Kalıcı bir stili yöneten stoğa üretim yapan bir perakendeci daha uzun bir test yürütebilir, çünkü aynı stil boyunca mevcut kalır.Test dönemi ve trafik bölünmesi, ürünün gerçekte ne kadar süre satışta kalacağına uymalıdır.
PazarAynı anda birden fazla ülkeye hizmet veren ihracatçı bir markanın çevrimiçi mağazası, satın alma davranışı ülkeye göre farklılık gösteriyorsa trafiği her ülkede ayrı ayrı bölmelidir, tüm ülkeleri tek bir birleşik sonuçta toplamak yerine.Farklı pazarları tek bir testte birleştirmek, yalnızca birinde geçerli olan bir sonucu gizleyebilir.
Trafik hacmiYüksek günlük trafiğe sahip bir sayfa birkaç gün içinde güvenilir bir bölünmeye ulaşabilir. Delta Garments'ın ikinci kalite mağazası gibi daha düşük trafikli bir mağaza sayfası, her varyantta anlamlı olacak kadar yeterli ziyaret toplamak için daha uzun bir test dönemine ihtiyaç duyar.Daha düşük trafik tek değişkenli bir testi yanlış yapmaz; güvenilir bir sonuç üreten test dönemini uzatır.
Test edilen varyant sayısıİki versiyonu test etmek trafiği ikiye böler; aynı anda üç veya dört fotoğraf seçeneğini test etmek aynı trafiği daha da böler, bu yüzden her varyant aynı dönemde daha az ziyaret toplar.Aynı anda test edilen daha fazla varyant, her karşılaştırmayı güvenilir tutmak için orantılı olarak daha fazla toplam trafik veya daha uzun bir dönem gerektirir.
Takip ettiğimiz vaka

Delta Garments, aynı Sipariş A tarzı ikinci kalite tişört için yeni bir manken ürün fotoğrafını mevcut stüdyo fotoğrafına karşı test eder

Delta Garments, Northline Apparel'in ihracat standardını karşılamayan ama yerel olarak daha düşük bir fiyata satılacak kadar sağlam olan Sipariş A tarzı ikinci kalite tişörtler satan küçük bir çevrimiçi fabrika satış mağazası işletir. Dijital ekip, manken üzerinde yeni bir ürün fotoğrafının mevcut düz stüdyo fotoğrafından daha iyi dönüşüp dönüşmediğini bilmek ister.

Sayfadaki her şey iki versiyon arasında tamamen aynı kalır: aynı fiyat, aynı ürün açıklaması, aynı sayfa düzeni ve aynı iki haftalık dönem, gelen ziyaretçiler mevcut stüdyo fotoğrafı (kontrol) ile yeni manken fotoğrafı (test varyantı) arasında kabaca %50/%50 bölünür.

Hesaplanan rakam

İki haftalık bir test döneminde %50/%50 trafik bölünmesi, herhangi bir sonuç karşılaştırılmadan önce her varyanta karşılaştırılabilir sayıda ziyaretçi verir

Mağaza sayfasına haftalık toplam ziyaret: 2.000
Trafik bölünmesi: %50 kontrol, %50 test varyantı
Kontrol grubu (stüdyo fotoğrafı): 2.000 × %50 = 1.000 ziyaretçi/hafta
Test varyantı grubu (manken fotoğrafı): 2.000 × %50 = 1.000 ziyaretçi/hafta
İki haftalık test dönemi boyunca: her varyant için toplam 2.000 ziyaretçi

Yolun ortasında oranı ayarlamadan iki hafta boyunca korunan eşit bir bölünme, daha sonra her varyantın kendi dönüşüm oranının eşit koşullarda karşılaştırılmasını sağlayan şeydir; testin ortasında bölünmeyi değiştirmek kendisi bir karıştırıcı etken haline gelirdi.

Kontrol (stüdyo fotoğrafı): haftada 1.000 ziyaretçiTest varyantı (manken fotoğrafı): haftada 1.000 ziyaretçi
Eşit bir bölünme her varyant grubunu aynı büyüklükte tutar, böylece daha sonraki bir karşılaştırma yalnızca bir grubun daha fazla ziyaretçiye sahip olmasından bozulmaz.
Yöntem

Adil bir tek değişkenli testi beş adımda kurun

  1. Değiştirilecek sayfanın tam olarak tek bir öğesini, örneğin yalnızca ürün fotoğrafını, seçin.
  2. Fiyat, açıklama ve düzen gibi diğer her öğeyi kontrol ile test varyantı arasında aynı şekilde sabitleyin.
  3. Gelen trafiği iki versiyon arasında mümkün olduğunca eşit bölün ve bu bölünmeyi testin tamamı boyunca sabit tutun.
  4. Sayfanın normal trafiğinin her varyantta güvenilir bir ziyaretçi sayısı üretmesine yetecek kadar uzun bir test dönemini önceden belirleyin.
  5. Bir stok sıkıntısı veya ilgisiz bir promosyon gibi, test sırasında bir varyantın grubunu etkileyip diğerini etkilemeyecek herhangi bir karıştırıcı etkeni izleyin.
Tuzak

Yaygın bir hata, fotoğrafı değiştirmek ve test ortasında yalnızca bir varyantta ürün açıklamasındaki ilgisiz bir yazım hatasını da düzeltmektir

Test varyantının sayfasında tesadüfen fark ettiği bir yazım hatasını, kontrol sayfasında aynı düzeltmeyi yapmadan düzelten bir ekip, değişiklik küçük ve gerçekte test edilen fotoğrafla tamamen ilgisiz görünse bile, tek değişkenli olması gereken bir teste sessizce ikinci bir değişken sokmuş olur. Bu hatanın maliyeti düzeltmenin kendisi değildir, ki o kendi başına zararsızdı; testin tüm sonucunun kullanılamaz hale gelmesidir, çünkü artık kimse fotoğrafın mı, düzeltmenin mi, yoksa ikisinin bir karışımının mı sonucu ürettiğini dürüstçe söyleyemez, bu da testin tükettiği iki haftalık trafiğin tamamını boşa harcar ve tüm karşılaştırmanın baştan tekrarlanmasını gerektirir.

06Basit sözlerle

Yeni bir fotoğrafın eskisinden daha iyi sattığını bilmek istiyorsanız, yalnızca fotoğrafı değiştirin ve sayfadaki her şeyi tam olarak aynı bırakın. Ziyaretçilerinizi eski versiyon ile yeni versiyon arasında eşit şekilde bölün ve bu bölünmeyi test başlamadan önce kararlaştırılmış sabit bir dönem boyunca koruyun. Test çalışırken her iki versiyonda da başka hiçbir şeyi düzeltmeyin, ayarlamayın veya iyileştirmeyin, küçük ve ilgisiz bir şey olsa bile, çünkü herhangi bir ikinci değişiklik, sonucu yalnızca fotoğrafın nedeniyle olduğunu söyleme yeteneğinizi mahveder.

07Hızlı kontrol
  • Kontrol ile test varyantı arasında tam olarak tek bir öğeyi değiştirin; asla aynı anda iki değişiklik yapmayın.
  • Trafiği platformun izin verdiği kadar %50/%50'ye yakın bölün ve bu bölünmeyi tüm test dönemi boyunca koruyun.
  • Test dönemini önceden kararlaştırın, tipik olarak sayfanın kendi trafik hacmine bağlı olarak bir ila dört hafta.
  • Test sırasında yalnızca bir varyantı etkileyen bir stok sorunu veya promosyon gibi ilgisiz bir değişikliği izleyin.
  • Tam kurulumu, neyin değiştiğini ve neyin sabit kaldığını, sonucu okuduktan sonra değil, test başlamadan önce kaydedin.
08İş yeri senaryosu

Delta Garments'ın ekibi, test varyantının fotoğrafının kontrolünkinden yavaş bir mobil bağlantıda da daha hızlı yüklendiğini fark eder

Yeni manken fotoğrafının mevcut stüdyo fotoğrafına karşı iki haftalık testinin ortasında, bir ekip üyesi yeni fotoğraf dosyasının daha küçük olduğunu ve yavaş bir mobil bağlantıda gözle görülür şekilde daha hızlı yüklendiğini fark eder, bu tamamen nasıl dışa aktarıldığından kaynaklanır, kimsenin bir hız değişikliği amaçlamasından değil.

  • Stüdyo fotoğrafı (kontrol) dosyası 480 KB; manken fotoğrafı (test varyantı) dosyası 140 KB.
  • Fabrika satış mağazasının ziyaretçilerinin yaklaşık üçte biri, yükleme hızının bir sayfanın ziyaretçi ayrılmadan önce yüklenip yüklenmediğini gözle görülür şekilde etkilediği yavaş bir mobil bağlantıda geziniyor.
  • Testin bir haftası kalmıştır.

Delta Garments testin nihai sonucunu, manken fotoğrafının kendisinin daha iyi dönüştüğünün kanıtı olarak ele almalı mı? Cevabı açmadan önce karar verin.

Kararı göster

Hayır. Dosya boyutu ve yükleme hızındaki amaçlanmamış fark bir karıştırıcı etkendir; test artık fotoğrafın kendi görsel etkisini daha hızlı yükleme süresinden izole edemez.

1. Tek değişkenli bir test, diğer her faktörün eşit tutulmasını gerektirir, ve yükleme hızı, özellikle yavaş mobil bağlantılarda, fotoğrafın gösterdiğinden bağımsız olarak dönüşümü değiştirebilecek bir faktördür. 2. Ziyaretçilerin üçte biri bu farkın önemli olacak kadar büyük olduğu bağlantılardadır, bu yüzden göz ardı edilecek önemsiz bir yuvarlama hatası değildir. 3. Dürüst yanıt, karıştırıcı etkeni not etmek, her iki görseli de eşit dosya boyutunda yeniden dışa aktarmak ve testi yeniden çalıştırmaktır, iki nedeni karıştırıp tek birini kanıtlamış gibi bir sonuç bildirmek yerine.

09Maliyeti

Karıştırılmış bir teste güvenmek, bir fabrika satış mağazasını gerçekte hiç test edilmemiş nedenlerle kaybeden bir seçimde tutmaya yol açabilir

Sipariş A'nın tişörtü parça başına 19,90 ABD doları mağaza fiyatı taşır, ancak Delta Garments'ın kendi ikinci kalite mağazası aynı stili bu fiyatın yaklaşık %60'ına, parça başına 11,94 ABD doları'na indirimli satar (docs/02 bölüm 7 tam fiyat rakamını sabitler). Karıştırılmış bir test yanlışlıkla manken fotoğrafına, aslında daha hızlı yükleme süresinden kaynaklanan bir sonucu atfetseydi ve Delta Garments diğer sayfalardaki temel hız farkını düzeltmeden fotoğrafı yaygınlaştırsaydı:

19,90 × %60 = parça başına 11,94 ABD doları mağaza fiyatı
Haftalık 500 ziyaret, karıştırılmış testin önerdiğinden 1 puan daha kötü dönüşseydi: 500 × %1 = haftada 5 daha az satış
5 × 11,94 ABD doları = her tahminde eksik gösterilen haftada 59,70 ABD doları

Küçük bir haftalık rakam, yanlış bir dersin uygulanmaya devam ettiği her hafta sessizce birikir, temiz bir yeniden testin alacağı tek bir ekstra haftadan çok daha büyük gerçek bir maliyettir.

10Çalışma şablonu

Dijital analitik ve test çalışma sayfası: her testin kendi kurulumunu kaydedin

T23-C02 Dijital analitik ve test çalışma sayfasının "Test kurulum günlüğü" sayfasını kullanın. Her test için, değiştirilen tek değişkeni, sabit tutulanı, trafik bölünmesini, test dönemini ve test çalışırken fark edilen herhangi bir karıştırıcı etkeni kaydedin. Yukarıdaki Delta Garments örneğiyle başlayın, ardından kendi testinizi ekleyin.

[Dijital analitik ve test çalışma sayfasını indirin](../../templates/T23-C02-digital-analytics-and-testing-worksheet.xlsx)

Dijital analitik ve test çalışma sayfası dosyasını indirin (Excel)

11Kendinizi test edin

1. Fotoğrafı ve fiyatı aynı anda değiştirmek, bir testin sonucunu neden tam olarak yorumlanamaz hale getirir?

2. Delta Garments'ın test varyantı fotoğrafı, testle ilgisi olmayan nedenlerle yavaş bağlantılarda kontrol fotoğrafından tesadüfen daha hızlı yükleniyor. Ekip ne yapmalı?

3. Bir testin trafik bölünmesi ve dönemi neden erken sonuçlar gelmeye başladığında ayarlanmak yerine önceden sabitlenmelidir?

12Sözlük
TRENARFRAnlamı
Tek değişkenli testOne-variable testاختبار متغيّر واحدTest à une seule variableKontrol ile test varyantı arasında bir sayfanın tam olarak tek bir öğesinin değiştiği, böylece sonuçtaki herhangi bir farkın yalnızca o öğeye atfedilebildiği bir test.
Test varyantıTest variantمتغيّر الاختبارVariante testéeBir testte karşılaştırılan bir sayfanın iki veya daha fazla rakip versiyonundan biri.
Kontrol koşuluControl conditionشرط الضبطCondition de contrôleTest edilen tek değişken dışında her faktörü iki versiyon arasında aynı tutmak, böylece karşılaştırma o tek değişkeni izole eder.
Karıştırıcı etkenConfounding factorعامل مربكFacteur confondantBir testle aynı anda meydana gelen ve sonuçtaki bir değişikliği de açıklayabilecek başka herhangi bir değişiklik.
Trafik bölünmesiTraffic splitتقسيم الزياراتRépartition du traficGelen ziyaretçilerin kontrol versiyonu ile test varyantı arasında bölünme şekli, genellikle mümkün olduğunca eşite yakın.
Canlı sayfaLive pageالصفحة المباشرةPage en directTest sırasında bir ziyaretçiye gerçekten gösterilen sayfa versiyonu, ister kontrol ister test varyantı, trafik bölünmesine göre kararlaştırılır.
Test dönemiTest periodفترة الاختبارPériode de testBir testin sonucu okunmadan önce çalıştığı sabit süre, önceden kararlaştırılmış ve yarıda uzatılmamış ya da kısaltılmamış.
13Sonraki

Ders 2.3: Bir testin kendi sonucunun gerçek bir fark mı yoksa sıradan gürültü mü olduğunu hesaplamak

Bir sonraki derste tamamlanmış bir testin kendi iki sonucunu alıp aralarındaki farkın güvenilecek kadar büyük mü, yoksa sıradan gürültü olacak kadar küçük mü olduğuna karar vereceksiniz. Kurs haritasına dön

14Merdiven

TanıGerçek bir tek değişkenli testi, sessizce birden fazla şeyi değiştirmiş bir testten ayırt edin.
BağlaTrafik bölünmesi ve test döneminin, her varyanta güvenilir bir sonuç vermek için nasıl birlikte çalıştığını görün.
KarşılaştırTest ortasında fark edilen beklenmedik bir farkın bir karıştırıcı etken sayılıp sayılmadığına karar verin.
Karar verBir testin kurulumunun sonucuna güvenilecek kadar temiz olup olmadığını, yoksa önce yeniden çalıştırılması mı gerektiğini seçin.