Liigu sisu juurde

A/B-testi olulisuse kalkulaator

Raha ja rahandus
Matemaatika ja arvud

Kas sinu A/B-testi tulemus on päris või lihtsalt juhus?

A/B-testi konversioonimäärad, kasv, p-väärtus ja usaldusvahemik koos vajaliku valimi suurusega.

Testi seaded
Otsi
%

%

B kasv võrreldes A-ga

+25%

Oluline usaldusnivool 95% (p < 0,001): nii suur erinevus oleks ebatõenäoline, kui A ja B konverteeriksid võrdselt.

Testi kohta lähemalt

Konversioonimäär A
4%
Konversioonimäär B
5%
Erinevus B − A
+1 protsendipunkti
Erinevuse 95% usaldusvahemik
0,43 kuni 1,57 protsendipunkti
p-väärtus
< 0,001
Külastajaid variandi kohta võimsusel 80%
6745

Olulisus ütleb ainult, et erinevus on ebatõenäoliselt puhas juhus. See ei ütle, kui suur on tegelik kasv, kas muudatus selle põhjustas ega seda, kas see püsib. Otsusta valimi suurus enne alustamist ja ära peata testi kohe, kui see paistab oluline.

Sponsitud lingid

A/B-testi konversioonimäärad, kasv, p-väärtus ja usaldusvahemik koos vajaliku valimi suurusega.

Kuidas kasutada

  1. Sisesta, mitu külastajat nägi kumbagi varianti ja mitu neist konverteeris.
  2. Vaata B kasvu võrreldes A-ga ja seda, kas erinevus on oluline; üksikasjades on mõlemad määrad, erinevuse vahemik ja p-väärtus.
  3. Kontrolli, mitu külastajat kumbki variant vajab; ava Testi seaded, et muuta usaldusnivood, valida ühepoolne test või muuta võimsust.

Sponsitud lingid

Kuidas see töötab

A/B-test näitab lehe kahte versiooni eri külastajatele ja võrdleb, kui sageli kumbki konverteerib. Isegi kaks identset lehte saavad harva täpselt sama määra, seega on küsimus selles, kas vahe on suurem, kui juhus üksi tavaliselt tekitaks.

Test ühendab mõlemad rühmad üheks määraks p̂ ja võrdleb erinevust selle standardveaga: z = (p_B − p_A) ÷ √(p̂(1 − p̂)(1/n_A + 1/n_B)). p-väärtus on vähemalt nii suure vahe tõenäosus juhul, kui mõlemad versioonid konverteeriksid tegelikult võrdselt. Meetod järgib allikat NIST/SEMATECH e-Handbook; antud võimsuse jaoks vajalik valimi suurus järgib R-i funktsiooni power.prop.test.

Olulisus pole efekti suurus: erinevuse vahemik näitab, kui suur või väike võib tegelik kasu usutavalt olla. Otsusta valimi suurus enne testi, lase sel joosta täisnädalaid ja ära peata seda kohe, kui see muutub oluliseks, muidu võidab juhus palju sagedamini, kui usaldusnivoo laseks arvata.

Arvutusnäide

Kui suur on suhteline kasv 200 konversioonilt 250 konversioonile 5000 külastaja kohta?

  1. A = 200 ÷ 5000 = 4%; B = 250 ÷ 5000 = 5%.
  2. (B − A) ÷ A = 25%.

Suhteline kasv: 25%. Kahepoolne test usaldusnivool 95% annab p = 0,01587.

Korduma kippuvad küsimused

Mida tähendab p-väärtus 0,05?

Kui A ja B konverteeriksid tõesti sama määraga, ilmneks vähemalt nii suur erinevus umbes 5% testidest. See ei ole tõenäosus, et B on parem.

Mitu külastajat mu A/B-test vajab?

See sõltub määradest ja väikseimast kasvust, mida tasub tuvastada. Tõus 4%-lt 5%-le vajab 80% võimsuse ja 95% usaldusnivoo juures umbes 6745 külastajat variandi kohta; väiksemad kasvud vajavad palju rohkem.

Kas kasutada ühepoolset testi?

Ainult siis, kui otsustasid enne testi, et sind huvitab üks suund. Ühepoolne test jõuab olulisuseni kiiremini, kuid ei suuda öelda, et B tegi asja halvemaks.

Test ei ole oluline. Kas see tähendab, et A ja B on samad?

Ei. See tähendab, et andmed ei suuda neid veel eristada. Liiga väheste külastajatega paistab isegi tegelik erinevus sageli juhusena.

Kas saan võrrelda tulu külastaja kohta?

Ei. Test vajab kahendväljundit: iga külastaja kas teeb konversiooni või mitte. Rahasummad vajavad teistsugust statistilist testi.

Sponsitud lingid

Sponsitud lingid