Приклад
Перемагає варіант із кращим результатом за головною метрикоюДві теми листа по 10 000 гравців: відкриття 18% і 21%, депозити 4,1% і 4,0%. Перемогла перша тема: за депозитами, а не за відкриттями.
Правила
- Одна зміна за раз: тема, офер або гра. Інакше незрозуміло, що спрацювало.
- Випадкові групи одного сегмента і в один час.
- Метрика заздалегідь: депозити, NGR або повернення з відтоку. Відкриття та кліки лише підказка.
- Достатньо гравців і часу: маленька різниця на малих групах часто випадкова. Не зупиняйте тест у перший день, коли варіант "уже виграє".
A/B-тест і контрольна група
A/B-тест порівнює варіанти між собою. Контрольна група порівнює кампанію з її відсутністю. Добрий тест поєднує обидва підходи: варіант A, варіант B і групу без повідомлення.
Де помиляються
- Порівнюють офер за віддачею. Щедрий офер майже завжди приносить більше депозитів. Рішення ухвалюють за NGR після вирахування вартості бонусів.
- Переможця не перевіряють повторно. Через місяць ефект змінюється, тож сильні рішення перевіряють ще раз.
- Тестують дрібниці. Колір кнопки дає менше, ніж гра в офері чи канал повідомлення.