Пример
Побеждает вариант с лучшим результатом по главной метрикеДве темы письма по 10 000 игроков: открытия 18% и 21%, депозиты 4,1% и 4,0%. Победитель первая тема: по депозитам, а не по открытиям.
Правила
- Одно изменение за раз: тема, оффер или игра. Иначе непонятно, что сработало.
- Случайные группы одного сегмента и в одно время.
- Метрика заранее: депозиты, NGR или возврат из оттока. Открытия и клики только подсказка.
- Достаточно игроков и времени: маленькая разница на маленьких группах часто случайна. Не останавливайте тест в первый день, когда вариант "уже выигрывает".
A/B-тест и контрольная группа
A/B-тест сравнивает варианты между собой. Контрольная группа сравнивает кампанию с ее отсутствием. Хороший тест держит оба: вариант A, вариант B и группу без сообщения.
Где ошибаются
- Сравнивают оффер по выдаче. Щедрый оффер почти всегда приносит больше депозитов. Решение принимают по NGR за вычетом стоимости бонусов.
- Победителя не проверяют повторно. Через месяц эффект меняется, сильные решения перепроверяют.
- Тестируют мелочи. Цвет кнопки дает меньше, чем игра в оффере или канал сообщения.