В начале 2023 года «Альфа-Банк» улучшил предложение на витрине подарков Exchange: беспроцентный период по новой кредитке увеличился до 365 дней. Коллеги из «Альфа-Банка» предложили переименовать акцию в «Год без процентов». Очевидно, что такое изменение повысит популярность предложения и прокачает все шаги в воронке. Однако когда есть возможность тестировать много гипотез, появляется ресурс даже для таких мелких вопросов, как «написать „Год без процентов“ или „365 дней без процентов“?». Мы проверили гипотезу и выяснили, что второй вариант приносит на 10% больше заказов — это десятки тысяч новых клиентов в год.
Head of Performance Products в команде Flocktory

Первое правило: каждая гипотеза должна быть конкретной и работать с единственным изменением. Например, тестируем новое изображение, но в нем меняется целиком и дизайн, и текст. Такой эксперимент покажет, как хуже или лучше работает это сочетание изменений в совокупности, но будет непонятно, что стало ключевым фактором: оформление или сообщение. Второе: изменение должно влиять на конкретную метрику. В таких ситуациях можно смотреть на все метрики подряд и пытаться делать какие-то выводы. Это сравнимо с ситуацией, когда корабль в дрейфе причаливает к острову, но команда не знает, хорошо ли это. Такая работа бессистемна. Третье: гипотеза должна быть релевантна продукту прямо сейчас. Если понимаете, что ваш онлайн-сервис по какой-то конверсионной метрике в три раза отстает от конкурентов, то нет смысла тестировать мелкие гипотезы и заниматься тонкой настройкой типа улучшения кнопок. Стоит подняться на уровень выше: переосмыслить CJM, изменить структуру информации на целевой странице и т. п.
Head of Performance Products в команде Flocktory
Грамотно сформулированная гипотеза сразу предполагает, какие выводы из каких метрик предстоит сделать и какое решение принять. Она может подтвердиться с дальнейшей имплементацией в продукт, а может быть опровергнута. Это тоже хороший результат, это новые знания, хоть и не влияющие на метрики. Иногда можно получить промежуточный результат, когда, допустим, мы вырастили одну метрику, но по целевой не было изменений или вырастили целевую метрику, но уронили какие-то проверочные. В этих случаях мы думаем, как изменить эксперимент или гипотезу, либо добавляем больше вариаций. Последнее делается для того, чтобы реализовать потенциал гипотезы, если он в ней есть по итогам теста.
Head of Performance Products в команде Flocktory


