Етап 1: Збір статистики.
Перш ніж скласти план А/B тестування, необхідно провести ретельне дослідження того, як в даний час працює веб-сайт. Необхідно зібрати дані про те, скільки користувачів заходить на сайт, які сторінки привертають найбільше трафіку, які різні цілі конверсії різних сторінок і так далі. Для цих цілей можна використовувати інструменти кількісної аналітики веб-сайтів, такі як Google Analytics, Omniture, Mixpanel і інші, які можуть допомогти визначити найбільш відвідувані сторінки, сторінки з найбільшою кількістю витраченого часу або сторінки з найвищим показником відмов. Наприклад, можна почати з короткого списку сторінок з найбільшим дохідним потенціалом або найбільшим щоденним трафіком. Також в роботі дуже корисні теплові карти (Heatmap) – інструменти, які візуалізують поведінку користувачів на сторінках сайту. За допомогою теплових карт можна визначити проблемні області на веб-сайті. Ще одним популярним інструментом, використовуваним для глибших досліджень, є опитування користувачів веб-сайтів. Опитування можуть бути реалізовані у вигляді прямого каналу між командою веб-сайту і кінцевим користувачем і часто можуть виявити проблеми, які можуть бути втрачені в сукупних даних.
Етап 2: Формулювання гіпотези про те, що можна змінити.
Завжди потрібно враховувати бізнес-цілі, реєструючи результати спостережень і створюючи спрямовані на підвищення конверсії гіпотези, засновані на отриманих даних. Якісні та кількісні інструменти дослідження можуть допомогти тільки в зборі даних про поведінку відвідувачів. Кращий спосіб використовувати кожен біт зібраних даних – це проаналізувати їх, провести ретельні спостереження, а потім намалювати веб-сайт з новою інформацією для користувачів, щоб сформулювати засновані на даних гіпотези (варіанти впроваджених змін).
Етап 3: Створення варіації.
Наступним кроком в програмі тестування повинно бути створення варіанту, заснованого на сформованої вище гіпотезі. Варіант – це інша версія існуючої статті зі змінами, які ви хочете протестувати. Можна протестувати кілька варіантів з контролем, щоб побачити, який з них працює найкраще. Краще створити варіант, заснований на гіпотезі про те, що може працювати з точки зору UX. Наприклад, згідно зі статистикою, є досить великий відсоток людей, які не заповнюють форми. Можливо, в формі занадто багато полів? Чи потрібна особиста інформація? Може, варто спробувати варіант з більш короткою формою або інший варіант, пропустивши поля, які запитують особисту інформацію?
Етап 4: Тестування.
У цій статті розглянуто тільки А/В тестування. Насправді в маркетингу може застосовуватися кілька схожих методів, таких як: A/B тестування, різноманітне (багатовимірне) тестування, Split URL-тестування і багатосторінкове тестування.
Різноманітне тестування (MVT) – це метод, при якому вносяться зміни в декілька розділів веб-сторінки і створюються варіанти для всіх можливих комбінацій. У багатовимірному тестуванні можна протестувати всі комбінації в одному тесті. Багатофакторний тест допомагає визначити, який елемент веб-сторінки має найбільший вплив на коефіцієнт конверсії. Наприклад, ви вирішили протестувати дві версії зображення героя і кольору кнопки CTA на веб-сторінці. Використовуючи MVT, можна створити один варіант для зображення героя і один для кольору кнопки CTA. Для тестування всіх версій потрібно створити комбінації всіх варіантів.
У класичному варіанті А/В тестування обидві сторінки знаходяться за одним посиланням, у разі Split URL тестування, варіант В знаходиться за іншим URL-посиланням (відвідувачі, відповідно, не бачать різниці).
Багатосторінкове тестування – це форма експерименту, де перевіряються зміни окремих елементів на кількох сторінках. У класичному варіанті беруться всі сторінки воронки продажів і створюються нові версії кожної з них, які передбачувано більш вдалі, а потім тестуються. Це називається воронкоподібним багатосторінковим тестуванням. Також можна перевірити, як додавання або видалення повторюваних елементів, таких як значки безпеки, відгуки та інше, може вплинути на конверсії в усій послідовності.
При проведенні самого тестування необхідно враховувати ряд певних факторів. Щоб не сталося статистичних відхилень, тобто користувачі одного сегмента ніяк не могли вплинути на інший, важливо, щоб користувач був віднесений строго до одного сегмента. Це можна зробити, наприклад, записавши мітку сегмента в cookies браузера.
Також необхідно забезпечити відсутність впливу зовнішніх і внутрішніх факторів, таких як рекламні кампанії, день тижня, погода, сезонність або дії операторів call-центру, служби підтримки, роботи редакції, розробників або адміністраторів ресурсу. Для вирішення першого питання виміри в сегментах важливо робити паралельно, тобто, в один і той же період часу, для другого – скористатися фільтрами в Google Analytics.
Найважливішим в цьому способі маркетингових досліджень є необхідність розуміння того, що ніколи не потрібно поспішати з висновками. Результати можуть змінюватися з кожним днем, а значить найчастіше в значеннях представлені випадкові величини. Для порівняння випадкових величин необхідно оцінити середні значення, а для оцінки середнього значення потрібен якийсь час, щоб накопичити історію.
Етап 5: Аналіз результатів і розгортання виграшного варіанту.
Незважаючи на те, що це останній крок визначення «переможця» кампанії, аналіз результатів надзвичайно важливий. Оскільки A/B тестування вимагає безперервного збору і аналізу даних, а не одноразового, саме на цьому етапі розгортається вся основна задача. Як тільки тест завершиться, проаналізуйте його результати, враховуючи такі показники, як відсоткове збільшення, рівень достовірності, прямий і непрямий вплив на інші показники і так далі. Після розгляду цих даних, якщо тест пройдено успішно, розгорніть виграшний варіант. Якщо результати тесту неоднозначні, їх краще проаналізувати і застосувати в наступних тестах.