Przejdź do treści

Jak zbudować mapę drogową eksperymentów

Mapa drogowa eksperymentów (experimentation roadmap) to uszeregowany backlog testów do przeprowadzenia, oceniony tak, by mały zespół przeznaczał swoje nieliczne miejsca na eksperymenty na pomysły o najwyższej oczekiwanej wartości. Zamienia stos luźnych przeczuć w uporządkowaną kolejkę, ustala rytm przeglądów i wymusza najtrudniejszą decyzję: co zamknąć.

Zaktualizowano 6 min czytaniaAutor: fromHello

Najważniejsze wnioski

  1. Priorytetyzacja liczy się najbardziej wtedy, gdy możesz przeprowadzić tylko kilka testów – każde miejsce oddane słabemu pomysłowi to pominięty mocniejszy.

  2. Oceniaj pomysły metodą ICE (Impact × Confidence × Ease), żeby szybko uszeregować backlog; sięgnij po RICE, gdy zasięg mocno się różni. Oba wyniki to szacunki, a nie prawda.

  3. Buduj backlog z miejsc, w których cieknie Twój lejek, i z momentu aha przy aktywacji, a nie z listy życzeń.

  4. Przeglądaj wyniki w stałym rytmie i zamykaj przegrane testy zgodnie z planem – spodziewaj się, że większość testów nie wykaże różnicy.

Dlaczego wszystko zależy od priorytetyzacji

Mały zespół przeprowadza może dwa, trzy eksperymenty tygodniowo; tylko zespoły o wysokim tempie dochodzą do 10–20 – a nawet to jest trudne, gdy ruch jest niewielki. Przy tak niewielu miejscach prawdziwym kosztem przeciętnego testu nie jest sam test, tylko mocniejszy pomysł, który pominięto, żeby go przeprowadzić. Mapa drogowa istnieje po to, by każde miejsce trafiało do pomysłu o najwyższej oczekiwanej wartości, a nie do najgłośniejszego głosu na porannym spotkaniu. Prowadzenie tej uszeregowanej kolejki to duża część tego, czym zajmuje się Growth PM.

Buduj backlog z lejka i momentu aha

Nie zaczynaj od listy życzeń. Zacznij od miejsc, w których cieknie lejek. Przejdź każdy etap – wizyta, rejestracja, aktywacja, retencja, przychód – i zapisz największe spadki; każdy z nich to hipoteza do przetestowania. Nadaj dużą wagę etapom najbliższym Twojemu momentowi aha przy aktywacji, bo użytkownik, który nigdy się nie aktywuje, rzadko zostaje. Każdy nazwany moment aha traktuj jako korelację do zweryfikowania, a nie udowodnioną przyczynę: sygnał aktywacji przewiduje retencję, ale nie dowodzi, że to Ty ją wywołujesz. Każdy wyciek staje się wierszem backlogu – hipoteza, metryka, na którą powinna wpłynąć, i zgrubny szacunek, w jakim stopniu.

Oceniaj pomysły metodą ICE

ICE, spopularyzowane przez Seana Ellisa, ocenia każdy pomysł na trzech osiach w skali od 1 do 10: Impact (wpływ), czyli jak mocno może wpłynąć na metrykę; Confidence (pewność), czyli jaką masz pewność, że zadziała; i Ease (łatwość), czyli jak mało wysiłku wymaga. Pomnóż trzy liczby, posortuj malejąco i pracuj od góry. Metoda jest szybka, bo to trzy uczciwe szacunki. Ta szybkość to też haczyk: wynik jest szacunkiem, a nie faktem. Traktuj 512 i 480 jako mniej więcej równe, a nie jako rozstrzygnięcie. Liczba porządkuje listę; nie decyduje za Ciebie.

Umieść każdy pomysł na wykresie według wpływu i wysiłku. Szybkie wygrane – duży wpływ, mały wysiłek – dostają Twoje nieliczne miejsca jako pierwsze; pożeracze czasu rzadko zasługują na miejsce.

Gdy zasięg się różni, użyj RICE

ICE zawodzi, gdy dwa pomysły skrajnie różnią się liczbą użytkowników, do których docierają. RICE, opracowane przez Intercom, naprawia to, dodając Reach (zasięg) i dzieląc przez Effort (wysiłek): (Reach × Impact × Confidence) / Effort. Podpowiedź widoczna dla każdego odwiedzającego i poprawka ukryta na stronie ustawień są wtedy oceniane na równych zasadach. Płacisz za to szybkością: potrzebujesz szacunku zasięgu, który trzeba skądś wziąć. Obowiązuje to samo ostrzeżenie – mnożenie czterech wymyślonych liczb może dać fałszywą precyzję, więc dane wejściowe trzymaj zgrubne i wracaj do nich, gdy dowiesz się więcej.

CzynnikICERICE
WzórImpact × Confidence × Ease(Reach × Impact × Confidence) / Effort
SzybkośćSzybko – trzy szacunki w skali 1–10Wolniej – wymaga liczby dla zasięgu
Najlepsze zastosowanieSzybka selekcja dużego backloguPomysły, których zasięg mocno się różni
Główna pułapkaŁatwość ukrywa prawdziwy wysiłekFałszywa precyzja z miękkich danych

Przeglądaj w stałym rytmie i zamykaj przegrane testy

Ustal stały rytm – przegląd co tydzień albo co dwa tygodnie, na którym czytasz wyniki, wdrażasz zwycięzców i wycofujesz resztę. Zamykanie zgodnie z planem to dyscyplina, która utrzymuje kolejkę w ruchu; test, który dalej trwa, to zajęte miejsce. Przyznaj uczciwie, że większość testów nie wykazuje różnicy, a przy małym ruchu wiele ma za małą moc, zanim w ogóle wystartuje – często właściwą decyzją jest nie robić testu A/B, tylko wdrożyć zmianę i ją monitorować, jak opisuje poradnik o testach przy małym ruchu. Gdy już mierzysz, czysty odczyt zwykle wymaga grupy holdout, którą platforma taka jak Customer.io albo samodzielnie hostowany zestaw narzędzi do komunikacji z klientami może dla Ciebie wydzielić.

FAQ

Najczęstsze pytania

  • Ile eksperymentów powinien planować mały zespół?

    Mniej, niż myślisz. Dwa, trzy dobrze przeprowadzone testy tygodniowo to realistyczny sufit dla większości małych zespołów, a nawet mocne zespoły growth rzadko przekraczają 10–20. Planuj mapę drogową wokół rzeczywistej liczby miejsc, a nie wymarzonej.

  • Co jest lepsze: ICE czy RICE?

    Żadna metoda nie jest „lepsza” – odpowiadają na różne pytania. Używaj ICE do szybkiej selekcji dużego backlogu, gdy pomysły docierają do podobnej liczby użytkowników. Przejdź na RICE, gdy zasięg różni się na tyle, by zmienić kolejność. Obie to szacunki; traktuj wynik jako kolejność sortowania, a nie werdykt.

  • Jak często zmieniać priorytety w backlogu?

    W tym samym rytmie, w którym przeglądasz wyniki – co tydzień albo co dwa tygodnie w większości zespołów. Oceniaj ponownie, gdy test się kończy, metryka się przesuwa albo pojawia się nowy wyciek. Oceny zmieniają się w miarę nauki, więc mapa drogowa, w której nikt nie zmienia kolejności, jest już nieaktualna.

  • Co zrobić, gdy test nie osiąga istotności statystycznej?

    To typowy przypadek przy małym ruchu. Nie trzymaj testu w nieskończoność w nadziei, że linia się ruszy – z góry ustal, jak długo czekasz, a potem wdróż wersję, która i tak trafiłaby na produkcję, i monitoruj metryki ochronne. Formalne testy A/B zostaw dla zmian na tyle dużych albo stron na tyle ruchliwych, by faktycznie się rozstrzygnęły.

fromHello to oprogramowanie open source do automatyzacji marketingu: wiadomości uruchamiane przez to, co robią ludzie.

fromHello Cloud udostępniamy w ramach wczesnego dostępu, przez listę oczekujących.

Wczesny dostęp

fromHello Cloud

Nikt nie zakłada firmy, żeby była mała.

Wczesny dostęp do fromHello Cloud otwieramy etapami. Onboarding prowadzimy razem z Tobą: pomagamy wszystko skonfigurować i przenieść Twoje kontakty.

Napiszemy do Ciebie, gdy otworzymy Ci dostęp. Bez spamu.

Jeszcze nie teraz? Zobacz na GitHubie