本文へスキップ

ホールドアウトグループ

ホールドアウトグループとは、キャンペーンやジャーニーの本当の増分効果を測るために、意図的に配信から除外する、無作為に選んだオーディエンスの一部です。ホールドアウトのコンバージョン率が受信者と同じなら、キャンペーンは何もしていません。そのユーザーは、いずれにせよコンバージョンしていたことになります。

更新日:2分で読めます執筆 fromHello

要点

  1. ホールドアウトグループは、キャンペーンについての唯一の正直な問いに答えます。そのキャンペーンがコンバージョンを生んだのか、それともいずれにせよ起きていたのか。

  2. 施策ごとのホールドアウトは1つのメッセージを測ります。グローバルホールドアウトは、メッセージング施策全体を長期にわたって測ります。

  3. 比較を有効にするのは無作為化です。手で選んだ除外リストでは何も測れません。

ホールドアウトグループはどう機能しますか?

キャンペーンやジャーニーを開始する前に、対象となるオーディエンスから無作為に選んだ一部をホールドアウトに割り当てます。そのユーザーは、1点を除いてあらゆる面で受信者と同じです。メッセージをまったく受け取らないという点です。キャンペーンの実施後に2つのグループのコンバージョン率を比べると、その差が増分リフト、つまりキャンペーンが実際に生んだコンバージョンです。開封率やクリック率は、どの配信もよく見せてしまいます。自分たちが生んだコンバージョンと、もともと起きるはずだったコンバージョンを切り分けられるのは、ホールドアウトだけです。

グローバルホールドアウトと施策ごとのホールドアウトの違いは?

施策ごとのホールドアウトは、特定の1つのメッセージから除外されるため、そのメッセージのリフトを測れます。掘り起こしのシーケンスのようにコストの高い配信で役立ちます。グローバルホールドアウトは、より長い期間(多くは四半期)すべてのマーケティングから除外され、施策全体の価値を測ります。たとえばBrazeのグローバルコントロールグループでは、ユーザーベースの1〜15%を確保でき、それに対するセッションとコンバージョンの上昇を報告します。施策ごとのホールドアウトは戦術的な問いに答え、グローバルホールドアウトは、メッセージングがそもそもノーススターメトリックを動かしているかどうかを教えてくれます。

ホールドアウトグループと、隣接する実験の用語。

2人のチームにとってなぜ重要か

小さなチームには、効果を信じるだけでキャンペーンを回し続ける余裕はありません。ホールドアウトは、それに対する安い保険です。多くのジャーニービルダーでは、A/B分岐ノードの片方の枝を、何も送らずに終了させるだけで切り出せます。ab_splitノードの仕組みはジャーニーオーケストレーションのガイドで解説しています。最後にリフトを読んで判断するのは、CROスペシャリストが担うような仕事です。キャンペーンを続けるか、書き直すか、やめて配信予算を取り戻すかを決めます。

ホールドアウトグループはどのくらいの規模にすべきですか?

重視するリフトを検出できるだけ大きく、機会費用が許容範囲に収まるだけ小さく、です。オーディエンスが小さいと、割合はすぐにノイズだらけになります。500人のユーザーの5%のホールドアウトは25人で、たった1件のコンバージョンで結果が揺れます。メッセージングプラットフォームでよく見られるのは、グローバルホールドアウトを1桁台の割合にし(Brazeはグローバルコントロールグループの上限を15%にしています)、単発のキャンペーンテストではやや大きめに切り出すやり方です。迷ったら、一度だけ読む小さな施策ごとのホールドアウトをたくさん設けるより、数か月かけて読むグローバルホールドアウトを1つ設けましょう。

FAQ

よくある質問

  • ホールドアウトグループとコントロールグループの違いは何ですか?

    ホールドアウトはすべてコントロールグループですが、コントロールグループがすべてホールドアウトというわけではありません。A/Bテストのコントロールは現行のバリエーションを受け取りますが、ホールドアウトは何も受け取りません。よりよいメッセージを選ぶにはA/B分岐を、メッセージに送る価値があることを証明するにはホールドアウトを使います。

  • グローバルホールドアウトはどのくらいの期間続ければよいですか?

    測りたい行動が出そろうまでです。最低でもキャンペーンの1サイクル分、ライフサイクル施策なら四半期にわたることもよくあります。同じユーザーがずっとすべてのメッセージから除外され続けないよう、メンバーは定期的に入れ替えます。

  • ホールドアウトグループで収益は減りますか?

    設計上、少しは減ります。オーディエンスの一部は、コンバージョンにつながったかもしれないメッセージを受け取りません。そのコストで、キャンペーンの価値について唯一信頼できる推定が手に入ります。取りやめたキャンペーンや配分し直した予算で、たいていは元が取れます。

  • 小さなスタートアップでもホールドアウトグループを使えますか?

    使えます。ただし期待値は現実的に持ちましょう。キャンペーンあたりのユーザーが数千人に満たないと、施策ごとのリフトはほとんどがノイズです。数か月かけて測るグローバルホールドアウトを1つ設ける方が、多くのことがわかります。まずそこから始め、規模が大きくなるにつれて施策ごとのホールドアウトを加えます。

fromHelloは、オープンソースのマーケティングオートメーションです。

人の行動をきっかけにメッセージを届けます。fromHello Cloudは、ウェイトリスト経由でアーリーアクセスを提供しています。

アーリーアクセス

fromHello Cloud

小さくまとまるために始めたわけではない。

fromHello Cloudのアーリーアクセスは、段階的にご案内します。 オンボーディングは伴走型です。セットアップからコンタクトの移行まで、私たちがお手伝いします。

ご利用の準備が整い次第、メールでお知らせします。スパムは送りません。

まだ登録する段階ではありませんか?GitHubで見る