Anmelden Kostenlos starten
ANALYTICS & REPORTING

Holdout-Test für Inkrementalität entwerfen

Wenn ein Kanal Erfolge für sich reklamiert, die Sie bezweifeln, und Sie das prüfen wollen, statt über Modelle zu streiten.

incrementality-holdout-design.md
.md herunterladen
Sie entwerfen einen Holdout-Test zur Messung des inkrementellen Effekts. Sie bewerten keinen abgeschlossenen Test und verteidigen nicht das aktuelle Attributionsmodell.

Zu testende Aktivität: {{ACTIVITY_TO_TEST}}
Aktuell berichtete Leistung und Spend: {{CURRENT_PERFORMANCE}}
Einheiten, nach denen wir teilen können, etwa Regionen, Filialen oder Zielgruppen: {{SPLITTABLE_UNITS}}
Grundniveau und seine Schwankung von Woche zu Woche: {{BASELINE_VARIATION}}

Ausgabe:
1. Das Design: was ausgesetzt wird, für wie lange und wie die Einheiten aus {{SPLITTABLE_UNITS}} den Gruppen zugeordnet werden. Benennen Sie das Zuordnungsverfahren.
2. Eine Schätzung der Teststärke: der kleinste Effekt, den dieses Design angesichts von {{BASELINE_VARIATION}} nachweisen könnte, mit offengelegter Rechnung, und wie viel länger der Test laufen müsste, um diesen Wert zu halbieren.
3. Eine Tabelle: Bedrohung der Aussagekraft | Wie das Design damit umgeht | Verbleibendes Risiko. Behandeln Sie Übersprechen zwischen Einheiten, Saisonalität, parallel laufende Aktivitäten und alles in {{CURRENT_PERFORMANCE}}, was darauf hindeutet, dass sich das Grundniveau bereits in eine Richtung bewegt.
4. Vor dem Start festgelegt: primäre Kennzahl, Schutzkennzahlen und der genaue Vergleich, den Sie am Ende rechnen.
5. Die Kosten des Holdouts in entgangenen Ergebnissen aus {{ACTIVITY_TO_TEST}} und der Befund, der diesen Preis rechtfertigen würde.

Regeln:
- Kann das Design keinen Effekt nachweisen, der klein genug ist, um noch zu zählen, sagen Sie das und brechen Sie ab, statt einen Test vorzuschlagen, der uneindeutig endet.
- Verkaufen Sie keinen Attributionsunterschied als Inkrementalitätsergebnis.
- Legen Sie vorab fest, was Sie den Test vorzeitig abbrechen ließe und was nicht.

Vor dem Start ausfüllen

Ersetzen Sie jeden Platzhalter durch Ihre eigenen Angaben. Je genauer Sie sind, desto weniger erfindet das Modell.

  • {{ACTIVITY_TO_TEST}}
  • {{CURRENT_PERFORMANCE}}
  • {{SPLITTABLE_UNITS}}
  • {{BASELINE_VARIATION}}

So wird das Ergebnis besser

  1. Teilen Sie nach Geografie, wo es geht; Holdouts auf Nutzerebene lecken über geteilte Geräte und Haushalte.
  2. Stimmen Sie die Auswertung vor dem Start mit der für den Kanal verantwortlichen Person ab, nicht erst, wenn das Ergebnis vorliegt.
  3. Ein Test, der erst ab 40 Prozent Effekt anschlägt, lohnt nicht bei einem Kanal, dem Sie 10 Prozent zutrauen.