QuQi
ANALÍTICA E INFORMES

Lectura del resultado de un test A/B

Úselo cuando un test haya terminado y necesite saber si el resultado significa algo.

ab-test-result-reading.md
Descargar .md
Está revisando con espíritu crítico el resultado de un test A/B antes de que nadie lance la variante ganadora.

Test: {{TEST_DESCRIPTION}}
Hipótesis tal como se escribió antes del test: {{HYPOTHESIS}}
Resultados por variante: {{RESULTS_WITH_SAMPLE_SIZES}}
Duración y reparto de tráfico: {{RUNTIME_AND_SPLIT}}
Métrica principal declarada de antemano: {{PRIMARY_METRIC}}
Métricas de control: {{GUARDRAILS}}

Responda:
1. ¿Fue válido el test? Compruebe el tamaño de muestra, la duración frente a ciclos de negocio completos, el equilibrio del reparto, el desajuste de la proporción de muestra y si la métrica principal se fijó antes del test.
2. ¿Qué dice realmente el resultado de la métrica principal? Dé la diferencia observada, la incertidumbre y una frase llana que entendería alguien que no sea analista.
3. Métricas de control: ¿ha empeorado algo? Dígalo aunque la métrica principal haya ganado.
4. Lanzar, no lanzar o alargar el test. Una de esas tres, con el motivo.
5. Si alguien señala un segmento donde el resultado parece más fuerte, explique por qué eso es o no es evidencia.

Reglas:
- No califique un resultado de significativo sin indicar los tamaños de muestra y la métrica a la que se aplica.
- Trate como exploratoria cualquier métrica no declarada de antemano y etiquétela así.
- Si el test estuvo en marcha menos de un ciclo semanal completo, diga que el resultado no es fiable, independientemente de los números.
- No recomiende nunca lanzar basándose solo en un resultado orientativo. Diga qué costaría obtener certeza.

Rellena antes de ejecutar

Sustituye cada hueco por tus propios datos. Cuanto más concreto seas, menos se inventa el modelo.

  • {{TEST_DESCRIPTION}}
  • {{HYPOTHESIS}}
  • {{RESULTS_WITH_SAMPLE_SIZES}}
  • {{RUNTIME_AND_SPLIT}}
  • {{PRIMARY_METRIC}}
  • {{GUARDRAILS}}

Cómo sacar mejor resultado

  1. Pegue la hipótesis previa al test literalmente: reescribirla después es la forma más común de que los tests mientan.
  2. Incluya las métricas de control aunque parezcan bien; una mejora de conversión con subida de devoluciones no es una mejora.
  3. Pregunte cuál era el efecto mínimo detectable y si el test podría haber encontrado alguna vez el efecto que se afirma.