Básico [Lección] ¿Qué es Significancia Estadística y Cómo se Calcula?

marianocordoba

Administrador
Miembro del equipo
En muchas ocasiones me realizan preguntas similares a estas:
  • ¿Cuántos días debo rotar dos anuncios antes de quedarme con el mejor?
  • ¿Cuánto dinero debo gastar para probar dos variantes de landing pages?
  • Envié 300 visitantes a la oferta A y 300 a la oferta B, pero la oferta A me convirtió 3 veces y la oferta B solo 1. ¿Debo eliminar la oferta B y enviar todo el tráfico a la oferta A?
De más está decir que muchas veces directamente no preguntan, sino que simplemente deciden por un número al azar.

El problema es que estas decisiones no están basadas en datos, sino en suposiciones.

Déjame poner un ejemplo...

¿Cuál es la probabilidad que tienes de sacar cara cada vez que arrojas una moneda al aire? 1 en 2, es decir, 50%. ¿Correcto?

flippingcoin.jpg

Pero que pasa si arrojo una moneda al aire 3 veces, y todos esas veces obtengo "cara". ¿Puedo deducir que la posibilidad de sacar "cara" es del 100% y por lo tanto que cada vez que arroje la moneda obtendré "cara"? Por supuesto que no. Bueno, eso es lo que muchas veces hacemos con nuestras pruebas en el marketing digital. Y es una de las principales razones por la que no logramos rentabilizar nuestras campañas.

Tomamos decisiones con datos insuficientes.

Si arrojas esa moneda unas 100 veces, o mejor aún, unas 1,000 veces verás que la probabilidad se acerca a 50%. Necesitas un mínimo de muestras para que tus datos sean estables y ciertos. Esto es lo que se llama SIGNIFICANCIA ESTADÍSTICA.

¿Cuántas mediciones necesitamos tomar para que nuestras decisiones estén basadas en datos?

La significancia estadística es particularmente importante cuando tienes poco volumen (o pocas muestras) y quieres saber que tan seguro es que esa tendencia se mantendrá en el tiempo. Lo que debemos buscar es tener una certeza de, como mínimo, un 90% de que los resultados se mantendrán constantes aunque tomemos más muestras.

Para calcularla vamos a usar la siguiente calculadora: AB split test graphical calculator. En la calculadora ingresaremos la cantidad de muestras en la columna Trial y la cantidad de resultados deseables en la columna Successes.

Pero mejor lo veamos con un ejemplo:

Estoy probando 2 anuncios y quiero determinar cuál de los dos me genera más ventas.

PRIMERA PRUEBA:
Anuncio A: 300 clicks, 1 conversión
Anuncio B: 300 clicks, 3 conversiones


Estos son los resultados que me arroja la calculadora:

ab-prueba1.png

Es decir, tengo un 85% de probabilidad de que el anuncio B siga siendo el mejor de los 2. Un buen comienzo, pero dado que aún no es mayor al 90%, significa que necesito seguir probando.

Dejo mi campaña activa por un día más y al día siguiente tengo los siguientes datos:

SEGUNDA PRUEBA:
Anuncio A: 500 clicks, 8 conversión
Anuncio B: 500 clicks, 3 conversiones

Ingreso esos valores en la calculadora y esto es lo que obtengo:

ab-prueba2.png

Luego de enviarles 200 clicks adicionales a cada anuncio, el segundo anuncio no volvió a convertir quedando solo con 3 conversiones. Sin embargo, el anuncio A tuvo varias conversiones. Según la calculadora, ahora tengo un 94% de seguridad que el anuncio A es el mejor. Por lo tanto, con bastante certeza puedo ir a mi fuente de tráfico y quitar el anuncio B.

Si hubiera quitado el anuncio A al principio, estaría usando el peor de los 2 anuncios. Todo por tomar decisiones basadas en datos insuficientes.

Así que la próxima vez que quieras probar anuncios, landing pages, ofertas u otras variables calcula la significancia estadística y toma tus decisiones de forma inteligente.

Basa tus decisiones en DATOS, no emociones o suposiciones.

TIP: Cuando estés realizando pruebas en tus campañas no importa cuanto dinero inviertes, sino cuantas muestras o datos obtienes con ese dinero.
 

Jesus

Usuario VIP
Una Pregunta respecto a este ejercicio ¿ Si tengo un mes con tres grupos de anuncio y aun no tengo conversiones me espero mas? Hice cada grupo de anuncio con su respectivo anuncio y su palabra clave modifique los porcentajes para que lo vieran mas bien gente de 24 años porque vi que tenia mejor respuesta les adjunto una imagen. 2020-10-07 19_16_38-Bing ads.png
 

marianocordoba

Administrador
Miembro del equipo
Lo importante aquí para evaluar es que tenga una medida de éxito o resultado esperado y la cantidad de muestras. Entonces en tu caso podrías evaluar a qué le llamarías éxito para tus anuncios.
Ventas no tienes, pero quizás tengas microconversiones de los anuncios. Una microconversión podría ser los clicks que recibió tu landing para ir a la oferta. Entonces podrías poner los clicks en los anuncios como Trials y los clicks en tu landing page como Successes en la calculadora.
 

Francisco Narváez

Moderador
Miembro del equipo
esos clicks los saco de microsoft advertising?

Hola @Jesus!

Te encuentras cursando la especialización SEM?

Allí Mariano enseña a utilizar una página intermedia con un pixel para medir microconversiones, de esa manera podrías ver las visitas a tu Landing Page en Microsoft advertising en la columna de Conversiones.

Por lo que puedo ver en la imagen, puede que no estés usando el pixel, pero también puedes revisar esa información en el tracker, es un poco más tedioso pero se puede hacer sin problemas.
 

JoseIgnacio

Miembro
Hola @Jesus!

Te encuentras cursando la especialización SEM?

Allí Mariano enseña a utilizar una página intermedia con un pixel para medir microconversiones, de esa manera podrías ver las visitas a tu Landing Page en Microsoft advertising en la columna de Conversiones.

Por lo que puedo ver en la imagen, puede que no estés usando el pixel, pero también puedes revisar esa información en el tracker, es un poco más tedioso pero se puede hacer sin problemas.
Hola @Francisco-narvaez.4173
Qué tipo de pixel colocas en ese caso? El de Bing?
 

Cartoperto

Miembro Activo
En muchas ocasiones me realizan preguntas similares a estas:
  • ¿Cuántos días debo rotar dos anuncios antes de quedarme con el mejor?
  • ¿Cuánto dinero debo gastar para probar dos variantes de landing pages?
  • Envié 300 visitantes a la oferta A y 300 a la oferta B, pero la oferta A me convirtió 3 veces y la oferta B solo 1. ¿Debo eliminar la oferta B y enviar todo el tráfico a la oferta A?
De más está decir que muchas veces directamente no preguntan, sino que simplemente deciden por un número al azar.

El problema es que estas decisiones no están basadas en datos, sino en suposiciones.

Déjame poner un ejemplo...

¿Cuál es la probabilidad que tienes de sacar cara cada vez que arrojas una moneda al aire? 1 en 2, es decir, 50%. ¿Correcto?

Ver el adjunto 179

Pero que pasa si arrojo una moneda al aire 3 veces, y todos esas veces obtengo "cara". ¿Puedo deducir que la posibilidad de sacar "cara" es del 100% y por lo tanto que cada vez que arroje la moneda obtendré "cara"? Por supuesto que no. Bueno, eso es lo que muchas veces hacemos con nuestras pruebas en el marketing digital. Y es una de las principales razones por la que no logramos rentabilizar nuestras campañas.

Tomamos decisiones con datos insuficientes.

Si arrojas esa moneda unas 100 veces, o mejor aún, unas 1,000 veces verás que la probabilidad se acerca a 50%. Necesitas un mínimo de muestras para que tus datos sean estables y ciertos. Esto es lo que se llama SIGNIFICANCIA ESTADÍSTICA.

¿Cuántas mediciones necesitamos tomar para que nuestras decisiones estén basadas en datos?

La significancia estadística es particularmente importante cuando tienes poco volumen (o pocas muestras) y quieres saber que tan seguro es que esa tendencia se mantendrá en el tiempo. Lo que debemos buscar es tener una certeza de, como mínimo, un 90% de que los resultados se mantendrán constantes aunque tomemos más muestras.

Para calcularla vamos a usar la siguiente calculadora: AB split test graphical calculator. En la calculadora ingresaremos la cantidad de muestras en la columna Trial y la cantidad de resultados deseables en la columna Successes.

Pero mejor lo veamos con un ejemplo:

Estoy probando 2 anuncios y quiero determinar cuál de los dos me genera más ventas.

PRIMERA PRUEBA:
Anuncio A: 300 clicks, 1 conversión
Anuncio B: 300 clicks, 3 conversiones


Estos son los resultados que me arroja la calculadora:

Ver el adjunto 177

Es decir, tengo un 85% de probabilidad de que el anuncio B siga siendo el mejor de los 2. Un buen comienzo, pero dado que aún no es mayor al 90%, significa que necesito seguir probando.

Dejo mi campaña activa por un día más y al día siguiente tengo los siguientes datos:

SEGUNDA PRUEBA:
Anuncio A: 500 clicks, 8 conversión
Anuncio B: 500 clicks, 3 conversiones

Ingreso esos valores en la calculadora y esto es lo que obtengo:

Ver el adjunto 178

Luego de enviarles 200 clicks adicionales a cada anuncio, el segundo anuncio no volvió a convertir quedando solo con 3 conversiones. Sin embargo, el anuncio A tuvo varias conversiones. Según la calculadora, ahora tengo un 94% de seguridad que el anuncio A es el mejor. Por lo tanto, con bastante certeza puedo ir a mi fuente de tráfico y quitar el anuncio B.

Si hubiera quitado el anuncio A al principio, estaría usando el peor de los 2 anuncios. Todo por tomar decisiones basadas en datos insuficientes.

Así que la próxima vez que quieras probar anuncios, landing pages, ofertas u otras variables calcula la significancia estadística y toma tus decisiones de forma inteligente.

Basa tus decisiones en DATOS, no emociones o suposiciones.

TIP: Cuando estés realizando pruebas en tus campañas no importa cuanto dinero inviertes, sino cuantas muestras o datos obtienes con ese dinero.
tomando notas.
 

Mario

Nuevo Miembro
Basa tus decisiones en DATOS, no emociones o suposiciones.

TIP: Cuando estés realizando pruebas en tus campañas no importa cuanto dinero inviertes, sino cuantas muestras o datos obtienes con ese dinero. (y)(y)(y)(y)(y)(y)(y)(y)(y) Excelente Mariano
La verdad exelente consejo
Basa tus decisiones en DATOS, no emociones o suposiciones.

TIP: Cuando estés realizando pruebas en tus campañas no importa cuanto dinero inviertes,
@marianocordoba ... Exelente consejo gracias!
 
Arriba