Suma Positiva

Share this post

#43: Lies, damned lies, and benchmarks

www.sumapositiva.com

#43: Lies, damned lies, and benchmarks

Jun 13, 2020
4
1
Share this post

#43: Lies, damned lies, and benchmarks

www.sumapositiva.com

Suma Positiva es una publicación semanal sobre startups, tecnología, innovación e inversión escrita por @samuelgil, Partner en JME Ventures. 


Uno de los artículos más compartidos y alabados por la comunidad inversora y emprendedora esta semana ha sido el siguiente:

Twitter avatar for @lennysan
Lenny Rachitsky @lennysan
🔥 New post in collaboration with growth legend @onecaseman 🔥 A deep dive into what GOOD and GREAT retention look like, for all types of businesses, with concrete recommendations from 20 of the world's top growth experts. Highlights in thread below 👇 lennyrachitsky.com/p/what-is-good…
lennyrachitsky.comWhat is good retention - Issue 29Although retention is widely considered to be the most important metric to get right when building (or investing in) a business, it’s also one of the least understood. Why? Because unless you’re a growth expert or an experienced investor, you’re often relying on anecdotes, dated blog posts, and misg…
2:15 PM ∙ Jun 9, 2020
721Likes143Retweets

El artículo ha tenido tanto éxito que ha llevado a la newsletter de Lenny al top 25 de Substack por generación de ingresos. Not bad!

Twitter avatar for @lennysan
Lenny Rachitsky @lennysan
Well look at this new entrant into the top 25 highest grossing @SubstackInc newsletters 🤯😍🙏 substack.com/discover
Image
9:55 PM ∙ Jun 11, 2020
294Likes3Retweets

El artículo es verdaderamente interesante. Como decíamos, ofrece un benchmark de cuál es la tasa de retención (de usuarios a 6 meses y de ingresos netos a 12 meses) que se considera buena o excelente para los principales modelos de negocio: consumer social, consumer transactional, consumer SaaS, SMB / Mid-Market SaaS y Enterprise SaaS. En su elaboración han participado verdaderos pesos pesados de la inversión y la operación.

Os invito a que entréis a leer el artículo y el hilo. Os espero aquí.

Más allá de estar de acuerdo o no con algunos de los datos presentados—en mi humilde opinión algunos de ellos poco realistas o incoherentes—, me gustaría compartir con vosotros algunos de los problemas que los benchmarks pueden—y de hecho, suelen—presentar:

  1. Opacidad de los datos con los que están elaborados. En este caso, el estudio se supone que está basado en datos de compañías reales en las que los expertos están directamente involucrados. Pero, como es lógico por otra parte, no se nos muestran dichos datos. Y yo, que ya voy siento perro viejo, tomo aquí un poco la postura de Winston Churchill: sólo me creo ya las estadísticas que manipulo yo mismo. Honestamente, me da la sensación de que mezcla un poco datos y un poco de opinión.

  2. No tienen validez estadística. Muy relacionado con el punto anterior. Como no sabemos cuáles son los datos en los que se basan, no sabemos si conforman una muestra suficientemente grande como para tener validez estadística. Tampoco nos permiten determinar apropiadamente qué significa ser bueno, malo, regular o extraordinario. ¿Qué percentiles equivalen a lo que ellos llaman “bueno” o “excelente”? ¿Están mezclando outliers con baseline?

  3. No hay definiciones precisas de las métricas que se presentan, con lo cual, muchas veces se acaban comparando “peras con manzanas”. Por suerte o por desgracia, no hay definiciones universalmente aceptadas sobre cosas tan básicas como qué es un usuario activo o cómo se mide la retención. Ligeras variaciones en estas definiciones pueden llevar a valores numéricos muy diferentes.

  4. Nos invitan a fijarnos en una única métrica cuando lo importante es el conjunto. Aún suponiendo que no hubiese el problema descrito en el punto anterior, ¿tiene sentido mirar la retención—o cualquier otra métrica—de manera aislada? Como hemos mencionado repetidamente, los elementos constituyentes de las economías unitarias son varios y además suelen operar en direcciones opuestas. La mejora de uno de ellos suele suponer el empeoramiento de otro, con lo cual el efecto en el conjunto es incierto.

En mi opinión, las consecuencias de emplear mal un benchmark—o de emplear un mal benchmark—pueden ser graves:

  • Algunos inversores—incluso gente experimentada de fondos top—puede llegar a no invertir en una compañía porque ésta no llega a un benchmark que se ha puesto de moda, esté bien confeccionado o no, sea del todo aplicable a la compañía o no, tenga sentido mirarlo de forma aislada o no.

  • Muchos operadores pueden desanimarse por estar demasiado lejos de lo que en algún parámetro del negocio se considere óptimo, a pesar de que en su caso puede que no tenga sentido por falta de comparabilidad. O puede que se centren en donde no deban centrarse, por motivos similares.

Aquí un par de reflexiones que me han parecido interesantes:

Twitter avatar for @peeplaja
Pe:p Laja @peeplaja
Knowing benchmarks is useless. Let's say your conversion rate is 5%, while competitor's CR is 8%. Now what will you do? What if theirs is double of yours, 10%? What if its lower, like 2%? The answer in every single case is "try to improve our conversion rate".
1:09 PM ∙ Jun 10, 2020
152Likes27Retweets
Twitter avatar for @redrze
Red Roze @redrze
@peeplaja Benchmarks also hurt growth. Because they create Anchoring Biases that either lower expectations (eliminating any chance to do better) or causes teams unnecessary stress due to non-equivalent comparisons (reducing morale).
2:03 PM ∙ Jun 10, 2020
5Likes2Retweets

Con esto no quiero decir que los benchmarks no sean útiles. Lo son. Yo soy el primero que los tiene en la cabeza y que los utiliza continuamente. Pero no son la panacea. Hay que ser cauteloso en su uso. Sucede un poco como los múltiplos a la hora de valorar compañías. Son una chapuza, pero como todo el mundo los usa, hay que conocerlos y, en su caso, si se puede, usarlos a nuestro favor.

En un mundo en el que los datos escasean y en el que la incertidumbre es máxima, tenemos una gran necesidad de que alguien—más si es alguien supuestamente experto—nos diga de manera clara y sencilla qué está bien y qué está mal. Ansiamos por encima de cualquier otra cosa que nos reafirmen sobre si vamos por el buen camino.

Sin embargo, me temo que ningún benchmark puede sustituir al pensamiento independiente y a la comprensión fundamental de los negocios que analizamos u operamos. Recordemos una vez más que nuestros datos en combinación con nuestra estrategia, nuestra visión, y nuestro propósito es lo que debería guiarnos siempre a través de la jungla.

Buena semana,

Samuel


Otras lecturas interesantes:

  • What Is Good Retention: An Exhaustive Benchmark Study with Lenny Rachitsky

  • Retention in the Times of COVID-19

  • Building a Sales Engine: Nailing Growth at the Series A

  • A Cheatsheet on Scaling (and Fundraising for) Your SaaS Startup

  • Mental models to analyze technology, business, and product strategy

Twitter avatar for @gonsanchezs
Gonz @gonsanchezs
~ MEGA THREAD ~ A running list of mental models to analyze technology, business, and product strategy. They shape my thinking, guide my writing and help me understand what is going on in European tech. ↓
6:02 PM ∙ Jun 8, 2020
183Likes42Retweets
  • How to design a product that can grow itself 10x in a year

    Twitter avatar for @mikaelcho
    Mikael Cho @mikaelcho
    How to design a product that can grow itself 10x in year:
    3:44 PM ∙ Jun 10, 2020
    6,938Likes1,444Retweets

1
Share this post

#43: Lies, damned lies, and benchmarks

www.sumapositiva.com
Previous
Next
1 Comment
juan aguilar
Jun 17, 2020

sin duda, hay que tener mucho cuidado con los datos que se manejan y saber interpretarlos adecuadamente. Con el objetivo de no perderse en el bosque de información, una de las claves es, como bien comenta Samuel, tener un visión estratégica - 360 para evitar obsesionarnos con una sola métrica/ análisis.

Expand full comment
Reply
TopNewCommunity

No posts

Ready for more?

© 2023 Samuel Gil
Privacy ∙ Terms ∙ Collection notice
Start WritingGet the app
Substack is the home for great writing