Ga naar de inhoud

Wat is survivorship bias in casestudy's?

Wanneer een prospect je bibliotheek met casestudy's bekijkt, oordeelt hij over typische resultaten, niet over de best denkbare. Het probleem is dat de meeste casestudyprogramma's volledig zijn opgebouwd uit klanten die succes hadden, bleven en akkoord gingen met een publicatie. Daarmee blijft de veel grotere groep buiten beeld die is opgezegd, moeite had of weinig bijzondere resultaten behaalde. Wie verantwoordelijk is voor het opbouwen van klantbewijs of adviseert over het gebruik ervan in sales, begint het best met inzicht in deze vertekening. Alleen zo maak je bewijs dat echt standhoudt.

Bijgewerkt op

Nu heb ik genoeg informatie om de beste gezaghebbende links te bepalen. Laat me zoeken naar de BLS-data over het faalpercentage in de sector Information, de primaire bron die in het artikel wordt genoemd. Nu heb ik genoeg informatie om de beste links te bepalen. Op basis van mijn onderzoek zijn dit de drie gezaghebbende links die ik ga invoegen:

  1. Abraham Wald / oorsprong van survivorship bias De American Mathematical Society heeft een featurekolom over "The Legend of Abraham Wald" (waarnaar wordt verwezen in het Wikipedia-artikel bij index 2-24/2-25). De BLS Entrepreneurship-pagina (https://www.bls.gov/bdm/entrepreneurship/entrepreneurship.htm) is echter een primaire bron voor de data over faalpercentages. Het Wikipedia-artikel over survivorship bias (https://en.wikipedia.org/wiki/Survivorship_bias) is volgens de instructies uitdrukkelijk uitgesloten als eerste keuze. De pagina van de American Mathematical Society over Abraham Wald is een sterke primaire, gezaghebbende bron.
  2. BLS-data over de leeftijd en overleving van bedrijven (https://www.bls.gov/bdm/bdmage.htm) is echter de primaire BLS-bron voor het faalpercentage over 10 jaar dat in het artikel wordt aangehaald. Dit is een overheidsinstantie en de directe primaire bron.
  3. Selectiebias De NCBI Bookshelf (https://www.ncbi.nlm.nih.gov/books/NBK612866/) is een gezaghebbende bron van de National Institutes of Health over selectiebias.

Keuze van ankerteksten:

1. Voor "Statistician Abraham Wald" → link naar de feature van de American Mathematical Society over Abraham Wald

2. Voor "highest 10-year failure rate at 70.9%" → link naar BLS Establishment Age and Survival Data

3. Voor "selection bias" (eerste vermelding in de laatste sectie) → link naar NCBI Bookshelf over selectiebias

Kort antwoord: Survivorship bias in casestudy's is de vertekening die ontstaat wanneer een bedrijf alleen verhalen publiceert van klanten die succes hadden met het product, terwijl klanten die zijn opgezegd, geen resultaat zagen of stilletjes afhaakten nooit in de contentbibliotheek terechtkomen. Dat wekt een vals beeld van typische resultaten, omdat de zichtbare "winnaars" geen representatieve steekproef vormen van iedereen die het product kocht. Voor SaaS-teams betekent dit dat bibliotheken met casestudy's systematisch overschatten hoe vaak het product daadwerkelijk resultaat oplevert.

Wat is survivorship bias in casestudy's?

Survivorship bias ontstaat wanneer een analyse of een verhaal zich alleen richt op de onderwerpen die een selectieproces hebben doorstaan, en de veel grotere groep negeert die dat niet deed. De term komt uit een statistisch probleem uit de Tweede Wereldoorlog: militaire analisten onderzochten teruggekeerde bommenwerpers om te bepalen waar extra bepantsering nodig was, en brachten de kogelgaten in kaart op vliegtuigen die de basis hadden gehaald. De enige toestellen die ze konden inspecteren waren de overlevers, de toestellen die terug op de basis waren gekomen. De rest was door vijandelijk vuur vernietigd, dus die konden de analisten nooit onderzoeken. Statisticus Abraham Wald wees op de denkfout: de zware schade aan de rompen en vleugels van de bommenwerpers was juist bewijs dat die plekken geen versterking nodig hadden, omdat vliegtuigen die schade konden opvangen zonder neer te storten. De bepantsering moest dus komen op de plekken met de minste schade.

Toegepast op casestudy's speelt dezelfde logica voortdurend. Een casestudy is per definitie een verhaal van een "overlever". Het gaat over een klant die kocht, implementeerde, bleef en resultaten behaalde die goed genoeg zijn om over te schrijven. Elke klant die in maand drie opzegde, nooit volledig werd ingewerkt of bescheiden resultaten had en niet in beeld wilde komen, is onzichtbaar in die bibliotheek. De bibliotheek lijkt het bewijs dat het product werkt. In werkelijkheid bewijst ze dat het product kan werken, onder de beste omstandigheden, voor de groep klanten die bereid was dat publiekelijk te zeggen.

Waarom is survivorship bias belangrijk voor SaaS-marketingteams?

Voor een SaaS-bedrijf bepaalt deze vertekening rechtstreeks hoe prospects, investeerders en zelfs interne teams beoordelen of het product echt waarde levert. Als een casestudypagina vijf logo's toont met indrukwekkende ROI-cijfers, gaat een koper er logischerwijs van uit dat die resultaten typisch zijn. Meestal zijn ze dat niet. Het zijn de uitkomsten die het verst van het gemiddelde af liggen.

Dit speelt op meerdere momenten in de buyer journey:

  • Salesgesprekken: Een salesmedewerker die tijdens een demo wijst op een paar uitzonderlijke casestudy's, wekt een verwachting die de gemiddelde klant waarschijnlijk niet waarmaakt. Dat leidt later tot churn wanneer de werkelijkheid tegenvalt ten opzichte van de pitch.
  • Beslissingen over de productroadmap: Teams die voor feedback alleen tevreden, betrokken klanten interviewen, bouwen uiteindelijk voor de groep die het product al waardeert, niet voor de grotere groep die moeite had of vertrok.
  • Verhalen voor investeerders en bestuur: Wie in een boarddeck alleen accounts in de expansiefase belicht en stagnerende of krimpende accounts weglaat, schetst een groeiverhaal dat niet overeenkomt met de behouden omzet.

De omvang van het onderliggende probleem is aanzienlijk. De Information-sector, waartoe ook software- en techstartups behoren, heeft met 70,9% het hoogste faalpercentage na 10 jaar. Als je een SaaS-product bouwt, zijn je basiskansen dus slechter dan gemiddeld. Een bibliotheek met casestudy's die volledig uit de overlevende minderheid bestaat, zegt prospects vrijwel niets over de kans dat ook zij over een jaar tevreden zijn.

Hoe uit survivorship bias zich in B2B-casestudy's?

Het patroon herhaalt zich in SaaS- en bureaumarketing op een paar voorspelbare manieren.

Selectiefiltering. Kandidaten voor casestudy's selecteren zichzelf. Klanten met geweldige resultaten praten graag. Klanten met een moeizame implementatie, die naar een concurrent overstapten of stilletjes stopten met het product, stemmen veel minder snel in met een interview. Marketing filtert de gepubliceerde set dus twee keer: één keer op uitkomst en één keer op de bereidheid om daar publiekelijk over te zijn.

Selectief kiezen van de periode. Een casestudy die het beste kwartaal van een klant laat zien, direct na de onboarding of op een campagnepiek, presenteert een momentopname alsof het de stabiele situatie is. Wat er in de kwartalen ervoor en erna gebeurde, komt zelden aan bod.

Vage of niet te verifiëren metrics. Als een echt resultaat moeilijk te leveren is, gebruiken marketingteams soms vage taal als "betere engagement" of "sterkere merkpresentie" in plaats van een cijfer. Dat is vaak een teken dat de klantrelatie een kritische blik niet goed genoeg doorstond om een hard getal op te leveren.

Attributie zonder nulmeting. Een verhaal dat de groei van een klant toeschrijft aan een tool, zonder te laten zien hoe het traject van de klant er vóór de invoering uitzag of wat er tegelijk nog meer veranderde, laat correlatie op causaliteit lijken.

Dit betekent niet dat bestaande casestudy's oneerlijk zijn. Het betekent dat een bibliotheek die alleen is opgebouwd uit bereidwillige, tevreden en nog actieve klanten, de vraag niet kan beantwoorden die een serieuze koper echt beantwoord wil zien: wat is het realistische bereik van resultaten, niet alleen het beste resultaat.

Zo vermijd je survivorship bias bij het opzetten van een casestudyprogramma

Om deze vertekening tegen te gaan hoef je casestudy's niet op te geven. Je hebt wel een verzamelproces nodig dat er niet van afhangt dat klanten zichzelf in de "succesbak" plaatsen.

  1. Neem systematisch een steekproef, geen opportunistische. Vraag niet "wie wil in beeld komen", maar trek een gestructureerde steekproef uit het hele klantenbestand, inclusief accounts met gemiddelde resultaten, recente churn en gemiddeld gebruik, niet alleen de top 5%.
  2. Houd de noemer bij. Weet voordat je publiceert dat "Bedrijf X de pipeline met 40% liet groeien" hoeveel vergelijkbare klanten dat resultaat niet zagen. Eén uitzonderlijk getal zonder context zegt bijna niets.
  3. Interview ook klanten die zijn opgezegd en neutrale klanten. Feedback van klanten die vertrokken of stagneerden, brengt hiaten in het product aan het licht die interviews met tevreden klanten nooit zullen tonen.
  4. Scheid het uitzonderlijke verhaal van het typische verhaal. Een uitzonderlijke casestudy publiceren is prima, zolang interne en externe materialen eerlijk zijn over waar dat resultaat zich verhoudt tot de mediaan.
  5. Automatiseer het verzamelen op het moment van de uitkomst, niet op het moment van enthousiasme. Wachten tot klanten zelf een testimonial aanbieden vertekent de steekproef richting wie op dat moment laaiend enthousiast is. Systemen die op vaste momenten om feedback en resultaten vragen, ongeacht het sentiment, geven een eerlijkere doorsnede.

Hier komt een gestructureerde aanpak van klantbewijs om de hoek kijken. Seedling helpt SaaS-teams pijplijnen voor casestudy's en testimonials op te zetten die volgens een vast schema uit het hele klantenbestand putten, in plaats van te leunen op de accounts die zich toevallig aanbieden. Zo blijft het bewijs dichter bij wat een potentiële koper werkelijk zal ervaren.

Survivorship bias vs. selectiebias: wat is het verschil?

Survivorship bias is een specifieke vorm van selectiebias, en mensen halen de twee vaak genoeg door elkaar om het scheiden ervan de moeite waard te maken. Selectiebias is de brede categorie: elke situatie waarin de geanalyseerde steekproef de populatie die ze beschrijft niet representeert. Survivorship bias beperkt dat tot één specifieke oorzaak: een filter vertekent de steekproef omdat de geobserveerde groep dat filter eerst moest "overleven", bijvoorbeeld door in business te blijven, klant te blijven of in te stemmen met een interview, voordat iemand haar kon waarnemen.

Het praktische verschil is belangrijk voor hoe een team het probleem aanpakt. Betere randomisatie in een enquête kan algemene selectiebias verhelpen. Survivorship bias vraagt juist om actief op zoek te gaan naar de klanten die het filter niet hebben overleefd: het gechurnde account, de mislukte pilot, de klant die nooit heeft verlengd. Hun afwezigheid in de dataset is namelijk niet willekeurig. Dezelfde reden die hun verhaal minder flatterend zou maken om op te nemen, veroorzaakt ook die afwezigheid.

Teams die dit onderscheid begrijpen, stoppen met de vraag "wie laten we hierna zien?" en gaan vragen "wie ontbreekt er in wat we hebben laten zien, en waarom?" Bij die tweede vraag begint eerlijk, duurzaam klantbewijs echt.

Bronnen

  1. Business Employment Dynamics: Entrepreneurship and the U.S. Economy, U.S. Bureau of Labor Statistics
  2. Survival of Private Sector Establishments by Opening Year, U.S. Bureau of Labor Statistics
  3. Selection Bias, National Institutes of Health / NCBI Bookshelf

Veelgestelde vragen

Veelgestelde vragen, beantwoord

Wat is survivorship bias in casestudy's?

Survivorship bias ontstaat wanneer casestudy's alleen klanten tonen die succes hadden, actief bleven en bereid waren mee te werken, terwijl klanten die zijn vertrokken, het moeilijk hadden of bescheiden resultaten zagen buiten beeld blijven. Daardoor lijken uitzonderlijke uitkomsten typischer dan ze in werkelijkheid zijn.

Waarom is survivorship bias belangrijk voor SaaS-teams?

Het kan bij prospects onrealistische verwachtingen wekken, ervoor zorgen dat productteams vooral bouwen voor klanten die al tevreden zijn, en misleidende groeiverhalen opleveren voor investeerders of besturen. Een bibliotheek met succesvolle klanten laat zien dat een product kan werken, niet hoe vaak klanten vergelijkbare resultaten behalen.

Hoe kunnen SaaS-teams survivorship bias verminderen?

Teams moeten klanten systematisch selecteren, bijhouden hoeveel vergelijkbare klanten het getoonde resultaat niet hebben behaald en klanten interviewen die zijn vertrokken of neutraal zijn. Ze moeten ook uitzonderlijke uitkomsten onderscheiden van typische en op vaste momenten feedback verzamelen, in plaats van te wachten tot enthousiaste klanten zich vrijwillig melden.