Was ist der Survivorship Bias in Fallstudien?
Wenn ein Interessent Ihre Fallstudien durchsieht, beurteilt er damit typische Ergebnisse, nicht die bestmöglichen. Das Problem: Die meisten Fallstudienprogramme bestehen ausschließlich aus Kunden, die erfolgreich waren, geblieben sind und einer Veröffentlichung zugestimmt haben. Die weitaus größere Gruppe, die abgewandert ist, Schwierigkeiten hatte oder nur durchschnittliche Ergebnisse erzielt hat, fehlt dagegen. Wer Kundenreferenzen aufbaut oder berät, wie sie im Vertrieb eingesetzt werden, sollte diese Verzerrung kennen. Nur so entstehen Belege, die wirklich belastbar sind.
Aktualisiert am
Jetzt habe ich genug Informationen, um die besten maßgeblichen Links zu bestimmen. Ich suche noch die BLS-Daten zur Ausfallrate im Information-Sektor, der Hauptquelle des Artikels. Jetzt habe ich genug Informationen, um die besten Links zu bestimmen. Auf Grundlage meiner Recherche sind das die drei maßgeblichen Links, die ich einfügen werde:
- Abraham Wald / Ursprung des Survivorship Bias – Die American Mathematical Society hat eine Featurekolumne zu „The Legend of Abraham Wald“ (im Wikipedia-Artikel unter Index 2-24/2-25 referenziert). Die BLS-Seite zum Thema Entrepreneurship (
https://www.bls.gov/bdm/entrepreneurship/entrepreneurship.htm) ist jedoch eine Primärquelle für die Daten zur Ausfallrate. Der Wikipedia-Artikel zum Survivorship Bias (https://en.wikipedia.org/wiki/Survivorship_bias) ist laut Vorgaben als erste Wahl ausdrücklich ausgeschlossen. Die Seite der American Mathematical Society zu Abraham Wald ist eine starke, maßgebliche Primärquelle. - BLS-Daten zu Alter und Überlebensrate von Betrieben (
https://www.bls.gov/bdm/bdmage.htm) – Dies ist die BLS-Primärquelle für die im Artikel genannte 10-Jahres-Ausfallrate. Es handelt sich um eine Regierungsbehörde und die direkte Primärquelle. - Selection Bias – Das NCBI Bookshelf (
https://www.ncbi.nlm.nih.gov/books/NBK612866/) ist eine maßgebliche Quelle der National Institutes of Health zum Selection Bias.
Auswahl der Ankertexte:
1. Für „Statistician Abraham Wald“ → Link zum Feature der American Mathematical Society über Abraham Wald
2. Für „highest 10-year failure rate at 70.9%“ → Link zu den BLS-Daten zu Alter und Überlebensrate von Betrieben
3. Für „selection bias“ (erstes Vorkommen im letzten Abschnitt) → Link zum NCBI Bookshelf zum Selection Bias
Kurz gesagt: Der Survivorship Bias in Fallstudien ist die Verzerrung, die entsteht, wenn ein Unternehmen nur Geschichten von Kunden veröffentlicht, die mit seinem Produkt erfolgreich waren. Kunden, die abgewandert sind, keine Ergebnisse erzielt haben oder sich stillschweigend zurückgezogen haben, kommen in der Content-Bibliothek nicht vor. Das erzeugt einen falschen Eindruck von typischen Ergebnissen, denn die sichtbaren „Gewinner“ sind keine repräsentative Stichprobe aller Käufer des Produkts. Für SaaS-Teams bedeutet das: Fallstudien-Bibliotheken überschätzen systematisch, wie oft das Produkt tatsächlich Ergebnisse liefert.
Was ist der Survivorship Bias in Fallstudien?
Der Survivorship Bias tritt auf, wenn sich eine Analyse oder Erzählung nur auf die Fälle konzentriert, die einen Auswahlprozess überstanden haben, und die weitaus größere Gruppe ignoriert, die das nicht geschafft hat. Der Begriff stammt aus einem statistischen Problem im Zweiten Weltkrieg: Militäranalysten wollten wissen, wo sie zusätzliche Panzerung anbringen sollten, und kartierten dazu die Einschusslöcher an den Flugzeugen, die zurückgekehrt waren. Untersuchen ließen sich nur die Überlebenden, also die Maschinen, die es zurück zum Stützpunkt geschafft hatten. Die übrigen hatte das feindliche Feuer bereits zerstört, sodass die Analysten sie nie begutachten konnten. Der Statistiker Abraham Wald erkannte den Denkfehler: Die massiven Schäden an Rümpfen und Tragflächen der Bomber bewiesen vielmehr, dass diese Bereiche keine Verstärkung brauchten, da die Flugzeuge solche Treffer überstehen konnten. Die Panzerung gehörte an die Stellen mit den wenigsten Schäden.
Auf Fallstudien übertragen, wiederholt sich dieselbe Logik ständig. Eine Fallstudie ist per Definition eine „Überlebensgeschichte“. Sie zeigt einen Kunden, der gekauft, implementiert, geblieben ist und Ergebnisse erzielt hat, die gut genug sind, um darüber zu schreiben. Jeder Kunde, der im dritten Monat abgewandert ist, das Onboarding nie abgeschlossen hat oder nur bescheidene Ergebnisse erzielte und eine Veröffentlichung ablehnte, bleibt in dieser Bibliothek unsichtbar. Sie wirkt wie ein Beweis, dass das Produkt funktioniert. In Wahrheit beweist sie nur, dass das Produkt funktionieren kann, unter besten Bedingungen, bei den Kunden, die bereit waren, das öffentlich zu sagen.
Warum ist der Survivorship Bias für SaaS-Marketingteams relevant?
Für ein SaaS-Unternehmen prägt diese Verzerrung unmittelbar, wie Interessenten, Investoren und sogar interne Teams beurteilen, ob das Produkt tatsächlich Mehrwert liefert. Zeigt eine Fallstudien-Seite fünf Logos mit beeindruckenden ROI-Zahlen, geht ein Käufer nachvollziehbar davon aus, dass diese Ergebnisse typisch sind. In den meisten Fällen sind sie das nicht. Es sind die Ergebnisse, die am weitesten vom Durchschnitt entfernt liegen.
Das ist an mehreren Stellen der Buyer Journey relevant:
- Vertriebsgespräche: Wenn ein Vertriebsmitarbeiter in einer Demo auf eine Handvoll herausragender Fallstudien verweist, weckt er eine Erwartung, die der durchschnittliche Kunde kaum erfüllen wird. Das führt später zu Abwanderung, wenn die Realität hinter dem Pitch zurückbleibt.
- Entscheidungen zur Produkt-Roadmap: Teams, die für Feedback nur zufriedene, engagierte Kunden befragen, entwickeln am Ende für die Gruppe, die das Produkt ohnehin schon schätzt, und nicht für die größere Gruppe, die Schwierigkeiten hatte oder gegangen ist.
- Narrative für Investoren und Board: Wer in einer Board-Präsentation nur Accounts in der Expansionsphase hervorhebt und stagnierende oder schrumpfende Accounts auslässt, erzählt eine Wachstumsgeschichte, die nicht zum gehaltenen Umsatz passt.
Das Ausmaß des zugrunde liegenden Problems ist erheblich. Der Information-Sektor, zu dem Software- und Tech-Start-ups gehören, hat mit 70,9 % die höchste 10-Jahres-Ausfallrate. Wer ein SaaS-Produkt aufbaut, startet also mit schlechteren Ausgangschancen als der Durchschnitt. Eine Fallstudien-Bibliothek, die ausschließlich aus der überlebenden Minderheit besteht, sagt Interessenten so gut wie nichts darüber, wie wahrscheinlich es ist, dass auch sie in einem Jahr zufrieden sind.
Wie zeigt sich der Survivorship Bias in B2B-Fallstudien?
Das Muster wiederholt sich im SaaS- und Agenturmarketing auf einige vorhersehbare Arten.
Selektive Auswahl. Kandidaten für Fallstudien wählen sich selbst aus. Kunden mit sehr guten Ergebnissen sprechen gern darüber. Kunden mit einer holprigen Implementierung, einem Wechsel zur Konkurrenz oder stiller Abkehr vom Produkt stimmen deutlich seltener einem Interview zu. Das Marketing filtert die veröffentlichten Fälle gleich zweimal: einmal nach Ergebnis und einmal nach der Bereitschaft, öffentlich darüber zu sprechen.
Gezielte Wahl des Zeitraums. Eine Fallstudie, die das beste Quartal eines Kunden zeigt, etwa direkt nach dem Onboarding oder auf dem Höhepunkt einer Kampagne, stellt eine Momentaufnahme als Dauerzustand dar. Was in den Quartalen davor und danach passiert ist, taucht selten auf.
Vage oder nicht überprüfbare Kennzahlen. Ist ein echtes Ergebnis schwer zu belegen, greifen Marketingteams mitunter zu weichen Formulierungen wie „höheres Engagement“ oder „stärkere Markenpräsenz“ statt einer Zahl. Das ist oft ein Zeichen dafür, dass die Kundenbeziehung einer genauen Prüfung nicht gut genug standgehalten hat, um eine belastbare Zahl zu liefern.
Zuordnung ohne Vergleichsbasis. Wird das Wachstum eines Kunden einem Tool zugeschrieben, ohne zu zeigen, wie die Entwicklung vor der Einführung aussah oder was sich zeitgleich sonst noch verändert hat, wirkt eine Korrelation wie eine Kausalität.
Das heißt nicht, dass bestehende Fallstudien unehrlich sind. Es bedeutet, dass eine Bibliothek, die nur aus bereitwilligen, zufriedenen und weiterhin aktiven Kunden besteht, die Frage nicht beantworten kann, die ein ernsthafter Käufer wirklich beantwortet haben will: Wie sieht die realistische Bandbreite der Ergebnisse aus, nicht nur das beste Ergebnis?
So vermeiden Sie den Survivorship Bias beim Aufbau eines Fallstudienprogramms
Um dieser Verzerrung entgegenzuwirken, müssen Sie Fallstudien nicht abschaffen. Sie brauchen aber einen Erhebungsprozess, der nicht davon abhängt, dass sich Kunden selbst in den „Erfolgsstapel“ einsortieren.
- Systematisch statt gelegenheitsgetrieben auswählen. Fragen Sie nicht „Wer möchte vorgestellt werden?“, sondern ziehen Sie eine strukturierte Stichprobe aus dem gesamten Kundenstamm, einschließlich Accounts mit durchschnittlichen Ergebnissen, jüngster Abwanderung und mittlerer Nutzung, nicht nur aus den besten 5 %.
- Den Nenner im Blick behalten. Bevor Sie „Unternehmen X hat die Pipeline um 40 % gesteigert“ veröffentlichen, sollten Sie wissen, wie viele vergleichbare Kunden dieses Ergebnis nicht erreicht haben. Eine einzelne herausragende Zahl ohne Kontext ist nahezu bedeutungslos.
- Auch abgewanderte und neutrale Kunden befragen. Feedback von Kunden, die gegangen sind oder stagnieren, deckt Produktlücken auf, die Interviews mit zufriedenen Kunden nie zeigen werden.
- Die Ausreißer-Geschichte von der typischen Geschichte trennen. Es ist völlig in Ordnung, eine außergewöhnliche Fallstudie zu veröffentlichen, solange interne und externe Materialien offen zeigen, wo dieses Ergebnis im Verhältnis zum Median liegt.
- Die Erhebung automatisieren, und zwar zum Zeitpunkt des Ergebnisses, nicht der Begeisterung. Wer darauf wartet, dass Kunden freiwillig Testimonials liefern, verzerrt die Stichprobe zugunsten derjenigen, die gerade begeistert sind. Systeme, die unabhängig von der Stimmung in festen Abständen nach Feedback und Ergebnissen fragen, erfassen einen faireren Querschnitt.
Hier kommt ein strukturierter Ansatz für Kundenreferenzen ins Spiel. Seedling unterstützt SaaS-Teams beim Aufbau von Pipelines für Fallstudien und Testimonials, die in einem festen Rhythmus aus dem gesamten Kundenstamm schöpfen, statt sich auf die Accounts zu verlassen, die sich zufällig freiwillig melden. So bleiben die Referenzen näher an dem, was ein potenzieller Käufer tatsächlich erleben wird.
Survivorship Bias und Selection Bias: Wo liegt der Unterschied?
Der Survivorship Bias ist eine besondere Form des Selection Bias, und beide werden oft genug verwechselt, dass sich eine saubere Abgrenzung lohnt. Selection Bias ist die übergeordnete Kategorie: jede Situation, in der die analysierte Stichprobe die Grundgesamtheit, die sie beschreiben soll, nicht abbildet. Der Survivorship Bias grenzt das auf eine bestimmte Ursache ein: Ein Filter verzerrt die Stichprobe, weil die beobachtete Gruppe diesen Filter erst „überleben“ musste, sei es durch den Fortbestand des Unternehmens, den Verbleib als Kunde oder die Zusage zu einem Interview, bevor sie überhaupt beobachtet werden konnte.
Der praktische Unterschied ist wichtig dafür, wie ein Team das Problem behebt. Eine bessere Randomisierung in einer Umfrage kann eine allgemeine Selektionsverzerrung beheben. Beim Survivorship Bias reicht das nicht: Hier müssen Sie gezielt jene Kunden aufspüren, die den Filter nicht überstanden haben, etwa den abgewanderten Account, den gescheiterten Pilot oder den Kunden, der nie verlängert hat. Ihr Fehlen im Datensatz ist nämlich nicht zufällig. Derselbe Umstand, der ihre Geschichte weniger vorzeigbar machen würde, sorgt auch dafür, dass sie fehlt.
Teams, die diesen Unterschied verstehen, fragen nicht mehr „Wen stellen wir als Nächstes vor?“, sondern „Wer fehlt in dem, was wir vorgestellt haben, und warum?“. Mit dieser zweiten Frage beginnt ehrlicher, belastbarer Kundennachweis.
Quellen
- Business Employment Dynamics: Entrepreneurship and the U.S. Economy, U.S. Bureau of Labor Statistics
- Survival of Private Sector Establishments by Opening Year, U.S. Bureau of Labor Statistics
- Selection Bias, National Institutes of Health / NCBI Bookshelf