Warum Cyber-Risikobewertungen systematisch verzerrt sind und was die Forschung über Trainierbarkeit weiß.

Wenn in der Cybersecurity vom „Human Factor“ die Rede ist, denken die meisten an Phishing, schwache Passwörter und das berüchtigte Post-it am Monitor. Das ist nicht falsch, aber es greift dramatisch zu kurz. Der folgenreichste menschliche Faktor sitzt nicht beim Endbenutzer, der einen Anhang öffnet. Er sitzt bei den Profis, die Risiken einschätzen, Wahrscheinlichkeiten zuordnen und Investitionsentscheidungen begründen. Und dort ist er messbar verzerrt.

Wo der Human Factor wirklich beginnt

Frag fünf erfahrene Security-Profis, wie wahrscheinlich ein erfolgreicher Ransomware-Angriff auf ein konkretes System im nächsten Jahr sein wird und du bekommst fünf Antworten, die sich um Größenordnungen unterscheiden können. Frag dieselben fünf nach einem CVSS-Score für eine konkrete Schwachstelle, ohne dass sie das Tool zur Hand haben, und das Ergebnis ist nicht viel besser. Das ist kein Versagen einzelner Personen. Das ist der erwartbare Output eines kognitiven Apparats, der in der afrikanischen Savanne optimiert wurde und nicht in einer Welt aus Wahrscheinlichkeitsverteilungen, Tail Risks und Bayesschen Updates.

Der Punkt ist nicht, dass Schätzungen unmöglich wären. Der Punkt ist, dass naive Schätzungen systematisch und vorhersagbar danebenliegen. Deshalb gibt es dafür einen ganzen Forschungszweig, der bis in die Anfänge der 1970er Jahre zurückreicht und in den letzten Jahrzehnten erstaunlich klare Aussagen produziert hat. Auch und gerade über die Frage: Was hilft eigentlich dagegen?

Genau diese Frage steht im Mittelpunkt dieses Beitrags. Nicht das Phänomen selbst, sondern die methodische Antwort der Forschung darauf. Es ist die vielleicht Die meistunterschätzte Trainingsfrage in unserem Beruf.

Drei Verzerrungen, die jede Risikobewertung berühren

Bevor wir über Training reden, ein knapper Blick auf das Spielfeld. Die kognitive Psychologie hat hunderte Biases katalogisiert und für die Risikobewertung in der Cybersecurity sind drei besonders einschlägig.

Overconfidence, die systematische Selbstüberschätzung der eigenen Schätzgenauigkeit, ist das älterste Kind dieser Reihe. Lichtenstein, Fischhoff und Phillips zeigten bereits 1977 in einer wegweisenden Arbeit, dass Menschen, die ein 90%-Konfidenzintervall angeben sollen, in dem die wahre Antwort liegt, in der Realität nur in 40 bis 60 Prozent der Fälle wirklich Recht hatten. Die Lücke zwischen behauptetem und tatsächlichem Wissen ist also dramatisch und überraschend stabil. Soll und Klayman bestätigten und differenzierten diesen Befund 1992 mit Studien speziell zu Intervallschätzungen. Übersetzt in die Security-Sprache: Wenn ein Architekt sagt, er sei sich „sehr sicher“, dass eine bestimmte Architektur ein bestimmtes Risiko abdeckt, dann ist diese Sicherheit empirisch bestenfalls die Hälfte wert.

Anchoring, das Phänomen, dass eine erste Zahl alle nachfolgenden Schätzungen unbewusst anzieht, geht auf Tversky und Kahneman zurück (Science, 1974). Es ist erschreckend robust gegen Aufklärung. Auch wer den Effekt kennt, ist nicht immun dagegen. Im Security-Kontext bedeutet das: Wer in einem Workshop zuerst eine Wahrscheinlichkeit nennt, egal wie willkürlich, der prägt den Diskussionsraum. Die Reihenfolge der Wortmeldung wird zur unsichtbaren Quelle der Risikoeinschätzung.

Availability, der dritte im Bunde, beschreibt unsere Tendenz, die Wahrscheinlichkeit von Ereignissen daran zu bemessen, wie leicht uns Beispiele genau dafür einfallen. Auch dieser Bias stammt aus der Tversky/Kahneman-Schule und erklärt einen Großteil der Verzerrungen in unseren Bedrohungsmodellen: Frische Schlagzeilen, kürzlich bearbeitete Incidents und persönlich erlebte Vorfälle dominieren die Einschätzung. Die älteren oder schlicht weniger mediale Risikoarten verschwinden aus dem Sichtfeld, obwohl sie statistisch gesehen dominant sein können.

Drei Phänomene, drei Forschungstraditionen, ein gemeinsamer Nenner: Sie verzerren systematisch, sie verzerren in vorhersagbare Richtungen, und sie sitzen in den Köpfen genau derjenigen Personen, die wir mit Risikobewertung betrauen.

Die entscheidende Frage nun: Ist das überhaupt trainierbar?

An dieser Stelle teilen sich die Lager. Eine Schule der Bias-Forschung, mit Daniel Kahneman als prominentestem Vertreter, ist von Haus aus skeptisch. In Thinking, Fast and Slow (2011) beschreibt Kahneman die kognitiven Verzerrungen als so tief in unserem „System 1″ verankert, dass bewusstes Wollen sie kaum aushebeln kann. Sein berühmtes Selbstporträt: Auch nach Jahrzehnten Forschung über Heuristiken bleibe er selbst genauso anfällig wie alle anderen.

Diese Skepsis ist intellektuell ehrlich, aber sie wird in der Praxis oft zu einem fatalistischen „Bias ist eben menschlich, da kann man nichts machen“ umgedeutet. Und an dieser Stelle widerspricht nämlich die empirische Forschung. Nicht jede Verzerrung lässt sich gleich gut adressieren, aber die Trainierbarkeit speziell der Schätzkalibrierung ist erstaunlich gut belegt. Die spannende Frage ist also nicht ob, sondern wie und womit geht’s.

Was die Forschung über wirksame Methoden weiß

Wer die Literatur der letzten 50 Jahre durchforstet, findet keinen einheitlichen Königsweg, sondern eine Familie von Verfahren, die sich über Disziplinen, Zeiträume und Anwendungsfelder hinweg, erstaunlich konsistent und wirksam erwiesen haben. Sechs Stränge sind dabei besonders relevant.

Erstens: Kalibrierungstraining. Die wohl am besten abgesicherte Methode überhaupt. Probanden geben wiederholt 90%-Konfidenzintervalle für überprüfbare Trivia-Fragen an, bekommen unmittelbares Feedback und lernen so, ihre Intervalle korrekt zu kalibrieren. Die Ursprünge liegen wieder bei Lichtenstein und Fischhoff. Douglas Hubbard hat das Verfahren in How to Measure Anything (2014), und gemeinsam mit Richard Seiersen in How to Measure Anything in Cybersecurity Risk (2016, 2. Aufl. 2023) systematisch in das Risikomanagement übertragen. Die Kernaussage: Nach drei bis fünf Stunden gezieltem Training erreichen die meisten Teilnehmer Trefferquoten nahe der theoretischen 90 Prozent. Das ist eine messbare Verhaltensänderung.

Zweitens: Consider the Opposite. Lord, Lepper und Preston veröffentlichten 1984 eine Studie mit dem programmatischen Titel „Considering the Opposite: A Corrective Strategy for Social Judgment“. Die simple Anweisung, vor einer Schlussfolgerung explizit die gegenteilige Hypothese zu prüfen und Argumente dagegen zu sammeln, reduzierte messbar mehrere Verzerrungen. Darunter auch den Confirmation Bias und das Anchoring. Die Methode ist banal in der Beschreibung und wirksam in der Anwendung, weil sie das automatische, intuitive Urteil zwingt, eine Konkurrenzhypothese ernst zu nehmen.

Drittens: Pre-Mortem. Eine Erfindung von Gary Klein, dem prominentesten Vertreter der Naturalistic-Decision-Making-Schule. Statt nach einem Projektabschluss eine Post-Mortem-Analyse zu machen („Warum ist es schiefgegangen?“), wird das Pre-Mortem vor der Entscheidung durchgeführt: Stellt euch vor, das Vorhaben ist in zwölf Monaten katastrophal gescheitert und dann stellt euch die Frage: Woran lag es? Klein beschreibt die Methode in The Power of Intuition (2003) und in einem Klassiker im Harvard Business Review (2007). Sie wirkt vor allem gegen Overconfidence und Groupthinking, weil sie Skepsis legitimiert und sozial unterstützt.

Viertens: Analysis of Competing Hypotheses (ACH). Richards Heuer hat in Psychology of Intelligence Analysis (1999) für die CIA ein Verfahren formalisiert, das aus der nachrichtendienstlichen Analyse stammt: Statt eine Hypothese zu suchen, die zu den Indizien passt, werden mehrere konkurrierende Hypothesen gleichzeitig gegen die verfügbare Evidenz geprüft. Die wirksamste Heuristik dabei ist nicht, welche Hypothese am meisten Bestätigung findet, sondern welche am wenigsten widerlegt wird. Das Verfahren hat in den Geheimdiensten Karriere gemacht und verdient sie auch in der Threat-Intelligence-Arbeit, wo Confirmation Bias notorisch angesiedelt ist.

Fünftens: Probabilistisches Forecasting nach Tetlock. Philip Tetlock dokumentierte in Expert Political Judgment (2005) und später in Superforecasting (2015, mit Dan Gardner) die Ergebnisse mehrjähriger Forschung des Good Judgment Project. Sein zentrales Ergebnis: Es gibt eine kleine Gruppe von Menschen, die deutlich besser im Vorhersagen sind als der Durchschnitt und ihre Methodik ist lernbar. Sie zerlegen Fragen in Teilfragen, suchen aktiv nach Außensicht-Daten (Base Rates), aktualisieren ihre Schätzungen in kleinen Schritten bei neuer Information, denken in Wahrscheinlichkeiten statt in binären Kategorien und führen Buch über ihre eigenen Treffer und Fehler. Tetlocks Befund ist für unser Feld unmittelbar relevant: Risikoeinschätzung ist ein Skill, kein Charaktermerkmal.

Sechstens: Anonymisierte Aggregation. Diese Methode ist weniger eine Technik als ein Verfahrens-Setting, hat aber empirisch enorm viel Wirkung. Wenn Schätzungen einer Gruppe zunächst anonym und unabhängig erhoben werden, etwa per Mentimeter, Slido oder einem schlichten Zettel und erst danach diskutiert wird, dann eliminiert man eine ganze Reihe sozialer Verzerrungen: Anchoring durch den Erstsprecher, Konformitätsdruck und Statusdynamiken im Raum. James Surowiecki hat den zugrundeliegenden Wisdom-of-Crowds-Effekt in seinem gleichnamigen Buch (2004) populär aufgearbeitet, die methodischen Wurzeln reichen über Galton bis ins 19. Jahrhundert. Für die Praxis heißt das: Die einfache prozedurale Entscheidung, erst anonym, dann diskutiert, kann mehr bewirken als jedes Bias-Seminar.

Der gemeinsame Nenner

Sechs Methoden, sechs Forschungstraditionen, sehr unterschiedliche akademische Heimaten und dennoch ein erkennbarer roter Faden. Was diese Verfahren miteinander verbindet, ist nicht eine geteilte Theorie, sondern ein geteiltes Prinzip:

Sie alle externalisieren den Denkprozess. Sie erzwingen die intuitive, schnelle, mustererkennende Maschine in unserem Kopf (System 1), sich einer langsameren, expliziten, überprüfbaren Struktur zu unterwerfen (System 2). Konfidenzintervalle erzwingen die Quantifizierung sichtbar zu machen. Consider-the-Opposite erzwingt die Gegenhypothese auszusprechen. Pre-Mortem erzwingt das Worst-Case-Denken in den sozialen Raum. ACH erzwingt die Konkurrenz der Erklärungen. Tetlocks Forecasting erzwingt die Buchführung über die eigenen Treffer. Anonyme Aggregation erzwingt die unabhängige Schätzung vor der sozialen Verhandlung.Das ist die methodische Essenz: Wer Anti-Bias trainieren will, muss Strukturen schaffen, in denen die intuitive Antwort nicht der Endpunkt ist, sondern der Ausgangspunkt für eine disziplinierte Prüfung. Das ist mühsamer als eine Bauchentscheidung. Es ist aber auch messbar besser. Und es lässt sich, und das ist der zentrale Punkt für unsere Profession, in Workshops, Bewertungs-Routinen und Governance-Prozesse einbauen.

Warum das Thema gerade jetzt immer wichtiger wird

An dieser Stelle könnte ein klassischer Beitrag enden. Aber 2026 hat eine zusätzliche Dringlichkeit, die noch vor zwei Jahren ein Randthema war: Agentic AI. Wenn KI-Agenten zunehmend Aufgaben in SOC, Schwachstellenmanagement und Incident Response übernehmen, verändert sich das Bias-Profil unserer Arbeit fundamental allerdings nicht in die entlastende Richtung.

Die Forschung zu Automation Bias ist hier sehr instruktiv. Linda Skitka und Kollegen (1999, 2000) haben gezeigt, dass Menschen, die mit automatisierten Entscheidungssystemen arbeiten, systematisch zwei Fehlertypen produzieren: Sie übersehen Probleme, die das System nicht meldet (Omission Errors), und sie folgen falschen Empfehlungen des Systems gegen besseres Wissen (Commission Errors). Mosier und Burdick haben den Effekt für Cockpit-Crews dokumentiert. In der medizinischen Diagnostik ist er ebenfalls sehr gut belegt. Die Übertragung auf ein KI-gestütztes SOC oder CSIRT liegt schmerzhaft nahe: Was passiert, wenn der Agent eine Anomalie nicht meldet? Was passiert, wenn er eine harmlose Aktivität als Incident eskaliert?

Spiegelbildlich existiert das gegenteilige Phänomen, Algorithm Aversion. Dietvorst, Simmons und Massey (2015) zeigten, dass Menschen einem Algorithmus stärker misstrauen als einem menschlichen Experten, sobald sie den Algorithmus auch nur einmal Fehler machen sehen, selbst wenn er nachweislich besser ist. Im SOC- oder CSIRT-Alltag heißt das: Ein Agent, der einmal danebenliegt, wird unter Umständen auch dann nicht mehr ernst genommen, wenn er statistisch betrachtet deutlich treffsicherer ist als die menschliche Vergleichsgruppe.

Beides zusammen ergibt eine unangenehme Konstellation. Wir bringen unsere klassischen Biases (Overconfidence, Anchoring, Availability) in die Mensch-Maschine-Interaktion mit ein und bekommen die neuen Mensch-Maschine-Biases (Automation Bias, lgorithm Aversion) noch obendrauf dazu. Wer diese Schichten nicht trainiert und auseinanderhält, hat im KI-gestützten SOC oder CSIRT der nahen Zukunft ein Qualitäts- und Haftungsproblem.

Die Konsequenz ist nicht weniger Bias-Training, sondern viel mehr ist notwendig. Und es ist das Bias-Training, das die menschliche Schätzkompetenz nicht delegiert, sondern stärkt und damit der Mensch im Loop tatsächlich der ist, der Plausibilitäten kontrollieren kann, statt nur Klick-Bestätiger der KI-Automatisierung zu sein.

Womit das alles zu tun hat

Cybersecurity ist im Kern eine Disziplin der Entscheidung unter (maximaler) Unsicherheit. Wer Architekturen entwirft, Kontrollen priorisiert, Budgets begründet oder Incidents triagiert, schätzt unentwegt Wahrscheinlichkeiten ab und tut das fast immer ohne explizite Methodik sondern aus dem „Bauch“ heraus. Die Forschung der letzten 50 Jahre hat uns einen gut gefüllten Werkzkasten hinterlassen, der aber in unserem Berufsalltag erstaunlich selten geöffnet wird. Das ist keine Frage der Intelligenz unserer Profession sondern es ist eine Frage von Routinen, Prozessen und der Bereitschaft, die eigene Intuition zur Hypothese zu degradieren statt zur Schlussfolgerung und Wahrheit.

Genau hier liegt eine der größten ungenutzten Verbesserungsreserven unseres Berufsfeldes. Nicht das nächste Tool, nicht die nächste Compliance-Norm, nicht die nächste Bedrohungsklasse sondern die methodische Disziplin in den Köpfen derer zu bringen, die das alles bewerten.

Ein Angebot

Wer in Lust auf einen Austausch hat, über z.B. konkrete Risikobewertungs-Fragen aus dem eigenen Arbeitsumfeld, über Methodenwahl, über mögliche Vortragsthemen : Der „Lass uns reden„-Knopf ist genau dafür da. Eine Mail genügt.