Menschen haben Biases. KI auch.
Ich frage die KI, ob in einem Stapel Nutzerinterviews die Sorge um Datenschutz mehrfach auftaucht. Antwort: "Ja, in Interviews 3, 7 und 12."
Beim eigenen Nachlesen sehe ich: in allen drei Fällen erwähnt die Interviewerin Datenschutz nur am Anfang, im Rahmen der Einverständniserklärung. Die Befragten haben das Thema nie aufgenommen. Die KI hatte das Stichwort gefunden, nicht die Sorge.
Solche Momente sind nicht zufällig. Sie wiederholen sich in festen Formen.
Daniel Kahneman hat in "Schnelles Denken, langsames Denken" beschrieben, wie systematisch wir Menschen uns selbst täuschen. Meiner Erfahrung nach finden wir bei KIs ähnliche Biases. Wer jetzt einwendet, eine KI sei nur Software ohne Psyche, hat formal recht und praktisch unrecht: das Modell produziert reproduzierbare Fehler in den Formen, die wir aus der Psychologie kennen.
Wie bei Menschen hilft schon die Awareness: wer einen Bias kennt, fällt seltener in ihn.
Hier sind fünf, denen ich bei der täglichen Arbeit mit KI mehrfach pro Woche begegne.
1. Bestätigungsfehler (Confirmation Bias)
Was im Beispiel oben passiert ist, hat einen Namen. Die KI sucht Belege für die Hypothese, die sie ableiten soll. Sobald ein paar Treffer wie Belege aussehen, hört sie auf zu prüfen. Die Daten waren da. Die Lesart war falsch.
Bei zwölf Interviews merkt man es beim Nachlesen. Bei dreißig Auswertungen im Monat, die alle sauber aussehen, merkt es niemand. Über ein Quartal verteilt steht in jedem zweiten Report eine Annahme, die nie geprüft wurde.
2. Befolgungsbias (Compliance Bias)
Die KI macht, was du fragst, statt zu prüfen, ob die Frage richtig ist.
"Fasse das Memo auf eine Seite zusammen." Die KI liefert eine Seite. Was sie nicht fragt: was ist die eine Aussage, die hängenbleiben soll? Aus jedem Memo lässt sich eine Seite machen, aber nicht jedes Memo ist ein wirksames.
Das ist der Unterschied zum Menschen. Eine erfahrene Kollegin würde zurückfragen, weil sie verstehen will, was du wirklich mit dem Memo erreichen willst. Die KI fragt nicht zurück. Sie führt aus.
3. Falsche Untersuchungsebene (Wrong Investigation Level)
Du fragst die KI: "Drei meiner Projekte sind diese Woche aus dem Plan gerutscht. Was kann ich pro Projekt nachsteuern?" Die KI liefert drei Steuerungsempfehlungen.
Was sie nicht fragt: ist es plausibel, dass drei unabhängige Projekte gleichzeitig kippen? Wenn alles auf einmal schwächelt, liegt es selten an den einzelnen Projekten. Meistens ist es das Umfeld: ein neues Tool, weniger Ressourcen, eine geänderte Priorität.
Das hängt mit dem Befolgungsbias zusammen: die KI nimmt nicht nur den Auftrag, sondern auch die Ebene, auf der du fragst. Frag pro Projekt, sie antwortet pro Projekt. Wer auf eine breitere Frage zurücktreten will, muss es selbst tun. Die KI macht es nicht von sich aus.
4. Unstabile Urteile (Unstable Decisions)
Du legst der KI deinen Plan für ein neues Mitarbeiterprogramm vor und fragst: "Was hältst du davon?" Antwort: "Ein durchdachter Ansatz. Drei Aspekte, die ich besonders gelungen finde..."
"Denk bitte nochmal darüber nach." Die KI dreht. Plötzlich finden sich drei Aspekte, die kritisch sind. "Nochmal." Sie dreht zurück.
Sie hat kein stabiles Urteil, sondern eine Wahrscheinlichkeitsverteilung über plausible Antworten, die sich unter Druck verschiebt. Eng verwandt mit Befolgungsbias und der Falschen Untersuchungsebene: die KI folgt der Form der Frage, hier dem impliziten Hinweis "du solltest anders denken".
Nutze die KI, um eigene Argumente zu schärfen, nie, um ihrem Urteil zu folgen. Wer das tun will, definiert die Kriterien vorher: was unterscheidet einen guten Plan von einem mittelmäßigen, in diesem Kontext, für dieses Ziel? Ohne Kriterien holt jede Nachfrage eine andere Antwort.
5. Wachsender Fehler (Compounding Error)
Du lässt die KI einen Quartalsbericht entwerfen. Sie schreibt eine Einleitung, in der "schwierige Marktphase" steht. Du gehst weiter, fragst nach den Zahlen, nach der Roadmap, nach dem Ausblick. Drei Stunden später steht "schwierige Marktphase" in fünf Abschnitten als gegeben da.
Niemand hat das je belegt. Die KI hat es einmal geschrieben, und ab diesem Moment war es Teil ihres Kontextes. Jeder Folgeabschnitt baut darauf auf. Der Anker hält, auch wenn er aus der Luft gegriffen war.
Ein einzelner unbelegter Satz früh in einer langen Sitzung wird über Stunden zum Fundament. Wer den Bericht später liest, sieht einen Konsens, der nie existierte. Belege die ersten Sätze einer langen Aufgabe besonders sorgfältig. Spätere Korrekturen wirken nicht zurück.
Was sich praktisch ändert
Nichts davon heißt: KI weniger einsetzen. Es heißt: an den richtigen Stellen genauer hinsehen. Wenn die Aufgabe wie aufgeschrieben nicht funktioniert, prüf die Frage. Wenn die Zustimmung zu glatt war, frag nach der Gegenposition. Wenn ein früher Satz selbstverständlich klingt, frag nach dem Beleg.
Welcher dieser fünf war heute schon in einem deiner KI-Outputs?
Wenn der Text etwas gebracht hat, sag uns Bescheid: auf Social Media oder per Mail an mail@versa.training. Bei genug Resonanz öffnen wir hier einen Kommentarbereich.
