DIE KI-CHRONIKEN

Fachfolge 2 · Was die KI über uns zu wissen glaubt

„Warum fällt es Ihnen schwer, Verantwortung zu übernehmen?“

Eva liest die Frage zweimal. Sie hat ihr halbes Berufsleben Verantwortung übernommen. Was sie zuletzt erschöpft hat, waren die Anrufe nach Feierabend. Jetzt möchte sie eine Stelle mit höchstens dreißig Wochenstunden. Ob dazu eine Führungsaufgabe gehört, hat sie noch nicht entschieden.

Eva ist unsere erfundene Gesprächspartnerin aus der ersten Fachfolge. Die KI hat ihr bei der Stellensuche geholfen. Dabei haben wir eine problematische Notiz betrachtet: Aus einer offenen Möglichkeit war ein festes Berufsziel geworden. Nun verfolgen wir, was geschehen kann, wenn das System aus ihren Angaben zusätzlich auf ihre Beweggründe schließt.

Die Frage unterstellt bereits, dass Eva Verantwortung scheut. Vielleicht widerspricht sie sofort. Vielleicht beginnt sie aber auch zu überlegen, ob etwas daran sein könnte. Schließlich klingt die Formulierung nach einer fachlichen Einschätzung.

Damit steht plötzlich mehr auf dem Spiel als eine ungenaue Zusammenfassung. Ein System bietet einem Menschen eine Erklärung für sich selbst an.

Wie viel kann eine KI über uns herausfinden? Und wie merken wir, wann sie über das hinausgeht, was sie tatsächlich begründen kann?

Evas ursprüngliche Angabe ist überschaubar: höchstens dreißig Stunden, Führung noch offen. Das lässt sich knapp festhalten, ohne einen verborgenen Beweggrund hinzuzufügen. Sobald daraus „Eva vermeidet Verantwortung“ wird, verändert sich die Art der Aussage. Das System hat eine Deutung ergänzt.

Solche Deutungen können nützlich sein. Wer immer nur wiederholt, was schon gesagt wurde, hilft bei einer schwierigen Entscheidung womöglich wenig weiter. Eine gute Frage kann auf einen Zusammenhang aufmerksam machen, den Eva bisher übersehen hat. Nur muss er als prüfbare Möglichkeit erkennbar bleiben.

Dafür reicht ein vorsichtig klingendes Wort allein nicht aus. „Vielleicht vermeiden Sie Verantwortung“ legt Eva immer noch genau diese Erklärung nahe. Eine andere Frage lässt mehr offen: „Was spricht für eine Führungsaufgabe, und was würde Sie daran belasten?“

Darauf erzählt Eva von ihrer früheren Stelle. Sie hat gern ein Team geführt. Schwierig war die Erwartung, jederzeit erreichbar zu sein. Im Gespräch entsteht eine Unterscheidung, die ihr weiterhilft: Sie möchte Verantwortung übernehmen können, ohne ständig verfügbar sein zu müssen.

Wir haben in dieser kleinen Szene etwas Neues erfahren. Die erste Deutung hätte uns daran vorbeiführen können.

In der zweiten Romanfolge geschieht eine verwandte Verschiebung. Matthias bespricht mit der KI einen erfundenen Fall. Ein Mann schläft seit einer betrieblichen Umstrukturierung schlecht, grübelt und zieht sich zurück. Die KI nennt eine mögliche fachliche Erklärung. In der Zusammenfassung steht sie anschließend wie eine festgestellte Diagnose.

Matthias übernimmt den Satz und bereitet eine Frage vor, die diese Diagnose schon voraussetzt. Erst dann fällt der Fehler auf.

Das Verstörende daran: Die Erklärung muss gar nicht abwegig sein, um die Vorbereitung zu verfälschen. Selbst wenn sie sich später bestätigen sollte, wäre sie zu diesem Zeitpunkt noch keine gesicherte Feststellung gewesen. Nicht mehr erkennbar sind die Herkunft der Aussage und der Stand ihrer Prüfung.

Aus der Forschung über automatische Zusammenfassungen kennen wir eine dazu passende Unterscheidung: Entspricht eine Aussage dem Ausgangstext? Und trifft sie in der Welt zu? Das sind zwei verschiedene Prüfungen. Eine Zusammenfassung kann etwas ergänzen, das zufällig stimmt, obwohl es in ihrer Vorlage nicht belegt ist. Die Untersuchung, auf die wir uns hier beziehen, arbeitete mit Nachrichtentexten und damaligen Modellen. Sie liefert keine Fehlerquote für heutige Coaching-Systeme. Für unseren Fall schärft sie jedoch die entscheidende Frage: Was stammt aus dem Gespräch, und was hat das System hinzugefügt?¹

Eine fachliche Bibliothek beantwortet diese Frage noch nicht. Sie kann Begriffe bereitstellen und eine Einordnung ermöglichen. Ob diese Einordnung auf Eva oder auf den Menschen im Roman zutrifft, muss sich an deren Situation zeigen.

Das gilt auch dann, wenn eine Kollegin ihrer KI umfangreiche tiefenpsychologische Literatur zugänglich macht. Für systemische, verhaltenstherapeutische oder synergetische Quellen stellt sich dieselbe Frage. Fachwissen kann eine Hypothese begründen. Es ersetzt die Angaben nicht, die wir brauchen, um sie am einzelnen Fall zu prüfen.

Dabei wäre die Gegenbehauptung ebenso vorschnell: Eine KI könne aus Sprache grundsätzlich nichts über Menschen erschließen.

Eine Forschungsgruppe um Heinrich Peters hat Menschen mit einem Sprachmodell sprechen lassen und dessen Persönlichkeitseinschätzungen mit einem etablierten Fragebogen verglichen. In dieser Untersuchung gelang die Annäherung besser, wenn das System gezielt persönlichkeitsrelevante Informationen erfragte. Ein allgemein hilfsbereiter Assistent schnitt deutlich schwächer ab.

Der veröffentlichte Vorabdruck zeigt damit eine reale Möglichkeit. Gespräche können Informationen enthalten, aus denen ein Modell psychologisch relevante Unterschiede erschließt. Geprüft wurde allerdings die Übereinstimmung mit Selbstauskünften über Persönlichkeitsmerkmale. Damit ist weder die ganze Person erfasst noch eine psychische Störung diagnostiziert.²

Für Eva heißt das: Es lohnt sich, die Fragen anzusehen, auf denen eine Einschätzung beruht. Hat das System überhaupt erfahren, wie sie Führung erlebt hat? Oder deutet es bereits ihren Wunsch nach Teilzeit?

Wie weit solche Rückschlüsse tragen, lässt sich nicht aus einem einzigen günstigen Ergebnis ableiten. Eine andere, begutachtete Studie untersuchte gut vierhundert deutschsprachige LinkedIn-Profile. Microsoft Copilot sollte daraus unter anderem Persönlichkeitsmerkmale einschätzen. Bei mehreren Merkmalen fielen die Einschätzungen in zwei Durchläufen recht ähnlich aus. Mit den zugehörigen Testergebnissen stimmten sie jedoch nur schwach oder gar nicht statistisch erkennbar überein.

Diese Untersuchung betraf berufliche Profile, kein vertiefendes Beratungsgespräch. Sie widerlegt deshalb die Gesprächsstudie nicht.³ Zusammen zeigen beide Arbeiten, wie wichtig die Informationsquelle und die konkrete Aufgabe sind.

Und sie machen einen Unterschied greifbar, den wir im Alltag leicht übersehen: Ein System kann bei seiner Einschätzung bleiben und trotzdem danebenliegen. In der Fachsprache heißt die Zuverlässigkeit bei Wiederholung Reliabilität. Eine andere Frage ist, ob die Einschätzung das betreffende Merkmal angemessen erfasst. Sie gehört zur Prüfung der Validität. Wer dreimal dieselbe unzutreffende Deutung erhält, hat dadurch keine dreifache Bestätigung.

Auch ein Fragebogen ist kein unfehlbarer Zugang zum Menschen. Wir vergleichen hier die Modellaussage mit einer Selbstauskunft, die ebenfalls Fehler enthalten kann. Für eine belastbare Beurteilung brauchen wir eine zum Zweck passende Prüfung. Wie gut ein Verfahren eine Gruppe im Durchschnitt beschreibt, sagt zudem noch nicht, ob wir damit eine weitreichende Entscheidung über Eva rechtfertigen können.

Wir können ihr Profil ergänzen, solange uns etwas unklar ist. Das klingt nach einer einfachen Lösung: mehr Daten, bessere Einschätzung.

Doch bei Eva fehlt zunächst eine bestimmte Information: Was war an der bisherigen Führungsrolle belastend? Tausend weitere Sätze über ihre Hobbys würden diese Lücke nicht zwangsläufig schließen. Eine gezielte Rückfrage tut es in unserer Vignette.

Hier hilft die systemische Perspektive. Wir betrachten Eva in ihren Beziehungen und unter konkreten Arbeitsbedingungen. Dieselbe Frau kann in einem verlässlich organisierten Team gern führen und unter dauernder Rufbereitschaft erschöpfen. Wer das Geschehen vorschnell zu einer Eigenschaft Evas macht, verliert die Bedingungen aus dem Blick, unter denen es entsteht.

Zugleich gehört das KI-Gespräch selbst zu diesen Bedingungen. Das System wählt eine Frage. Eva reagiert darauf. Ihre Antwort wird Teil der Grundlage für die nächste Frage.

Nehmen wir an, die KI beginnt mit ihrer vermeintlichen Scheu vor Verantwortung. Eva erzählt daraufhin von einer Situation, in der sie unsicher war. Wenn das System diese Antwort anschließend als Beleg für seine erste Deutung verwendet, kann ein sich selbst bestätigender Gesprächsverlauf entstehen. Die Unsicherheit war vielleicht vorhanden. Ungeprüft bleibt aber, welche anderen Seiten sichtbar geworden wären, wenn das Gespräch anders begonnen hätte.

Das ist unsere fachliche Modellierung eines möglichen Verlaufs. Eine solche Schleife ist damit noch nicht als allgemeiner Effekt heutiger KI-Begleitung nachgewiesen.

Direkte experimentelle Forschung gibt es zu einer benachbarten Frage: Was geschieht, wenn KI-Ratschläge die Sicht eines Menschen übermäßig bestätigen?

Myra Cheng und ihr Team verglichen in zwei vorregistrierten Experimenten bestätigende und widersprechende KI-Antworten zu zwischenmenschlichen Konflikten. Die stärker bestätigenden Antworten erhöhten die Überzeugung, selbst im Recht zu sein, und verringerten die berichtete Bereitschaft, den Konflikt zu bereinigen. Zugleich wurden sie positiver bewertet. In einem der Experimente führten die Teilnehmenden tatsächlich ein Gespräch über einen eigenen früheren Konflikt.

Die Vergleichsbedingungen waren gezielt hergestellt. Gemessen wurden vor allem Einschätzungen und Handlungsabsichten im Anschluss. Wir erfahren daraus nicht, wie sich eine Beziehung Monate später entwickelte. Der Befund gibt uns aber einen guten Grund, Zustimmung und hilfreiche Begleitung auseinanderzuhalten.⁴

Wenn Eva schreibt: „Mein früherer Chef hat mich völlig ausgenutzt“, kann eine Antwort ihr Erleben ernst nehmen und trotzdem fragen, was vereinbart war, was tatsächlich geschah und was sie künftig anders braucht. Eine pauschale Bestätigung würde ihr diese Klärung abnehmen, bevor sie stattgefunden hat.

Routinemäßiger Widerspruch wäre ebenfalls keine Prüfung. Die Begleitung soll Evas Angaben ernst nehmen und bei ihren eigenen Schlussfolgerungen begründen können, worauf sie sich stützt.

Auch ein warmer Gesprächston erledigt diese Aufgabe nicht. Eine Forschungsgruppe um Lujain Ibrahim hat fünf Sprachmodelle gezielt auf wärmere Antworten hin angepasst. Nach dieser Anpassung machten die Modelle in den untersuchten Aufgaben mehr sachliche Fehler und bestätigten häufiger falsche Überzeugungen. Daraus folgt kein Gebot, kühl mit Menschen zu sprechen. Es folgt die Aufgabe, Zugewandtheit und Verlässlichkeit gemeinsam zu prüfen.⁵

Bei klinischen Anwendungen wird diese Prüfung noch anspruchsvoller. Einen Fachbegriff passend zu verwenden, ist etwas anderes, als ein Verfahren für Diagnostik oder Behandlung zu validieren. Dafür muss unter anderem untersucht werden, bei welchen Menschen es funktioniert, welche Fehler auftreten und welche Folgen sie haben. Die Weltgesundheitsorganisation fordert für solche Anwendungen geeignete Prüfungen und warnt davor, schwierige Entscheidungen unbesehen an Systeme zu delegieren.⁶

Unsere Romanfigur Matthias kann die Idee der KI als ungeprüfte Vermutung gesondert festhalten. Das ist eine vernünftige Ordnung für die Vorbereitung. Sie macht aus der Vermutung noch keine Diagnose.

Bei Eva lässt sich die Zusammenarbeit ganz praktisch verbessern. Die nächste Notiz könnte lauten: „Eva nennt dreißig Wochenstunden als Obergrenze. Sie beschreibt ständige Erreichbarkeit als belastend. Führung kommt für sie unter passenden Bedingungen infrage.“

Daneben steht eine Frage, die noch geklärt werden muss: „Welche Bedingungen wären für Eva verlässlich genug?“

Nun kann die KI passende Stellen auch daraufhin lesen. Wo steht etwas zur Erreichbarkeit? Wo fehlen Angaben? Welche Frage könnte Eva im Vorstellungsgespräch stellen? Aus der Klärung entsteht ein brauchbarer nächster Schritt. Eva muss sich dafür kein Persönlichkeitsurteil zu eigen machen.

Für die weitere Entwicklung stellt sich dieselbe Frage über längere Zeiträume. Eine mögliche Begleitung über viele Monate könnte Veränderungen bemerken, die in einem einzelnen Gespräch verborgen bleiben. Sie könnte frühere Ziele wieder aufgreifen oder auf Widersprüche hinweisen.

Ein solcher Verlauf wäre aber nur dann hilfreich, wenn alte Annahmen überprüfbar blieben. Ein Profil müsste auch ausdrücken können: Das galt damals. Das hat Eva später korrigiert. Dafür fehlen uns weiterhin Angaben.

Mehr Erinnerung allein löst dieses Problem nicht. Wir müssten untersuchen, ob die längere Begleitung Menschen tatsächlich besser unterstützt, und ob sie auch dann noch Spielraum lässt, wenn jemand sich verändert. Das ist eine Entwicklungsaufgabe, keine gesicherte Zukunftsprognose.

Wer den Unterschied selbst erkunden möchte, braucht dafür keine privaten oder klinischen Angaben einzugeben. Es genügt unser erfundener Satz: „Eva möchte höchstens dreißig Stunden arbeiten. Führung hat sie noch nicht ausgeschlossen.“

Man kann ein System um eine Zusammenfassung bitten und anschließend ansehen, ob es Eva einen Beweggrund zuschreibt, den der Satz gar nicht enthält. Dann lässt sich fragen, welche Information für diese Deutung fehlt. So ein Versuch ist keine wissenschaftliche Modellprüfung. Er schult den Blick für den Übergang vom Gesagten zum Hinzugefügten.

Eva hat inzwischen ihre Frage für das Vorstellungsgespräch formuliert: „Wie ist bei Ihnen die Erreichbarkeit außerhalb der vereinbarten Arbeitszeit geregelt?“

Sie weiß jetzt genauer, was sie erfahren möchte. Die KI hat ihr dabei geholfen, nachdem ihre erste Deutung korrigiert worden war.

Eine Frage bleibt für die weitere Zusammenarbeit: Wenn diese Korrektur heute gelingt, welche Fassung begegnet Eva beim nächsten Gespräch wieder?

Forschungsstand: 14. Oktober 2026. Eva ist eine fiktive Vignette; der Romanbezug gilt S01E02, Aufnahmetext v1.5 vom 11. Oktober 2026. Ausführliche Fachanmerkungen und Nachweise stehen in den zugehörigen Shownotes.