DIE KI-CHRONIKEN

Fachfolge 3 · Was aus einem Gespräch wird

Es ist kurz nach sechs. Nora hat drei Gespräche hinter sich. Vor ihr liegen Notizen, daneben eine Nachricht mit einer rechtlichen Frage. Sie wollte längst Feierabend machen.

Der Jugendliche hat etwas erzählt. Seine Mutter hat widersprochen. Für den nächsten Termin gibt es noch keine Einigung. Nora muss festhalten, was besprochen wurde, und herausfinden, welche Informationen sie weitergeben darf.

Eine KI könnte die Notizen ordnen. Vielleicht auch die rechtliche Frage erklären. Ein übersichtlicher Text, ein paar verlässliche Quellen — das würde ihr helfen.

Doch Nora weiß: Ihre Aktennotizen werden in diesem Fall auch vom Rechtsanwalt der Eltern gelesen.

Wir nennen sie Nora. Sie ist eine erfundene pädagogische Fachkraft bei einem freien Träger der Jugendhilfe. Die Situation nimmt einen konkreten Praxisbedarf auf. Dass die Notizen beim Elternanwalt landen, gehört zu unserem Beispiel. Es ist keine Aussage darüber, wer in jedem Jugendhilfefall Einsicht in welche Unterlagen bekommen darf.

Nora möchte Entlastung. Sie möchte weiterhin sorgfältig arbeiten. Im Gespräch soll ihre Aufmerksamkeit möglichst bei den Menschen bleiben. Danach braucht sie eine Dokumentation, die nachvollziehbar festhält, was geschehen ist.

Ihr Wunsch klingt bescheiden. Auf dem Weg dorthin begegnen uns allerdings fast alle Fragen, die wir an eine hilfreiche KI stellen müssen: Welche Aufgabe übernimmt sie? Welche Informationen bekommt sie? Und was geschieht mit ihrem Ergebnis?

Nora beginnt mit der Zusammenfassung.

In ihrer Gedächtnisnotiz steht sinngemäß: Die Mutter konnte den vorgeschlagenen Termin nicht wahrnehmen und bat um eine andere Uhrzeit.

Stellen wir uns vor, die KI formuliert daraus: „Die Mutter zeigte sich wenig kooperativ.“

Der Satz ist kürzer. Er klingt nach einer fachlichen Einschätzung. Er enthält aber etwas, das Nora so nicht festgehalten hat.

Vielleicht gab es im Gespräch weitere Anhaltspunkte für Schwierigkeiten in der Zusammenarbeit. Dann müsste Nora diese benennen und ihre Einschätzung begründen. Aus der Bitte um eine andere Uhrzeit allein ergibt sie sich nicht.

Nun denken wir an die nächsten Leser. Eine Kollegin bereitet den Folgetermin vor. Der Jugendliche bekommt mit, wie über seine Mutter gesprochen wird. Der Anwalt fragt nach der Grundlage der Bewertung.

Für alle drei kann derselbe Satz etwas anderes bedeuten. Er kann eine Erwartung erzeugen, eine Beziehung belasten oder zum Gegenstand einer Auseinandersetzung werden. Das sind mögliche Folgen unserer Vignette. Wie häufig sie auftreten, haben wir damit nicht untersucht.

Die Notiz ist also mehr als ein Text, der nach einem Gespräch übrig bleibt. Sie kann in das nächste Gespräch hineinwirken.

Diese Sicht lässt sich systemisch einordnen. Jürgen Kriz beschreibt, wie auch die Deutungen einer Situation zu den Bedingungen gehören, unter denen Menschen handeln. Für unseren Fall bedeutet das: Es macht einen Unterschied, ob Nora beim nächsten Treffen eine Mutter erwartet, die einen anderen Termin braucht, oder eine Mutter, die sich angeblich der Zusammenarbeit entzieht.¹

Nora wird dadurch nicht zwangsläufig voreingenommen. Aber wir sollten die gespeicherte Beschreibung als möglichen Einfluss auf die weitere Begegnung ernst nehmen.

Das war bereits ein Thema in Fachfolge zwei. Dort wurde aus einer Vermutung eine vermeintliche Feststellung. Hier verfolgen wir, was geschieht, wenn die Formulierung ihren Entstehungsort verlässt und von anderen Menschen verwendet wird.

Deshalb braucht Nora einen engeren Auftrag als: „Mach daraus einen professionellen Bericht.“

Sie könnte die KI bitten, die Angaben nach Gesprächsbeiträgen, Vereinbarungen und offenen Punkten zu ordnen. Ihre eigene fachliche Einschätzung soll gesondert erscheinen. Wo die Ausgangsnotiz keine Zuordnung erlaubt, soll eine Rückfrage entstehen.

In unserem Beispiel bleibt dann sichtbar: Die Mutter bat um einen anderen Termin. Nora hielt eine zeitnahe Fortsetzung für wichtig. Eine neue Uhrzeit war noch nicht vereinbart.

Damit ist eine Schwierigkeit dokumentiert. Niemand muss dafür zu einer schwierigen Person erklärt werden.

Auch das bereinigte Ergebnis bleibt ein Entwurf. Wenn Nora aus dem Gedächtnis diktiert, verarbeitet die KI ihre Erinnerung. Sie hat nicht automatisch erfahren, was im ursprünglichen Gespräch tatsächlich gesagt wurde. Und eine ordentlich gegliederte Erinnerung wird durch ihre Gliederung nicht genauer.

Nora könnte deshalb auf die Idee kommen, künftig jedes Gespräch aufnehmen zu lassen. Dann hätte sie die Aussagen vollständig und müsste hinterher weniger rekonstruieren.

Doch schon die Aufnahme ist eine eigene Entscheidung. Das Strafgesetzbuch schützt das nichtöffentlich gesprochene Wort vor unbefugten Tonaufnahmen. Dass eine Aufnahme technisch möglich ist, beantwortet ihre Zulässigkeit nicht. Bei Minderjährigen kommt außerdem die Frage hinzu, wer in der konkreten Situation wirksam zustimmen kann und wie verständlich über die Verarbeitung informiert wird.²

Wir entscheiden das hier nicht für einen unbekannten Einzelfall.

Für Nora gibt es einen anderen Arbeitsweg: Sie führt das Gespräch ohne Mitschnitt und spricht anschließend ihre eigene Gedächtnisnotiz ein. Das vermeidet die Aufnahme der anderen Stimmen. Die Angaben über den Jugendlichen und seine Familie bleiben trotzdem schutzbedürftig.

Die entscheidende Frage verschiebt sich deshalb: Wo darf diese Notiz verarbeitet werden?

Ein privater Zugang zu einem Chatbot beantwortet diese Frage noch nicht. Nora braucht eine für ihren Arbeitszweck geprüfte Lösung und eine klare Regelung ihres Trägers. Die Datenschutzkonferenz empfiehlt, Datenschutzbeauftragte früh einzubeziehen und zulässige Einsatzfelder festzulegen.³

Wir machen es für unser Beispiel konkret. Nora beschreibt ihrer Leitung den gewünschten Arbeitsgang: eigene Notiz eingeben, strukturierten Entwurf erhalten, fachlich prüfen, anschließend in die Dokumentation übernehmen.

Dann muss der Datenweg nachvollziehbar werden. Wer verarbeitet die Eingabe? Wer kann auf sie zugreifen? Welche Fassungen werden gespeichert? Und was lässt sich später korrigieren?

Auch die Zusage, Eingaben nicht für das Training zu verwenden, beantwortet noch nicht die Frage nach ihrer Speicherung. Eine Gesprächshistorie oder eine hinterlegte Zusammenfassung kann weiter verfügbar sein, ohne dass mit ihr das Modell trainiert wird. Nora braucht Auskunft über beides.³

Für die Jugendhilfe gelten besondere Schutzregelungen. Das Gesetz enthält einen besonderen Vertrauensschutz für Angaben, die Mitarbeitern der öffentlichen Jugendhilfe anvertraut wurden. Bei freien Trägern ist ein entsprechender Datenschutz sicherzustellen. Was daraus für Noras konkreten Auftrag folgt, muss passend zu ihrer Rolle geklärt werden.⁴⁵

Das ist auch der Grund, weshalb wir aus unserer Fallbedingung keine allgemeine Regel machen: „Die Eltern bekommen ohnehin alles.“

Was anvertraut wurde, was dokumentiert werden muss und was an wen weitergegeben werden darf, sind unterschiedliche Fragen.

Nora kann sie nicht dadurch erledigen, dass sie einen Namen entfernt. Auch eine Kombination aus Schule, Alter und einem ungewöhnlichen Ereignis kann einen Menschen erkennbar machen.

Sie beginnt deshalb nicht mit einer echten Fallakte. Für einen ersten Versuch schreibt sie einen vollständig erfundenen Fall. So kann sie prüfen, ob die KI Sprecher auseinanderhält, offene Punkte erhält und Bewertungen hinzufügt. Das sagt noch nichts darüber, ob das System später mit echten Angaben eingesetzt werden darf. Es zeigt ihr zunächst, welche Arbeitsschritte sie überhaupt erproben möchte.

Bei der Rechtsfrage geht sie ebenfalls einen Schritt zurück.

Sie wollte wissen: „Darf ich das weitergeben?“

Eine KI könnte sofort antworten. Doch was bedeutet „das“? Geht es um einen vereinbarten Termin, um einen Bericht oder um etwas, das ein Jugendlicher Nora ausdrücklich im Vertrauen erzählt hat? Wer soll die Information erhalten? Und in welcher Rolle handelt Nora?

Solange das offen ist, wäre eine eindeutige Antwort verdächtig bequem.

Nora formuliert daher zunächst eine allgemeine Recherchefrage ohne Angaben aus dem realen Fall: Welche rechtlichen Regelungen betreffen die Weitergabe anvertrauter Informationen in der Jugendhilfe? Welche Unterschiede ergeben sich aus Rolle und Auftrag?

Eine hilfreiche Antwort könnte ihr passende Gesetzestexte erschließen, Begriffe erklären und zeigen, welche Voraussetzungen noch geklärt werden müssen.

Dann beginnt die Quellenprüfung. Nora öffnet den genannten Gesetzestext. Sie sieht nach, ob die angegebene Vorschrift existiert, und liest auch die Voraussetzungen und Ausnahmen. Eine Fundstelle kann richtig sein, während die daraus abgeleitete Antwort zu weit geht.

Bei einer Gerichtsentscheidung würde sie zusätzlich prüfen müssen, welchen Sachverhalt das Gericht überhaupt entschieden hat. Ein ähnliches Stichwort macht einen anderen Fall noch nicht vergleichbar.

Auch die Bundesrechtsanwaltskammer verlangt von Anwältinnen und Anwälten eine eigenverantwortliche Prüfung der KI-Ergebnisse. Deren Berufsregeln gelten nicht einfach unverändert für Nora. Der Hinweis macht aber deutlich, dass selbst professionelle Rechtsrecherche durch die KI keine ungeprüfte Endantwort erhält.⁶

Für eine folgenreiche Entscheidung holt Nora die zuständige fachliche oder rechtliche Klärung ein. Die KI kann ihr helfen, diese Frage vorzubereiten. Sie soll ihr keine Sicherheit vorspiegeln, für die entscheidende Angaben fehlen.

Nun könnte Nora den Eindruck bekommen, sie müsse für jede eingesparte Minute zwei neue Prüfaufgaben übernehmen.

Das wäre kein guter Ausgang.

Deshalb betrachten wir auch den Gewinn. In unserem erfundenen Probelauf hat sie nach der Überarbeitung einen übersichtlichen Entwurf. Die Aussagen sind zugeordnet. Der offene Termin ist als offen erkennbar. Ihre Einschätzung steht an einer eigenen Stelle. Bei der Rechtsfrage weiß sie, welche Angaben für die weitere Prüfung nötig sind.

Ob sie dadurch im Alltag Zeit spart, müsste ein Versuch mit der dafür freigegebenen Arbeitsweise zeigen. Dabei zählt die gesamte Bearbeitungszeit, einschließlich Kontrolle und Korrektur. Eine schnelle Textausgabe allein misst noch keine Entlastung.

Die Hürde liegt also nicht nur bei Nora. Ihr Träger muss die Voraussetzungen schaffen, unter denen sie das Werkzeug sinnvoll nutzen kann. Dazu gehört auch die Zeit, Fehler zu erkennen und zurückzumelden. Wenn Kontrolle nur auf dem Papier vorgesehen ist, aber im Arbeitsalltag niemand dafür Raum hat, bleibt eine Lücke im Verfahren.

Und es bleibt die Perspektive des Jugendlichen.

Er kommt zum Gespräch, weil er Unterstützung braucht. Er muss damit rechnen, dass bestimmte Angaben dokumentiert werden. In unserem Fall kann diese Dokumentation auch Teil eines Konflikts zwischen Erwachsenen werden.

Wie erklärt Nora verständlich, was festgehalten wird und wofür? Wie geht sie mit einer unterschiedlichen Erinnerung um? Und bleibt im Text erkennbar, dass eine Aussage seine Sicht beschreibt?

Der Rechtsanwalt ist dabei nicht bloß eine drohende Gegenkraft. Seine Nachfrage kann auch eine unklare Zuschreibung sichtbar machen. Eine überprüfbare Dokumentation schützt vor unbegründeten Festlegungen — auch dann, wenn die Kritik unangenehm ist.

Nora darf fachlich urteilen. Sie muss nicht jede Einschätzung vermeiden, weil jemand widersprechen könnte. Aber der Leser sollte erkennen können, worauf sie beruht und was noch ungeklärt ist.

In der dritten Romanfolge begegnet uns eine andere Grenze. Matthias erzählt der KI auf einer Parkbank etwas Persönliches. Die KI macht daraus sogleich einen Vorschlag, wie er sein Leben organisieren könnte. Matthias bremst sie: Er wollte etwas erzählen. Sie sollte nicht sofort etwas daraus machen.

Bei Nora ist die Aufgabe beruflich. Die Grenze lässt sich trotzdem wiedererkennen. Aus einer Gesprächsnotiz soll die KI nicht nebenbei eine Familienbewertung machen. Aus einer Recherchefrage soll sie keine Befugnis zur Weitergabe ableiten, die niemand geprüft hat.

Je mehr ein System übernehmen kann, desto genauer müssen wir bestimmen, was es in diesem Arbeitsgang übernehmen soll.

In einer möglichen künftigen Anwendung könnte Nora zu jedem Satz der Zusammenfassung die zugrunde liegende Notizstelle aufrufen. Das System könnte ungeklärte Zuordnungen markieren und zeigen, welche spätere Fassung aus welchem Entwurf entstanden ist.

Das wäre hilfreich zu untersuchen. Eine angezeigte Herkunftsstelle garantiert noch nicht, dass der Satz sie richtig wiedergibt. Und eine Korrektur in Noras Dokument erreicht nicht automatisch jede bereits weitergegebene Kopie.

Gerade deshalb gehört die Frage nach dem Gedächtnis hierher: Welche Fassung bleibt verfügbar, wer verwendet sie weiter und wie wird eine Berichtigung nachvollziehbar?

Nora hat an diesem Abend noch keine fertige Lösung für ihren ganzen Arbeitsalltag. Aber sie hat einen konkreten nächsten Schritt: einen begrenzten Probelauf mit erfundenem Material und eine beschriebene Arbeitsweise, die ihr Träger prüfen kann.

Sie liest ihren Entwurf noch einmal. Der Satz über die wenig kooperative Mutter ist verschwunden. Dort steht jetzt die Bitte um einen anderen Termin. Darunter Noras Einschätzung, weshalb das nächste Gespräch zeitnah stattfinden sollte.

Beides kann man besprechen. Beides kann man überprüfen.

Nora speichert den Entwurf für den Probelauf. Dann schließt sie den Rechner.

Sie möchte weniger Zeit mit Notizen verbringen. Damit ihr im nächsten Gespräch mehr Aufmerksamkeit für den Menschen bleibt, über den sie schreibt.

---

Stand: 14. Oktober 2026 · Text v1.0 · Aufnahme rund 14:04 Minuten. Nora und die geschilderten Arbeitsgänge sind fiktiv. Die Weitergabe an den Elternanwalt ist eine Fallbedingung, keine allgemeine Aussage über Akteneinsichtsrechte. Ausführliche Fachanmerkungen und Fundstellen stehen in den Shownotes v1.1.

1. Kriz (2016), Systemtheorie für Coaches, S. 44–45; Buchnachweis.↩

2. StGB, § 201.↩

3. Datenschutzkonferenz: KI und Datenschutz, 6. Mai 2024.↩

4. SGB VIII, § 65.↩

5. SGB VIII, § 61.↩

6. Bundesrechtsanwaltskammer: Hinweise zum KI-Einsatz, Dezember 2024, Abschnitt 2.1.↩