Bevor die KI mitredet – drei Fragen an Entscheidungsträger

Executive Summary

• KI ist im Kern ein Sprachmodell: Sie rechnet nur mit Worten. Ein Großteil dessen, was Kommunikation in Unternehmen trägt, lässt sich jedoch nicht in Worte fassen.
• KI ist keine Kaffeemaschine: Ihr Verhalten lässt sich nicht berechnen, weil sie sich mit jeder Interaktion selbst verändert. Wer bei KI Berechenbarkeit erwartet, wo strukturell keine sein kann, verwechselt eine unerfüllbare Anforderung mit der eigentlichen Frage, ob man ihr vertrauen kann.
• Jeder Mensch im Unternehmen trägt eine eigene, gewachsene Vorstellung von der Wirklichkeit in sich. Eine KI kennt keine davon wirklich, sie rechnet nur mit einem Durchschnitt aus fremden Daten.

Eine Szene, die sich in jeder Gesellschafterrunde wiederholen könnte

Eine wichtige Entscheidung basiert selten auf dem, was gesagt wird. Oft basiert sie auf dem, was im Raum spürbar ist: eine Pause, ein Blick, eine Anspannung. Insbesondere in Konstellationen, in denen Unternehmen und Familie eng ineinandergreifen, wiegt das Unausgesprochene besonders schwer, weil geschäftliche und persönliche Beziehungen sich kaum trennen lassen. Doch die Fragen, die sich daraus ergeben, betreffen längst nicht nur familiengeführte Betriebe. Sie stellen sich überall dort, wo Menschen zusammenarbeiten und wo mehr kommuniziert wird, als mit Worten möglich ist.

Was würde eine KI aus einem solchen Moment machen, hätte sie das Protokoll geschrieben oder die Zusammenfassung erstellt? Vermutlich nichts. Sie hätte das Ergebnis notiert — nicht das, was zu dem Ergebnis geführt hat.

Kommunikation ist mehr als das, was gesagt wird

Was kann KI in der Unternehmenskommunikation strukturell nicht leisten? Sie kann nur mit dem verarbeiten, was sich verbalisieren lässt — und das ist bei weitem nicht alles, was Kommunikation ausmacht. Der Soziologe Niklas Luhmann beschreibt Kommunikation als ein Zusammenspiel aus drei Elementen: einer Information, ihrer Mitteilung und dem Verstehen, das beim Gegenüber daraus entsteht. Erst wenn alle drei zusammenkommen, ist Kommunikation im eigentlichen Sinn passiert.

Eine KI kann nur mit dem ersten Teil arbeiten: mit Worten, mit Text, mit dem, was sich verbalisieren lässt. Der Tonfall in einer Besprechung, das Zögern vor einer Antwort, die Beziehung zwischen zwei Menschen, die seit zwanzig Jahren zusammenarbeiten — all das prägt, was verstanden wird, taucht aber in keinem Chatprotokoll auf.

Musik ist nicht nur etwas, das man hört. Manche Frequenzen sind zu tief, um sie über das Ohr alleine wahrzunehmen. Man muss im Raum stehen, wenn die Schallwellen durch die Luft und den Boden gehen, um sie mit dem ganzen Körper erspüren zu können.

Mit Kommunikation ist es ähnlich: Ein großer Teil davon findet nicht in Worten statt, sondern zwischen den Menschen im Raum. Und genau dieser Teil geht verloren, sobald Kommunikation verschriftlicht werden muss, um von einer KI verarbeitet zu werden.

Damit sind wir beim eigentlichen Unterschied — und der ist größer, als das Wort „künstliche Intelligenz" vermuten lässt. Eine KI ist, technisch betrachtet, ein Sprachmodell: Sie berechnet, welches Wort mit welcher Wahrscheinlichkeit auf ein anderes folgt. Mehr macht KI nicht, so überzeugend die Sätze am Ende auch klingen mögen.

Menschen dagegen sind mehr als ihre Sprache. Luhmann unterscheidet drei Arten von Systemen, die sich selbst am Leben halten: Der Körper (biologisches System) erhält sich durch Stoffwechsel und Wachstum, das Denken und Fühlen (psychisches System) schreibt sich durch Reflexion und Empfindung fort, und soziale Systeme wie ein Unternehmen oder ein Team erhalten sich durch Kommunikation. Alle drei erzeugen sich fortlaufend selbst neu — ohne festen Anfang und ohne fertiges Endprodukt. Fachleute nennen das Autopoiese: die Fähigkeit eines Systems, sich kontinuierlich selbst zu reproduzieren und dabei seine eigene Struktur zu erhalten.

Eine KI tut nichts davon. Sie wächst nicht, sie fühlt nicht, und sie kommuniziert im eigentlichen Sinn auch nicht selbst. Sie liefert Text, den wir als Kommunikation deuten. Der Unterschied zwischen einer KI und den Menschen, die sie nutzen, ist deshalb nicht graduell — als wäre die KI nur „noch nicht klug genug". Er ist grundsätzlich: hier ein Sprachmodell ohne eigenes Leben, dort Menschen und ihre sozialen Systeme, die sich gerade durch das am Leben erhalten, was eine KI strukturell nicht leisten kann: wirklich zu verstehen.

Welche Kommunikation in Ihrem Unternehmen trägt sich gerade über das Unausgesprochene — und was verlieren Sie, wenn Sie sie in Worte zwingen, nur damit eine KI sie verarbeiten kann?

KI ist keine Kaffeemaschine

Warum lässt sich KI nicht wie eine berechenbare Maschine behandeln? Weil sie strukturell keine ist. Viele Unternehmen führen KI ein wie eine neue Software: Man drückt eine Taste, man erwartet ein verlässliches Ergebnis. Drückt man die Cappuccino-Taste, kommt Cappuccino heraus. Immer. Das ist eine berechenbare Maschine.

Eine KI funktioniert grundlegend anders. Der Kybernetiker Heinz von Foerster unterschied bereits vor Jahrzehnten zwischen solchen berechenbaren, „trivialen" Maschinen und „nicht-trivialen" Maschinen — Systemen, die ein Gedächtnis besitzen und sich mit jeder Interaktion selbst verändern. Dieselbe Frage kann morgen eine andere Antwort liefern als heute. Nicht weil etwas kaputt ist, sondern weil das System sich zwischenzeitlich selbst verändert hat.

Das bedeutet: Eine KI lässt sich grundsätzlich nicht vollständig berechnen oder vorhersagen. Wer bei KI Berechenbarkeit erwartet, wo strukturell keine sein kann, verwechselt eine unerfüllbare Anforderung mit der eigentlichen Frage: ob man ihr vertrauen kann. Man kann einer KI durchaus vertrauen — aber aus anderen Gründen als denen, aus denen man einer Kaffeemaschine vertraut.

Behandeln Sie die KI in Ihren Prozessen wie eine berechenbare Maschine — oder haben Sie verstanden, dass sie sich prinzipiell nicht vollständig vorhersagen lässt, und richten Ihre Kontrollen entsprechend ein?

Wessen Wirklichkeit errechnet die KI eigentlich?

Jeder Mensch im Unternehmen trägt eine eigene, aus eigener Erfahrung gewachsene Vorstellung von der Wirklichkeit in sich. Das ist keine Behauptung, sondern eine erkenntnistheoretische Grundeinsicht des radikalen Konstruktivismus: Es gibt keinen Zugang zur Wirklichkeit, der unabhängig vom Beobachter ist. Jeder Mensch konstruiert sein eigenes Modell, geprägt durch seine Erfahrungen. Unterschiedliche Menschen können unter denselben Bedingungen zu vollständig unterschiedlichen Bildern derselben Situation kommen — und keines davon ist objektiv richtiger als ein anderes.

Eine KI hat kein eigenes Erleben und keine eigene Erfahrung. Sie rechnet mit einem statistischen Durchschnitt aus den Daten, mit denen sie trainiert wurde — einer Art Mittelwert fremder Perspektiven, nicht mit der gewachsenen Sicht der Menschen, die tatsächlich im Raum sitzen. Wenn ein Unternehmen Entscheidungen zunehmend auf Antworten einer KI stützt, verschiebt sich leise, wessen Wirklichkeit eigentlich zählt.

Wessen Sicht auf die Dinge übernehmen Sie, wenn Sie sich auf die Antworten einer KI verlassen — und wessen Perspektive fehlt darin?

Drei Fragen vor der KI-Einführung

Bevor KI in Unternehmen einführen zur konkreten Aufgabe wird, lohnt sich ein Innehalten bei diesen drei Fragen:

• Kommunikation: Welche Kommunikation in unserem Unternehmen trägt sich vor allem über das Unausgesprochene — und was verlieren wir, wenn wir sie zwangsverbalisieren?
• Berechenbarkeit: Behandeln wir die KI wie eine berechenbare Maschine, oder richten wir unsere Kontrollen auf ihre grundsätzliche Nichtvorhersagbarkeit ein?
• Wirklichkeit: Wessen Wirklichkeit übernehmen wir, wenn wir uns auf die Antworten einer KI verlassen — und wessen Perspektive fehlt?

Eine Einladung zur Selbstbeobachtung

Diese drei Fragen sind eine Einladung, vor der Einführung von KI kurz innezuhalten und das eigene Unternehmen — seine Kommunikation, seine Erwartungen an Technik und seine unterschiedlichen Wirklichkeiten — bewusster zu betrachten. An diesen Fragen arbeite ich gemeinsam mit Silvia Adler beim LUVIA Institut in der Beratung und im Coaching unserer Kundinnen und Kunden — unter anderem auch mit Familienunternehmen, in denen geschäftliche und persönliche Beziehungen besonders eng verwoben sind.

Welche dieser drei Fragen stellt sich in Ihrem Unternehmen gerade am dringendsten?

Häufige Fragen

Was kann KI in der Unternehmenskommunikation strukturell nicht leisten?

KI kann ausschließlich mit Text und Sprache arbeiten — also mit dem, was sich verbalisieren lässt. Tonfall, Körpersprache, das Zögern vor einer Antwort oder die gewachsene Beziehung zwischen zwei Personen gehen verloren, sobald Kommunikation verschriftlicht werden muss, um von einer KI verarbeitet zu werden. Nach Niklas Luhmanns Kommunikationstheorie fehlt KI der dritte und entscheidende Schritt: das wirkliche Verstehen beim Gegenüber.

Warum lässt sich KI nicht wie eine berechenbare Maschine behandeln?

KI ist, im Sinne von Heinz von Foersters Kybernetik, eine „nicht-triviale Maschine": Sie verändert sich mit jeder Interaktion selbst und liefert deshalb auf dieselbe Frage morgen möglicherweise eine andere Antwort als heute. Berechenbarkeit ist bei KI strukturell nicht möglich. Wer das erwartet, stellt die falsche Anforderung — die richtige Frage ist, ob und wie man einer KI vertrauen kann, nicht ob sie verlässlich wie eine Kaffeemaschine funktioniert.

Wie verändert KI, wessen Wirklichkeit in Entscheidungsprozessen zählt?

KI rechnet mit einem statistischen Durchschnitt aus Trainingsdaten — einem Mittelwert fremder Perspektiven, nicht mit der gewachsenen Sicht der Menschen, die tatsächlich im Raum sitzen. Je stärker Entscheidungen auf KI-Antworten gestützt werden, desto leiser verschiebt sich, wessen Wirklichkeit im Unternehmen Gewicht bekommt. Aus Sicht des radikalen Konstruktivismus ist das eine Frage, die explizit gestellt werden muss.

Welche drei Fragen sollten Entscheidungsträger vor der KI-Einführung stellen?

Erstens: Welche Kommunikation trägt sich über das Unausgesprochene — und was geht verloren, wenn sie zwangsverbalisiert wird? Zweitens: Behandeln wir KI wie eine berechenbare Maschine, oder richten wir unsere Kontrollen auf ihre Nichtvorhersagbarkeit ein? Drittens: Wessen Wirklichkeit übernehmen wir, wenn wir uns auf KI-Antworten verlassen — und wessen Perspektive fehlt darin?

Ulrich Watermann, M.A. ist systemischer Berater, Changemanager und Senior Agile Coach beim LUVIA Institut – Institute for Organizational Evolution and Leadership. Er begleitet Unternehmen, Non-Profit-Organisationen und Familienunternehmen in komplexen Veränderungsprozessen. → Zum LinkedIn-Profil