
In diesem Beitrag geht es weder um die Auswüchse des Überwachungskapitalismus (Zuboff 2005) noch um die Bedrohung unserer Privatsphäre durch mobile Endgeräte oder Soziale Medien. Vielmehr werden der Intelligenzbegriff der KI sowie dessen ontologische Schwachstelle diskutiert. Es soll gezeigt werden, dass es sich bei der ‚Intelligenz‘ einer KI um eine stark eingeschränkte Art von Intelligenz handelt. Daraus folgt nicht nur, dass viele der Hoffnungen, die aktuell in KI gesetzt werden, in der Regel überzogen sind. KI-Anwendungen bergen zudem schwerwiegende physische, mentale und epistemologische Risiken – vor allem für jene, die sie nutzen.
In seinem FAZ-Beitrag „Warum KI-Romane völlig wertlos sind“ betont der Literaturwissenschaftler und Lektor Wolfgang Matz, KI führe zu „erfahrungsfreier Literatur.“
Orwell rührt in diesem Abschnitt an etwas, das heute in Bereichen der Philosophie sowie der Kognitionswissenschaft unter embodied cognition, „verkörperter Kognition“, diskutiert wird. Embodied cognition betont die Bedeutung des Körpers einer Person für ihre kognitiven Fähigkeiten bzw. ihre Denkprozesse. Damit grenzen sich Anhänger*innen der embodied cognition vom bisherigen sog. Computationalismus bzw. der Computertheorie des Geistes ab, die mentale Vorgänge mit Rechenvorgängen gleichsetzt. Die Computermetapher für das menschliche Denken gilt in der Kognitionswissenschaft als überholt; es gibt lediglich Unterschiede in der Beurteilung darüber, welche Rolle der Körper genau spielt. Da der Körper sowie dessen Interaktion mit seiner Umwelt die Kognition eines Subjekts derart stark beeinflussen, braucht es einen neuen Bezugsrahmen für die Erforschung mentaler Prozesse (Shapiro/Spaulding 2025).
Betrachten wir nun, wie embodied cognition in der oben zitierten Episode zum Tragen kommt: Auf einer rein intellektuellen Ebene kann Winston sich nicht daran erinnern, dass die Umstände in Ozeanien je anders gewesen wären. Sein Körper hingegen scheint sich jedoch durchaus an etwas zu „erinnern“. Es sind Winstons physische Bedürfnisse nach Nahrung und Komfort, die ihm seine Lebensumstände unerträglich erscheinen lassen. Die „ererbte Erinnerung“, von der Winston spricht, ist kein Ergebnis der Epigenetik. Sie ist in seinem Körper verankert, in dessen Bedürfnissen, die erfüllt werden müssen, damit er funktionieren kann.
Obwohl Winston sich nicht daran erinnert, dass die Lebensumstände in Ozeanien je anders waren, trotz der Propaganda der Regierung, die zu widerlegen zunehmend unmöglich wird, da das Ministerium für Wahrheit sämtliche Zeugnisse der Vergangenheit entweder zerstört oder verändert, spürt Winston einfach, dass die Lebensumstände zu wünschen übriglassen. Sein Körper reagiert in dieser Hinsicht verlässlicher als sein Intellekt, oder gar sein Gedächtnis. Der Körper kann nicht getäuscht, sondern allenfalls gebrochen werden. (Dies ist übrigens der Grund, warum die Partei trotz ihres ausgefeilten Manipulationsapparates als letztes Mittel auf Folter zurückgreift, womöglich zurückgreifen muss, um Kritiker zum Schweigen zu bringen.)
Winstons körperliches Unbehagen, das die Behauptungen der Partei Lügen straft, erzählt eine wichtige Geschichte. Es macht uns darauf aufmerksam, dass Menschen auf ihren Körper angewiesen sind – gerade auch in kognitiver Hinsicht.
Für unsere Diskussion über die Potentiale und Verheißungen von KI-Anwendungen bedeutet dies zum einen, dass das „Denken“ einer körperlosen KI niemals Niveau und Relevanz menschlicher Intelligenz erreichen wird. Zum anderen, und hier kommen wir zu den eingangs erwähnten physischen, mentalen wie auch epistemologischen Risiken der KI-Nutzung, (ver-)führen digitale Anwendungen dazu, den Menschen als etwas zu sehen, das überwunden werden muss. Entsprechend sinkt mit der Verbreitung von KI-Anwendungen auch das Vertrauen in die eigenen Fähigkeiten. Forschende warnen in diesem Zusammenhang bereits vor „kognitiver Kapitulation“, d.h. der Aufgabe geistiger Autonomie und intellektuellen Ehrgeizes angesichts der vermeintlichen Wunderkräfte von KI-Anwendungen (Shaw/Gideon 2026).
Jedoch „spricht“ die KI weder unsere Sprache, noch teilt sie unsere Art zu denken. Ihre Aussagen bergen daher immer die Gefahr der epistemologischen Irrelevanz und Verzerrung. KI-generierte Inhalte sind daher bedeutungslos für uns. Es wäre zu leicht, einfach für einen „kritischen Umgang“ mit KI-Anwendungen im Allgemeinen und LLMs im Besonderen zu plädieren. Stattdessen muss die Wechselwirkung zwischen Körper und Geist sowie ihre Bedeutung für die intellektuelle und emotionale Entwicklung anerkannt werden. Dies ist kein Aufruf zu Gymnastikübungen im Seminarraum. Die klassische Lehre birgt bereits hinreichend haptische Möglichkeiten: Stift und Papier In diesem Zusammenhang sei darauf verwiesen, dass mit Schweden ein Land, das lange als Vorreiter in Sachen digitaler Bildung galt, seine Lehrkonzepte nunmehr wieder umstellt, weil Lernerfolge aus- bzw. weit hinter den Erwartungen zurückgeblieben sind. Reines Wischen und passives Starren auf Bildschirme erschwert inneres Engagement.
In meiner Lehre erlebe ich immer wieder, wie stark sich Studierende durch den bloßen Anblick von Fachtexten lähmen lassen, sobald sie versuchen, eigene Texte zu verfassen. Die innere Hürde scheint zu groß, kognitive Kapitulation zu verlockend. Deshalb weise ich in meinen Seminaren und Workshops gerne darauf hin, dass ein Buch oder Fachartikel lediglich das Endprodukt eines langen und natürlich auch mitunter aufreibenden Denkprozesses ist. Wir sehen das sprachlich polierte, doppelblind begutachtete Resultat, aber niemals die unordentlichen Notizen, verklausulierten Entwürfe und verworfenen Versionen.
Ähnlich einschüchternd wirkt die scheinbare Mühelosigkeit, mit der LLMs Texte erzeugen. Diese Mühelosigkeit zeichnet jedoch ein völlig falsches Bild davon, wie Menschen Texte anfertigen und welche Denk- und Arbeitsschritte bei der Aneignung, Anwendung und Erweiterung von Wissen ablaufen. Sich dies vor Augen zu führen, ist ein wichtiger Schritt weg von der kognitiven Kapitulation.
Weiterlesen
- Hier finden Sie einen Blogbeitrag, in dem Janelle Pötzsch Orwells Sprachkritik aufgreift.
- Wenn Sie bei sich Symptome von „kognitiver Kapitulation“ beobachten, nutzen Sie die Angebote des Schreibzentrums.
- Wie Menschen schreiben und wie eng dies mit ihrer Erfahrung verknüpft ist, erfahren Sie z. B. in Interviews mit Forschenden oder in unserer Blogserie zum Hausarbeiten schreiben.
Neuigkeiten aus dem ZfW per E-Mail erhalten



