Geist oder Materie? Ein Orwell’scher Blick auf KI

Image
Die Allgegenwärtigkeit von KI-Anwendungen sowie die erstaunlichen Fortschritte in ihrer Entwicklung erwecken den Eindruck, menschliche Intelligenz werde langfristig von KI-Leistungen überflügelt. Doch welche Bedeutung haben die Generate einer körperlosen Entität überhaupt für uns, deren Denken untrennbar mit körperlicher Erfahrung verknüpft und durch diese bedingt ist?

In diesem Beitrag geht es weder um die Auswüchse des Überwachungskapitalismus (Zuboff 2005) noch um die Bedrohung unserer Privatsphäre durch mobile Endgeräte oder Soziale Medien. Vielmehr werden der Intelligenzbegriff der KI sowie dessen ontologische Schwachstelle diskutiert. Es soll gezeigt werden, dass es sich bei der ‚Intelligenz‘ einer KI um eine stark eingeschränkte Art von Intelligenz handelt. Daraus folgt nicht nur, dass viele der Hoffnungen, die aktuell in KI gesetzt werden, in der Regel überzogen sind. KI-Anwendungen bergen zudem schwerwiegende physische, mentale und epistemologische Risiken – vor allem für jene, die sie nutzen.

In seinem FAZ-Beitrag „Warum KI-Romane völlig wertlos sind“ betont der Literaturwissenschaftler und Lektor Wolfgang Matz, KI führe zu „erfahrungsfreier Literatur.“

Menschen schreiben, um ihre Erfahrungen festzuhalten, zu teilen und weiterzugeben. Dass Maschinen keine Erfahrungen machen, geschweige denn besitzen, führt zu jenen glatten, langweiligen Texten, wie wir sie von gängigen KI-Anwendungen kennen.
Ich möchte noch einen Schritt weitergehen und von dem erfahrungsfreien ‚Denken‘ der KI sprechen, weil die KI menschliches Denken lediglich imitiert. Aufgrund dieser Erfahrungsfreiheit besitzt die KI kein epistemisches Potential. Dies lässt sich auch nicht durch die Einspeisung weiterer Trainingsdaten beheben, weil die KI keinen Körper und somit keine physischen Bedürfnisse besitzt, geschweige denn über Sinneswahrnehmungen verfügt. Wie zentral der Körper für den menschlichen Erkenntnisprozess ist, sei anhand einer Episode aus George Orwells dystopischen Roman 1984 veranschaulicht. In einem frühen Kapitel grübelt der Protagonist Winston Smith während seiner Mittagspause „gereizt über die physische Beschaffenheit des Lebens“ und fragt sich:
War es immer so gewesen? […] Ständig rebellierten Magen und Haut, aus dem Gefühl heraus, um etwas betrogen worden zu sein, worauf man ein Anrecht hatte. Dabei besaß er keine Erinnerung daran, daß es jemals grundlegend anders gewesen wäre. Soweit er sich zuverlässig zurückerinnern konnte, hatte es niemals wirklich genug zu essen gegeben, hatte man nie Strümpfe oder Unterwäsche ohne Löcher besessen, waren die Möbel immer schäbig und wacklig, die Zimmer ungenügend geheizt, die U-Bahnen überfüllt, die Häuser baufällig, war Brot dunkel, Tee eine Rarität, Kaffee scheußlich, waren Zigaretten knapp gewesen – bloß synthetischen Gin gab es billig und im Überfluß. Und obwohl es mit zunehmendem Alter natürlich schlimmer wurde, war es nicht doch ein Zeichen dafür, daß dies nicht die natürliche Ordnung der Dinge war, wenn einem der Mut sank angesichts der Unbehaglichkeit, des Drecks und des Mangels […]? Wieso sollte man das alles unerträglich finden, wenn man nicht eine ererbte Erinnerung daran besaß, daß die Dinge einmal anders gewesen waren? (Orwell 2000, S. 74f. Rechtschreibung und Hervorhebung im Original).

Orwell rührt in diesem Abschnitt an etwas, das heute in Bereichen der Philosophie sowie der Kognitionswissenschaft unter embodied cognition, „verkörperter Kognition“, diskutiert wird. Embodied cognition betont die Bedeutung des Körpers einer Person für ihre kognitiven Fähigkeiten bzw. ihre Denkprozesse. Damit grenzen sich Anhänger*innen der embodied cognition vom bisherigen sog. Computationalismus bzw. der Computertheorie des Geistes ab, die mentale Vorgänge mit Rechenvorgängen gleichsetzt. Die Computermetapher für das menschliche Denken gilt in der Kognitionswissenschaft als überholt; es gibt lediglich Unterschiede in der Beurteilung darüber, welche Rolle der Körper genau spielt. Da der Körper sowie dessen Interaktion mit seiner Umwelt die Kognition eines Subjekts derart stark beeinflussen, braucht es einen neuen Bezugsrahmen für die Erforschung mentaler Prozesse (Shapiro/Spaulding 2025).

Betrachten wir nun, wie embodied cognition in der oben zitierten Episode zum Tragen kommt: Auf einer rein intellektuellen Ebene kann Winston sich nicht daran erinnern, dass die Umstände in Ozeanien je anders gewesen wären. Sein Körper hingegen scheint sich jedoch durchaus an etwas zu „erinnern“. Es sind Winstons physische Bedürfnisse nach Nahrung und Komfort, die ihm seine Lebensumstände unerträglich erscheinen lassen. Die „ererbte Erinnerung“, von der Winston spricht, ist kein Ergebnis der Epigenetik. Sie ist in seinem Körper verankert, in dessen Bedürfnissen, die erfüllt werden müssen, damit er funktionieren kann.

Obwohl Winston sich nicht daran erinnert, dass die Lebensumstände in Ozeanien je anders waren, trotz der Propaganda der Regierung, die zu widerlegen zunehmend unmöglich wird, da das Ministerium für Wahrheit sämtliche Zeugnisse der Vergangenheit entweder zerstört oder verändert, spürt Winston einfach, dass die Lebensumstände zu wünschen übriglassen. Sein Körper reagiert in dieser Hinsicht verlässlicher als sein Intellekt, oder gar sein Gedächtnis. Der Körper kann nicht getäuscht, sondern allenfalls gebrochen werden. (Dies ist übrigens der Grund, warum die Partei trotz ihres ausgefeilten Manipulationsapparates als letztes Mittel auf Folter zurückgreift, womöglich zurückgreifen muss, um Kritiker zum Schweigen zu bringen.)

Winstons körperliches Unbehagen, das die Behauptungen der Partei Lügen straft, erzählt eine wichtige Geschichte. Es macht uns darauf aufmerksam, dass Menschen auf ihren Körper angewiesen sind – gerade auch in kognitiver Hinsicht.

Ohne einen physischen Körper laufen Denken und Fühlen ins Leere.

Für unsere Diskussion über die Potentiale und Verheißungen von KI-Anwendungen bedeutet dies zum einen, dass das „Denken“ einer körperlosen KI niemals Niveau und Relevanz menschlicher Intelligenz erreichen wird. Zum anderen, und hier kommen wir zu den eingangs erwähnten physischen, mentalen wie auch epistemologischen Risiken der KI-Nutzung, (ver-)führen digitale Anwendungen dazu, den Menschen als etwas zu sehen, das überwunden werden muss. Entsprechend sinkt mit der Verbreitung von KI-Anwendungen auch das Vertrauen in die eigenen Fähigkeiten. Forschende warnen in diesem Zusammenhang bereits vor „kognitiver Kapitulation“, d.h. der Aufgabe geistiger Autonomie und intellektuellen Ehrgeizes angesichts der vermeintlichen Wunderkräfte von KI-Anwendungen (Shaw/Gideon 2026).

Jedoch „spricht“ die KI weder unsere Sprache, noch teilt sie unsere Art zu denken. Ihre Aussagen bergen daher immer die Gefahr der epistemologischen Irrelevanz und Verzerrung. KI-generierte Inhalte sind daher bedeutungslos für uns. Es wäre zu leicht, einfach für einen „kritischen Umgang“ mit KI-Anwendungen im Allgemeinen und LLMs im Besonderen zu plädieren. Stattdessen muss die Wechselwirkung zwischen Körper und Geist sowie ihre Bedeutung für die intellektuelle und emotionale Entwicklung anerkannt werden. Dies ist kein Aufruf zu Gymnastikübungen im Seminarraum. Die klassische Lehre birgt bereits hinreichend haptische Möglichkeiten: Stift und Papier In diesem Zusammenhang sei darauf verwiesen, dass mit Schweden ein Land, das lange als Vorreiter in Sachen digitaler Bildung galt, seine Lehrkonzepte nunmehr wieder umstellt, weil Lernerfolge aus- bzw. weit hinter den Erwartungen zurückgeblieben sind. Reines Wischen und passives Starren auf Bildschirme erschwert inneres Engagement.

Womöglich braucht es wieder vollgekritzelte Reader sowie unterstrichene Texte und nicht zuletzt „Werkstattberichte“ von Lehrenden darüber, wie sie zu ihren Schlussfolgerungen, Argumenten und Texten kommen, um ein besseres Verständnis darüber zu entwickeln, wie menschliche Denkarbeit funktioniert und warum sie mit der Funktionsweise eines LLMs weder verglichen noch gleichgesetzt werden sollte.

In meiner Lehre erlebe ich immer wieder, wie stark sich Studierende durch den bloßen Anblick von Fachtexten lähmen lassen, sobald sie versuchen, eigene Texte zu verfassen. Die innere Hürde scheint zu groß, kognitive Kapitulation zu verlockend. Deshalb weise ich in meinen Seminaren und Workshops gerne darauf hin, dass ein Buch oder Fachartikel lediglich das Endprodukt eines langen und natürlich auch mitunter aufreibenden Denkprozesses ist. Wir sehen das sprachlich polierte, doppelblind begutachtete Resultat, aber niemals die unordentlichen Notizen, verklausulierten Entwürfe und verworfenen Versionen.

Ähnlich einschüchternd wirkt die scheinbare Mühelosigkeit, mit der LLMs Texte erzeugen. Diese Mühelosigkeit zeichnet jedoch ein völlig falsches Bild davon, wie Menschen Texte anfertigen und welche Denk- und Arbeitsschritte bei der Aneignung, Anwendung und Erweiterung von Wissen ablaufen. Sich dies vor Augen zu führen, ist ein wichtiger Schritt weg von der kognitiven Kapitulation.

Weiterlesen
Titelbild: André Deutscher
Kommentare

Hinterlassen Sie einen Kommentar

Neuigkeiten aus dem ZfW per E-Mail erhalten

Image
Janelle Pötzsch
Dr. Janelle Pötzsch gehört zum Schreibzentrum und berät in der "Schreibmaschine" Studierende der Ingenieurwissenschaften zum fachspezifischen Schreiben.