Elon Musk und Donald Trump kündigen massenhaft Verwaltungsmitarbeitern, um einen KI-Staat zu errichten. Gleichzeitig dreht sich ein Großteil des öffentlichen Diskurses in Deutschland nur um die Chancen der KI, die man nutzen müsse, um nicht (z.B. gegenüber China) ins Hintertreffen zu gelangen. Regulierung wird auch hierzulande schon vielerorts abgelehnt.
Es gibt zwar auch kritische Stimmen, etwa von Emily M. Bender, Kate Crawford oder Karen Hao. Was aber besonders in der deutschen Debatte fehlt, sind technologische Perspektiven, die die gesellschaftliche Bedeutung dieser Technologien reflektieren, oder sozialwissenschaftliche Perspektiven, die auf einem gründlichen Verständnis der Technologie aufbauen.
Das Buch
Eine solche hat Rainer Mühlhoff nun vorgelegt. In “Künstliche Intelligenz und der neue Faschismus” zeigt er einige Faktoren auf, die zum Hype geführt haben, erläutert, wie und warum es dazu kam, und liefert eine gründliche kritische Analyse. Insbesondere schärft er den Blick für eine Reihe von “Tech-Ideologien”, die auch die Entwicklung von KI beeinflusst haben, und zeigt, dass diese überaus kompatibel zur gegenwärtigen Alt-Right-Politik sind.
Das verwundert zunächst. So hatten doch die ersten Wellen der Entwicklung des Internets für Dezentralisierung und Demokratisierung gesorgt – man denke an Googles Motto “Don’t be evil” oder Twitters Rolle im arabischen Frühling. Die Zeiten sind allerdings vorbei: Twitter gehört jetzt Elon Musk, nennt sich “X” und macht nicht den Eindruck, entschlossen genug gegen seine Probleme mit Fehlinformationen und Hassrede vorzugehen. Und Google hat das “Don’t be Evil” längst stillschweigend aus seiner Selbstbeschreibung gelöscht.
Mühlhoff argumentiert also, “dass das faschistoide Potential von Alt-Right-Politik aus ihrer Synergie mit elitistischen Tech-Ideologien erwächst“ (S. 11). Das zeigt er überzeugend an einer Reihe von Beispielen auf. Er nennt drei wesentliche Faktoren für Faschismus: Antidemokratisches Wirken, Gewaltbereitschaft und Technologie als Machtinstrument, und zeigt, dass diese drei tatsächlich gegeben sind: Etwa in Form einer destruktiven Haltung gegenüber der parlamentarischen Demokratie, zynischer Narrative, die die gesellschaftliche Spaltung fördern sollen, und eines naiven Glaubens, dass Technologie alleine gesellschaftliche Probleme lösen kann (solutionism).
TESCREAL
Die Kompatibilität der Tech-Ideologien mit antidemokratischen (eben potentiell faschistischen) Ideen dröselt Mühlhoff anhand des Akronyms TESCREAL auf, das für Transhumanismus, Extropianismus, Singularitarianismus, Kosmismus, Rationalismus (nein, nicht im gängigen Sinne), effektiven Altruismus und Longtermismus steht. Damit zeichnet er ein bedrückendes Bild von (überwiegend männlichen) Menschen, die sich zunehmend von demokratischen und rechtsstaatlichen Traditionen isolieren und an ihrer eigenen, elitistischen und rassistischen Ideologie arbeiten.
Sagt nicht „Die KI sagt…“
Vor allem versteht Mühlhoff selbst genug von der Technologie, um sie überzeugend zu kritisieren. Neben diesem frustrierenden Lagebild ist so vor allem seine Kritik daran, wie wir über KI reden, relevant: Wann immer wir nämlich so etwas sagen wie „die KI denkt, sagt“ usw., überhöhen wir ihre Realität – natürlich denken solche Systeme nicht (und sind auch nicht intelligent). So ist „künstliche Intelligenz“ seit den 1950er Jahren ein Label, das übertriebene Hoffnungen und falsche Erwartungen weckt – illustriert etwa durch das ELIZA-System von Josef Weizenbaum, das mit simplen Regeln ein Gespräch mit einer Therapeutin simulieren sollte. Mühlhoff zeigt, dass es sich hierbei um eine Täuschung handelte, da das System nur die Illusion von Intelligenz erzeugte. Nicht anders sei es aber heute bei den ungleich mächtigeren KI-Systemen.
Gleichzeitig zeigt die Formulierung „Die KI sagt…“, dass ihre Nutzer:innen nach wie vor zur Anthropomorphisierung neigen, also dazu, der Technologie menschliche Eigenschaften zuzuschreiben, die sie gar nicht hat. Dies zeigt sich auch, wenn immer solche Systeme bildlich als niedliche Roboter dargestellt werden. Tatsächlich, so Mühlhoff, ist KI ein soziotechnisches System, denn neben ihrer Rechenkraft (die nicht in Robotern sitzt, sondern in riesigen, vernetzten Datenzentren) besteht sie auch aus Trainingsdaten, die wir alle als Nutzende des World Wide Web erstellt haben.
Ebenfalls nicht neu ist in dem Zusammenhang der Glaube, dass eine künstliche Superintelligenz, die menschliche Fähigkeiten weit überschreitet, unmittelbar bevorsteht. Auch wenn Forschende sie für unwahrscheinlich halten, ist sie doch fester Bestandteil der KI-Hype-Zyklen und wird etwa seit den 1960er Jahren stets innerhalb der nächsten 15-25 Jahre versprochen.
Automatisierung der Verwaltung: Was kann schon schiefgehen…
Was kann KI also wirklich? Mühlhoff zeigt überzeugend die Entwicklung von der symbolischen KI, die nach expliziten Regeln und somit grundsätzlich nachvollziehbar arbeitet (wie eben z.B. ELIZA) zur subsymbolischen KI, die auf künstlichen neuronalen Netzen basiert. Diese basiert auf Wahrscheinlichkeiten und statistischer Mustererkennung statt fester Regeln und arbeitet somit induktiv (also vom Einzelfall auf Allgemeines schließend) und probabilistisch (also mit Annäherung durch Wahrscheinlichkeiten). Auch wenn die Ergebnisse oft überzeugend sind, stellt sie doch eine Black Box dar, deren Logik weder für Entwickler:innen noch Nutzer:innen vollständig nachvollziehbar ist.
Dass sich daraus Probleme ergeben, die weit über mathematische Details hinaus gehen, wird schnell klar, wenn man sich ein Beispiel anschaut: Eine der großen Stärken der künstlichen Intelligenz soll es ja sein, Arbeitsabläufe zu automatisieren, die derzeit noch langsam und manuell ablaufen. So sprach Karsten Wildberger, Bundesminister für Digitales und Staatsmodernisierung, letztens gegenüber Anbietern von agentischer KI davon, dass man 20.000 Fachverfahren habe, die man automatisieren könnte. Ihm sei ans Herz gelegt, vorher bei Mühlhoff nachzulesen: „Die Ermittlung von Wahrheit durch KI ergibt nie eine Aussage über den zu beurteilenden Einzelfall an sich. Vielmehr werden solche Systeme eingesetzt, um große Fallzahlen statistisch effizient zu verwalten“ (S. 38f.). In einem Gedankenexperiment zeigt Mühlhoff, dass eine Behörde, die statt regelbasierter Entscheidungen erfahrungsbasierte trifft (wie sie mit subsymbolischer KI getroffen würden), zwar schnellere Entscheidungen trifft, die aber ggf. fehlerbehaftet sind. Wenn man also KI zum „Bürokratieabbau“ einsetzt, führt das dazu, dass die Systeme probabilistische Entscheidungen treffen, die keine absolute Wahrheit darstellen.
Zusätzlich sind solche Entscheidungen intransparent und nicht angreifbar. Es ist gut beschrieben worden, wie die Klassifizierung der Daten, auf denen KI-Systeme basieren, auf Stereotypisierung beruht. So besteht die Gefahr, dass benachteiligte Personen in solcherlei automatisierten Prozessen weiter benachteiligt werden. Gleichzeitig haben sie keine Möglichkeit, Entscheidungen, die von “der KI” getroffen wurden, zu überprüfen oder anzufechten. Somit ist es laut Mühlhoff „zu bezweifeln, dass solche Vorgehensweisen mit den Grundsätzen unserer demokratischen Rechtsordnung zu vereinbaren sind“ (S. 49) – sie sind eben nicht rechtmäßig, fair oder transparent…
Somit muss bei jeder Diskussion über Digitalisierung im öffentlichen Sektor (die sicherlich wünschenswert ist), beachtet werden, dass die simple Idee vom „schlanken Staat“ auf Effizienz und Kontrolle abzieht, nicht auf Rechtsstaatlichkeit und besseren Service für Bürgerinnen und Bürger. Und man möchte sich eine breitere öffentliche Debatte wünschen, bevor jemand losläuft und 20.000 Fachverfahren automatisiert.
eine breitere Diskussion?
Hier zeigt sich die Stärke des Buches: Es ist als Brücke geeignet zwischen technologisch versierten Menschen, die sich möglicherweise nicht genug Gedanken über die gesellschaftlichen Herausforderungen machen, die Technologie immer mit sich bringt, und gesellschaftlich engagierten Menschen, die bis jetzt eine gründlichere Auseinandersetzung mit dem Phänomen “KI” vermieden haben, denen aber suggeriert wird, dass ihre Nutzung alternativlos ist. So ist zu hoffen, dass das Buch auch zu einer breiteren Diskussion darüber beitragen kann, wie wir die Digitalisierung insbesondere der öffentlichen Verwaltung gestalten wollen.
Mühlhoff, R. (2025). Künstliche Intelligenz und der neue Faschismus. Reclam.