KI: Menschenwerk, aber Teufelszeug?

Viel schneller als das Auto, schneller als der Computer erobert „Künstliche Intelligenz“ den Alltag auf jedem Erdteil und in fast allen gesellschaftlichen Bereichen. Ob das ein Segen oder ein Fluch ist, in welchem Verhältnis Chancen und Risiken stehen, ob die Versprechungen oder die Befürchtungen realistischer sind – zwei Veröffentlichungen setzen in dieser Debatte gegenwärtig Markierungspunkte: Rainer Mühlhoff hat mit „Künstliche Intelligenz und der neue Faschismus“¹ in der Reclam Universalbibliothek 160 Seiten veröffentlicht, die es in sich haben. Die Friedrich Ebert Stiftung zeichnete den Band kürzlich als „Das politische Buch 2026“ aus. Ebenfalls im Mai 2026 hat Papst Leo XIV. seine erste Enzyklika, ein Lehrschreiben von höchster katholischer Autorität, unterschrieben und öffentlich vorgestellt: „Magnifica humanitas. Über den Schutz des Menschen im Zeitalter Künstlicher Intelligenz.“² Beide Texte sollten Pflichtlektüre sein, politisch zugespitzte Sachinformation das eine, sozialethischer Wegweiser das andere.

Mühlhoffs Buch will informieren, aufklären und aufrufen. Es ordnet die technologische Entwicklung in kulturelle, ideologische und politische Zusammenhänge in den USA ein und spitzt politisch zu. Für Mühlhoff ist der technologischen Logik der KI immanent, „mit autoritären, menschenverachtenden und antidemokratischen Ideologien besonders kompatibel“ zu sein (S. 12), daher kann sie zu einem Wegbereiter eines drohenden „neuen Faschismus“ werden.

Die erste Enzyklika von Papst Leo XIV. „Magnifica humanitas“ sieht in der KI die„res nova unserer Zeit“, die die Welt grundlegend verändert (Ziff. 4) und stellt das Bekenntnis zur „magnifica Humanitas“, zur „großartigen Menschheit“, ins Zentrum.³ Leo XIV. gibt seiner Enzyklika den selben Rang wie dem Lehrschreiben von Papst Leo XIII von 1891, Rerum Novarum, das in der Zeit von industrieller Revolution und Klassenkämpfen, damals für die Kirche neu, die Würde der Arbeitnehmer, den Wert der Arbeit, die Gemeinwohlverpflichtung des Kapitals formuliert hat.
Was immer man der katholischen Kirche an Machtausübung und Machtmissbrauch in ihr und durch sie kritisieren muss, die katholische Soziallehre hat in der Idee der „sozialen Marktwirtschaft“ in Deutschland und Europa tiefe Spuren hinterlassen. Von ihrem Anspruch her ist die neue Enzyklika ein sozial-ethischer Kompass für das 21. Jahrhundert und die KI-Revolution.

Babylon oder Jerusalem

Mühlhoffs Buch skizziert die technische Entwicklung der KI vom Dartmouth-Projekt aus dem Juni 1956⁴ bis hin zudem „Durchbruch“ für die KI aufgrund zweier Faktoren, leistungsstarker Hardware und verfügbarer Massendaten „durch das Internet und Social Media“ (S. 27) Heute durchdringen KI-Anwendungen alle Lebens- und Gesellschaftsbereiche. Mühlhoff beschreibt sie nicht, sieht aber die Gefahr, dass die verbreiteten Hoffnungen und Ängste, die Spekulationen über Segen und Fluch einer übergeordneten Intelligenz, nur Ablenkungsmanöver sind: „Die gesellschaftlichen und ökologischen Auswirkungen der KI von heute werden zugunsten abstrakter Zukunftsnarrative heruntergespielt.“ (S. 69)

Die Enzyklika stellt mit biblischer Bildersprache die heutige Entscheidungssituation dar: Den Turmbau zu Babel als Symbol für den falschen Weg der Selbsterhöhung und Selbstüberschätzung; der Wiederaufbau der Mauer um das zerstörte Jerusalem nach der Rückkehr aus dem babylonischen Exil als Gemeinschaftswerk der Vielen trotz babylonischer Sprachenvielfalt als richtigen Weg Das Babel-Syndrom wird höchst aktuell beschrieben: „die Vergötterung des Profits, die die Schwachen opfert; die Einförmigkeit, die Unterschiede nivelliert; den Anspruch einer einzigen – auch digitalen – Sprache, die in der Lage ist, alles, sogar das Geheimnis der Person, in Daten und Leistung zu übersetzen.“ (Ziff. 10) Wiederaufbau bedeutet dagegen „gemeinsam zu bauen, Verschiedenheit in eine Ressource zu verwandeln und das Zuhören und den Dialog zur gemeinsamen Grundlage zu machen, auf der Gerechtigkeit und Geschwisterlichkeit gedeihen können.“ (Ziff.10).

KI und Wahrheit

Mit unterschiedlichen Worten, aber derselben Zielsetzung warnen das Buch und die Enzyklika davor, menschliche und künstliche Intelligenz auch nur ansatzweise gleichzusetzen. Künstliche Intelligenz ist von Menschen gemacht und kann unter der Hand zur Unmenschlichkeit pervertieren (Ziff. 99). Ebenso eindringlich ist die Warnung vor der Veränderung des Wahrheitsbegriffs. Für Mühlhoff liegt hier die größte Gefahr der KI, zu einem soziotechnischen System entwickelt mit „Präemption“ [Vorgriff] im Zentrum. Anstelle von „Wahrheit“ tritt „Wahrscheinlichkeit“, gefüttert von ständig neuen „probabilistischen Schätzungen“. „Der Schutz individueller Interessen und Grundrechte sowie ethische Grundsätze der Fairness und Menschenwürde geraten bei probabilistischen Entscheidungsverfahren allzu leicht aus dem Blick.“ (S. 49). In der Sprache der Enzyklika:

Einem Algorithmus konkret die Macht zu übertragen, zu bestimmen, wem etwas zusteht und wem nicht, ohne dass noch jemand die Last der Entscheidung trägt, bedeutet, ihm die Aufgabe zu übertragen, die Grenzen menschlicher Möglichkeiten neu zu definieren. So wird Ungerechtigkeit lautlos, und Mitgefühl, Barmherzigkeit und Vergebung – nicht als bloße Fassade, sondern als politische Gesten – verschwinden von der Bildfläche.“ (Ziff.103)

Mit Bezug auf Hannah Arendt beschwört die Enzyklika die Gefahr für die Demokratie, wenn Menschen zwischen Fakten und Fiktion nicht mehr unterscheiden: „Die Gleichgültigkeit gegenüber der Wahrheit führt zu einem langsamen, aber unaufhaltsamen Abgleiten zum Totalitarismus … «

KI-Anwendung – Wert und Würde der Arbeit

Mühlhoff sieht in dem Verweis auf künftige Anwendungsgebiete in medizinischer Forschung, Bildung, Verwaltung, Kranken- und Altenpflege fast nur ein Ablenkungsmanöver, mit dem Gegenwartslösungen vermieden und Geld für digitale Zukunftsversprechen gesammelt werden soll (S. 65/66). Die Enzyklika klopft dagegen Bereich für Bereich nach Möglichkeiten ab, warnt aber eindringlich vor Gefahren bei Bildung, Gesundheit, Verwaltung, bei Zivilschutz und Krieg. Besonders wichtig dabei: „Würde und Wert der Arbeit im digitalen Wandel“.

Mühlhoff verweist kurz auf hunderttausende Menschen die Trainingsdaten für KI-Systeme aufbereiten oder Social Media nach „verbotenen“ Inhalten durchsuchen „eine eigene Form der wirtschaftlichen Ausbeutung von Arbeitskräften, in der sich Kolonial-Machtverhältnisse reproduzieren“ (S. 34). Drastisch die Enzyklika: „Ein wesentlicher Teil der Funktionsweise der digitalen Wirtschaft beruht auf der stillen Arbeit von Millionen von Menschen, die in wenig sichtbaren, aber unverzichtbaren Tätigkeiten beschäftigt sind…. Zu dieser unsichtbaren Mühe kommt die noch brutalere Arbeit hinzu, die Ressourcen zu gewinnen, die für die Herstellung der Geräte und Mikroprozessoren benötigt werden, auf denen KI basiert.“ (Ziff. 173).

Die Enzyklika formuliert Ansätze eines politischen Programms, das den Schutz der Beschäftigten ins Zentrum stellt und unternehmerische Verantwortung fordert, „die die Qualität und Würde der Arbeit zu den Erfolgsindikatoren zählt.“ (Ziff. 156) Die Enzyklika sieht im „Kampf gegen die neuen Formen der Sklaverei eine entscheidende Bewährungsprobe für das ethische Urteilsvermögen im Hinblick auf KI und den digitalen Wandel.“ (Ziff. 174) Das neue Gesicht des Kolonialismus: „Er beherrscht nicht mehr nur Körper, sondern eignet sich Daten an und verwandelt das persönliche Leben in verwertbare Informationen.“ (Ziff. 178)

Ideologisches und politisches Umfeld

Mühlhoff breitet die ideologischen Hintergründe, Personen und Zirkel aus, denen die KI das Rüstzeug für ihre politischen Ziele liefert: Transhumanismus und Posthumanismus, sogenannter effektiver Altruismus und Eugenik, Longterminismus und Longevity, alles Bausteine einer „säkularen Eschatologie“ (S. 91). Für Mühlhoff sind es gefährliche Zukunftsnarrative: Sie „legitimieren die negativen Folgen von KI heute, darunter insbesondere wirtschaftliche und ökologische Ausbeutung, soziale Ungleichheit und Steuervermeidung als Opfertat für ein vermeintlich höherwertiges moralisches Gut in ferner Zukunft.“ (S.93).

Die Gesellschaftsvorstellung der Cyberlibertären, Neoreaktionären, Alt-Right und Anhängern des Dark Enligthenment mündet in der „CEO-Monarchie“ (S. 107), geprägt von Demokratiefeindlichkeit, Sozialdarwinismus, Rassismus und Antiegalitarismus, mit unbegrenzter Herrschaft einer technischen Elite, basierend auf dem Recht der Stärkeren und selektiver Geburtenförderung durch In-Vitro-Fertilisation, um nur einige Punkte zu nennen. Curtis Yarvin⁵ und Nick Land⁶ sind die wichtigsten Ideengeber dieser Tendenzen, Elon Musk mit seinem unermesslichen Geld- und Vermögens-Reichtum und großen Kinderreichtum ist der prominenteste Sympathisant und Akteur, J.D. Vance und D. Trump sind politische Vollstrecker.

Die Enzyklika nennt demgegenüber keine Namen. Im Zentrum ihrer Kritik steht das „technokratische Paradigma“, „die Tendenz, persönliche, gesellschaftliche und wirtschaftliche Entscheidungen allein der Logik der Effizienz, der Kontrolle und des Profits zu unterwerfen“(Ziff. 92). Entscheidend sei, dass sich „die Kontrolle über Plattformen, Infrastrukturen, Daten und Rechenleistung in vielen Fällen nicht in der Hand der Staaten [befindet], sondern von großen wirtschaftlichen und technologischen Akteuren, die de facto die Zugangsbedingungen, die Regeln der Sichtbarkeit und die Möglichkeiten der Teilhabe selbst festlegen“(Ziff. 95).

Kipp-Punkt zum „neuen Faschismus“…

In den Zukunftsaussichten unterscheiden sich Mühlhoff und die Enzyklika. Mühlhoff sieht, zumindest in den USA, die Entwicklung an einem Punkt angekommen, an dem – im Rückgriff auf die „Dialektik der Aufklärung“, personifiziert in Elon Musk (S. 135/36) – Fortschritt in Rückschritt umschlägt, dem „neuen Faschismus“ der Weg bereitet wird mit Demokratieverachtung, Gewaltbereitschaft und Macht durch modernste Technik. (S. 115ff.)

Hier wird nach meinem Urteil Technik, die zwar ambivalent, aber nie prädestiniert ist, doch zu sehr „vermenschlicht“. Die KI-Technologie selbst habe „faschistoide Potentiale“, „prädestiniert dafür“, den Fortschritt in Rückschritt umzukehren und all das zu nutzen, was KI an Sammlung und Selektierung von Daten, an Be- und Verurteilung von Menschen ermöglicht (S. 135 ff.) Ist das nicht doch eine Form, KI zu „vermenschlichen“, anstatt die Verantwortung den handelnden Menschen und Gruppen zuzuschreiben, die KI als Instrument auf dem Weg zum „neuen Faschismus“ nutzen? Zumal Mühlhoff selbst beschreibt, wie sich die Tech-Elite, ehedem eine „liberale Blase“ gegen Trump, sich nach seiner Wiederwahl angepasst hat:aus politischem Opportunismus und purer Gewinn- und Machtgier – oder wegen der immanenten technischen Logik?

Dass auch innerhalb der KI-Community in den USA, Gefahren gesehen werden, zeigt die aktuelle Warnung von Anthropic vor der nächsten KI-Generation, die sich autonom weiterentwickeln, selbst optimieren und außer Kontrolle geraten könnte. Verbunden damit schlägt der Konzern eine Entwicklungspause vor, an der sich aus Konkurrenzgründen alle beteiligen müssten. Die Frage ist: Wird so ein kleiner Schritt zur „Entwaffnung“ der KI, wie sie die Enzyklika fordert, durch den Wettbewerb hinweggespült? Ist die Warnung vielleicht ohnehin nur besonders aufmerksamkeitsstarke Werbung? Anthropic bereitet auf Grund seines großen Erfolges den Börsengang vor.

Mühlhoff sieht für Deutschland und Europa den Kipp-Punkt noch nicht gekommen. Denn in dem sehr kurzen Abschluß-Kapitel „Was tun?“ fordert Mühlhoff, „antidemokratische Kräfte zu isolieren“, ein Imperativ, mit dessen Schwierigkeiten wir in Deutschland gerade experimentieren; vor allem aber „anders über KI-Technologie zu sprechen“ mit der zentralen Botschaft, „dass bewusste Regulierung das mächtigste demokratische Mittel darstellt, unsere Zukunft mit KI aktiv zu gestalten“ (S. 147).

… oder „Entwaffnung der KI“?

Genau an diesem Punkt kommt die Enzyklika zu Hilfe. KI ist von Menschen gemacht, kann von ihnen gebraucht und missbraucht werden. Die Enzyklika bietet genug Material „anders über KI-Technologie zu sprechen“, Grundlagen für ein politisches Programm, das es in sich hat. Ja, KI nimmt die Züge derer an, „die sie konzipieren, finanzieren und nutzen“(Ziff.10). Deswegen stehen die Akteure, nicht die Technik im Fokus. Es geht um Gemeinwohl und „die allgemeine Bestimmung der Güter“ (Ziff. 65). Es folgt ein Satz, der aufhorchen läßt:

Zu den Gütern, die universal für alle bestimmt sind, müssen wir heute auch die neuen Formen des Eigentums zählen: Patente, Algorithmen, digitale Plattformen, technologische Infrastrukturen, Daten.“ (Ziff. 67).

Statt Konzentration in den Händen weniger, Teilhabe- und Zugangsmöglichkeiten für alle. Gemeinwohl bedeutet, „“diese neue epistemische, wirtschaftliche und politische Asymmetrie zu entlarven und die neuen Monopole von KI beim Namen zu nennen; Wege zu finden, um den Zugang aller zu Technologien und Bildung zu gewährleisten. …Wir müssen erkennen, dass soziale Gerechtigkeit nicht nur ein schützenswertes Ziel ist, nachdem eine Technologie eingeführt worden ist, sondern eine Vorbedingung, die bereits bei deren Konzeption berücksichtigt werden muss.“ (Ziff. 109)

Den Menschen sind „die Daten zurückgeben“, damit sie Möglichkeiten erhalten, „zu entscheiden, wie sie genutzt werden, von wem und für wen“ (Ziff. 178) „Freiheit im digitalen Zeitalter (ist) nicht nur eine interne Angelegenheit: Sie ist auch eine öffentliche Angelegenheit, die klare Regeln, Transparenz, Rechtsbehelfsmöglichkeiten und angemessene Grenzen für den Einsatz invasiver Technologien erfordert, damit die Technik in den Diensten des Menschen bleibt und nicht zu einer Form der Herrschaft über das Bewusstsein wird.“ (Ziff. 171)

Das gipfelt in der Forderung des Papstes, die KI zu „entwaffnen“, sie dem Wettbewerb zu entziehen. „KI ist bereits eine Umwelt, die uns umgibt, und eine Macht, mit der wir uns auseinandersetzen müssen. Daher reicht es nicht aus, sie zu regulieren: Sie muss entwaffnet und lebensfreundlich gemacht werden.“ (Ziff. 110)

Mut und Verantwortung

Die Zuspitzung von Mühlhoff mag etwas alarmistisch, der Rückgriff auf die „Dialektik der Aufklärung“ etwas kurzschlüssig sein; die Forderungen Leos XI. mögen zu sehr dem katholischen Kontext verhaftet sein. Gleichwohl, wenn wir die Debatte um KI beleben und deren Regulierung vorantreiben wollen, brauchen wir solche Dokumente! Sie sind eine Aufforderung an deutsche und europäische Politik und Wirtschaft, KI-Grundlagen auf- oder auszubauen, die Sicherungs- und Regulierungskonzepte voranzutreiben, auch im möglichen Konflikt mit Tech-Giganten und US-Regierung.

Eines fällt auf: Das Buch und die Enzyklika sind adressiert an die westliche Welt, an Staaten, die demokratisch verfasst sind, wenn auch vielfältig bedroht. Was z.B. in China im KI-Bereich geforscht, entwickelt und vor allem angewandt wird, ist kein Thema. Dort kann all das längst in Forschung und Anwendung praktiziert werden, was wir verhindern und regulieren wollen, mit globalen Auswirkungen. Das verpflichtet aber Europa erst recht zu eigenständigem Handeln. Mut macht, dass ein linker Philosoph und Mathematiker und der hohe Repräsentant der mächtigsten NGO der Welt in der Beurteilung der KI zu sehr ähnlichen Schlussfolgerungen kommen. Der digitale Kapitalismus bedarf dringend sozialer und ökologischer Regulierung, wenn er nicht zum unmenschlichen Wegbereiter des Faschismus werden soll. Das kapitalismuskritische (und antikapitalistische) Programm, das beide Dokumente vorschlagen, ist eigentlich in unserem Grundgesetz und in der ungeschriebenen europäischen Verfassung tief verankert. Es bedarf prominenter Mutmacher in der Politik und allen Bereichen der Gesellschaft, damit aus Worten Taten werden: Persönlichkeiten in Gesellschaft, Wirtschaft und Politik, die über Partei- und Lagergrenzen hinweg die Zusammenarbeit der Demokraten organisieren für eine Gesellschaft orientiert an Menschenwürde und Gemeinwohl, an Gerechtigkeit und Geschwisterlichkeit.

¹  Rainer Mühlhoff, Künstliche Intelligenz und der neue Faschismus, Reclams Universalbibliothek Nr.14666, 9. Auflage 2026. Mühlhoff hat die Professur für „Ethik der künstlichen Intelligenz“ an der Universität Osnabrück
²  Enzyklika Magnifica humanitas des Heiligen Vater Leo XIV. Über die Bewahrung des Menschen im Zeitalter künstlicher Intelligenz.“, Deutsche Ausgabe
³  Diese Enzyklika ist kein Schnellschuss. Seit Beginn des Pontifikats Leos XIV. beschäftigt sich der Vatikan intensiv mit KI, angefangen mit „Antiqua et nova – Note über das Verhältnis von künstlicher Intelligenz und menschlicher Intelligenz (28. Januar 2025)“ über die Botschaften des Papsts zu verschiedenen großen Kongressen zu Künstlicher Intelligenz bis eben zu dieser Enzyklika
⁴  Dartmouth-Summer Research Project on Artificial Intelligence. Organisiert von John McCarthy (1927-2011) und anderen Wissenschaftler:innen an der Dartmouth-Universität in New Hampshire, USA, vom 18. Juni bis 17. August 1956 veranstaltet (Mühlhoff, S. 20). Seit der Konferenz vor genau 70 Jahren gilt der „Begriff künstliche Intelligenz als feststehender Ausdruck“
⁵  Curtis Yarvin, geb. 1973 in den USA, Programmierer und Blogger, wichtiger Begründer von Neoreaktion (NRx) und „Dark Enligthenment“
⁶  Nick Land, geb. 1962 in England, Lehrtätigkeit an der University of Warwick, Mitgründer der Forschungsgruppe Cybernetic Cultural Research Uni, heute vorwiegend in Shanghais tätig, hat Dark Enligthenment zu einer umfassenden Staatskonzeption entwickelt, die er in Ansätzen in China verwirklicht sieht.