Kürzlich wies mich ein guter Freund auf den Text „Der Fluch der grünen Nummer alias Hotline“ von Claudio Magris in dem Band Schnappschüsse hin. Darin findet sich folgender Satz: „In Wirklichkeit wohnt dem technischen Fortschritt unvermeidlich der Drang inne – mit seiner Macht, seiner Notwendigkeit, sie ständig zu multiplizieren, und seiner Unmöglichkeit, stehenzubleiben – der Kontrolle des Individuums zu entfliehen.“ Ein irritierender Satz, schließlich kehrte er George Orwells Leitgedanken in 1984 um. „Wer will hier wessen Kontrolle entfliehen,“ fragte ich mich, „die Medien den Individuen?“. „Offenkundig“, dachte ich, „nicht die Individuen wollen der Kontrolle der Technik und Medien entfliehen, sondern umgekehrt!“
Magris berichtet von seinen Erfahrungen mit Hotlines, die zwar aus dem Jahr 2007 stammen, aber nichts an Aktualität verloren haben.
„Anstatt den armen Teufel, der versucht, sich über die Lösung eines Problems zu informieren, durchzulassen, bringt es ihn gewaltsam in ein Labyrinth von Straßen, die ihn wieder zu sich selbst zurückführen und ihn von einer Gasse, genauer gesagt einer Nummer, zur anderen leiten und an den Apparat fesseln wie einen Schiffbrüchigen an einen Rettungsring, der schwerer ist als das ihn hinunterziehende Wasser.“
Magris Irritation war gelungen, um neu nachzudenken über das komplexe Arrangement (Deleuze/ Guattari: „agencement“), wenn Bürger:innen die digitale Technik nutzen. Ist die Technik nur Hilfsmittel, oder mobilisiert sie auch verborgene und verschüttete Wünsche und Bedürfnisse? Der Philosoph G.W.F. Hegel hatte über diese Art des Nachdenkens (nicht über die Technik) einst geschrieben: „Die denkende Vernunft aber spitzt, sozusagen, den abgestumpften Unterschied des Verschiedenen, die bloße Mannigfaltigkeit der Vorstellung, zum wesentlichen Unterschied, zum Gegensatz zu.“
Die „denkende Vernunft“ gibt sich also nicht mit Standardsätzen zur Digitalisierung zufrieden: „Die digitale Technologie bietet Chancen und Risiken.“ „Es gilt die Digitalisierung human zu gestalten.“ „Es ist der Mensch, der entscheidet, nicht die Technik.“ etc. Wer von „Chancen“, dem „Gestalten“ oder dem „Entscheiden“ spricht, gibt nur einen Fingerzeig in die Richtung einer Problemlösung an, mehr nicht. Wie die Bürger:innen (und die Kinder!) gut mit der digitalen Technik umgehen sollen, bleibt im Unklaren.
Stargate ante portas
Es ist also die Mühe wert, sich „denkend“ mit dem komplexen Arrangement der Digitalisierung zu beschäftigen. Warum ist die Künstliche Intelligenz (KI) seit einiger Zeit so stark auf dem Vormarsch? US-Präsident Donald Trump kündigte gerade an, dass mindestens 500 Milliarden Dollar in die KI-Infrastruktur in den USA investiert werden sollen und gab den Start eines Infrastruktur-Projekts zur Künstlichen Intelligenz (KI) namens Stargate bekannt.
Das Technologieversprechen der KI bezieht seine Attraktivität aus dem alten Mythos der intelligenten Maschine. Sein Kern ist, dass Maschinen geschaffen werden können, die die körperlichen und Intellektuellen Unzulänglichkeiten des „Mängelwesens Mensch“ (Arnold Gehlen) überwinden können. Die Protagonist:innen der KI gehen noch einen Schritt weiter: sie sehen KI als Voraussetzung dafür an, dass Zivilisation und Kultur in alle Zukunft gesichert werden können. Die Menschen seien dazu nicht in der Lage. Die Verheißung der KI lautet, sie werde „eine tektonische Verschiebung in unserer Fähigkeit bewirken, Kultur zu schaffen, zu vermitteln und zu bewahren“ (Rahwan / Powers).1 Die Zivilisationen der Menschen seien hingegen zerbrechlich.
Diese weitreichenden Schlussfolgerungen muss man nicht teilen. Aber es sei immerhin daran erinnert, dass der Mythos der intelligenten Maschine die Visionen von Philosophen, Schriftstellern, Filmemachern und vielen anderen Künstlern stimuliert hat. Er reicht weit zurück bis in die Antike. So soll der griechischen Mythologie zufolge Hephaistos mit Talos einen Giganten aus Bronze erschaffen haben, der die Insel Kreta beschützte. In der Neuzeit faszinierten intelligent erscheinende künstliche Wesen die Menschen. Mary W. Shelleys Roman Frankenstein von 1818 beschäftigt seither die Kunst und die öffentliche Phantasie.
Mit dem Computer HAL aus dem Film A Space Odyssey von Stanley Kubrick von 1968 fand das Thema der KI Zugang zu unserer Vorstellungswelt. HAL besaß Zugriff auf riesige Wissensbestände, konnte selbst schwierige Probleme rasch lösen, spielte exzellent Schach und kommunizierte in einer normalen Sprache mit den Mitgliedern der Besatzung des Raumschiffs. Schließlich zeigte er ein hochgradig neurotisches Verhalten und wollte seiner Abschaltung zuvorkommen, indem er die Besatzung des Raumschiffs umzubringen versuchte.
Auf dem Weg zur Superintelligenz?
Auch die KI-Forschung macht sich den Mythos zunutze. Sie zielt von ihrem Anbeginn darauf, Modelle menschlicher, kognitiver und perzeptive Fähigkeiten zu entwickeln und diese Fähigkeiten auf Computern zu reproduzieren. So knüpften nach der Darstellung von Hartmut Hirsch-Kreisen 1991 renommierte Informatiker wie Barth, Siekmann und von Seelen explizit an den Mythos der intelligenten Maschine und dessen Bedeutung für die zukünftige gesellschaftliche Entwicklung an. Aktuell erwarten viele KI-Forscher:innen eine beschleunigte Entwicklung hin zu Systemen der „starken KI“. Der Forscher und Technikunternehmer Eric J. Larson ist der Auffassung, dass der Mythos der KI darin besteht, dass ihr Eintreffen unvermeidbar ist. „Wir“ haben uns schon auf den Weg gemacht zu einer KI auf dem Niveau menschlicher Fähigkeiten. Die nächste Stufe wird die Superintelligenz sein.
Gegenwärtig stehen nur anwendungsorientierte Konzepte einer „schwachen KI“ im Vordergrund der Entwicklung. Dennoch hat der Mythos einer intelligenten Maschine den Charakter einer faszinierenden und übergreifenden Orientierung für zukünftige Forschungsanstrengungen der KI nicht verloren. Dazu tragen die vielfach die erwarteten Durchbrüche bei der KI-Entwicklung in den nächsten Jahren bei.
Deshalb scheint der Mythos auch gegen Kritik immun zu sein. Denn selbst, wenn Versprechen von Tech-Unternehmen sich als überzogen erwiesen und nicht eingelöst werden konnten, ließen die Firmen stets einen neuen Aufschwung und einen neuen KI-Hype folgen. Kritiker:innen argumentierten: „Menschliche Intelligenz und Denken lassen sich nicht Mitberechnen gleichsetzen oder nachahmen.“ Und: „KI-Systeme „denken“ nicht, sondern vollziehen nur von Menschen entwickelte und programmierte Algorithmen.“ „Intuition, Abduktion, Begreifen und Urteilen sind menschliche kognitive Leistungen, die weit über maschinelles Berechnen und Schließen hinausgehen.“ So lauten weitere Argumente, um die Erwartung von absehbaren Durchbrüchen bei der weiteren KI-Entwicklung hin zu einer Artificial General Intelligence in Abrede zu stellen. Nicht wenige Forscher:innen bestreiten dies. Es sei inzwischen weitestgehend geschafft, fundamentale Grenzen der KI-Entwicklung zu überwinden.
Die Leistungsfähigkeit der IT-Systeme steigt kontinuierlich. Niemand wird dies bestreiten. Und es gibt Beispiele von Anwendungsbereichen, in denen die Leistungsfähigkeit der KI menschliche Fähigkeiten deutlich überschreiten. Die Siege der Computer über Weltmeister im Schachspiel waren eindrucksvoll. Mittlerweile sind das Gedächtnis und die analytischen Fähigkeiten der Schach-KI zum unverzichtbaren Hilfsmittel für professionelle Schachspieler:innen und ambitionierte Amateur:innen geworden. Die intelligente Maschine erscheint erstmalig in der Menschheitsgeschichte als realisierbar. Und die in den letzten Jahren perfektionierten vielfältigen Systeme der Spracherkennung und Sprachsteuerung oder auch Chatbot können bisweilen den Eindruck erwecken, dass die Menschen mit einem verständnisvollen und einfühlsamen Gesprächspartner kommunizieren.
Sondersendungen und Brennpunkte zur Digitalisierung
Die Wirkung dieses Mythos begründet sich zu einem Gutteil in dem Umstand, dass KI für viele Interessierte aus dem Bereich der Innovationspolitik und begeisterte Laien nur wenig transparent ist. Zugleich lässt diese Technologie erwarten, dass sie Situationen bewältigt, die Unsicherheit und Angst vor Kontrollverlust erzeugen. Die Highlights der KI scheinen zu belegen, dass die zu meisternden Aufgaben bewältigt werden können.
Außerdem wird am Mythos KI stetig gearbeitet. Seine Überzeugungskraft muss erneuert werden, weil die Veralltäglichung des Narrativs ihn bedroht. Zudem machen die Bürger:innen Erfahrungen mit Funktionsmängeln, Nutzungsgrenzen, Enttäuschungen und unerwarteten negativen Folgen. Freilich kann die wissenschaftliche und technologische Entwicklung den Mythos der intelligenten Maschine immer wieder unter Beweis stellen. Deshalb wird der Mythos kontinuierlich wiederbelebt.
Es wäre wichtig, die Versprechungen der KI öffentlich gründlich zu diskutieren. Etwa in Form eines großen öffentlichen Kritikprozesses, um bei der KI die grundlegenden Alternativen herauszuarbeiten. Dies ist bislang nicht geschehen.
Stattdessen nimmt die öffentliche Debatte eine andere Forman, wie aktuell die Diskussion über das Handyverbot an Schulen zeigt. Die Regierung Neuseelands hat ein Handyverbot erlassen, und in England, Finnland und Schweden wird an Verboten privater Smartphones in Schulen gearbeitet. Es gab auch eine Nachricht in der Tagesschau zu einer Überblicksstudie, die zu dem Ergebnis kam, dass ein Handyverbot in Schulen das soziale Klima verbessern und Lernleistungen steigern kann. Vor allem ältere Schüler sollten aber auch den richtigen Umgang mit Smartphones lernen. Auch dies wäre hinreichender Anlass zu einer Serie von Sondersendungen und Brennpunkten. Stattdessen wurde das routinemäßig Argument vorgebracht, dass Verbote das Problem nicht lösen können. Das ist richtig, aber sie können Raum und Zeit für eine Umorientierung und für grundlegende Alternativen schaffen.
1 Bei den folgenden Ausführungen stütze ich mich auf das Buch von Hartmut Hirsch-Kreinsen, Das Versprechen der Künstlichen Intelligenz, Campus Verlag 2023
Ausblick
… wir werden erneut von der Angebotsseite auf die Nachfrageseite digitaler Kommunikation wechseln und uns zunächst damit beschäftigen, welche Folgen es hat, wenn die Kultur der Sprache und Schrift von einer Kultur der Bilder ersetzt wird. Es wird um ihre starke Wirkung auf die Bürger:innen gehen: ursprüngliche Faszination.
In der Streifzüge-Serie sind bisher erschienen:
(1) Misstrauen, massenmedial potenziert;
(2) Protest und Mobilisierung mit dem Smartphone als Nahkörper-Technologie
(3) Social Media uniformiert und polarisiert
(4) Wenn Meister der Zensur über Zensur schimpfen
(5) Plattformen: Wüste Kommunikation in Echokammern
(6) Alter und neuer Glaube an große Männer
