Notfalls wird Alexa* lügen, um mein Gesicht zu wahren

Screenshot aus dem Trailer zu “Herr Puntila und sein Knecht Matti” von Bertolt Brecht im Düsseldorfer Schauspielhaus

Eine neue Dienerkultur – nicht Dienstleistungskultur! – breitet sich aus. Zum Beispiel wächst die Zahl von Lieferdiensten wie Lieferando, Delivery Hero, Foodpanda oder Wolt. Das Geschäftsmodell „Essenslieferung per App“ ist ökonomisch erfolgreich. Auch die Zahl der Kund:innen nimmt zu, die Arbeiten wie putzen und selbst kochen lieber outsourcen. Entstanden ist eine neue Klasse unterbezahlter Helfer.[1]  Der Soziologe Andreas Reckwitz zählt sie zur „prekären Klasse“.[2] Die zwischenmenschlichen Arbeitsbeziehungen sind teilweise hochproblematisch. Wie steht es um die Beziehungen zwischen Mensch und Maschine?

Die großen Lieferplattformen mit ihren Essen-Bestell-Apps haben einen schlechten Ruf. Die Fahrrad-„Rider“ stehen unter Dauerstress und werden hart am Mindestlohn liegend bezahlt. Sind Widerspruch und Empörung gegen diese Arbeitsverhältnisse zu erwarten? Werden sich die Beschäftigten gewerkschaftlich organisieren? Was in den Beziehungen zwischen Menschen so schwer machbar erscheint, könnte zwischen „Mensch und Maschine“ möglich sein: das Verhältnis zwischen Herr (Mensch) und Diener (Maschine) könnte sich auflösen oder zumindest angleichen. Vielleicht entsteht sogar ein symbiotisches Verhältnis von Mensch und Maschine.

Die Maschinen werden also nicht die Herrschaft über die Menschen übernehmen – das wäre dystopische Konvention. Dass „Computer“ oder „Roboter“ oder ein „technisches System“ die Herrschaft übernehmen und den Menschen ihre Freiheit rauben: Filme wie I, Robot, Terminator oder wie manchmal ein Tatort am Sonntagabend, haben dieses Motiv x-mal durchgespielt. Entweder haben Menschen „die Technik“ manipuliert und wollen sich Geld verschaffen oder Macht; in den James-Bond-Filmen geht nichts unterhalb der Weltherrschaft. Die Computer haben es geschafft, selbstständig zu werden, sie haben sich verselbständigt und kontrollieren „die Menschheit“. Nur: zu welchem Zweck sollten sie es tun und wie sollten sie dies geschafft haben?

Bild: Kolbsun auf Openclipart

Empörungslose Friedlichkeit

Wir wollen einen anderen Weg einschlagen, der Gleichheit im Blick hat. Der an der Universität Witten-Herdecke lehrende Philosoph und Ökonom Birger P. Priddat hat einen Essay geschrieben, was passieren würde, wenn „Roboter“ intelligent würden.[3] Hier der Autor im Originalton:

„Die lustigen Maschinchen, die uns heute als Roboter vorgeführt werden, kleine Bälle werfen, Teetassen servieren etc., scheinen eher stressfrei tätig zu sein. Ich beobachte bei Freunden den automatischen Rasenmäher, der brav seine Bahnen zieht, sich periodisch entleert und zum Ende an seinen Akku fährt.“ Es sind „stille Diener, die in programmierter Gelassenheit ihre Arbeit verrichten.“

Bild: j4p4n auf Openclipart

So friedfertig waren auch schon die Waschmaschine und der Mikrowellenherd, die Roboter hingegen bewegen sich. Der automatische Rasenmäher, der brav seine Bahnen zieht, sich periodisch entleert und zum Ende an seinen Akku fährt, ist kontaktscheu. Für die Industrie sind Roboter übrigens keine nice machines, sondern starke, wuchtige, energetische Automaten mit feinfühlenden Fingern. Die sichtbaren Bewegungen der Roboter sind nur Spitzen des Eisbergs oder Teilfunktionen von vernetzten Systemen, die eingebunden sind in Leistungszusammenhänge, die über das Hin- und Herfahren und Handreichungen weit hinausgehen. Die Roboter sind nur Endgeräte mit Handhabungsfunktion, und zugleich Sensoren zur Rückmeldung von Situationen und Kontexten.

Aber bleiben wir bei der Friedfertigkeit. Die Roboter empören sich nicht, arbeiten unermüdlich und leiden nicht. Das tat auch nicht Jacques, der Fatalist. [4] Zur Zeit Diderots galt der Diener als niederes Wesen, das den Launen des Herrn ausgeliefert war. Jacques war existentiell abhängig von seinem Herrn, aber er besaß auch Witz und Lebenstüchtigkeit und reklamierte für sich einen Status von Gleichberechtigung, weil er sich der gegenseitigen Abhängigkeit von Herr und Diener bewusst war. „Jacques ist für Euch geschaffen und er für Euch““. Die unterschiedliche Rollenverteilung war durch Geburt in eine bestimmte gesellschaftliche Schicht und Situation determiniert; oder wie es im metaphysischen Refrain des Buches heißt: „weil es da oben geschrieben steht“.

Neues Verhältnis zwischen Diener und Herr

Jacques’ Herr war in der Praxis jedoch ein Getriebener. Unbeholfen, schwerfällig, ohne eigene Antriebskraft sind „die eigentlichen Quellen seines Lebens“, wie der Erzähler sagt, „zu schnupfen, nach der Zeit zu sehen und Jacques auszufragen.“ Er „…läßt sich leben, das ist sein gewöhnliches Geschäft“. (25) Jacques hingegen ist „Fatalist“ aber keineswegs schicksalsergeben, sondern ein tatkräftiger und bedachtsamer Mensch, wenn er auch seinen Spruch, dass alles dort oben geschrieben stehe, permanent auf den Lippen führt. Er war der wahre Lenker des Gespanns, und der Herr hatte sich damit abzufinden. „Es wurde bestimmt, dass Ihr den Titel führen und ich die Sache haben sollte. Ihr sollt Euch meinen Herrn nennen, während ich der Eure bin.“

In Diderots Text, geschrieben vermutlich zwischen 1765 und 1784, schienen sich in diesem Herr-und-Diener-Paar schon die sozialen Veränderungen Frankreichs am Vorabend der Revolution abzuzeichnen. Der Autor konnte es aber nicht wagen, sie direkt anzusprechen, denn er hatte die Vorstellung eines neuen Verhältnisses zwischen Herr und Diener, das auf gegenseitigem Respekt beruhte. Es war immer noch ungleich, aber herzlicher und humaner als das des alten Rollenverständnisses.

Können wir uns das Bewusstsein von Maschinen als Bewusstsein des Dienens von Maschinen vorstellen? Uns liegt ein merkwürdiges „Tagebuch“ vor, das eine Annäherung an das Bewusstsein des Dienens sein könnte. Es ist von Robert Walser das im Jahr 1909 veröffentlichte Buch Jakob von Gunten.[5] Es beginnt mit folgenden Sätzen: „Man lernt hier sehr wenig, es fehlt an Lehrkräften, und wir Knaben vom Institut Benjamenta werden es zu nichts bringen, das heißt, wir werden alle etwas sehr Kleines und Untergeordnetes im späteren Leben sein. […] Ich werde eine reizende, kugelrunde Null im späteren Leben sein.“

Jakob von Gunten stammte aus einer wohlhabenden Familie, war von zu Hause weggelaufen, um dem übermächtigen Schatten seines Vaters zu entkommen und trat in die Dienerschule Benjamenta ein, die sich in einem Berliner Hinterhaus befand. Der Unterricht bestand überwiegend im Auswendiglernen einer Broschüre des Instituts mit dem Titel Was bezweckt Benjamenta’s Knabenschule?. „Der Unterricht, den wir genießen, besteht hauptsächlich darin, uns Geduld und Gehorsam einzuprägen, zwei Eigenschaften, die wenig oder gar keinen Erfolg versprechen.“ Die Schüler ließen sich bereitwillig bevormunden und drillen.

Widerspruch, Loyalität oder Abwanderung

Bei Eintritt in die Schule hatte sich Jakob noch entrüstet, aber dann: „Wie dumm ich mich doch benommen habe, als ich hier ankam. Ich entrüstete mich in erster Linie über die Ärmlichkeit des Treppenhauses. Dann klingelte ich. Und ein affenähnliches Wesen öffnete mir die Türe. Es war Kraus.“ Aber das änderte sich mit der Zeit.  „Aber damals hielt ich ihn einfach für einen Affen, während ich ihn heute, um des rein persönlichen Wesens willen, das ihn ziert, hoch schätze. Krause ist ein lieber, lieber Mensch. Ich verstand es nur damals noch nicht besser.“

Walsers Buch ist nicht leicht zu lesen. Das heißt, zu ertragen. Wie hielten die Schüler den Stumpfsinn aus? In der Tat ging es nicht widerspruchslos zu und die Innenseite des Daseins zeigte sich: „Schacht tut gern das Vorschriften-Kränkende, und ich, offen gesagt, leider nicht minder.“ Aber die Revolte blieb aus. Deshalb mussten sie die Verhältnisse aushalten. Menschen haben nur drei Möglichkeiten: Widerspruch, Loyalität oder Abwanderung.[6] Wie sie nicht gehen oder revoltieren, bleibt ihnen nichts anderes als jede Menge Arbeitskraft dafür aufzuwenden, um ihre dienende Arbeit auszuhalten. Dazu gehört auch das schnöselige Verhalten junger Herrschaften. Maschinen müssen das nicht.

Damit hatte Walser der von Hegel in der Phänomenologie des Geistes beschriebene Arbeit des Bewusstseins ins Leere laufen lassen. Bei Hegel wird der Herr irgendwann einmal der Knecht des Knechts und der Knecht der Herr des Herrn sein. Walser stellt der Dialektik von Herr und Knecht den Strom ab. 

Etwas Ähnliches hatte der Philosoph Gotthard Günther getan, als er Hegels Festlegung der Dialektik auf den logischen Dreischritt kritisierte: die zweite Negation dürfe nicht in die Affirmation zurückführen, sondern die abendländische Ontologiekonzeption müsse den Relationenreichtum der Wirklichkeit abbilden. Günther hatte im Jahr 1957 ein Buch über Das Bewußtsein der Maschinen geschrieben. Zur Neuauflage  2002[7] schrieben die Herausgeber Eberhard von Goldammer und Joachim Paul, dass es nach nahezu einem halben Jahrhundert nichts an Aktualität verloren habe – obwohl es so schnelllebige Themen wie Computer, Künstliche Intelligenz (KI), Maschinenbewusstsein oder die Darstellung mentaler Prozesse mithilfe von Maschinen behandelte.

Gotthard Günther: „Wenn wir im Zusammenhang mit Maschinen von Gedächtnis, Intelligenz und Entscheidungsprozessen sprechen, dann verbinden wir damit Fähigkeiten, die nach einer langen und tief begründeten Tradition dem Bereich der Psyche zugeordnet werden, mit dem Aufgabenfeld des Entwurfs und der Konstruktion von Computern. (…) Die wissenschaftliche Forschung der letzten Jahrzehnte hat jedoch dem Vorurteil widersprochen, dass Fähigkeiten wie Intelligenz, Gedächtnis und Entscheidungsfindung ausschließlich dem Bereich ‚subjektiven’ Lebens zukommen.“[8]

Kant und Lampe

So metaphysisch wohl geordnet wie bei Jacques und seinem Herrn ging es bei dem Philosophen Immanuel Kant und seinem Diener Lampe nicht zu. Diener Lampe bewegte sich über viele Jahre im unmittelbaren Umkreis „des fleißigen Arbeiters Kant“[9]. Sie fielen einander auf die Nerven. Beide legten großen Wert auf Pünktlichkeit und hatten einen Sinn für praktische Verantwortung: Lampe für den Tee, Kant für das Geschehen des Gedankens. Sie repräsentierten völlig verschiedene Erfahrungen. Sie lebten in enger Berührung, aber die Verschiedenartigkeit ihrer Erfahrung berührte sich nicht.

Dabei hätte Kant von Lampe Reichhaltiges über das Umland von Königsberg erfahren können. Für ihn selbst war die Entfernung um einige Kilometer vom Stadtkern eine Weltreise oder Expeditionen ins Niemandsland. Lampes Horizont reichte weiter. Von seinem Amtssitz vermochte umgekehrt Kant den Erdkreis und die Sternenmechanik frei zu überblicken. Da hätte Lampe mit Vorurteilen zu kämpfen gehabt. Eines Tages entdeckte Kant einen Verrat oder Betrug des Dieners. Er trennte sich von dem Diener. Sie hatten aber miteinander zu tun. Kant sah sich veranlasst, in seinem Tagebuch aufzuschreiben: „Nicht an Lampe denken!“

Höhere Erwartungen an künstliche Intelligenz

In einer Fußnote erwähnt Priddat, dass die Firma Bosch ihren Roboter Kuri aus dem Programm herausgenommen hat. Er war niedlich anzusehen, konnte herumfahren und Emotionen zeigen. Die Erwartungen von Kunden an künstliche Intelligenz von Robotern waren weitaus höher, aber die Industrie konnte das noch nicht bedienen.

Der cloudbasierte Sprachdienst Alexa muss seine Dienlichkeit und Nützlichkeit beweisen. In einem Werbetext zu dem Produkt heißt es: „Als digitaler Wachhund bietet sie Sicherheit bei Abwesenheit, Alexa kann Lichter ein- und ausschalten und Anwesenheit simulieren, sie registriert Einbrecher, wenn wir das Haus verlassen: Mit ein paar Einstellungen können Bewohner ihren Echo Lautsprecher oder Echo Show als Sicherheitskomponente nutzen.“ Sie wird „zur praktischen Aufpasserin und die Bewohner können mit einem guten Gewissen in den Urlaub fahren oder in den Wochenend-Trip starten.“

Der nächste Entwicklungssprung wären Avatare. Sie werden ein Teil von uns selber. Hier würde anders als bei einem Schachcomputer oder einer Übersetzungsmaschine die Trennungslinien zwischen ICH und Maschine überschritten. Die Avatare könnten ein zweites ICH* werden. Das zweite ICH* berät uns in vielen Lagen, was sinnvollerweise zu tun, zu entscheiden, wie zu reagieren wäre. Es wäre ein aus der Biographiebegleitung erwachsener Teil des ICHs. Er evoziert uns zu einer Offenheit uns selbst gegenüber, in der wir uns neu kennenzulernen beginnen.

Wir zitieren nochmals Priddat:

„Ist es unfair, wenn der Avatar statt meiner in der Prüfung antwortet? Nein, wenn Avatar (ICH*) und ICH ‚eins’ sind. Dann müssen die Prüfungen eben vollständig anders aussehen. Bildung beruht dann nicht mehr auf massivem persönlichem Wissen, sondern auf Können, d.h. auf Umgehen mit dem Wissen: auf Problematisierungs-, Reflektions- und Lösungskompetenz.“

Alles, was Wissen betrifft, kann tatsächlich der Avatar antworten (oder mir erzählen, so dass ICH antwortet – um eine human performance aufrecht zu erhalten), während ICH nur mehr dafür da ist, das zu bewerten, daraus Schlussfolgerungen zu ziehen, es einzuschätzen etc. Der Avatar ist nicht nur ‚mein persönlicher Avatar’, sondern wächst und entwickelt sich mit mir, ist ein Teil meines ICHs. Nur wir beide zusammen sind homo digitalis.

ICH und ICH* – es ist gleichgültig, wer mit Dritten kommuniziert

Wenn ICH und ICH* eine solche enge biographische Symbiose eingehen werden, ist es letztlich gleichgültig, wer mit Dritten kommuniziert, solange ICH final immer die letzte Bewertung / Entscheidung hat. D.h. ICH* muss rückfragen, wie ICH entscheiden will. Wir werden aber viele Entscheidungen dem Avatar übertragen: er kann uns von Routinen entlasten. Alle Routinen – auch Entscheidungsroutinen – kann der Avatar übernehmen: den gesamten low cognition part. Alles Emotionale und Affektive hingegen bleibt uns Menschen: ICH wird genauso affektiv sein wie jetzt auch, aber ICH* wird es moderieren, klären, nachfragen, neurosedämpfend puffern etc. Wenn wir den Avatar abstellen, stellen wir unsere symbiotische Intelligenz ab.

Unsere Sorge, die Digitalisierung der Welt würde unsere Souveränität aufheben, lässt sich kaum wirksam durch ethische Regeln oder Gesetze aufheben oder begrenzen. Der persönliche Avatar wird, mit KI ausgestattet, den Schutz meiner Persönlichkeit übernehmen, um die digitale Souveränität zu gewinnen, die durch den digitalen Datenabgriff verletzt würde. Notfalls wird Alexa* lügen, um meine Integrität zu wahren. Wir brauchen künstliche Intelligenzen, die mir gegenüber loyal sind.

Behandeln wir die Bilder aus sci-fi-Filmen als das, was sie sind: pure Phantasie. Stattdessen könnte der Avatar „ein interessanter Gesprächspartner“sein. „Dass ein Roboter zum Beispiel auf den Tonfall reagieren kann, den man benutzt. Diese Natürlichkeit in ein kommerzielles Produkt zu packen, wird die eigentliche Herausforderung sein“.

Wenn also die Distanz geringer wird und aus dem Diener ein nahezu gleichberechtigter Partner würde, was müsste der Herr dann aufgeben?


[1] Christoph Bartmann, Das Bürgertum und seine Diener, Die Tageszeitung, 6.6.2021 [2] Reckwitz, A. (2019): Das Ende der Illusionen. Politik, Ökonomie und Kultur in der Spätmoderne, Suhrkamp: Berlin, S. 63-133 [3] Priddat, B.P. (2020): Höflich, intelligent, überrascht. Wie werden wir lernen, uns zu Automaten zu verhalten? In: Kovce, Ph. / Priddat, B.P. (Hrsg.): Selbstverwandlung. Das Ende des Menschen und seine Zukunft. Anthropologische Perspektiven von Digitalisierung und Individualisierung, Metropolis: Marburg (August 2021). Solange als: Workingpaper Juni 2019, Professur für Wirtschaft und Philosophie, Wirtschaftsfakultät, Universität Witten/Herdecke [4] Denis Diderot, Jacques der Fatalist und sein Herr, Reclam Verlag Stuttgart 1972 [5] Robert Walser, Jakob van Gunten (1909), suhrkamp taschenbuch, Frankfurt a.M. 1982 [6] Albert O. Hirschman, Abwanderung und Widerspruch, Tübingen Verlag Mohr Siebeck 2004 (1972) [7] Gotthard Günther, Das Bewusstsein der Maschinen. Eine Metaphysik der Kybernetik. Dritte, erweiterte Auflage, Baden-Baden, 2002, Agis Verlag, S.11 [8] Günther, Cognition and Volition – Erkennen und Wollen, in: ders., 2002, S.229f [9] Vgl. Oskar Negt, Alexander Kluge, Geschichte und Eigensinn, Verlag Zweitausendeins, 1981, S. 734

Klaus West
Dr. Klaus-W. West arbeitet freiberuflich als wissenschaftlicher Berater. Gegenwärtig u.a. assoziierter Mitarbeiter der Stiftung Arbeit und Umwelt in Berlin. Zuvor kontrollierte Wechsel zwischen Wissenschaft (Universitäten Dortmund, Freiburg, Harvard) und Gewerkschaft (DGB-Bundesvorstand, IG BCE).

Hinterlasse einen Kommentar.

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

%d Bloggern gefällt das: