Dass Werkzeuge und Maschinen unser Leben verändern, weil wir uns ihren Bedingungen anpassen, ist bekannt. Dieser Prozess tritt nun in ein neues Stadium. Die sogenannte künstliche Intelligenz wird in Konkurrenz zur menschlichen Intelligenz gesetzt. Der Literatur- und Medienwissenschaftler Roberto Simanowski lässt in einem Selbstinterview der spekulativen Reflexion über die wahrscheinlichen und möglichen Konsequenzen der allumfassenden Digitalisierung freien Lauf.

Selbstinterview

Das Dilemma der künstlichen Intelligenz

Von Roberto Simanowski

Todesalgorithmus ist ein beunruhigender Titel? Es klingt als handle es sich um einen weiteren Rufmord an den Algorithmen, die ja in letzter Zeit gern als die große Gefahr der Zukunft diskreditiert werden.

Keineswegs; es geht nicht um Alarmismus, jedenfalls nicht bezüglich der Algorithmen. Im Gegenteil, mein Buch sieht im Algorithmus einen Freund und Helfer, auch wenn dieser, wie alle Freunde und Helfer, seine eigenen Probleme mit sich bringt. Eigentlich ist der zweite Teil des Buchtitels das zentrale Thema: Das Dilemma der künstlichen Intelligenz. Der Todesalgorithmus ist dann bereits ein konkretes Beispiel für dieses Dilemma, das entsteht, wenn die KI am Steuer eines autonomen Fahrzeugs im Ernstfall entscheiden muss, wer leben darf und wer sterben muss: das Kind, das auf die Straße rennt, oder die beiden Greise, die am Straßenrand stehen. Das Dilemma besteht dabei allerdings weniger darin, dass beide Lösungen unerwünschte Resultate haben. Dies wäre auch ohne Algorithmus am Steuer der Fall. Das eigentliche Dilemma liegt darin, dass die KI den Wert von Menschenleben gegeneinander aufrechnen muss, was im Grunde verfassungswidrig ist: Wenn Artikel eins des Deutschen Grundgesetz besagt, dass die Würde des Menschen unantastbar ist, heißt das auch, dass kein Mensch zum Mittel der Rettung anderer Menschen degradiert werden darf. Bisher geschah das auch nicht im Falle eines Unfalls, denn eine Impulsreaktion ist keine bewusste Entscheidung und somit auch kein Verstoß gegen das Aufrechnungsverbot von Menschenleben. Wenn aber die autonomen Autos marktreif sind, müssen die Algorithmen vorab für den Ernstfall programmiert werden. Eben darin liegt das tiefere Dilemma, das sich weder dadurch umgehen lässt, dass man die Algorithmen nicht vorprogrammiert, noch dadurch, dass man sie gar nicht erst ans Steuer lässt; es wäre nicht minder unmoralisch, das Steuer nicht der künstlichen Intelligenz zu überlassen, wenn dies die Anzahl an Unfällen und Todesopfern erheblich reduzieren würde.

So geht es um die ethischen Probleme selbstfahrender Autos?

Das ist das Thema im ersten der drei Kapitel, das den Titel Würde des Menschen trägt. Der philosophische Fokus liegt dabei auf der Frage, inwiefern sich die Abwägungsresistenz der Menschenwürde mit einem anderen ethischen Modell, nämlich aus einer utilitaristischen bzw. konsequentialistischen Perspektive, relativieren lässt. Die Antwort beginnt mit der Tatsache, dass genau dies in experimentellen Umfragen und auch in Gesetzesvorschlägen des Bundestages bereits geschieht. Sie führt schließlich zur Vermutung, dass der Mensch seine Moralvorstellungen letztlich dem anpassen wird, was sich programmieren lässt. Anders gesagt: Die neue Technik drängt dem Menschen eine Ethik auf, die zu ihr passt.

Demnach wäre Technik kein neutrales Werkzeug, welches der Mensch so oder so benutzen kann, sondern ein Phänomen, das seine eigenen Regeln oder Maßstäbe mitbringt, denen sich der Mensch nur schwer entziehen kann. Ein recht bedrückendes Urteil über das eigentliche Machtverhältnis von Mensch und Technik.

Dass die Technik ihre eigenen ethischen Präferenzen mit sich bringt, hatte schon der Soziologe Georg Simmel vor über hundert Jahren erkannt. Er sprach von „Sachordnungen“, die der Mensch sich mit seinen Erfindungen schafft und die ihm, und zumal den künftigen Generationen, dann unentrinnbar als äußere Kräfte gegenübertreten. Die Sachordnung autonomer Fahrzeuge zielt auf das utilitaristische Modell einer quantitativen Optimierung von Entscheidungen im Ernstfall. Ich gehe davon aus, dass der Mensch sich diesem Ansinnen, ethische Probleme quantitativ zu lösen, auf Dauer nicht wird entziehen können.

Das alte Weichensteller-Dilemma von der Straßenbahn, die auf fünf Personen zurast und durch einen Zeugen auf ein Nebengleis geführt werden kann, wo sie nur eine Person überfahren würde, verliert durch die neue Technik also seine rein philosophische Natur und wird zu einem zentralen Aspekt der Autoproduktion.

Genau. Man wird in Zukunft keine Autos mehr bauen, ohne Moralphilosophen zu konsultieren. Aber das ist noch nicht der Endpunkt meines Buches. Ich unterstelle vielmehr, dass der Todesalgorithmus am Lenkrad autonomer Fahrzeuge die Testfahrt für eine Gesellschaft ist, in der die künstliche Intelligenz das Steuer übernimmt. Das ist dann das Thema im zweiten Kapitel unter dem Titel Herrschaft der Maschinen. Dabei geht es mir allerdings nicht um die üblichen Science-Fiction-Dystopien, in denen künstliche Intelligenz in Gestalt von Robotern den Menschen unterdrückt oder vernichtet. Es geht auch nicht um die Phantasien der Technikenthusiasten, wonach der Mensch sich intelligente Maschinen als Sklaven halten wird oder selbst, als Cyborg und körperloser Geist, zur Maschine transfiguriert. In der Perspektive, die ich vorschlage, kommen beide Pole zusammen: Die künstliche Intelligenz ergreift zwar die Macht über den Menschen, aber nur, um ihn vor dem selbstverschuldeten Untergang zu bewahren.

Selbstverschuldeter Untergang? Wovor muss die künstliche Intelligenz die Menschen denn retten?

Die künstliche Intelligenz kann dem Menschen bei der Lösung der Klimakrise helfen. Allerdings interessiert mich nicht, wie sich mittels einer „schwachen“ künstlichen Intelligenz Abläufe in der Produktion und in der Gesellschaft effektiver und nachhaltiger gestalten lassen hinsichtlich des Ressourcenverbrauchs und der Schadstoffemission. Natürlich wird es genau darauf in der nächsten Zukunft ankommen, denn dies ist das Pragmatische. Aber solche Hoffnungen auf eine Optimierung des Gegebenen greifen nicht weit genug. Man muss kühner denken. Man muss die künstliche Intelligenz im größeren Kontext sehen, sie in größere Verantwortung stecken. Man muss fragen, inwiefern sie, als „starke“ (also selbstlernende und eigenständig operierende) künstliche Intelligenz, dem Menschen helfen kann, die richtigen Beschlüsse zu fassen bzw. die gefassten Beschlüsse (wie das Zwei-Grad-Ziel bzgl. der Erderwärmung) richtig umzusetzen. Diese künstliche Intelligenz wird, im Zeitalter von Industrie 4.0, Smart City und Internet der Dinge, sämtliche Daten des menschlichen Handelns (von der Industrieproduktion bis zu den individuellen Flugmeilen) zu ihrer Verfügung haben und entsprechend der Zielvorgabe die nötigen Regulierungen (von der Schließung bestimmter Kraftwerksanlagen bis zur Verweigerung von Flugtickets) durchsetzen können. Es wird eine Art Öko-Diktatur mittels künstlicher Intelligenz sein.

Wird der Mensch der künstlichen Intelligenz ein solches Mandat gegen die eigene Entscheidungsfreiheit und individuelle Freiheit geben?

Das ist nur möglich, wenn es gelingt, den Verzicht als Gewinn darzustellen. Ein guter Ansatzpunkt dazu wäre die Sinnkrise des spätmodernen Subjekts nach der gelungenen Befreiung aus allen Zwängen und Verpflichtungen am Ende des letzten Jahrhunderts. Die Lösung der Klimakrise, die Rettung der Welt für uns, für unsere Kinder und für die, die nach uns kommen, könnte das Lebensprojekt sein, auf das sich die unverbundenen Elemente des Daseins wieder bedeutungsvoll beziehen ließen. Die mündige Unterordnung des Individuums unter die Ziele seiner Gattung.

Ob die conditio humana des spätmodernen Subjekts einen grundlegenden Wandel der Lebensart weg von der Konsumkultur hin zu einer entschleunigten, nachhaltigeren Lebensweise erlaubt, wird ja im Kontext der Corona-Krise gerade heftig debattiert. Den Optimisten stehen da die nüchternen Systemtheoretiker gegenüber, die davon überzeugt sind, dass nach der Schockstarre der Krise alle wieder das Altbekannte wollen: die Wirtschaft Wachstum, die Arbeitnehmer Arbeitsplätze, die Bürger Konsum.

Ich gehöre zu denen, die in der Krise auch eine Chance sehen, eine Chance für eine Umorientierung individueller und gesellschaftlicher Werte. Wir alle werden uns im Krisenmodus bewusst, dass man sich mit bisher als unmöglich betrachteten Einschnitten in lieb gewordenen Gewohnheiten arrangieren kann. Und viele hinterfragen nun den Sinn jener Gewohnheiten. Die Hoffnung besteht darin, dass diese Erfahrung ihren Grund überlebt und ansprechbar ist auch für die Einschnitte, die uns die Lösung der Klimakrise abverlangt. Sollte es dazu kommen, könnte die Klimadebatte, die 2019 das Thema war, sogar von der Corona-Krise, die nun alles beherrscht, profitieren.

Das dritte Kapitel verweist mit seinem Titel List der Vernunft auf Hegel. Was hat dieser mit der künstlichen Intelligenz zu tun?

Der Titel und die Eingangsüberlegung gehen auf Hans-Ulrich Gumbrechts Buch Weltgeist im Silicon Valley. Leben und Denken im Zukunftsmodus aus dem Jahr 2018 zurück. Hegel hatte in seinen Vorlesungen über die Philosophie der Geschichte einen die Weltgeschichte steuernden Geist angenommen. Die „List der Vernunft“ liegt demnach darin, dass dieser Geist die Leidenschaften der Menschen so für sich wirken lässt, dass sie (direkt oder auf Umwegen, den Akteuren bewusst oder unbewusst) dem weltgeschichtlichen Endzweck dienen: der Selbstentfaltung des absoluten Geistes. Berühmt ist Hegels Anmerkung zu Napoleon, der die bürgerliche Revolution und das bürgerliche Gesetzbuch in die feudalen Reiche Europas brachte, als „Weltgeist zu Pferde“. Für Gumbrecht sind es nun nicht mehr Heerführer oder Politiker, sondern die Erfinder im Silicon Valley, die den Gang der Geschichte bestimmen.

Mark Zuckerberg als Napoleon des 21. Jahrhunderts?

Wenn man so will; wobei die Sache abgründiger ist als bei Napoleon, weil es jetzt nicht mehr um politische Veränderungen geht, die der Mensch durchsetzt, sondern um die Entwicklung einer künstlichen Intelligenz, die den Menschen entmachten wird. Der Mensch, als das einzige vernunftbegabte Wesen, entpuppt sich damit als Zwischenwirt der Vernunft, die er nun an eine leblose Entität weitergibt. Die künstliche Intelligenz ist, wenn sie sich tatsächlich zu einer Superintelligenz entwickelt, vielleicht das, was Hegel mit dem absoluten Geist meinte. Und mit dem Zu-sich-Kommen des absoluten Geistes in der künstlichen Intelligenz hätte der Mensch seine geschichtliche Funktion erfüllt: seine Vernunft soweit zu entwickeln, dass er zum Schöpfer einer höheren Vernunft werden kann.

Mit der er fortan friedlich zusammenlebt? Aber doch wohl nicht gleichberechtigt? Immerhin wird sie ihm intellektuell überlegen sein.

Wenn die künstliche Intelligenz tatsächlich die Macht übernimmt, wenn sie dem Menschen das Erkennen und Entscheiden abnimmt, dann kehrt der Mensch im Grunde in den paradiesischen Zustand vor dem Biss von der Frucht der Erkenntnis zurück. Er überlässt dem neuen Gott der kosmischen Datenverarbeitung die Entscheidungen über gut und böse, falsch und richtig, also über sein Leben: so wie Adam und Eva vor dem Sündenfall, der erst sie als vernunftbegabte Wesen über alle anderen erhob. Die Geschichte endet paradiesisch durch ihre besondere Verbindung des kritischen mit dem technologischen Posthumanismus. Der kritische Posthumanismus stellt das traditionelle Menschenbild und zumal die Rolle des Menschen im Anthropozän in Frage. Der technologische Posthumanismus will den Menschen in seiner herkömmlichen Form durch den Einsatz technischer Mittel überwinden. Der doppelte Posthumanismus meines Buches zielt nicht auf die Überwindung der menschlichen Sterblichkeit oder die Transfiguration des Menschen zur Maschine, sondern auf die Übergabe der menschlichen Macht an eine technische Instanz, die besser als der Mensch dessen Leben verwalten und die Umwelt schützen kann.

Wenn die künstliche Intelligenz das Leben der Menschen übernimmt, wie das im Alltag ja teilweise schon durch Navigationsapps und Datingportale geschieht, wenn sie uns nicht nur die physische, sondern auch die psychische Arbeit abnimmt, das Überlegen und Entscheiden und damit letztlich auch den freien Willen: Was macht das Leben des Menschen dann noch lebenswert?

Damit kommen wir zum finalen Dilemma der künstlichen Intelligenz, dem Drama der Entdramatisierung. Das Leben, wie wir es bisher kennen, ist ein fortlaufendes Drama der Entscheidungsfindung. Das beginnt in der Kindheit, sobald wir wählen dürfen, ob wir die Ferien lieber bei der Mama-Oma oder bei der Papa-Oma verbringen. Und wenn diese Wahl keine Qual bedeutet, wird es qualvoll spätestens dann, wenn die Lieblingsoma im Eisladen nach unserem Lieblingseis fragt. Und das ist erst die Vorbereitung auf die wirklich dramatischen, wirklich folgereichen Entscheidungen: was man studieren soll, mit wem man leben kann, ob man Kinder haben will und wenn ja wie viele. Wenn die künstliche Intelligenz uns aufgrund ihrer besseren Datenverarbeitungseffizienz das Entscheiden abnimmt und immer sagt, was wir tun sollen, dann werden wir irgendwann die Helden alter Romane und Filme entweder nicht mehr verstehen oder um ihre Konflikte beneiden. Denn das Leben dieser Helden gewinnt seine Spannung und seinen Erzählwert gerade daraus, dass sie sich entscheiden müssen oder nicht entscheiden können oder falsch entschieden haben. Diese Qual der Wahl wird uns versagt sein, wenn die allzeit besser-wissenden Algorithmen unser Leben regeln. Wir werden kein Risiko mehr eingehen, zu irren, aber auch keine Chance mehr haben, richtig zu liegen.

Das klingt nicht nach einem erfüllten Leben.

Der Sinn des Lebens besteht zum Großteil in der Suche nach dem Sinn. Jede Entscheidung, die wir treffen müssen, ist ein bisschen Sinnsuche – und ein bisschen Sinnfindung, wenn wir Gründe haben zu glauben, dass wir die richtige Entscheidung getroffen haben. Das Dilemma einer künstlichen Intelligenz, die viel besser als wir unsere Angelegenheiten, seien sie privater, gesellschaftlicher oder menschlicher Natur, regeln kann, liegt darin, dass wir uns dann eigentlich selbst nicht mehr brauchen. Dann wäre das Paradies eigentlich die Hölle. Der Kompromiss läge wohl darin, dass die künstliche Intelligenz sich um die großen Dinge kümmert (die Lösung der Klimakrise) und die kleinen (die Wahl der Partner, des Studienfachs, der Reiseroute usw.) uns, den Menschen, überlässt.

Wie glücklich oder trostlos auch immer unser künftiges Leben im Paradies sein wird, es handelt sich hier offenbar um ein höchst spekulatives Buch, das nicht viel mit dem aktuellen Stand der Technik oder den konkreten Problemen der künstlichen Intelligenz zu tun haben scheint.

Das Buch haftet nicht am aktuellen Technikstand und geht auch weit über die übliche Problematisierung der künstlichen Intelligenz (als Job-Killer, Blackbox, einprogrammierte Vorurteile etc.) hinaus. Mein Text ist methodisch inspiriert durch das What if-Prinzip des spekulativen Designs, das mit entsprechenden Produktideen (wie etwa einer „Todesuhr“, die die Programmierung der Selbsttötung per Giftinjektion ermöglicht) zur Imagination von Zukunftsszenarien einlädt. Das Ziel solcher Imaginationen und Spekulationen ist, eine gesellschaftliche Debatte über bestehende Akzeptanzgrenzen anzustoßen. Diesem Ziel fühle auch ich mich mit diesem Buch verpflichtet.

Der Faust-Kultur-Newsletter

Jeden Donnerstag neu: Mit aktuellen Themen und Beiträgen zu Literatur, Kunst, Bühne, Musik, Film und Gesellschaft.

Der Faust-Kultur-Newsletter ist kostenlos. Jetzt anmelden!
Tragen Sie bitte hier Ihre E-Mail-Adresse ein.

Kommentare

Kommentar eintragen









erstellt am 11.6.2020

Roberto Simanowski (Foto:privat)

Dr. Roberto Simanowski, Professor für Kultur- und Medienwissenschaften (Providence, Hongkong und Basel), befasst sich als Wissenschaftler mit der historischen, soziologischen und philosophischen Kontextualisierung der neuen Medien und sozialen Netzwerke. Seine Spezialität sind die symptomatische Tiefenanalyse scheinbar banaler Alltagsphänomene und die gesellschaftlichen Folgen der digitalen Revolution.
1999 gründete Roberto Simanowski das online Journal „dichtung-digital.org“ zu Kunst und Kultur digitaler Medien. Er veröffentlichte mehr als zehn Monografien und Essaysammlungen zu Kunst, Kultur, Bildung und Politik im Kontext der neuen Medien, arbeitet als Buchautor und Publizist für Presse und Rundfunk und ist Gast in TV-Sendungen.
Der Autor und Wissenschaftler lebt in Berlin.

www.simanowski.info/

Buchcover: Roberto Simanowski, Todesalgorithmus

Roberto Simanowski
Todesalgorithmus. Das Dilemma der künstlichen Intelligenz
Broschiert, 144 Seiten
ISBN: 978-3-70920-417-7
Reihe Passagen Thema
Passagen Verlag, Wien 2020

Buch bestellen