Musik und Dichtung: Prometheus und wir by Wiener Konzerthaus

Saison

2020/21

Saison 2020/21 Zyklus Musik und Dichtung Schubert-Saal

»Prometheus und wir«

Wir befinden uns im Jahr 2100. Menschen können nach der Intelligenzexplosion nur mittels Gehirnupload mit den kognitiven Fähigkeiten der künstlichen Superintelligenz mithalten. Nur die wenigsten Menschen arbeiten noch – Roboter haben ihre Jobs übernommen – und erhalten ein bedingungsloses Grundeinkommen, das dank der eingeführten Robotersteuer den neuen Wohlstand gerecht verteilt. Was wie ein Science Fiction-Roman klingt, könnte Wirklichkeit werden, wenn man den Anhängern der Singularitätsthese glaubt. Die technische Singularität soll den Zeitpunkt bezeichnen, ab dem künstliche Intelligenz menschliche Intelligenz übertrifft und sich rasant, explosionsartig selbst verbessert und neu erfindet. Die Entwicklung der Welt würde ab diesem Zeitpunkt nicht mehr vom Menschen, sondern von künstlicher Intelligenz vorangetrieben. Die Singularitätsthese und ihre existentielle Bedrohung für den Menschen scheint reine Spekulation zu sein, wenn man bedenkt, dass schon die Entwicklung einer der menschlichen Intelligenz gleichwertigen KI (Künstlichen Intelligenz) vor unüberwindbaren Hindernissen steht. Sind uns KI-Systeme in kognitiven Belangen in vielen Bereichen schon überlegen, hinken sie bei den sensomotorischen, emotionalen und sozialen Fähigkeiten noch weit hinter dem Menschen her. Bewusstsein, Willensfreiheit und Selbstreflexion, diese für Intelligenz auschlaggebenden Kompetenzen, sind den Menschen vorbehalten, und bisher hat kein Wissenschaftler einen Weg gefunden, sie in Regeln zu gießen, die auf künstliche Systeme anwendbar wären. Tatsache ist aber, dass die fortschreitende Digitalisierung unserer Welt unser Selbstverständnis und unser gesellschaftliches Zusammenleben grundlegend verändert und weiter verändern wird – im Guten wie im Schlechten. Schon heute unterstützt künstliche Intelligenz das menschliche Denken und Handeln weitreichend. Dabei verwischt oft die Grenze der Verantwortlichkeit für dieses Denken und Handeln. 2

Vorwort

Im Jahr 1997 schlug der von IBM entwickelte Schachcomputer »Deep Blue« den Schachweltmeister Garri Kasparow. Das System war zwar durch Algorithmen von menschlicher Hand programmiert worden, wendete sie aber weitgehend autonom an und entschied selbst über den bestmöglichen Zug. Der Computer spielte um Welten besser als der menschliche Informatiker, der in programmiert hatte. Er war nicht nur diesem, sondern auch dem besten Schachspieler der Welt weit überlegen. Das vom Unternehmen Deep Mind entwickelte Programm »AlphaGo« besiegte 2016 den weltbesten Go-Spieler Lee Sedol. Go gilt als das komplexeste existierende strategische Brettspiel. Das Programm nutzte das Verfahren des Deep Learnings: mit Hilfe von künstlichen neuronalen Netzwerken, die grob den Neuronen des menschlichen Gehirns nachempfunden sind, hatte AlphaGo Millionen archivierter Go-Spiele ausgewertet und im Selbsttraining die besten Züge kombiniert. Das System AlphaGoZero schließlich trainierte sich im Jahr darauf nur noch durch das Spielen gegen sich selbst, ohne dass man es mit Spielzügen füttern musste. Der Grundstein für die Entwicklung einer KI, die ohne menschliches Expertenwissen auskommt, war damit gelegt. Der menschliche Entwickler bestimmte nicht mehr unmittelbar über das Verhalten des Computers. Ein solches System künstlicher Intelligenz ist weder kontrollierbar noch vorhersehbar. Das hat weitreichende Folgen. Auch wenn Maschinen keine moralische Verantwortung über ihr Handeln übernehmen können, da sie nicht bewusst und nicht als selbstbestimmte Persönlichkeiten handeln, können sie trotzdem die Zuschreibung von Verantwortung beeinflussen. Wenn wir künstliche Intelligenz nutzen und sie dabei wesentliche Denkleistungen für uns erbringt – wie zum Beispiel beim Lösen eines komplizierten mathematischen Problems durch einen Taschenrechner – übernimmt sie die Aufgabe, unseren Geist zu erweitern. KI ist dann nicht nur passives Werkzeug, sondern aktiver Vermittler und integraler Bestandteil eines kognitiven Prozesses. Trägt die Person, die diese Erweiterung ihres Geistes nutzt, allein die moralische Verantwortung für das Ergebnis? Kann ich noch moralische Verantwortung für eine Handlung übernehmen, die ich ob der Komplexität – die ein Computer besser bewältigt als ich – nicht vollständig kontrollieren kann?

Vorwort 4

Die Gefahr, dass die Menschheit von einer Superintelligenz verdrängt wird, ist nicht real. Die Wahrscheinlichkeit, dass der Gebrauch von künstlichen Agenden zu tiefgreifenden Veränderungen und Brüchen in Ökonomie, Gesellschaft und Kultur führen wird, ist dagegen sehr hoch. Deshalb fordern Technologie-Expert*innen immer öfter und lauter einen ethischen Umgang mit den KI-Phänomenen, der das Verhalten bei der Interaktion mit ihnen regelt und bestimmt. So verfassten 2017 116 Unternehmer*innen und Expert*innen aus der Technologiebranche einen Brief an die United Nations, in dem sie das Verbot autonomer Waffen forderten. Bewaffnete Konflikte könnten in ungeahntem Ausmaß und in einer Geschwindigkeit entflammen, die das menschliche Vorstellungsvermögen übersteige. Ihr Missbrauch durch Terrorismus und Hacker könne zu einer globalen Bedrohung werden. Die Netflix-Doku »The Social Dilemma« (2020) beschäftigte sich kritisch mit den Folgen von sozialen Medien für die Gesellschaft. Data Mining, mit dem Plattformen wie Instagram, facebook und Pinterest das Suchtpotential ihrer Nutzer erhöht, die Auswirkungen auf die psychische Gesundheit, auch mit besonderem Blick auf die steigenden Selbstmordraten bei Teenagern in USA, sowie die Rolle von sozialen Medien bei der Verbreitung von Verschwörungstheorien rückten ins Blickfeld. Als Aufklärer traten dabei Experten aus dem Umfeld der großen Social Media-Firmen auf. Prominente Technologie-Unternehmer wie Elon Musk (Tesla), Bill Gates (Microsoft) und Mark Zuckerberg (facebook) verlangten in den letzten Jahren wiederholt nach einem bedingungslosen Grundeinkommen in Kombination mit einer Robotersteuer angesichts der kommenden Umbrüche auf dem Arbeitsmarkt: Menschliche Erwerbsarbeit, so die Prognose, werde in großem Ausmaß durch künstliche Intelligenz ersetzt. Die Gesellschaft, die von diesen Entwicklungen betroffen sein wird, erkennt diese bisher nicht oder kaum. Der technische Wandel vollzieht sich so schnell, dass kaum ein Normalbürger damit Schritt halten kann. Sich die Folgen einer umfassenden Digitalisierung vorzustellen fällt schwer. Das Thema der Risiken und Vorteile der Technologie ist brandaktuell. Doch es reicht weit in die Zeit zurück. Es ist das uralte Thema der menschlichen Zivilisation und des Fortschritts. Literat*innen aller Epochen haben sich damit auseinandergesetzt. In Science Fiction wird vorstellbar und erlebbar,

Aischylos

wie Technologien das Selbstverständnis der Menschen beeinflussen und welche Auswirkungen sich daraus für die Gesellschaft ergeben könnten. Sie greift Probleme auf, denen sich der einzelne in seiner jeweiligen Gegenwart angesichts der Neuerungen gegenübersieht. Wir können durch die Fiktion abgleichen, was davon wir riskieren wollen, und ob wir es überhaupt riskieren wollen. Indem wir in der Fiktion zum Beispiel einer weitreichenden künstlichen Intelligenz gegenübertreten, können wir gedanklich durchspielen, was uns im Gegensatz zu ihr ausmacht und in welcher Art von Gesellschaft wir leben wollen. Im besten Fall kann Fiktion ein moralisches Korrektiv sein im Sinne von: so wollen wir es nicht.

»Von mir, Prometheus, kommt dem Menschen alle Kunst.«: Zur Veranstaltung am 21. Oktober 2020 Fortschritt ist nur möglich durch Erkenntnisneugier. In Aischylos’ Drama »Der gefesselte Prometheus« – das wir als Science Fiction der Antike gelten lassen wollen – spiegelt sich sinnbildlich ein damit verbundener grundlegender Zwiespalt: sich Kultur und Fortschritt anzueignen bedeutet, sich über die Götter, sich über ein höheres Prinzip zu erheben. Prometheus wagt es und schenkt den Menschen Bewusstsein, Geist und Verstand, er macht sie zu autonomen und selbstbestimmten Wesen, die sich aus der Sklaverei der Götter befreien. Dafür muss er allerdings den Unsterblichen einen Funken Feuer entwenden und übertritt damit ein göttliches Gesetz. Zur Strafe soll er, an einen Felsen gekettet, bis in die Unendlichkeit leiden.So steht am Anfang der Zivilisation Prometheus’ Revolte gegen göttliche Machthaber und seine harte Bestrafung. Das Risiko, so stellt es Aischylos in »Der gefesselte Prometheus« dar, war es nach Prometheus’ Empfinden jedoch wert.

Christoph Ransmayr 6

Perpetuum mobile: Zur Veranstaltung am 4. November 2020 Kein Risiko geht dagegen Alister Cox aus Christoph Ransmayrs »Cox oder Der Lauf der Zeit« ein. Ein Perpetuum mobile soll er im Auftrag des chinesischen Kaisers erschaffen: eine bis in alle Ewigkeit tickende Uhr, die, einmal in Bewegung gesetzt, aus eigener Kraft weiter und weiter läuft. Sie ist zwar nicht nur der schon lang gehegte Traum des Uhrmachers Cox, sondern auch Gegenstand einer jahrhundertealten technologischen Sehnsucht, das utopische Ziel jeglicher Uhrenbaukunst – doch Cox würde sein Leben riskieren, wenn er sie in Gang setzte. Eine Uhr für die Ewigkeit würde den gottgleichen Alleinherrschaftsanspruch des Kaisers, des »Herrn über zehntausend Jahre«, in Frage stellen. Für diese Hybris droht die Todesstrafe. Also verzichtet Cox lieber darauf, sein Lebenswerk zum Laufen zu bringen. Die Erzählung des Uhrmachers Alister Cox beleuchtet ein gesamtgesellschaftliches Problem des Fortschritts: Das unbedingte Streben des Menschen nach Autonomie und Unabhängigkeit sei eine Form der Selbsttäuschung, so Karl Marx, ein »falsches Bewusstsein«, durch das der einzelne seine Abhängigkeit und Verletzlichkeit als Naturwesen verschleiere. Wenn durch Fortschritt die gesellschaftliche Organisation des Lebens grundsätzlich in Frage gestellt wird und wir Risiken eingehen, die die Substanz unserer Lebensgrundlage erschüttern, sollten wir sie hinterfragen – auch wenn dadurch große Vorteile verloren gehen. (Julia Hahn)