Matthias Zehnder: Die Digitale Kränkung. Über die Ersetzbarkeit des Menschen. by NZZ Libro

Garry Kasparov 1997 haben Computer den Menschen in nahezu jedem Brettspiel geschlagen : von Schach über Dame bis zu Go, dem komplexesten Spiel der Welt. Kasparov erlebte stellvertretend für die ganze Menschheit die erste digitale Kränkung. Indem der Computer besser Schach und Dame spielen, besser rechnen, ja : besser denken kann als der Mensch, nimmt er ihm zusehends das weg, was ihn bisher auszeichnete : rationale Leistung. Noch nie haben Maschinen den Menschen so grundsätzlich herausgefordert wie heute. Seit der Aufklärung definieren wir uns als vernunftbegabte Wesen. Plötzlich macht der Computer uns diese Ratio streitig. Was bedeutet das jenseits der digitalen Kränkung für das Menschenbild der Zukunft ? Und : Folgt auf das

M AT T H I A S Z E H N D E R

DI E DI G I TALE KRA NKU NG ÜBER DI E ER SETZ BA R KEI T DES MEN SC H EN

MATTHIAS ZEHNDER

rationale Zeitalter der Aufklärung nun das emotionale ?

DIE DIGITALE KRANKUNG

Seit dem legendären Schachmatt von Deep Blue gegen

ISBN 978-3-03810-409-4

www.nzz-libro.ch

NZZ LIBRO

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 4

Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

© 2019 NZZ Libro, Schwabe Verlagsgruppe AG Lektorat: Sigrid Weber, Freiburg Umschlag: icona basel Gestaltung, Satz: Claudia Wild, Konstanz Druck, Einband: Kösel GmbH, Altusried-Krugzell Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, ins besondere die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Ver vielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielfältigung dieses Werks oder von Teilen dieses Werks ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechts. ISBN 978-3-03810-409-4 ISBN E-Book 978-3-03810-482-7 www.nzz-libro.ch NZZ Libro ist ein Imprint der Schwabe Verlagsgruppe AG.

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 7

INHALT

Einführung: schachmatt Die Maschine besiegt den Menschen Ausgespielt Die digitale Kränkung Kränkungen der Menschheit Die Erschütterung macht die Kränkung Das Erschütternde des Digitalen Revolutionäre Maschinen Wie Technik zu Revolutionen führt Wie Technik schrittweise den Menschen ersetzt Revolutionäre Computer: von der Dechiffriermaschine zur Denkmaschine Es begann im Zweiten Weltkrieg Die Singularität Auf dem Weg zur intelligenten Maschine Revolutionäre Roboter Traum und Albtraum der Menschen Roboter kommen aus der Fiktion Vom Zerstörer zum Verführer Roboter in der Realität Hand in Hand mit den Menschen Wie uns die Maschinen über den Kopf wachsen Die Gott-Perspektive Der grosse Stellenabbau Was die Menschen wollen Konsequenzen für den Menschen Wir stehen erst am Anfang Ausblick Anmerkungen Literatur Der Autor

9 9 13 19 19 23 26 29 29 38 43 43 45 51 63 63 64 66 70 73 83 83 89 94 101 101 108 115 120 128

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 8

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 9

EINFÜHRUNG: SCHACHMATT

Am 11. Mai 1997, nachmittags um 16 Uhr, sass Schachweltmeister Garry Kasparow im 35. Stockwerk eines Hochhauses in Manhattan regungslos vor einem Schachbrett, den Kopf in beide Hände gestützt. Dann schüttelte er den Kopf, stand auf, gestikulierte wild und verliess den Raum. Das bis dahin Unvorstellbare war geschehen: Ein Computer namens Deep Blue hatte den amtierenden Schachweltmeister in einem regulären Match geschlagen. Kasparow war 1997 der beste Schachspieler der Welt und überzeugt, dass eine Maschine ihn nie würde schlagen können. Umso wütender war er nach dem verlorenen Match. DIE MASCHINE BESIEGT DEN MENSCHEN

Garry Kimowitsch Kasparow, 1963 in Baku, Aserbaidschan, als Sohn einer Armenierin und eines jüdischen Vaters geboren, hatte im Alter von fünf Jahren die Schachregeln erlernt. Mit zwölf war er bereits sowjetischer Jugendmeister. Kasparow spielte aggressiv und temperamentvoll. Sein Spitzname lautete «das Biest aus Baku». Als er 17 Jahre alt war, erreichte er den Status eines Grossmeisters. 1984, im Alter von 21 Jahren, forderte er den damals amtierenden Schachweltmeister Anatoli Karpow heraus. Karpow war nicht nur der beste Schachspieler der Welt, sondern auch der Liebling der sowjetischen Führung. Kasparow war das egal. Er spielte nicht einfach gegen Karpow, er rannte gegen ihn an, aggressiv, skrupellos – und zermürbte ihn schliesslich. Nach 48 Partien ohne Sieger wurde der Wettkampf abgebrochen und sieben Monate später als Schachweltmeisterschaft 1985 fortgesetzt. Kasparow gewann diesen Kampf und wurde mit 22 Jahren der jüngste Schachweltmeister aller Zeiten. Als Kasparow 1997 gegen Deep Blue verlor, war er 34 Jahre alt und immer noch Schachweltmeister. Zuvor hatte er erklärt, dass eine Maschine es nie schaffen würde, den Menschen im Schach zu besiegen. Bis dahin war es ihm auch mühelos gelungen, gegen die Maschinen zu gewinnen. Bereits 1989 hatte er sich erfolgreich gegen einen Computer namens Deep Thought behauptet. 9

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 10

Doch dann hatte IBM Research das Team übernommen, das Deep Thought entwickelt hatte, und diesem enorme Ressourcen für die Weiterentwicklung des Rechners zur Verfügung gestellt. Als Kasparow im Februar 1996 gegen den Nachfolger von Deep Thought antrat, gewann der Rechner denn auch das erste Spiel. Doch Kasparow drehte auf, ging aus drei Spielen als Sieger hervor, erzielte zwei Unentschieden und entschied das Match für sich. Der Mensch hatte noch einmal gegen die Maschine gesiegt. Doch Deep Blue, der dritten Inkarnation des Computers, gelang es schliesslich, Kasparow vom Thron zu stossen. IBM hatte massiv in Rechenkraft investiert. Experten nennen das die «brute force»-Taktik. Der Computer war in der Lage, 200 Millionen Züge pro Sekunde zu berechnen. Dafür arbeiteten 30 Rechnerknoten nebeneinander, die mit je 120 Prozessoren bestückt waren. Diese Rechnerarchitektur erreichte 1997 (für damalige Verhältnisse) sagenhafte 11,38 Gigaflops, war also in der Lage, über elf Billionen Gleitkommaoperationen pro Sekunde zu berechnen. Zu viel für Garry Kasparow. Das erste Spiel des Matchs hatte Kasparow noch gewonnen. Im zweiten wurde er von Deep Blue besiegt, die folgenden Spiele endeten unentschieden, bis Deep Blue das sechste und entscheidende Spiel gewann. Der Computer eröffnete das Spiel mit dem weissen Bauern von e2 nach e4. Kasparow wählte, sehr untypisch für das «Biest von Baku», eine vorsichtige Strategie: die sogenannte Caro-Kann-Verteidigung. Er schob den schwarzen Bauern von c7 nach c6. Kasparow, einer der besten Kenner von Eröffnungen, wusste genau, dass diese Eröffnung für ihn schwierig werden würde – es sei denn, Weiss machte einen Fehler, und darauf setzte er wohl. Denn Weiss kann bei dieser Eröffnung seinen Vorteil nur behaupten, wenn ein Pferd geopfert wird. Und Computer neigten damals dazu, materialistisch Schach zu spielen, das heisst, sie versuchten, den Verlust einer Figur möglichst zu vermeiden. Doch Deep Blue kannte wohl die entscheidende Seite im Buch über Eröffnungen und opferte das weisse Pferd. Wenige Züge später fand sich Kasparows König auf einem Feld gefangen. Kasparow musste den König verteidigen und kam nicht mehr dazu, anzugreifen. Bereits nach 18 Zügen gab er auf. Die Maschine hatte den Menschen besiegt.1 Kasparow tobte. Er beschuldigte IBM, geschummelt zu haben. Der Computer habe im zweiten Spiel im 37. Zug gespielt, wie das nur ein Mensch könne. Die Programmierer hätten den Computer folglich unzulässig unterstützt. Auf der Pressekonferenz erklärte Kasparow, die Partie erinnere ihn an das berühmte Tor, das der argentinische Stürmer Diego Maradona gegen England 10

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 11

im Viertelfinalspiel der Fussballweltmeisterschaft 1986 erzielt hatte. Fernsehbilder bewiesen damals, dass Maradona den Ball nicht mit dem Kopf, sondern mit der Hand ins Tor gelenkt hatte. Maradona sprach später von der «Hand Gottes». Kasparow warf den Programmierern vor, die «Hand Gottes» zur Hilfe genommen und sich unzulässig manuell ins Spiel des Rechners eingemischt zu haben. Nach dem Match verlangte Kasparow deshalb von IBM die Veröffentlichung der Computerlogs, auf denen zu sehen war, was der Computer während des Spiels gerechnet hatte. Dass IBM sich lange weigerte, diese Logs herauszugeben, schürte den Verdacht, Kasparow könnte recht haben. Doch Feng-Hsiung Hsu, einer der Konstrukteure von Deep Blue, widersprach Kasparow später in einem Buch vehement. Er konnte belegen, dass Deep Blue schlicht schneller rechnen konnte. Mittlerweile sind auch die Computerlogs verfügbar. Sie belegen, dass 1997 alles mit rechten Dingen zugegangen ist. Der Computer hatte den Menschen besiegt.2 Oder hatte Kasparow einfach nur einen schlechten Tag? «Kasparow hat gegen den Computer so defensiv gespielt, wie ich ihn noch nie erlebt habe», erklärte Vizeweltmeister Viswanathan Anand gegenüber dem deutschen Nachrichtenmagazin Der Spiegel.3 Kasparow habe nicht sein Schach gespielt, sondern ein «Anti-Computer-Schach. Er hat versucht, Spielverläufe zu verhindern, bei denen die Maschine erfahrungsgemäss besonders gut spielt.» Er wollte die Maschine offenbar mit Spielzügen beschäftigen, für die es in der abgespeicherten Schachbibliothek keine Antwort gab. «Das ist effektiv, aber langweilig.» Auf diese Weise habe Kasparow Stellungen provoziert, «die der Rechner nicht mehr kapiert – Kasparow allerdings auch nicht». Die Niederlage Kasparows könne nur einen Grund haben: «Nicht die Maschine, er selbst hat sich besiegt, weil er zu viel Respekt hat oder zu nervös ist.» Kasparow selbst sah das freilich anders. Noch eineinhalb Jahre nach der verlorenen Schachpartie gegen Deep Blue warf er IBM in einem Interview mit der französischen Zeitung Libération vor, den Schachcomputer manipuliert, «in jeder Beziehung gemogelt» und illegale Methoden benutzt zu haben.4 Warum machte dieses eine Match in Manhattan so grosse Schlagzeilen? Warum wollte Kasparow seine Niederlage um keinen Preis eingestehen? Warum das Theater? Der Computer Deep Blue hatte Garry Kasparow nicht in irgendeinem Spiel besiegt, sondern im Schach, dem königlichen Spiel, dem, wie Stefan Zweig in der Schachnovelle schreibt, «einzigen unter allen Spielen, die der Mensch ersonnen, das sich souverän jeder Tyrannis des Zufalls ent11

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 12

zieht und seine Siegespalmen einzig dem Geist oder vielmehr einer bestimmten Form geistiger Begabung zuteilt».5 Schach sei viel mehr als ein Spiel, es sei eine Wissenschaft, eine Kunst! Und ausgerechnet in diesem Spiel hatte der Computer den besten menschlichen Spieler besiegt. Vor diesem Hintergrund wird Kasparows Zorn verständlich. Es war nicht einfach die Wut eines besiegten Manns. Es war die Wut des von der Maschine bezwungenen Menschen per se, es war eine Kränkung. Kasparows Niederlage am 11. Mai 1997 steht für mich deshalb sinnbildlich für die digitale Kränkung der Menschheit, eine Kränkung, die sich seither 100-fach, 1000-fach, millionenfach wiederholt hat. Dieser digitalen Kränkung ist dieses Buch gewidmet. Dass Kasparow das Schachmatch 1997 verlor, beleidigte nicht einfach ein grosses Ego (das wohl auch), es war stellvertretend eine Kränkung der ganzen Menschheit, weil der Computer den Menschen in jenem Punkt übertroffen hatte, von dem der Mensch bis dahin davon ausgegangen war, dass er ihn ausmacht. Der Computer hatte den Verstand, oder, wie Stefan Zweig schreibt, sogar den Geist eines Menschen besiegt. Seit der Antike gilt der Mensch als «animal rationale». Das ist die lateinische Übersetzung der Definition des Menschen von Aristoteles als «zoon logon» echon, als Vernunftwesen.6 Damit hob Aristoteles die Denkfähigkeit des Menschen als jene Eigenschaft hervor, die ihn vom Tier unterscheidet. Immanuel Kant ging vor 250 Jahren noch einen entscheidenden Schritt weiter: Er bezeichnete den Menschen als «animal rationabile», also als potenziell vernunftbegabtes Wesen. Erst die Verwirklichung seiner Vernunftfähigkeit mache den Menschen aus. 1784 schrieb Kant seinen Essay «Beantwortung der Frage: Was ist Aufklärung?» Er beginnt mit den berühmten Sätzen: «Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen.» Der mündige Mensch zeichnet sich dadurch aus, dass er sich «seines Verstandes ohne Leitung eines anderen» bedienen kann. Kant fordert deshalb: «Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen!» Der Mensch zeichnet sich also durch seinen Verstand aus, durch seine Ratio. Und jetzt kommt da so ein Computer und besiegt den besten Schachspieler der Welt. Damit zeigt der Computer, dass seine Fähigkeit dem Verstand des Menschen zumindest im Schachspiel überlegen ist. Weil Schach aber als Spiel des Verstands gilt, wird aus dem Sieg des Schachcomputers 12

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 13

über Kasparow der symbolische Sieg der Maschine über den Verstand des Menschen. Das bedeutet nichts weniger, als dass sich der Mensch nicht mehr auf den Verstand berufen kann, wenn es darum geht, was den Menschen ausmacht. Insofern neigt sich das Zeitalter der Aufklärung dem Ende zu und wir brauchen ein neues Menschenbild. Ein Menschenbild, das sich nicht mehr auf den Verstand als jene Instanz beruft, die den Menschen ausmacht. Dieser Behauptung gilt es im Folgenden auf den Grund zu gehen. Dabei stehen folgende Fragen im Zentrum: –– Was bedeutet es genau, dass die Menschheit gekränkt wurde? Was ist eine Kränkung und was löst diese Kränkung aus? –– Wenn der Computer den Menschen besiegt und ihn damit kränkt, was bedeutet das für die künftige Entwicklung? Wo stehen wir in der Entwicklung von Computern oder genereller: von Maschinen und in welche Richtung werden sie sich weiterentwickeln? –– Wenn der Computer den Menschen generell «besiegt», ihn also überflügelt – ersetzt er ihn dann künftig in Arbeitsprozessen? Werden wir alle arbeitslos? Und sehen die Menschen dieser Ersetzung durch den Computer einfach zu? –– Und schliesslich: Was bedeutet das für unser Menschenbild, wenn uns Computer und Roboter überflügeln und ersetzen? Was macht künftig den Menschen noch aus, wenn der Computer ausgerechnet das dem Menschen abnimmt, worüber er sich in den letzten 250 Jahren definiert hat? War der Sieg von Deep Blue über Garry Kasparow also wirklich ein Wendepunkt in der Geschichte oder ist es nur eine spannende Episode? AUSGESPIELT

Es war definitiv keine Episode. Heute mögen wir über Kasparows heiligen Zorn lächeln. Wir merken nicht einmal mehr, wie unsere Computer uns demütigen: Wir haben uns damit abgefunden. Denn Computer haben sich so rasch weiterentwickelt, dass Leistungen wie die von Deep Blue längst alltäglich sind. Der Grossrechner, der Kasparow 1997 besiegte, war so gross wie ein Familienkühlschrank und hatte eine Rechenleistung von 11,38 Gigaflops. Heutige Mobiltelefone leisten etwa das 50-Fache. Wir alle tragen also etwa 50 Deep-Blue-Rechner in der Westentasche herum, Rechner, die jederzeit in der Lage sind, uns nicht nur im Schach zu schlagen. Wir tragen sie mit uns 13

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 14

herum und bilden uns ein, dass wir sie beherrschen. Wir verdrängen die digitale Kränkung, die Kasparow damals noch so wütend gemacht hat – oder wir haben sie akzeptiert. Noch 2002 erklärte Kasparow gegenüber dem Spiegel, dass Computer zwar immer cool bleiben und rasend schnell rechnen können, aber um wirklich gut Schach spielen zu können, brauche es mehr. «Wenn sie in bestimmten Endspielen Wendungen erzwingen können, spielen sie wie Gott – fehlerlos. Dennoch glaube ich, dass ich derzeit mit taktischen Manövern gute Chancen habe, gegen die Maschine zu gewinnen.»7 In einigen Jahren werde das vielleicht bei einem längeren, ermüdenden Wettkampf nicht mehr so sein. «Aber auf absehbare Zeit wird der beste Schachspieler immer mal eine Partie gegen den Computer gewinnen. Darauf kommt es an. Auf diese eine Partie, in der wir Menschen uns durch Kreativität durchsetzen – solange das geht, sind wir noch vorn.»8 Doch in vielen Bereichen gelingt genau das nicht mehr: Der Computer hat mittlerweile die jeweils besten menschlichen Spieler in praktisch jedem Spiel besiegt. In einem ersten Schritt hat sich der Computer Spiele datenmässig komplett einverleibt. Ein Beispiel dafür ist Dame. Schon früh haben sich Computerwissenschaftler für das Spiel mit 24 Steinen auf einem schachgleichen Brett, das in Amerika «Checkers» heisst, interessiert. 1994 brachte es ein Damecomputer namens Chinook zum Weltmeister: Er besiegte den amtierenden Titelträger Marion Tinsley, einen Mann, der jahrzehntelang die Welt des Damespiels beherrscht hatte. Wie Kasparow im Schach war Tinsley in Dame nicht einfach Weltmeister, sondern der mit Abstand beste Spieler der Welt. Hinter Damecomputer Chinook stand Jonathan Schaeffer, Computerwissenschaftler an der Universität von Alberta in Edmonton, Kanada. Seit 1989 beschäftigte sich Schaeffer mit Dame und gab seinen Computern den Befehl, das Spiel zu lösen. Diese kalkulierten jeden möglichen Spielzug durch ‒ eine herkulische Aufgabe. Über 18 Jahre lang arbeiteten die Rechner. 2007 war es dann soweit: Schaeffer erklärte, das Damespiel sei gelöst. Der Computer kannte nun jeden möglichen Spielzug und konnte nicht mehr verlieren. Selbst bei perfektem Spiel des Gegners holen die Rechner aus jeder Situation mindestens ein Unentschieden heraus. Das heisst nicht, dass der Computer intelligent wäre: Er simuliert die Spielintelligenz nur – für den Menschen ist das Resultat aber dasselbe. Er hat keine Chance mehr im Spiel. Game over.9 14

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 15

Es gibt Spiele, die sich auf diese Weise nicht lösen lassen. Die amerikanische Quiz-Show Jeopardy ist so ein Fall: Das Spiel beruht auf Konversation und Um-die-Ecke-Denken. Den drei Kandidaten, die um Geld spielen, werden nicht einfach Fragen gestellt. Sie erhalten Schlüssel in Form von Antworten präsentiert und müssen dazu eine passende Frage formulieren. Das ist ganz schön schwierig. Der Schlüssel lautet zum Beispiel: «Er hat die Dampfmaschine erfunden.» Die Lösung, also die passende Frage darauf, lautet: «Wer war James Watt?» Dank sogenannter Künstlicher Intelligenz (KI) sind Computer aber in der Lage, so clever auf grosse Wissensdatenbanken zuzugreifen, dass sie auch in diesem Spiel den besten menschlichen Spielern den Rang ablaufen. Im Februar 2011 besiegte IBM-Supercomputer Watson, ein Nachfolgeprojekt von Deep Blue, die beiden Jeopardy-Champions Brad Rutter und Ken Jennings. Verglichen mit der Aufgabe, der sich Supercomputer Watson stellen musste, war das Schachspiel von Deep Blue ein Kinderspiel. Deep Blue konnte sich auf zwei Dinge verlassen: auf eine riesige Datenbank mit Schachstellungen und auf seine Rechenpower, die es ihm erlaubte, mögliche Schachzüge in Sekundenbruchteilen durchzurechnen. Watson hingegen benötigt mehr als nur Speicher und Rechenkraft. Er braucht etwas, das man bei einem Menschen als Intelligenz bezeichnen würde. Der Computer muss Sprache interpretieren, Bezüge schaffen, eine Antwort finden und diese Antwort dann zu einer Frage umformulieren. Anders gesagt: Es geht um Sprachverständnis und Weltwissen, kombiniert mit Intuition – und jeder Menge Hintersinn. Denn das Fernsehquiz ist bekannt für «launige Fragen voller Anspielungen und verdrehter Logik», wie der Spiegel schreibt.10 Ein Beispiel: «Der Name dieses Hutes ist elementar, mein lieber Kandidat!» Menschen hören daraus eine Anspielung auf den berühmten Satz von Sherlock Holmes «mein lieber Watson!» und erinnern sich daran, dass er immer eine seltsame, karierte Mütze mit Augen- und Nackenschirm sowie Ohrenklappen trug. Wenn sie jetzt noch wissen, dass es sich dabei um eine Jagdmütze handelt, die «Deerstalker-Mütze» heisst, ist es ihnen möglich, eine passende Frage zu formulieren. Menschen können mit ihrem Wissen auf diese Art und Weise spielen. Aber wie soll ein Computer Anspielungen, ja Ironie verstehen? Dazu kommt, dass das grösste Computergedächtnis der Welt nichts nützt, wenn man die Frage nicht richtig versteht. Menschen haben keine Probleme, eine Frage zu beantworten wie: «Chile teilt seine längste Grenze mit diesem Land.» Computer tun sich hingegen schwer damit, weil es keine Datenbank 15

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 16

gibt, in der sie die Antwort sofort finden. Sie müssen «denken». IBM-Chefwissenschaftler David Ferrucci und sein Team haben deshalb einen ganz neuen Weg eingeschlagen: Sie haben Watson das Wissen, das er braucht, nicht von Hand eingeträufelt, sondern ihn selbstständig lernen lassen. Ein wichtiges Instrument dabei ist die Statistik: Watson merkt sich häufige Verbindungen und kann auf diese Weise zum Beispiel mit mehrdeutigen Wörtern umgehen. Wenn in der Umgebung des Worts «Kiwi» von Joghurt oder von Löffel die Rede ist, handelt es sich wohl um die Frucht. Wenn dagegen das Wort «Nest» oder «fressen» vorkommt, dann meint «Kiwi» den Vogel. Rohmaterial für das statistische Lernen findet der Computer problemlos, zum Beispiel im Internet. Auf diese Weise «lernt» er, dass Boote sinken können, aber nicht in einem Swimmingpool – es sei denn, es handelt sich um ein Spielzeugboot. Neues Wissen zerlegt Watson in seine Bestandteile und überprüft, ob es zu dem passt, was er sich schon gemerkt hat. Das ist maschinelles Lernen. Und das kann auch schiefgehen. «Künstliche Intelligenz voller Vorurteile: Algorithmen fallen immer öfter durch Rassismus und Sexismus auf», berichtete etwa die NZZ.11 Selbstlernende Algorithmen lernen anhand von Vorbildern, die sie in der Welt (meistens im Internet) finden. Das führt dazu, dass sich die Maschinen auch Vorurteile und Werturteile aneignen, die sie zum Beispiel im Internet vorfinden ‒ und die sind oft sexistischer und rassistischer Natur. Beim Jeopardy-Spielen zerlegt Watson die Frage in ihre Bestandteile und sucht in seinen Datenbanken nach möglichen Lösungen. In einem ersten Schritt trägt er alle möglichen Lösungen zusammen. In einem zweiten Schritt überprüfen Hilfsprogramme die Lösungen auf ihre Plausibilität. Wie wahrscheinlich ist die Lösung? Stimmen die Zeitangaben? Watson sortiert nach Wahrscheinlichkeit und streicht, was nicht passt, bis er auf die wahrscheinlichste Lösung gestossen ist. Mit anderen Worten: Watson antwortet nicht einfach, er überprüft vorher, ob die Antwort auch zutreffen kann. Gegenüber der New York Times erklärte David Ferrucci: «Unser Ziel war der Computer aus Star Trek, mit dem ein intelligenter Suchdialog möglich ist, ein Computer, dem man Nachfragen stellen kann und der alle möglichen Fakten sucht und selbst nachfragt.»12 Drei Tage dauerte das Jeopardy-Quiz zwischen Brad Rutter und Ken Jennings und der Maschine. Am ersten Tag lagen Menschen und Computer noch gleichauf. Doch das änderte sich rasch. Am Ende des dritten Tags hatte Watson dreimal so viele Punkte auf seinem Konto wie die beiden menschlichen Spieler. 16

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 17

Watson beeindruckte die Experten und das Publikum wunderte sich. Trotzdem machte der Jeopardy-Sieger im Februar 2011 lange nicht so dicke Schlagzeilen wie sein Vorgänger Deep Blue 14 Jahre zuvor. Allen Beteiligten war klar, dass Watson das Verstehen von Sprache und damit die Intelligenz nur simuliert hatte. Er hatte keine Vorstellung von Sherlock Holmes und seiner Mütze, sondern fand nur die Wörter in der richtigen Konstellation in seinen Datenbanken. Anders als Garry Kasparow waren Ken Jennings und Brad Rutter auch nicht wütend oder zornig. Sie nahmen die Niederlage sportlich. Hatten die Menschen eingesehen, dass die Computer keine Gefahr für sie sind? Oder hatten sie sich bereits daran gewöhnt, von Computern herausgefordert – und geschlagen – zu werden? Als komplexestes Spiel der Welt gilt das asiatische Brettspiel Go. Bis vor Kurzem gingen auch Experten davon aus, dass es einem Computer nie gelingen würde, den Menschen darin zu schlagen. Denn Go lässt sich nicht berechnen wie Dame und eine blosse KI reicht auch nicht aus, um das Spiel zu beherrschen. Mittlerweile ist der Computer aber in der Lage, die Funktionsweise des menschlichen Gehirns zu imitieren, und zwar mithilfe sogenannter Künstlicher Neuronaler Netze (KNN). Auf diese Weise ist es dem Experimentalcomputer AlphaGo von Google am 9. März 2016 in Seoul gelungen, den 33-jährigen Südkoreaner Lee Se-dol, den besten menschlichen Go-Spieler, spektakulär zu schlagen. Go ist vor über 3000 Jahren in China entstanden. Zwei Spieler kämpfen mit schwarzen und weissen Steinen auf einem Brett, das aus 19 mal 19 Linien besteht, um Territorium. Go ist viel komplexer als Schach, hat viel mehr mögliche Spielzüge und setzt nicht nur strategisches Denken, sondern auch Instinkt und Psychologie voraus. Trotzdem hatte der Computer von Google gegen Lee Se-dol nicht etwa knapp gewonnen, sondern ihn mit 5:0 förmlich vom Platz gefegt. «Ich bin sehr überrascht, ich hätte nicht gedacht, dass ich verliere», erklärte Lee nach dem Spiel. «Ich wusste nicht, dass AlphaGo ein so perfektes Go spielen wird.»13 Anders als Garry Kasparow, der 20 Jahre zuvor wütend aus dem Raum gestürmt war, behielt aber auch Lee die Contenance und nahm die Niederlage hin. 2016 hatten sich die Menschen schon daran gewöhnt, dass ihnen Computer in vielen Dingen überlegen sind. Es besteht kein Zweifel: Der Sieg von Deep Blue über Garry Kasparow war kein Zufall. Es war der Anfang vom Ende der verstandesmässigen Vorherrschaft der Menschen. Der Mensch hat ausgespielt. 17

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 18

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 19

DIE DIGITALE KRÄNKUNG

Das Schachspiel zwischen Garry Kasparow und Deep Blue 1997 wurde also zum symbolischen Ur-Fall dessen, dass die Maschine den Menschen besiegte. Für Kasparow war die Niederlage ein Schlag ins Gesicht: eine Kränkung. KRÄNKUNGEN DER MENSCHHEIT

Der Begriff der Kränkung geht auf Sigmund Freud zurück. Vor etwa 100 Jahren hat er die Idee der narzisstischen Kränkung entwickelt und in Trauer und Melancholie (1917) beschrieben. Es handle sich um eine «Verletzung eines anderen Menschen in seiner Ehre, seinen Gefühlen und seiner Selbstachtung», mit anderen Worten um eine «Verwundung der seelisch-psychischen Integrität».14 Was heisst das genau? Der österreichische Psychiater, Psychotherapeut und Neurologe Reinhard Haller beschreibt die Kränkung als «nachhaltige Erschütterungen des Selbst und seiner Werte».15 Eine Kränkung sei dann besonders wirksam, wenn sie eine sensible Stelle der Persönlichkeit treffe. Dabei muss es sich keineswegs um einen wunden Punkt handeln, es kann auch eine Stärke sein: «Es geht um all das, was uns von besonderer Wichtigkeit ist, mit dem wir uns lange und intensiv auseinandergesetzt haben, was für uns einen hohen emotionalen Wert hat.»16 Das trifft bei Garry Kasparow ganz sicher auf das Schachspiel zu. Er definierte sich über das Spiel, sein ganzes Leben hatte sich um Schach gedreht. Haller schreibt weiter: «Kränkungen resultieren oft aus nicht erfüllten positiven Erwartungen. Deswegen haben sie viel mit Einstellung, Selbstbild, Hoffnung und Wünschen, vor allem aber mit Enttäuschung zu tun.»17 Zufrieden und ungekränkt könne man leben, wenn man realistische Ziele anstrebe und wenn die eigenen Erwartungen erfüllt würden. «Geschieht dies nicht, reagieren wir mit Enttäuschung und Kränkung.»18 Haller beschreibt also genau das, was Garry Kasparow passiert ist: Er hatte die Erwartung, die er in sein Schachspiel setzte, nicht erfüllt – und das vor den Augen der ganzen Welt. Was für eine Kränkung! 19

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 20

Und die Kränkung betrifft nicht nur Garry Kasparow: Wenn der beste Schachspieler der Welt gegen einen Computer verliert, dann hat er stellvertretend für die ganze Menschheit gegen eine Maschine verloren. Das bedeutet aber auch: Nicht nur Kasparow wurde an jenem Nachmittag im Mai 1997 gekränkt – sondern die ganze Menschheit. Die Idee, dass die ganze Menschheit gekränkt werden kann, geht ebenfalls auf Freud zurück: In einer seiner Vorlesungen zur Einführung in die Psychoanalyse hat er die Kränkungen der Menschheit postuliert.19 Er meint damit, dass wissenschaftliche Erkenntnisse, die das bestehende Weltbild umstürzen, das Selbstverständnis der Menschheit in Form einer Kränkung infrage stellen. Konkret beschreibt Freud drei grosse Kränkungen, die die Wissenschaft der Menschheit im Lauf der Zeit zugefügt habe: «Die erste, als sie erfuhr, daß unsere Erde nicht der Mittelpunkt des Weltalls ist, sondern ein winziges Teilchen eines in seiner Größe kaum vorstellbaren Weltsystems.»20 Diese kosmologische Kränkung hat Kopernikus der Menschheit zugefügt. «Die zweite dann, als die biologische Forschung das angebliche Schöpfungsvorrecht des Menschen zunichte machte, ihn auf die Abstammung aus dem Tierreich und die Unvertilgbarkeit seiner animalischen Natur verwies.» Freud spricht hier von der Entdeckung der Evolution durch Charles Darwin, die er als biologische Kränkung bezeichnet. «Die dritte und empfindlichste Kränkung aber soll die menschliche Größensucht durch die heutige psychologische Forschung erfahren, welche dem Ich nachweisen will, dass es nicht einmal Herr ist im eigenen Hause, sondern auf kärgliche Nachrichten angewiesen bleibt von dem, was unbewusst in seinem Seelenleben vorgeht.» Freud spricht hier von seiner eigenen Entdeckung des Unbewussten – diese dritte, die psychologische Kränkung hat er selbst der Menschheit zugefügt. Das sind sie also, die drei grossen Kränkungen der Menschheit durch Kopernikus, Darwin und Freud, die drei grossen Verletzungen des menschlichen Narzissmus. Heute können wir vielleicht nicht mehr nachvollziehen, welch umwälzende Wirkung diese drei Entdeckungen auf die Menschen hatten. Begreifbar wird etwa die kosmologische Kränkung in Bertolt Brechts Theaterstück Das Leben des Galilei. Brecht schildert darin, wie sich Galileo gegen das kirchlich unterstützte, ptolemäische Weltbild wandte, wonach die Erde im Zentrum des Universums steht. Galileo ergriff stattdessen für das kopernikanische Weltbild Partei, wonach die Erde um die Sonne kreist. Papst Urban VIII. bestellte ihn daraufhin nach Rom, wo ihm die Inquisition den Prozess machte. 20

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 21

Etwa in der Mitte des Theaterstücks kommt es im Palast des florentinischen Gesandten in Rom zu einem Gespräch zwischen Galilei und «dem kleinen Mönch». Der kleine Mönch erklärt Galilei, er habe den Sinn der kirchlichen Entscheidung verstanden und die Gefahren entdeckt, die ein «allzu hemmungsloses Forschen» mit sich brächten. Er sei als Sohn von Bauern in der Campagna aufgewachsen. «Es sind einfache Leute. Sie wissen alles über den Ölbaum, aber sonst recht wenig.» Für die Menschen sei es eine harte Arbeit auf den steinigen Böden der Campagna. «Es ist ihnen versichert worden, dass das Auge der Gottheit auf ihnen liegt.» An ihnen sei es, sich in ihren Rollen zu bewähren. «Was würden meine Leute sagen, wenn sie von mir erführen, dass sie sich auf einem kleinen Steinklumpen befinden, der sich unaufhörlich drehend im leeren Raum um ein anderes Gestirn bewegt?» Der kleine Mönch bittet Galileo deshalb, zu schweigen, dem Seelenfrieden der Campagna-Bauern zuliebe. Diese würden ihr Schicksal nicht ertragen, wenn sie wüssten, dass sie nicht im Zentrum des Universums stehen. Galileo mag (gezwungenermassen) geschwiegen haben – dennoch konnte der kleine Mönch auf Dauer nicht verhindern, dass die Campagna-Bauern aus dem Zentrum des Universums vertrieben und entsprechend heftig gekränkt wurden. Vielleicht können wir ihr Empfinden etwas nachfühlen, wenn wir eine moderne Sternkarte anschauen und realisieren, dass unsere Erde ein unwichtiger, kleiner Planet ist, der am Rande des Universums um einen mittelmässigen Stern kreist, der langsam, aber sicher verglüht. Charles Darwin, der nächste grosse Menschheitskränker auf der Liste von Freud, war sich der Fürchterlichkeit seiner Entdeckung bewusst. Seine Theorie über die Entstehung der Arten hat er zwischen 1837 und 1842 entwickelt, aber erst 17 Jahre später veröffentlicht. Nachdem er sie in den wesentlichen Zügen in seinen Notizbüchern skizziert hatte, weihte er in einem Brief seinen Freund, den Botaniker Joseph Hooker, in sein «fürchterliches Geheimnis» ein: «Ich glaube, ich habe das Prinzip gefunden, durch das sich die Arten ihrem jeweiligen Zwecke anpassen.» Bei diesem Prinzip handelte es sich um die natürliche Auslese. Darwin war überzeugt, dass alles Leben auf der Erde letztlich einer gemeinsamen Wurzel entspringt. Und er war sich der Konsequenzen seiner Entdeckung bewusst. Seinem Freund schrieb er: «Es ist, als ob man einen Mord gesteht.»21 Der «Mord» bestand darin, dass Darwin den Menschen ein zweites Mal aus dem Paradies vertrieb: Der Mensch war nicht mehr die Krone der Schöp21

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 100

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 101

KONSEQUENZEN FÜR DEN MENSCHEN

Seit jenem 11. Mai 1997, als Garry Kasparow wütend aus der Hotelsuite in New York stürzte, haben die Menschen immer mehr Terrain an die Computer und Roboter verloren. Computer übertrumpfen die Menschen dabei exakt in jenen Bereichen, die seit der Aufklärung vor 250 Jahren den Bildungskanon dominiert und das Menschenbild geprägt haben: Sie wissen mehr, sie können auf dieses Wissen besser zugreifen und sie handeln rationaler. WIR STEHEN ERST AM ANFANG

Beispiel Medizin: Künstliche neuronale Netzwerke sind heute in der Lage, den bösartigen Hautkrebs zuverlässiger zu erkennen als menschliche Hautärzte. Das berichtet Sebastian Thrun im Magazin Nature. Mit einem Team von Dermatologen und Informatikern hat er ein Computersystem mit 129 450 klinischen Bildern trainiert.112 Das künstliche neuronale Netzwerk musste sich mit 21 erfahrenen Dermatologen messen und 2000 vorgelegte Fotografien von Hautpartien untersuchen. Dabei übersah es nicht nur weniger Melanome, sondern stufte auch seltener harmlose Veränderungen als Tumor ein. Thrun erhofft sich, dass ein System mit dieser Technik Hautkrebsdiagnostik auf dem Handy zur Verfügung stellen und auf diese Weise viele Leben retten könnte. Denn der Computer arbeitet zuverlässiger und schneller als ein Dermatologe. Ähnlich gut arbeiten Computer mittlerweile, wenn es um die Diagnose von Brustkrebs in Mammografien geht: Ein mithilfe von Deep-Learning-Techniken trainiertes künstliches neuronales Netzwerk arbeitet heute mindestens so zuverlässig wie ein menschlicher Radiologe.113 Der grosse Vorteil des Computersystems: Es ermüdet nicht. Die beste Spezialistin, der erfahrenste Radiologe wird mit der Zeit an Konzentration verlieren, wenn sie oder er hintereinander viele Bilder beurteilen muss. Das Computersystem ist deshalb über die Zeit gesehen sogar besser: Im Test hat es 95 Prozent der Bilder richtig eingeschätzt. Das Diagnostizieren von Hautkrebs und Brustkrebs basiert auf dem Erkennen von Mustern. Darin sind Computer mit Künstlicher Intelligenz heute extrem gut. 101

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 102

Computer nehmen mittlerweile Verkehrszeichen deutlich besser wahr als Menschen und sind in der Lage, anhand der Körperhaltung eines Menschen zuverlässig zu beurteilen, ob ein Mensch nur so am Strassenrand steht oder gleich die Strasse überqueren möchte.114 Selbst die Mimik von Menschen können Computer heute ziemlich treffsicher beurteilen. Das Programm Affdex der amerikanischen Firma Affectiva hat mehrere Jahre lang Menschen in 75 Ländern dabei beobachtet, wie sie sich bestimmte Videos anschauten. Dabei hat es gelernt, wie sich ihre Gefühle auf den Gesichtern abzeichnen. Unabhängig von Alter, Herkunft oder Geschlecht scheint das, was sich auf unseren Gesichtern abspielt, universell lesbar zu sein. Affdex ist mittlerweile zuverlässiger im Entschlüsseln von menschlichen Emotionen als Menschen – und es kann ein echtes jederzeit von einem falschen Lächeln unterscheiden. Wenn es etwas zu lernen gibt, sind Computer heute rasch besser als jeder Experte. Kein Arzt kann jede Studie zu einem bestimmten Wissensgebiet lesen – Watson, das Expertensystem von IBM, schafft das spielend. Kein Mensch vermag die Wahlresultate in Hunderten von Gemeinden zu überblicken – ein Computer schon. Zum Beispiel Tobi, ein Textroboter, der für den Zürcher Tamedia-Verlag arbeitet. Im September 2018 hat Tobi dem Tages-Anzeiger zum ersten Mal bei der Abstimmungsberichterstattung geholfen: Für 526 Gemeinden der Kantone Bern und Zürich produzierte der Textroboter individualisierte Texte aus Textbausteinen. Leserinnen und Leser konnten online eine Postleitzahl eintippen und erhielten dann einen Artikel angezeigt, der die Resultate der betreffenden Gemeinde referierte. Wenn der Leser angab, wie er selbst abgestimmt hatte, erklärte Tobi zudem das Resultat in Bezug auf das Abstimmungsverhalten des Wählers und tröstete zum Beispiel: «Man kann nicht an jedem Abstimmungssonntag gleicher Meinung wie seine Gemeinde sein. Sie selber haben den drei Vorlagen zugestimmt. Wenigstens wurden Sie bei einer Vorlage vom Resultat nicht enttäuscht.»115 Die Zahl der Texte in Zeitungen und auf Internetseiten, die nicht mehr von Menschen, sondern von Textrobotern stammt, dürfte rasch zunehmen und es werden bald nicht mehr nur Börsenkurse und Wetterberichte sein, die der Computer referiert. Tamedia-VR-Präsident Pietro Supino geht davon aus, dass in zehn Jahren zwischen einem Viertel und einem Drittel der Artikel im Tages-Anzeiger von Robotern geschrieben werden.116 In noch grösserem Ausmass könnten Textroboter bei der Vorarbeit eingesetzt werden. So will Tamedia künftig auf den Sportresultatedienst der Schweizerischen Nachrichtenagentur SDA verzichten. Stattdessen sollen die Tamedia-Journalisten 102

www.claudia-wild.de: Zehnder__Die_digitale_Kraenkung____[Druck-PDF]/16.10.2019/Seite 128

DER AUTOR

128

Matthias Zehnder (* 1967), hat an der Universität Zürich Germanistik und Philosophie studiert und an der Universität Basel in Medienwissenschaften promoviert. Er beschäftigt sich seit den 1990er-Jahren als Publizist mit Themen rund um die Digitalisierung und mit den Folgen des technischen Fortschritts für die Menschen.