Trojanische Pferde unserer Zeit

Wir leben in einer Symbiose mit der Technik. Dabei stösst unser Selbstverständnis an vielen Stellen auf fundamentale Herausforderungen, die eine Neubestimmung des Humanen in seiner technischen Umwelt erfordern. Die Problematik ist oftmals nicht sogleich sichtbar und manifestiert sich erst im Nachhinein als zumeist unbeabsichtigte Konsequenz des Technikgebrauchs. Gerade die Digitalisierung, welche die gegenwärtige Etappe dieser Symbiose kennzeichnet, verkörpert die latente Gefahr, dass der Mensch zum Untertan der Geräte mutiert.

Die drängende Frage lautet, ob und inwieweit der Mensch einen Platz zu behaupten vermag, der ihm mehr zusichert als eine Existenz als blosser Geräte-Fortsatz. Gelingt es uns nicht, diesen Platz zu verteidigen, werden wir unseres Menschseins beraubt sein.

Trojanische Pferde unserer Zeit

Eduard Kaeser studierte theoretische Physik, Wissenschaftsgeschichte und Philosophie an der Universität Bern. Bis 2012 war er als Gymnasial­lehrer für Physik und Mathematik tätig. Er publiziert über Themen im Dreieck Wissenschaft, Technik und Philosophie.

EDUARD KAESER

www.schwabeverlag.ch

REFLEXE 55

Reflexe 55 Kaeser Druck.indd 1

EDUARD KAESER

Trojanische Pferde unserer Zeit

Kritische Essays zur Digitalisierung REFLEXE

04.09.18 18:03

Schwabe reflexe 55

Eduard Kaeser

Trojanische Pferde unserer Zeit Kritische Essays zur Digitalisierung

Schwabe Verlag

®

MIX Papier aus verantwortungsvollen Quellen

www.fsc.org

FSC® C083411

Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http:// dnb.dnb.de abrufbar. © 2018 Schwabe Verlag, Schwabe AG, Basel, Schweiz Dieses Werk ist urheberrechtlich geschützt. Das Werk einschließlich seiner Teile darf ohne schriftliche Genehmigung des Verlages in keiner Form reproduziert oder elektronisch verarbeitet, vervielfältigt, zugänglich gemacht oder verbreitet werden.

Umschlaggestaltung: icona basel gmbh, Basel Satz: 3w+p, Rimpar Druck: CPI books GmbH, Leck Printed in Germany ISBN Printausgabe 978-3-7965-3881-0 ISBN eBook (PDF) 978-3-7965-3891-9 Das eBook ist seitenidentisch mit der gedruckten Ausgabe und erlaubt Volltextsuche.

Zudem sind Inhaltsverzeichnis und Überschriften verlinkt. rights@schwabe.ch www.schwabeverlag.ch

Inhalt

Prolog: Die Symbiose von Mensch und Technik .............

9

1. Superschlaues Gerät – subschlauer Mensch ...............

17

2. Machina sapiens .......................................................

25

3. Wer fürchtet sich vor Künstlicher Intelligenz? ...........

33

4. Ist der Chatbot «jemand»? .......................................

45

5. Der Mensch als Algorithmenfutter ............................

51

6. Homo irrationalis .....................................................

63

7. Von der Troglodytenhöhle zum Chatroom ................

71

8. Die Maschine Mores lehren ......................................

83

9. Schlaflos im Internet ................................................

97

10. Moral aus dem Labor ............................................... 103 11. Von der Darm- zur Hirnsimulation .......................... 113 12. Unsere neurotelepathische Zukunft ........................... 127 5

13. Im Zeitalter der tückischen Probleme ........................ 133 14. Conditio transhumana .............................................. 141 15. Die Natur verschwindet im Technozän ..................... 153 16. Dialektik der Automatisierung .................................. 165 17. Glückstechnologien .................................................. 175 18. Schmerzensmaschinen ............................................. 183 19. Es gibt kein richtiges Leben im virtuellen ................... 189 20. Über digitale Askese ................................................. 199 Epilog: Mythologie der Technik ..................................... 209 Anmerkungen ............................................................... 219 Textnachweise ............................................................... 224

6

You say you got a real solution Well, you know we᾽d all love to see the plan.

You ask me for a contribution Well, you know we᾽re all doing what we can.

John Lennon & Paul McCartney

Prolog: Die Symbiose von Mensch und Technik

Holozän, Anthropozän, Technozän Das Holozän ist die jüngste erdgeschichtliche Epoche, fast 12 000 Jahre alt. In diesem Zeitraum hat sich die Natur in die Erdoberfläche eingezeichnet. Die Tektonik schob die Kontinente etwas auseinander, im frühen Holozän fand ein Klimawandel statt, das Land warf die Last der Eisschilder ab, der Spiegel der Meere erhöhte sich markant, aus den wärmer werdenden Ozeanen stieg das Kohlendioxid in die Atmosphäre, die «Sintflut» suchte das Land heim. Aber das einschneidendste Ereignis war das Erscheinen des Menschen, wie wir ihn heute kennen. Schätzungen gemäss sollen zu Beginn des Holozäns zwischen einer und zehn Millionen Menschen den Planeten bewohnt haben.

Seither ist diese Population auf über sieben Milliarden angewachsen, und diese besondere Art von Primaten ist im Begriff, die Oberfläche des Planeten mit einer Wucht umzugestalten, die vordem allein geologischen Kräften zugemutet wurde. Deshalb hat es sich eingebürgert, von einem neuen erdgeschichtlichen Zeitalter zu sprechen, in dem die Natur dem Mensch gewissermassen den Stab der Gestaltungsmacht übergibt: das Anthropozän.

Dieser Begriff wurde vom Chemie-Nobelpreisträger Paul Crutzen in einem Artikel der Zeitschrift Nature geprägt.1 Er datierte den Beginn dieses Zeitalters auf die Mitte des letzten Jahrhunderts, die Zeit also des Plutonium-Fallouts von Atomtests, des starken Anstiegs von fossilem Brennstoffverbrauch, dem Ausstoss von CO2 und vieler anderer Stoffe. Am 29. August 2016 präsentierte die Anthropocene Working Group, eine

9

fachlich hochkarätige Untergruppe der International Commission on Stratigraphy, in Kapstadt offiziell den Vorschlag, «Holozän» in «Anthropozän» umzubenennen.

Da aber vor allem Technik und Wissenschaft die eigentlichen Faktoren dieser Wirkmacht darstellen, sollte eigentlich präziser vom «Technozän» die Rede sein. Und dies nicht zuletzt auch, um darauf hinzuweisen, dass der «Anthropos» sich nicht in allen Erdteilen auf der gleichen technischen Entwicklungshöhe befindet. Es sind vielmehr ganz bestimmte, stark technik-abhängige Lebensformen, Wirtschaftssysteme und politische Strategien, die heute weite Teile des Planeten dominieren, und somit transportiert der Begriff des Technozäns implizit eine kritische Sicht auf die ungleiche globale Entwicklung der Technik.

Die vorliegenden Essays sind durchaus in einem solchen kritischen Geist verfasst. Sie handeln aber in erster Linie nicht von den globalen Folgen der neuen Technologien und ihrer Wirkmächtigkeit, sondern vielmehr von der Art und Weise, wie der Mensch mit den Geräten eine neue Symbiose eingeht. Der Psychologe Mihaly Csikszentmihalyi hat wiederholt auf dieses spezielle Verhältnis des Menschen zu Dingen hingewiesen: Die Gegenstände gehen […] mit dem Menschen ein oft symbiotisches Verhältnis ein […] Angesichts der Verflechtung zwischen unserem Überleben und dem der Dinge, die wir herstellen, empfiehlt es sich, die Beziehungen, die wir mit den Objekten eingehen, etwas genauer zu untersuchen. Denn wenn wir nicht zu einem besseren Verständnis der Dinge gelangen, laufen wir Gefahr, und ihnen mit Haut und Haar auszuliefern. Ich möchte […] betonen, dass wir nicht nur physisch, sondern, was viel wichtiger ist, auch psychisch von den Dingen abhängig sind.2

Man kann statt von Dingen auch von Artefakten sprechen. In der Symbiose mit ihnen stösst unser Selbstverständnis an vielen 10

Stellen auf Herausforderungen, und entsprechend ergibt sich daraus die Notwendigkeit einer Neubestimmung des Humanen in den Umwelten des Künstlichen. Die Herausforderungen sind häufig nicht sichtbar, sie manifestieren sich als nichtintendierte Konsequenzen des Technikgebrauchs. Und aus diesem Grund gewinnt an Bedeutung, was ich das «Unbewusste der Technik» nennen möchte.

Das Unbewusste der Technik Auf die Alltäglichkeit eines Geräts folgt seine Unsichtbarkeit.

Und Unsichtbarkeit gehört zum Signum der Macht. So verhält es sich auch mit der Macht von Geräten. Sie sinken ab in Routine, Gewohnheit, Selbstverständlichkeit. Das ist in mancherlei Hinsicht von Vorteil. Ich kann mich, um mich zu waschen, auf eine funktionierende Wasserzuleitung verlassen; die Elektrizitätsversorgung garantiert mir den Steckdosenkomfort im Haushalt; eine effiziente Entsorgungsanlage nimmt mir die Sorge um den Abfall ab; die Transportsysteme gestatten mir eine Beweglichkeit weit über das Lokale hinaus; ganz zu schweigen von den neuen Kommunikationsoptionen der elektronischen Medien.

Technik sedimentiert in unserem Habitus, und dies hat in technisch avancierten Gesellschaften dazu geführt, dass die Geräte meist nur dann aus dem «Unbewussten» auftauchen, wenn sie nicht funktionieren. Und selbst dann stellt sich meist bloss ein besonderes Problem der Reparatur und Wartung, nicht aber ein allgemeineres der Conditio humana. Gewiss, eine kaputte Wasserleitung flicken wir nicht durch philosophische Reflexion. Aber in dem Masse, in dem Technik in unsere Gewohnheiten übergeht, in dem Masse macht sie sich als ein unumgängliches Thema der Anthropologie bemerkbar. Technik wird invasiver, intimer, 11

«persönlicher». Ein banales Beispiel: In Diskussionen über Gadgets und Apps fällt ein neuerdings erhobener persönlicher Ton auf. «Was hast du gegen Google+?» bedeutet so viel wie: «Was hast du gegen mich?» Das Gerät scheint zu einem Identitätshalter (wenn nicht gar zu einer Identitätsprothese) zu werden. Bereits die Rede vom Technik-«Nutzer» ist deshalb eigentlich irreführend. Sie suggeriert eine Dualität: Hier der Mensch, dort die Technik. Aber längst sind wir nicht mehr die souveränen menschlichen Subjekte, die einfach technische Objekte benutzen.

Die Geräte «benutzen» auch uns. Wir bilden mit ihnen «symbiotische» Einheiten aus Mensch-plus-Gerät.

Conditio techno-humana Mit dieser Conditio techno-humana verknüpfen sich Risiken, deren zeitliche Fernwirkung wir kaum abschätzen können.

Natürlich gibt es das Technology Assessment, aber ohne an dessen Wert zu zweifeln, möchte ich behaupten, dass es eine Dimension viel zu wenig berücksichtigt. Wie uns schon die Psychoanalyse lehrt, ist das Unbewusste schwer kontrollierbar, und gerade dadurch übt es seine Macht auf uns aus. Jede Technik schafft Anreize zu einem bestimmten Verhalten und zu bestimmten Haltungen, und diese Anreize können sich in Abhängigkeiten verwandeln. «Sach»-Zwänge sind grösstenteils auf die Sache projizierte «Selbst»-Zwänge, die sich über Gewohnheiten in uns eingeschliffen haben.

Technik ist politisch. Die meisten von uns haben sich irgendeinmal relativ frei entschieden, ein Auto, einen Computer, ein Fernsehgerät, ein Handy anzuschaffen. Wirft man aus geringer Höhe einen Blick zurück auf die jüngere Technikgeschichte, erscheint diese als eine Parade grandioser Erfindungen, die uns ununterbrochen einreden, unser Leben sei dank 12

ihnen anders, besser, schöner, leichter geworden. Das verwundert eigentlich auch kaum, denn die Geschichte von neuen Medien und Geräten ist in ihrer Anfangsphase kaum von deren Promotion zu unterscheiden; sie wird vorzugsweise von Designern und Marktschreiern geschrieben, die ihre Produkte an die Frau und an den Mann bringen wollen. Sie wollen uns Alternativlosigkeit einreden: «Es gibt nichts Anderes, nichts Besseres!» In diesem Sinn gleichen technische Innovationen gesetzgeberischen Akten. Ihre Macht beruht darauf, dass sie die Bedingungen des öffentlichen, beruflichen und privaten Lebens mitdefinieren und auf Generationen hinaus festlegen können.

Technische Innovationen werden immer mehr im Schosse von global agierenden Konzernen mit ihren eigenen korporativen Interessen und Geheimnissen ausgeheckt, und das lädt sie mit besonderer politischer Brisanz auf. Die Rede von der Conditio techno-humana ist gerade hier angemessen und angezeigt.

Technik ist «trojanisch» Wie jede Macht schmückt sich auch technische mit Mythen.

Zum Kernbestand dieser Mythologie gehören heute: Souveränität, Sicherheit, Entlastung, Voraussicht. Technik macht uns frei und stark; sie macht unser Leben sicher; sie entlässt uns aus den Mühlen der Routine; sie erlaubt uns einen klaren Blick in die Zukunft. Ich ziehe nicht die Fortschritte in Zweifel, die wir dank diesen Errungenschaften erzielt haben. Wir sollten nur hellsichtiger gegenüber der Dialektik des Fortschritts werden, die uns auch neue Abhängigkeiten, Unsicherheiten, Belastungen und Unübersichtlichkeiten beschert. In diesem Sinn erweist sich Technik von ihrem Wesen her als «trojanisch». Ihr Nutzen ist stets von unbeabsichtigten verborgenen Nebeneffekten begleitet.

13

Besonders ein Trend verlangt nach Wachsamkeit: die quasi-religiöse Erwartung. Vermehrt umgeben sich die neuen Geräte auf dem Markt mit der Aura, von einem «Gott» geschaffen worden zu sein – machinae ex deo. Die Kundenbindung von Apple z. B. funktioniert nur deshalb so effizient, weil die globale Nutzerherde inzwischen durch die Liturgie der Werbung dermassen in Stimmung versetzt ist, dass sie jedes Jahr die neueste Generation von iProdukten zu sich nimmt wie Gläubige die Oblate in der Kirche. Die Entwicklung ist hier nicht zu Ende. Die Technikverehrung nimmt sektiererische Züge an. Nun beginnt man der Gottheit in der künstlichen Intelligenz – deus in machina – zu huldigen.

Nicht zuletzt gibt aber das Unbewusste der Technik noch aus einem anderen Grund zu denken. Zwar leugnet niemand die Imprägniertheit unseres Lebens durch die Technik. Aber das Thema wird kaum auf ein kritisches Reflexionsniveau gehoben. Unüberhörbar sind aus dem Lager der «Technorati» beschwipste Töne zu vernehmen, die das Paradies dank «Enhancement» des Menschen durch Geräte versprechen und eigentlich immer nur eines meinen: die Absatzmärkte neuer Tools und Apps. Dass damit das Bild des autonomen, selber entscheidenden menschlichen Individuums Zug um Zug ausradiert wird, manifestiert eine geradezu orwellsche Paradoxie: Technik macht den Menschen in dem Masse freier, in dem er sich unter ihre Herrschaft begibt.

Noch eine Bemerkung zum Titel. «Digitalisierung» bezieht sich auf die neuesten Technologien, die unser soziales Leben immer mehr bestimmen. Die meisten Essays handeln auch vom Einfluss dieser Technologien auf den Menschen. Trotzdem ist die Horizontlinie weiter gezogen. Die Digitalisierung ist nur die vorläufig letzte Etappe einer Symbiose von Mensch und Technik, die stets von der latenten Gefahr begleitet ist, dass sich der Mensch zu sehr an die Geräte adaptiert. Die generellere Frage 14

stellt sich also, ob und inwieweit der Mensch einen Platz zu behaupten vermag, der ihm mehr zusichert als die Existenz eines blossen Geräte-Fortsatzes.

15

1. Superschlaues Gerät – subschlauer Mensch

Die Geschichte der Technik lässt sich etwas brachial in drei Stadien einteilen: in jenes der subschlauen, der schlauen und der superschlauen Maschinen. Bis vor etwa fünfzig Jahren stand die Entwicklung auf der subschlauen Stufe: die Maschinen führten dumm, stumm und stur ihre vom Menschen vorgegebenen Aufgaben und Funktionen aus. Das hat sich rasant geändert. Der Computer repräsentierte das schlaue Stadium. Aber die Entwicklung geht weiter. Wir statten unsere technischen Artefakte mit immer komplexeren Algorithmen aus und verleihen ihnen dadurch einen Grad an Eigenregie, der sie befähigt, auf ihre Nutzer und auf Situationen «intelligent» einzugehen.

Das Internet der Dinge Das heute wohl prätentiöseste Projekt findet sich in der sogenannten «Ambient Intelligence» – der Umweltintelligenz, auch bekannt unter «Internet der Dinge». Damit ist eine Vision gemeint, in der unsere alltäglichen Umgebungen – Wohnung, Arbeitsort, Verkehr – total mit benutzerfreundlichen smarten Objekten bestückt sind. Wenn wir also z. B. heute noch eine Person für verrückt halten, die vor einer Wand steht und zu ihr spricht, so wird dies in näherer Zukunft kaum jemandem auffallen, weil es alle tun. Das heisst nicht, dass alle verrückt sind, sondern, dass unsere Wände «intelligent» geworden sind: Wir haben sie benutzerfreundlich gemacht in einem Mass, das zumindest der Intention nach über die bekannte – halbschlaue

17

bis schlaue – Stufe hinausreicht. Die Wände «hören» dank Sensoren auf meine Stimme und wenn sie sie «erkannt» haben, setzen sie bestimmte Geräte in Betrieb, schalten z. B. das Licht oder die Heizung ein, senden ein Signal an die HiFi-Anlage, mein gegenwärtig bevorzugtes Jazzstück zu spielen, geben auf ein Stichwort den Auftrag an den Kühlschrank, auf seinem Display die Zutaten zum Risotto anzuzeigen, den ich heute kochen möchte usw.

Der schlaue Weinkeller Die Techno-Avantgarde sieht es nur als eine Frage der Zeit, bis unsere Wohnungen bis in die letzten Ritzen und Winkel mit smarten Dingen ausgestattet sind, die auf unsere Bedürfnisse und Intentionen mit nie dagewesener Sensibilität reagieren werden. Was geschieht dabei mit uns Menschen? Meiner Meinung nach wird diese Frage von den Designern und Konsumenten neuer Technologien kaum in ihrer Tragweite wahrgenommen.

Nehmen wir also einmal an, es gelinge, smarte Objekte zu konstruieren, die meine Absichten und Bedürfnisse fast immer perfekt «erkennen» und auf sie personengerecht reagieren können. Ich habe z. B. in meinem Weinkeller «WineSense» eingerichtet, ein fiktives smartes System mit vernetzten Sensoren, Kameras und Interfaces, das nicht nur meinen Weinbestand sorgfältig kontrolliert, sondern auch meinen Weinkonsum, meine Vorlieben, meine Urteile peinlich genau beobachtet und registriert.3 Mein schlauer Weinkeller rät mir nun aufgrund der gespeicherten Daten, meines Bedürfnisprofils und der aktuellen Angebotslage, hundert Flaschen weissen Bordeaux beim Weinhändler soundso zu bestellen. Ich muss mich allerdings innerhalb kürzester Zeit dazu entscheiden. Das bringt mich in eine 18

Zwickmühle. Wieso soll ich den Wein kaufen, wo ich doch gerade erst die gleiche Traubensorte viel günstiger bei einem anderen Händler gefunden habe? Zudem hat sich mein Geschmack in jüngster Zeit zugunsten einer anderen Traubensorte verändert. Weiss das mein Weinkeller nicht? Oder kenne ich vielleicht meine eigenen Präferenzen, Absichten und Bedürfnisse gar nicht so gut, wie ich meine?

Natürlich höre ich in solchen Zweifelsfällen auf mein eigenes Urteil und nicht auf den Rat meines Weinkellers. Das entspricht auch einem bisher normalen und «gesunden» Verhältnis zur Technik. Unser Vertrauen in die Geräte ist vielfältig und vielstufig. Die Zuverlässigkeit eines Hammers beruht auf seinem materiellen Charakter, seiner Hardware; die Zuverlässigkeit einer modernen Waschmaschine auf ihrer Hardware und Software; die Zuverlässigkeit eines Überwachungssystems fast ausschliesslich auf seiner Software. Das heisst, unser Vertrauen verschiebt sich immer mehr hin zu den immateriellen «schlauen» Komponenten eines Geräts. Mit der schwachsinnigen bis halbschlauen Technik war die Welt noch in Ordnung. Denn es ist durchaus beruhigend zu wissen, dass all unsere Geräte einen IQ besitzen, der weit unter dem unsrigen liegt. Es bestärkt uns im Gefühl, alles unter Kontrolle zu haben. Die Lage wird unbehaglicher, wenn die Gesamtheit all der smarten Dinge, vom Closomat bis zur Kreditkarte, einen IQ aufzuweisen beginnt, der unseren übersteigt. Dann haben wir es mit einem typischen Fall von Tücke der Technik zu tun: Was ursprünglich zur Erleichterung unseres Lebens konzipiert wurde, verkehrt sich nun in eine Last, wenn nicht gar in eine Bedrohung.

Dass sich Geräte oft gegen die Absichten ihrer Benutzer wenden, ist sprichwörtlich und so alt wie die Technik selbst.

Aber mit der Technik entwickelt sich auch ihre Tücke. Murphy gilt ebenfalls für die Software: Jedes Programm wächst seinem Entwickler irgendeinmal über den Kopf. Ironischerweise 19

schwindet dadurch unser Vertrauen mit steigender Leistungsfähigkeit der smarten Dinge. Man kann das Problem so pointieren: Je schlauer die Geräte, desto weniger schlau werden wir aus ihnen. Je raffinierter die Technologie, desto raffinierter ihre Tücke, mit der wir zu rechnen haben.

Das gängelnde Auto Vertrauen ist das eine Problem, Verantwortung das andere.

Dazu ein weiteres Beispiel. Schon lange produzieren die Autohersteller nicht einfach Fahrzeuge, sondern mobile «intelligente» Kokons für den Fahrer. Ein wesentlicher Teil der Forschung und Entwicklung richtet sich auf eine immer ausgeklügeltere Sensorik und Aktorik, die das Fahrzeug in ein «sensibles» Quasi-Organ mit künstlichem Zentralnervensystem verwandeln. «Wir führen die digitale und die automobile Welt zusammen», sagte Daimler-Chef Dieter Zetsche. «Autos werden smarter, effizienter und vermitteln mehr Spass am Fahren.»

Eigentlich läuft die ganze Entwicklung darauf hinaus, dass nicht der Mensch das Auto fährt, sondern es ihn. In diesem Sinn stellt Sebastian Thrun, Leiter des Google-Forschungszentrums, fest: «In selbstfahrenden Autos können wir doppelt so viele SMS verschicken, ohne Entschuldigung.»

Ohne Entschuldigung? – Offenbar hatte man bisher noch Schuldgefühle. Das heisst, bisher brauchte man das Auto primär zum Fahren, wofür man auch die Verantwortung trug.

Was aber, wenn jemand z. B. simsend durch eine Schulzone fährt, im vollen Vertrauen auf das Fahrgeschick seines Vehikels? Auf amerikanischen GPS-Geräten steht die Warnung: «Fehlende Aufmerksamkeit beim Fahren Ihres Wagens kann zum Tod, zu ernsthaften Verletzungen oder Sachschaden führen. Sie übernehmen die volle Verantwortung und das Risiko 20