f/21 Quarterly Q3|2017

Quarterly Foresight  Trends  Strategie

August 2017 Digitale Diskriminierung  Privatlehrer für alle!  Wenn Roboter Roboter bauen  Bibliotheken als "Dritte Orte" 

Abonnieren Sie f/21 Quarterly!

Wir informieren Sie regelmäßig über die neuesten Ausblicke in die Welt von morgen. Bleiben Sie am Ball und verpassen Sie keine Ausgabe des f/21 Quarterly – per Mail erhalten Sie jeweils direkt nach Erscheinen kostenlos die neueste Ausgabe. Registrieren Sie sich hier:

www.f-21.de/quarterly

Q3 | 2017

Digitale Diskriminierung Immer mehr Entscheidungen werden nicht von Menschen, sondern Maschinen getroffen. Vorurteilsfrei sind diese deshalb noch lange nicht.

W

er würde noch bestreiten, dass Al- wie die Daten, mit denen sie gefüttert gorithmen erhebliche Macht über werden und schon diese können Verzerden Gang der Dinge haben? Immerhin rungen beinhalten. Auf unterschiedlichssind sie in vielen Bereichen unseres Le- ten Wegen schleichen sich also menschbens beteiligt, entscheidende Weichen liche (Vor-)Urteile und Stereotype in zu stellen: ob wir einen Kredit erhalten, Software ein. Mehr und mehr kommt die einen Job bekommen, welche Nach- Forschung den maschinellen Diskriminierichten wir lesen, welche Werbung wir rungen auf die Schliche: So entdeckte sehen, welche Menschen wir treffen. man etwa an der Carnegie Mellon UniImmer stärker verbreiten sich algorith- versity, dass Googles Werbeprogramm mische Entscheidungsverfahren, weil sie eine Anzeige für Karrierecoaching für die konsistente Behandlung großer Fall- hochbezahlte Jobs öfter Männern als zahlen ermöglichen und daher hocheffi- Frauen zeigt. Auch bei maschinellen zient sind. Gleichzeitig eilt Algorithmen Übersetzungsprogrammen macht sich der Ruf voraus, Entscheidungen wertfrei bemerkbar, dass Maschinen ähnliche Asund unbefangen zu treffen – immerhin soziationen produzieren wie Menschen basierten sie auf und daher etwa Daten und seien Menschliche Vorurteile und mit denselben Roldaher objektiv. Stereotypen schleichen sich in lenklischees agieAber stimmt das Software ein, die zum Spiegel ren. ProPublica, ein unserer Gesellschaft wird. denn?

US-amerikanischer Je intensiver sich Non-Profit-Newsdie Forschung mit diesem relativ neu- desk für investigativen Journalismus, en Feld befasst, desto mehr Anzeichen stellte bedeutende systematische raswerden sichtbar, dass Ungerechtigkeit sistische Diskriminierung durch Algound Diskriminierung keineswegs aus au- rithmen fest, die die Wahrscheinlichkeit tomatisierten Entscheidungsverfahren eines Kriminellen berechnen, wieder verbannt sind. Denn Software ist keines- straffällig zu werden. Weil solche Ergebwegs frei von menschlichem Einfluss: Sie nisse zunehmend Eingang finden in wichwird von Menschen geschrieben und wei- tige Entscheidungen US-amerikanischer terentwickelt, darüber hinaus nehmen Gerichte, etwa im Zusammenhang mit maschinelle Lernverfahren menschliches Untersuchungshaft oder Bewährung, Verhalten auf und agieren entsprechend. können die maschinellen DiskriminierunAuch sind Algorithmen immer nur so gut gen Menschen sogar ins 

f/21 Quarterly

 Digitale Diskriminierung (Forts.)

Gefängnis bringen.

Weil immer mehr Daten für Analysezwecke zur Verfügung stehen, wird sich das Feld der Einsatzbereiche algorithmischer Entscheidungen weiten. Während die Vorteile dieses Vorgehens gut beleuchtet und viel besprochen sind, scheint die Bedeutung eines verantwortlichen Umgangs mit Algorithmen, das heißt im Einklang mit ethischen und legalen Normen, noch nicht ausreichend im öffentlichen Bewusstsein angekommen zu sein. Natürlich wissen wir, dass auch Menschen in ihrer Entscheidungsfindung alles andere als vorurteilsfrei sind. Doch sind Algorith-

Q3 | 2017

Privatlehrer für alle!

Personalisierte Lernsysteme stellen das Ende der Fließband-Bildung in Aussicht und versprechen maßgeschneiderte Bildungserfolge. Doch sind die großen Verheißungen übereilt.

V

or nunmehr beinahe drei Dekaden, individuelles Vorankommen, an persönim Jahr 1988, gab der Autor Isaac liche Fähigkeiten, Interessen und Ziele Asimov für Bill Moyers‘ Reihe „World of anzupassen. Dabei existiert ein SammelIdeas“ ein bemerkenswertes Interview, surium unterschiedlicher Werkzeuge: in dem er unter anderem auch computer- Das Spektrum reicht von responsiven basiertes lebenslanges Lernen und On- Systemen, die im Wesentlichen Zugang Werden Diskriminierungen line-Bildung voraussagte. Asimov wendet zu festgelegten Inhalten bieten und eine sich gegen das gegenwärtige System der Anpassung der Benutzeroberfläche zudurch maschinelle EntscheiMassenbildung, in dem ein Curriculum lassen, dem Lernenden die Wahl eigener dungen gar noch verstärkt? für alle gleichermaßen gilt und zeichnet Lernpfade erlauben oder Lernmateriamen am Werk, werden datengetriebene eine Zukunft, in der Lernende sich von len entsprechend dem über eine DatenEntscheidungen massenhaft getroffen. zu Hause aus über Computer mit riesigen analyse festgestellten Leistungsniveau Finden wir uns also bald in einer Situati- Bibliotheken verbinden und auf jede be- präsentieren. Adaptive Systeme gehen on wieder, in der nicht nur menschliche liebige Frage Antworten erhalten, in der darüber hinaus und versuchen den Lernprozess flexibel durch maschinelle Vorurteile ersetzt, jeder lernen kann, Das Fließbandmodell der Maszu unterstützen. wie es ihm beliebt. sondern sogar noch verstärkt werden?

Indem sie sich an Daher ist es höchst Zeit, den Blick auf Computer, so sieht senbildung verspricht Technodas Verhalten und der hellsichtige Aulogie zu beenden.

Die Zukunft mögliche maschinengemachte VerzerKompetenz tor voraus, würden rungen zu richten. Es gilt Transparenz des Lernens soll stattdessen in- die eines Lernenden der „one-size-fitsherzustellen und die algorithmischen dividualisiert vonstatten gehen. nicht nur durch eiall“-Bildung ein Entscheidungsverfahren aus ihrer Black nen vorgegebenen Entscheidungsbaum Ende bereiten und personalisierte LernBox herauszuholen. Auch ist eine stärkere Sensibilisierung der Öffentlichkeit möglichkeiten schaffen, die die eins-zu- anpassen, sondern dabei Technologien für die neuen Mechanismen und deren eins-Beziehung zwischen Lernenden und des Maschinenlernens nutzen. Die am weitesten gehende Vision technologisch Einflussmöglichkeiten notwendig. Und Lehrenden herbeiführe. gestützten personalisierten Lernens beHeute erscheint der technologische Fortnicht zuletzt wartet ein noch viel tiefersteht in intelligenten Tutorsystemen, die schritt einen Stand erreicht zu haben, gehendes Problem auf eine Lösung: Damenschliche Lehrer nachahmen, proakder Asimovs Utopie Wirklichkeit werden rüber, was objektiv und gerecht ist und tiv tätig werden und auf vielfältige Weise lässt.

Eine ganze Reihe von Initiativen was es für einen Algorithmus bedeutet, mit dem Lernenden interagieren, indem setzt sich zum Ziel, mit Hilfe datengetrieausbalancierte Urteile zu fällen, muss sie etwa aus den Interaktionen mit dem bener Technologien Lernerfahrungen an Übereinstimmung hergestellt werden.  Lernenden ständig dazulernen, mit Hilfe von Gesichtserkennung Emotionen wahrnehmen und Lernprozesse entsprechend anpassen. Die „künstlichen Lehrer“ sollen imstande sein, individuelles Feedback und Tipps zu geben.

Zwar ist die Vision der intelligenten Tutorsysteme noch Zukunftsmusik – doch f/21 ist nicht denkbar, dass angesichts des Die Stadt als Spielraum rasanten technischen Fortschritts schon Zukunftsperspektiven bald Lehrer ersetzen werden? Die EntEinem Brennglas gleich bündeln Städte Probleme und Entwicklungen, doch waren sie schon immer auch Experimentierwickler der Systeme selbst geben zu Profelder und Laboratorien für Neues. Daher erscheint die Antokoll, dass sie keineswegs daran arbeiGameful City wendung von Spielprinzipien („Gamification“) lohnend, um Die Stadt als Spielraum ten, Lehrer abzuschaffen. Die Systeme das Zusammenleben in der Stadt der Zukunft zu gestalten: versprechen den größten Erfolg, wenn In der Gameful City gelingt urbane Transformation spielerisch. sie ergänzend eingesetzt werden. Noch weiß man wenig über die neuen Technokostenloser Download: logien, es fehlen empirische Belege, wie www.f-21.de/zukunftsperspektiven die Systeme tatsächlich auf das 

f/21 Zukunftsperspektiven Gameful City

BÜRO FÜR ZUKUNFTSFRAGEN

03.2017

f/21 Büro für Zukunftsfragen  www.f-21.de

2

f/21 Quarterly

Q3 | 2017

 Privatlehrer für alle! (Forts.) gleichen gesammelt werden, wirft das ausmacht. Worin besteht der Zweck des Lernen wirken. die Frage auf, wann die Grenze zu Über- Lernens und der Bildung? Menschen fit zu Jedenfalls aber wird es für deren Einsatz wachung und Kontrolle überschritten machen für den Arbeitsmarkt? Ihnen ein selbständige, eigenverantwortliche Ler- wird. größtmögliches Einkommen zu verschafnende brauchen. Wo immer Unterricht Ein weiteres Problem ist den Lernsys- fen? Auf ein humanistisches Bildungsdarauf setzt, Lernende dabei zu unter- temen immanent: Damit die Software ideal hinzuwirken? Kritisch denkende stützen, in deren eigenem Tempo vor- adaptiv agieren kann, muss sie darauf Menschen hervorzubringen, die die Zivilanzuschreiten, braucht es große Verant- hinarbeiten, die Eintrittswahrscheinlich- gesellschaft stärken? Bevor nicht Einigwortung für den eigenen Lernprozess. keit eines bestimmten Ziels zu erhöhen. keit besteht über das Ziel, bleiben die ErLernenden werden Fähigkeiten des un- Aber welches Ziel wird den Systemen folgsversprechen der Lerntechnologien abhängigen, eigenverantwortlichen Ler- einprogrammiert? Die Sache wird nicht zwangsläufig hohl. Von der gesellschaftnens, Konzentratilichen Beantworonsvermögen und Technologie nimmt für sich in Anspruch, ein Problem zu lösen, tung der aufgeworanhaltende Moti- das in Wirklichkeit ein gesellschaftliches, kein technisches ist. fenen Fragen wird vation abverlangt. Solange nicht Einverständnis über die Ziele von Bildung herrscht, auch abhängen, Solche Eigenschaf- müssen die Erwartungen an Technologie gedämpft bleiben. inwieweit Asimovs ten bringen nicht Vision überhaupt alle Lernenden mit – und schon gar nicht einfacher dadurch, dass sich Lernerfolge relevant sein kann: Denn er malt ja nicht die jüngsten unter ihnen. kaum durch ein einziges Ziel beschreiben nur Lernwelten aus, in denen Lernende Auch Sorge um Privatsphäre und Daten- lassen. Wie aber schafft es die Software, ihr eigenes Tempo gehen, sondern auch schutz umgibt diese neuen Technologi- auf mehrere Ziele gleichzeitig hinzusteu- ihren eigenen Interessen folgen. Inwieen. Die Systeme setzen auf das Sammeln ern? Wie erfolgt die Abstimmung von weit werden Eltern, Schulbehörden und von immer mehr Daten und machen da- Zwischenzielen und größeren Endzielen? Arbeitgeber dies überhaupt als sinnvoll her Entscheidungen nötig, wie diese Da- Mit ihrem Enthusiasmus nehmen die erachten?  ten verwendet werden dürfen, mit wem Technologien des personalisierten Lersie geteilt und warum sie überhaupt er- nens für sich in Anspruch, so scheint es, Für weitere Informationen zu neuen Bilhoben werden. Zudem beziehen die Sys- ein Problem zu lösen, das in Wirklichdungswelten besuchen Sie bitte unsere teme zunehmend auch Daten mit ein, die keit kein technisches, sondern ein geWebseite oder kontaktieren Sie uns! außerhalb des Lernkontexts herrühren. sellschaftliches ist. Immer schon fiel es Wenn aber Daten – beispielsweise durch schwer, Lernerfolg zu messen und zu  www.f-21.de/fokus_neuebildungswelten  zukunft@f-21.de Monitoring von Social Media – über Frei- steuern, schlicht weil nicht eindeutig dezeitverhalten, Medienkonsum und der- finiert ist, was Lern- und Bildungserfolg

 Artikel Neueste Veröffentlichungen: Jenseits der Gutenberg-Galaxis. Zukunftsszenarien für (Öffentliche) Bibliotheken BuB, 07/2017

Gamification. Spielerisch leicht durchs Leben Werkspuren, 02/2017

Spielwiese Smart City transform, April 2017

Serious Games: Die spielende Bibliothek goethe.de, März 2017

Gameful City: Die Stadt wird zum Spielfeld archithese, März 2017

Gameful City: Spielerisch zur smarten Stadt Carta, März 2017

Spieltrieb als Erfolgsfaktor: Der Einsatz von Gamification im Projektmanagement Digitale Spiele im Diskurs, März 2017

Die neuen Mikrounternehmer The European, März 2017

Arbeiten in der Sharing Economy: Die „Uberisierung“ der Arbeitswelt?

Vierteljahreshefte zur Wirtschaftsforschung, 03/2016

f/21 Büro für Zukunftsfragen  www.f-21.de

Wenn Roboter Roboter bauen Selbstreplizierende Roboter haben immer schon Fantasie und Ängste der Menschen angeregt. Was nun, wenn diese Wirklichkeit werden?

I

n der Biologie ist es eine Selbstverständlichkeit: Dass alles Leben sich selbst hervorbringt, selbst reproduziert und selbst organisiert. Was die Technik betrifft, so gehört die Selbstreplikation ins Reich der Science Fiction. Roboter, die perfekte Kopien ihrer selbst herstellen können und sich alsbald schrankenlos vermehren sind eine äußerst populäre Endzeitvision.

John von Neumann war wohl einer der ersten, der dieser Vision in der Wirklichkeit nahegekommen ist: In den 1940erJahren konstruierte der berühmte Mathematiker hypothetisch, abstrakt eine selbstreplizierende Maschine. Sein Universalkonstruktor war praktisch allerdings nicht umsetzbar und es blieb beim

theoretischen Konzept.

Was im vergangenen Jahrhundert John von Neumann nicht gelang, scheint heute auf dem besten Weg zu sein, Wirklichkeit zu werden. Ein Forscherteam der Universität Oslo entwarf selbstlernende und sich selbstreparierende Roboter, die komplexe Aufgaben in extremen Umgebungen ausführen sollen, wie etwa in Erdrutschgebieten oder Kernkraftwerken. Diese Roboter schaffen, worin Maschinen normalerweise schlecht sind: sich an Teilausfälle und unerwartete Beschädigungen anzupassen. Sie gehen mit solchen Situationen um, wie dies auch Lebewesen tun würden, nämlich kompensatorisches Verhalten zu entwickeln, das heißt, verliert der Roboter ein  3

f/21 Quarterly

 Wenn Roboter Roboter bauen (Forts.)

Bein, lernt er selbständig, sich mit dem verbleibenden Bein zu behelfen. Die ausgeklügeltste Version der Roboter ist imstande, für sich selbst herauszufinden, wie sie in einer bestimmten Situation idealerweise zusammengesetzt sein sollte. Je nachdem, ob es darum geht, sich schnell fortzubewegen, klein zu sein, oder wenig Energie zu verbrauchen, wählt der Roboter die bestmögliche Konfiguration aus. In Zukunft sollen sie aber noch mehr können: Beispielsweise mit Hilfe des eigenen 3D-Druckers Teile erstellen, installieren, um sich selbst etwa über Hindernisse hinwegzuhelfen. Damit freilich ist auch der Schritt zur Selbstreplikation nicht mehr fern.

Science Fiction lehrt uns, dass künstliches Leben, wenn es sich selbständig macht, sich letztendlich zumeist gegen

Selbstreplizierende Maschinen treten aus der Science Fiction in die Wirklichkeit. den Menschen selbst wendet. Was nun also, wenn die Selbstvermehrung von Maschinen außer Rand und Band gerät?

Wie kann sichergestellt werden, dass der Mensch stets die Oberhand behält und einen unendlichen Regress stoppen kann? Wenn es möglich ist, dass Roboter sich körperlich selbst optimieren, indem sie sich etwa ein zusätzliches Bein „ausdrucken“, wenn sie dies gerade benötigen, wie können wir dann noch davon ausgehen, dass sie nicht auch ständig intelligenter werden? Um schließlich die menschliche Intelligenz zu übertreffen?

Man sieht schon: Selbstvermehrende und sich selbst optimierende Roboter beflügeln die Fantasie, was deren Einsatzbereiche betrifft – wahrlich scheinen diese grenzenlos. Ebenso viele Gedanken sollten allerdings noch in die Beantwortung der durch solche Entwicklungen aufgeworfenen philosophischen Fragen fließen. 

Impressum f/21 Büro für Zukunftsfragen Nora S. Stampfl, MBA  Rosenheimer Straße 35 D-10781 Berlin  +49.30.69 59 82 58  zukunft@f-21.de  www.f-21.de Foto: Joe Pizzio, unsplash.com (S. 1) f/21 Büro für Zukunftsfragen  www.f-21.de

Q3 | 2017

Bibliotheken als „Dritte Orte“ Bibliotheken braucht heute kein Mensch, heißt es, wir haben doch das Smartphone. Weit gefehlt! Denn die Bibliothek bietet mehr als Information und gewinnt im digitalen Zeitalter gerade als physischer Ort an Bedeutung.

W

eil sich Informationsbedürfnis- versteht der amerikanische Soziologe se im Internetzeitalter schneller allesamt als „third place“, weil sie im Geund komfortabler befriedigen lassen als gensatz zum „first place“ des Wohnens sich in die örtliche Bibliothek zu bege- und zum „second place“ des Arbeitens ben, wurde bereits das Aussterben von ungezwungene Öffentlichkeit auf neuBibliotheken an die Wand gemalt. Doch tralem Boden bieten. Nach Oldenburg ist diese Diagnose vorschnell, waren Bi- vermittelt der „Dritte Ort“ ein Gefühl des bliotheken doch immer schon mehr als „zweiten Zuhauses“ als auch der ZugeVerwahranstalten für Bücher. Öffentli- hörigkeit, ist leicht zugänglich und gleicht che Bibliotheken zeichnen sich seit jeher Unterschiede zwischen Menschen aus, durch ein niedrigschwelliges Angebot wird gern allein aufgesucht und setzt aus, Zutritt und Anwesenheit sind kos- keine Mitgliedschaft voraus. Unschwer tenlos und an keinerlei Bedingungen ge- können also auch Bibliotheken als „Dritknüpft. Doch steigt klarerweise mit der te Orte“ klassifiziert werden. allgegenwärtigen Wollen BibliotheInformationsver- Es erscheint paradox: In der vir- ken im 21. Jahrhunfügbarkeit und der tuellen Welt wird die Bibliothek dert weiter von Befortschreitenden als physischer Ort bedeutender. deutung bleiben, Digitalisierung von gilt es, neben deren Büchern der Druck auf Bibliotheken, ihre Informationsangebot weitere Vorzüge in Rolle neu zu definieren, auch ein Stück den Vordergrund zu rücken: dass sie Indiweit neu zu erfinden und nicht zuletzt ihr viduum und Gesellschaft verbinden und Angebot deutlicher zu erklären und un- ein „soziales Zuhause“ schaffen, in dem ter die Leute bringen. sich Menschen abseits von Familie und Es erscheint paradox: Gerade in der di- Arbeit in Anwesenheit von anderen und gitalen, virtuellen Welt gewinnt die Bib- in angenehmer Atmosphäre aufgeholiothek als physischer Ort an Bedeutung. ben fühlen. Bibliotheken füllen die Rolle Galten Überlegungen hinsichtlich der Bi- „öffentlicher Wohnzimmer“ aus: Sie sind bliothek als physischer Raum herkömm- privater öffentlicher Raum und ermöglich der architektonischen und baulichen lichen das Verfolgen individueller Ziele Aspekte der Raumgestaltung, waren und Zwecke im Öffentlichen. Zudem geBestände und Sammlungen maßgebend währen sie eine Auszeit von der Hektik für die Raumgestaltung, so geben heute des Alltags, sie sind Oasen der Ruhe, UnNutzer mit ihren Bedürfnissen und dem gestörtheit und Kontemplation, bieten Benutzerverhalten einer digitalen Infor- Rückzugsmöglichkeiten und handyfreie mationsgesellschaft den Ton an. So muss Zonen und sind Orte der Entschleuniman feststellen, dass Zweckbestimmung gung – oder wie Klaus Kunzmann es so und Nutzung von Bibliotheksraum nach schön nannte: „Zen-Gärten in der hektiwie vor gegeben sind, auch wenn sich schen Stadt“.  Anforderungen an die Räumlichkeiten im Laufe der Zeit verändert haben.

Für weitere Informationen zur Zukunft Inwiefern öffentliche Bibliotheken in under Bibliotheken, deren Rollenwandel serer zunehmend virtualisierten Lebensund Neuausrichtung im Internetzeitalwelt von Bedeutung sind, dazu finden ter, besuchen Sie bitte unsere Webseisich in dem von Ray Oldenburg entwite oder kontaktieren Sie uns! ckelten Konzept des „Dritten Orts“ wert www.f-21.de/fokus_zukunftbibliothek volle Ansatzpunkte. Kneipen, Buchläden  zukunft@f-21.de oder kleinstädtische Fußgängerzonen 4