Künstliche Intelligenz: Kontrolle nicht an Algorithmen delegieren

Lucienne Rey

Weltweit wird täglich eine Datenmenge erzeugt, die die Speicher von 36 Millionen iPads füllen oder für eine Milliarde Kinofilme von 90 Minuten Länge reichen würde. Diese Zahlen berechnete die US-amerikanische Firma Merlin One, eine Anbieterin von Digital Management Software, für das Jahr 2018. Die Datenfülle wächst rasant, denn 90 Prozent aller bestehenden digitalen Daten entstanden, der gleichen Quelle zufolge, in den vergangenen zwei Jahren.

Fortgeschrittene Systeme künstlicher Intelligenz (KI) sind in der Lage, anspruchsvolle Tätigkeiten zu verrichten, die bis jetzt dem Menschen vorbehalten waren. Bei wichtigen Entscheidungen muss dieser indes die Kontrolle behalten.

Big Data: Unverzichtbarer Rohstoff

Big Data: So nennt die Fachwelt grosse, komplexe und wenig geordnete Datenbestände. Mit traditionellen Technologien lassen sie sich weder durchsuchen noch analysieren oder in Grafiken darstellen. Doch für viele KI-Systeme stellen sie einen unverzichtbaren Rohstoff zur Verfügung: das Material, mit dem sie trainiert werden. Um nämlich mithilfe von Algorithmen aus akustischen Signalen, Bildern oder anderen Eingaben bedeutungsvolle Muster herausarbeiten zu können, müssen viele KI-Systeme an einer riesigen Menge von Daten geschult werden. Im Unterschied zum Kleinkind, das rasch einmal zu erkennen vermag, ob auf einem Foto ein Dackel oder ein Bär abgebildet ist, benötigt ein KI-System bis zu einer Million Bilder als Übungsmaterial, bevor es in der Lage ist, einen Dackel auch auf einem Bild auszumachen, das dem Computer zuvor noch nicht bekannt war.

Bei anderen KI-Systemen wird nicht mit der schieren Datenmenge gearbeitet, sondern versucht, rationales Handeln nachzubilden. So zielt eine Untergruppe im KI-Forschungsfeld darauf ab, das Denken und Lernen von Menschen zu reproduzieren. Fortgeschrittene KI-Systeme schliesslich vereinigen verschiedene Fähigkeiten wie die Verarbeitung von Sprache, das Ordnen von Informationen und maschinelles Lernen.

KI für einen bequemeren und sichereren Alltag

In den letzten Jahren hat KI viel dazu beigetragen, Komfort und Sicherheit in unserem Alltag zu steigern. Mobilitätskonzepte, die den öffentlichen Verkehr mit dem Mietauto oder dem Privatwagen verbinden, beruhen auf KI-Systemen, Eisenbahngesellschaften erhöhen ihre Sicherheit durch intelligente Schadmustererkennung, und die industrielle Fertigung nutzt KI für effizientere Abläufe – um nur einige wenige Beispiele zu nennen. Verwenden KI-Systeme solche sachbezogenen Daten, ist das in aller Regel unproblematisch und erbringt oft einen erheblichen gesellschaftlichen Nutzen. Heikel wird es, wenn die KI mit personenbezogenen Daten arbeitet. Solche Anwendungen stellt die Stiftung für Technologiefolgenabschätzung TA-Swiss denn auch in den Blickpunkt ihrer Studie zur KI.

Fünf Anwendungsgebiete im Fokus

Ob bei der Analyse von Röntgenbildern, der Simulation des Klimawandels oder bei der Kreditvergabe von Banken: KI-Systeme werden mit den unterschiedlichsten Aufgaben betraut. Die Studie konzentriert sich indes auf die fünf Anwendungsgebiete von Konsum, Medien, Arbeitswelt, Bildung und Forschung sowie Justiz und öffentlicher Verwaltung. Eine Stärke von KI-Systemen liegt darin, Dienstleistungen und Angebote zielsicher auf die Ansprüche der Kundschaft auszurichten. So können beispielsweise Online-Händler aufgrund vorangegangener Einkäufe passende Vorschläge für weitere Produkte unterbreiten. News-Portale präsentieren dank entsprechender Systeme diejenigen Beiträge zuoberst im Nachrichtenfluss, die den jeweiligen User besonders interessieren dürften. KI-gestützte Unterrichtssoftware wiederum geht auf die Stärken und Schwächen der jeweiligen Schülerinnen und Schüler ein und legt ihnen die Aufgaben vor, die dem persönlichen Niveau am besten entsprechen. In der Arbeitswelt können KI-Systeme die individuelle Karriereplanung unterstützen, indem sie beispielsweise geeignete Weiterbildungsangebote empfehlen. Ausserdem sind sie in der Lage, einzelne Arbeitsschritte wie etwa aufwändige Recherchearbeiten rascher und präziser zu erledigen, als es Angestellte aus Fleisch und Blut vermögen. Die Verwaltung schliesslich arbeitet nach standardisierten Vorgehensweisen und eignet sich daher besonders für den Einsatz von KI. Ausländische Steuer- und Zollbehörden setzen KI-Systeme bereits ein, um Steuern und Gebühren zu erheben und einzutreiben. In den USA bedienen sich Gerichte der KI unter anderem, um die Wahrscheinlichkeit zu berechnen, mit der ein Straftäter rückfällig wird.

Personalisierung als Stärke, Kontrollverlust als Schwäche

In der Fähigkeit, aus einem Übermass an Information die Angebote und Dienstleistungen passend auf eine bestimmte Person zuzuschneiden, liegt einer der grossen Vorteile künstlicher Intelligenz. Allerdings kann sich dieser Nutzen auch als Nachteil erweisen. Dann nämlich, wenn Medieninhalte allzu stark nach den Vorlieben der jeweiligen Leserschaft gefiltert werden und sich diese in einer Informationsblase wiederfinden. Insbesondere, wenn Medieninhalte über soziale Netzwerke geteilt werden, neigen KI-Systeme dazu, den Usern Inhalte vorzuschlagen, die ihren Interessen entsprechen. Die vorgefasste Meinung wird gestärkt, während alternative Sichtweisen nur noch schwer zur Kenntnis genommen werden. Problematisch ist auch, dass viele KI-Systeme ihre Fertigkeiten beim Training an Big Data erwerben. Denn Unausgewogenheiten oder Fehler in der Datenfülle können letztlich auch bei den damit geschulten Systemen zu Fehlfunktionen führen. Fortgeschrittene KI-Systeme, die auf maschinellem Lernen beruhen, können im Lauf der Trainingszyklen die Stärke und Gewichtung einzelner Verbindungen verändern. Obschon der Ausgangszustand der Software ihrem Urheber bekannt war, wird sie somit auch für diesen zunehmend undurchschaubar. Am Ende schlägt sie unter Umständen Lösungen vor, deren logische oder physikalische Basis nicht mehr nachzuvollziehen ist. Wenn man verstehen will, wie ein System seine Schlussfolgerungen zieht, sind solche als «Black Box» agierende Systeme in der Praxis nur noch von beschränktem Nutzen.

Die Entscheidung muss beim Menschen liegen

Da KI-Systeme in den mannigfaltigsten Gebieten zum Einsatz kommen, werfen sie ganz unterschiedliche rechtliche Fragen auf. Eine zentrale Empfehlung aus der Studie lautet daher, von der Schaffung eines übergreifenden «KI-Gesetzes» abzusehen, das die Verwendung von KI-Systemen einheitlich regeln würde. Hingegen ist es unerlässlich, die einzelnen Anwendungen der KI genau auszuleuchten: Wer nutzt das System, auf welchen Daten beruht es, welcher rechtliche Rahmen ist zu berücksichtigen? Diese Fragen gilt es zu klären, damit die Chancen und Risiken eines Einsatzes von KI abgewogen werden können. Mit anderen Worten: Die Regeln für den Gebrauch von KI müssen stets mit Blick auf den jeweiligen Verwendungszusammenhang festgelegt werden. Wenn Personen in folgenreichen Obliegenheiten von einer KI-Nutzung betroffen sind, müssen sie auf eine einfache und gut verständliche Weise darüber informiert werden, dass sie es mit einem KI-System zu tun haben. Des Weiteren ist zu gewährleisten, dass sowohl Betroffene als auch Organisationen, die sich für Geschädigte einsetzen, sämtliche Angaben erhalten, die es ihnen gestatten, fehlerhafte Ergebnisse aufzudecken und einzuschätzen. Insbesondere bei vorausschauenden Analysen, bei der Erstellung eines Persönlichkeitsbildes oder wenn es um Beschlüsse geht, die Personen betreffen, sollten KI-Systeme nur Empfehlungen abgeben dürfen. Die Entscheidung aber muss den Menschen vorbehalten bleiben. Diese Maxime gilt es besonders dann hochzuhalten, wenn der Staat seine hoheitlichen Aufgaben wahrnimmt und aus einer übergeordneten Stellung handelt. Er hat grundsätzlich höheren Ansprüchen zu genügen als private Anwender. Konzeption und Entwicklung von KI wirft bei Weitem nicht nur technische Fragen auf. Insbesondere, um die damit verbundenen Risiken einschätzen zu können, müssen Fachleute, die KI entwickeln, auch über ein ethisches Verständnis und grundlegende juristische Kenntnisse verfügen sowie zur interdisziplinären Zusammenarbeit bereit sein. ■