TU Wien Magazin | Ethik | Ausgabe 6, September 2020

22 CRITICAL ALGORITHM STUDIES

Systemanalyse nach ethischen Kriterien So rasant die digitale Transformation voranschreitet, so notwendig wird eine kritische Auseinandersetzung mit dem Zusammenspiel von Mensch und Maschine. Was dies konkret bedeutet, zeigt ein Forschungsprojekt rund um den medial in der Auslage stehenden „AMS-Algorithmus“.

O

b im Privatleben, im Job oder auch nur beim Einkaufen: Algorithmen haben längst Einzug in fast alle Gesellschaftsbereiche gehalten. Algorithmen reihen Social Media Posts, lassen – gezielt auf das individuelle Online-Verhalten zugeschnitten – maßgeschneiderte Werbung zukommen, schätzen die Kreditwürdigkeit von Personen ein und verfolgen Menschen über die Gesichtserkennung von Überwachungskameras. Big Data verspricht, in unüberschaubar großen Datenmengen Zusammenhänge zu erkennen und in Sekundenschnelle Wissen zu generieren, das vor 20 Jahren und „von Hand“ noch monatelange statistische Analysen notwendig gemacht hätte. Die digitale Transformation der Gesellschaft ist in vollem Gange und lockt mit den Verheißungen der Automatisierung: Effizienz, Objektivität, Geschwindigkeit und Fehlergenauigkeit sollen das Leben sicherer, komfortabler und nicht zuletzt auch profitabler für die Wirtschaft machen.

Im Fokus: Die Ethik des Systems Im Forschungsgebiet „Critical Algorithm Studies“ wird versucht, mittels interdisziplinärer Methoden dieses Potenzial einzuschätzen und etwaige Gefahren zu erkennen. „Angelehnt an die Grundlagen kritischer Theorie beschäftigen wir uns innerhalb dieser Disziplin damit, welche Auswirkungen und Wirkweisen algo-