UNKNOWN wearable privacy
1 1 / /8384
paula caviezel bachelorarbeit objektdesign 2020
danke
Vielen Dank an Florian Hauswirth für das Mentoring, all die hilfreichen Inputs und guten Gespräche. Danke auch an Aline Siegenthaler und Adrian Gögl für die aufbauenden Gespräche und eure Hilfe beim Fachmentorat. Des Weiteren möchte ich mich herzlich bei Johanna Lier für das Mentorat der schriftlichen Arbeit bedanken, danke für all die inspirierenden Diskussionen, die mich immer weitergebracht haben. Ein herzliches Dankeschön geht auch an Hernâni Marques und Starbug für die Hilfe, mir dieses komplexe Thema näherzubringen. Vielen Dank an Samira Eugster für die wundervollen Fotografien. Danke auch an Roland Signer und Martina Caviezel für das Lektorat und die Räumlichkeiten die ich bei euch nutzen durfte. Ebenfalls bedanke ich mich bei Reto Padrutt für die Werkstatt, die ich während der Corona-Zeit nutzen durfte. Ein weiterer Dank geht an René Odermatt, Nadia Müller und Isabelle Hertzeisen für die Unterstützung in den Werkstätten der HSLU. Vielen Dank an Roman Padrutt für das Mitdenken, Mithelfen, Modeln und all die Geduld und das Verständnis.
Hochschule Luzern- Design & Kunst Dokumentation Bachelorarbeit Objektdesign Unknown- wearable privacy Juni 2020 Mentorat: Florian Hauswirth Fachmentorat: Aline Siegenthaler, Adrian Gögl Mentorin schriftlich: Johanna Lier
Paula Caviezel paula.caviezel@gmx.ch
inhalt
einleitung/ vorgehen // 6-7 forschung // 8-31 beginn umsetzung // 32-37 analog filter // 38-49 graceful camouflage // 50-59 illusionist // 60-69 endprodukte // 70-83 quellen // 84
einleitung
Um einer Person ihr Selbstbestimmungsrecht zu geben, hat das Projekt „Unknown“ das Ziel Objekte zu gestalten, die eine automatisierte Gesichtserkennung im öffentlichen Raum verhindern. Zudem sollen die Objekte durch ihre Sichtbarkeit und selbstbewusste Ästhetik, Menschen für die Thematik der Gesichtserkennung im öffentlichen Raum sensibilisieren. Vor allem aber soll es der Trägerin und dem Träger die Freiheit auf Privatsphäre und das Recht auf Anonymität im öffentlichen Raum geben.
Vorausgehend zur praktischen Bachelorarbeit wollte ich in der schriftlichen Arbeit herausfinden, wie Gesichtserkennungssysteme funktionieren und wie ein Gesicht von solch einem System wiedererkannt wird. Mit den Erkenntnissen dieser Arbeit habe ich zunächst eine Testreihe mit einem OpenCv Gesichtserkennungssystem an mir selber durchgeführt, um ein Gespür dafür zu entwickeln wieviel eines Gesichtes verdeckt oder verändert werden muss bis eine Erkennung gestört wird. Auf Grund all dieser Erkenntnisse sind die drei Objekte, “analog filter“, “graceful camouflage“ und “illusionist“ entstanden, die auf verschiedene Weisen die Systeme austricksen.
7 / 84
6 / 84
Das Gesicht ist Ausdruck unserer Individualität. In der Vielfalt unserer Gesichtszüge offenbart sich unser Wesen in seiner Vielschichtigkeit. Aber was passiert, wenn diese Intimität nicht mehr geschützt ist und von flächendeckenden Überwachungssystemen erfasst wird? Mit künstlicher Intelligenz ausgerüstete Kameras identifizieren Gesichter, analysieren sie und lassen die Erkenntnisse in zentrale Datenbanken fliessen. Eingesetzt werden solche Systeme, unter dem Vorwand für mehr Sicherheit im öffentlichen Raum zu sorgen. Dass dabei jeder Schritt und jede Handlung in der Öffentlichkeit analysiert werden kann, wird nicht kommuniziert. Blickt man nach China, merkt man schnell, dass solche Systeme bereits im Alltag Einzug gefunden haben. Persönlichkeitsschutz im öffentlichen Raum verliert seine Selbstverständlichkeit.
vorgehen
download opencv face recognition system
forschung
erste tests
forschung
9 / 84
8 / 84
Als Vorlage für das OpenCV dient ein Portrait, welches man findet, wenn man ‘Paula Caviezel‘ googelt. Das Portrait wurde vom Optiker, bei dem ich arbeite online gestellt.
testreihe 1 // abdecken
face recognition
testreihe 1 // abdecken
forschung
no face
11 / 84
10 / 84
face detection
forschung
gesichtsstudie // symmetrie // asymmetrie
forschung
gesichtsstudie // symmetrie // asymmetrie
forschung
Auszug aus der schriftlichen Arbeit: Bei einer merkmalbasierten Gesichtserkennung kann die Identifikation theoretisch in zwei Schritte unterteilt werden. Zuerst wird von der Maschine ermittelt, ob sich ßberhaupt ein Gesicht im Bild befindet, dies nennt man Gesichtsdetektion (Face Detection). Ist die Face Detection positiv, werden in einem nächsten Schritt Gesichtsmerkmale extrahiert. Diese Merkmale werden mit Punkten, sogenannten Landmarks, gekennzeichnet. Aus den Positionen dieser Punkte und der relativen Position der Punkte zueinander werden Vektoren erstellt. Diese Vektoren kÜnnen dann durch einen Algorithmus, welcher Muster vergleicht, mit anderen Merkmalen verglichen werden.1
12 / 84
13 / 84
1 Kirsch 2017, S. 21-23
forschung
gesichtsstudie // symmetrie // asymmetrie
forschung
15 / 84
14 / 84
gesichtsstudie // symmetrie // asymmetrie
forschung
testreihe 2 // vergrรถssern // vermehrfachen
forschung
17 / 84
16 / 84
testreihe 2 // vergrรถssern // vermehrfachen
forschung
testreihe 3 // verdecken // transparenz
forschung
19 / 84
18 / 84
notizen aus dem skizzenbuch
testreihe 4 // augenbrauen
forschung
notiz aus dem skizzenbuch
forschung
20 / 84
21 / 84
Auszug aus der schriftlichen Arbeit: Maschinelles Lernen bedeutet, dass ein Computerprogramm dazu gebracht wird, aus seinen Erfahrungen zu lernen und zukünftig mit dem gelernten Wissen Aufgaben besser lösen zu können. Dafür kommen sogenannte selbstadaptive Algorithmen zum Einsatz, wodurch die Maschine eigenständig lernt, ohne dass der/die Programmierer*in in den Lernprozess eingreift. Dies führt zu einer eigenständigen Verbesserung.2 Erkenntnis: Das Objekt sollte nicht statisch sein.
2 Kreutzer und Sirrenberg 2019, S. 5-6
forschung
testreihe 5 // optische mittel // arbeitsplatz
forschung
23 / 84
22 / 84
testreihe 5 // optische mittel
falscherkennung // bin ich meine schwester??
forschung
falscherkennung // bin ich meine schwester??
forschung
Auszug aud der schriftlichen Arbeit: Je mehr Gesichtsmuster in einer Datenbank hinterlegt sind, umso besser werden die Algorithmen zur Gesichtserkennung.3 Es erhöht aber auch die Chancen eines falschen Matchs mit Personen, die ähnlich aussehen. Bei solchen Fehlern wird von «false positive» und «false negative» gesprochen. False-positive-Fehler sind Fehlidentifikationen, wobei es fälschlicherweise zu einer Übereinstimmung zweier Gesichtsmuster kommt, welche nicht dieselben sind.4
Es ist dringend zu hinterfragen ist, ob solche Systeme wirklich schon gut genug für einen realen Einsatz sind. Schaut man sich dazu die Trefferquote aus dem Pilotprojekte an, wird bewusst, dass dies offenbar nicht der Fall ist. Einem System zu trauen, dass eine Person nie zu 100 Prozent identifizieren kann, ist zudem fragwürdig. Ein aktuelles und strenges Datenschutzgesetz sollte uns unbedingt vor so einem Missbrauch schützen.
3 Kirsch 2017, S. 8 4 Knaut 2014, S. 63-64 5 o.V., Abschlussbericht des Bundespolizeipräsidiums 2018, S. 7-8
25 / 84
24 / 84
Am Bahnhof Südkreuz in Berlin wurde 2017 ein Pilotprojekt zur Live-Gesichtserkennung mit ca. 300 freiwilligen Probanden gestartet. Durchgeführt wurde das Projekt von der Bundespolizei und dem Bundeskriminalamt, die sich erhofften, mit dieser neuen Technik mehr Sicherheit vor Terrorismus zu schaffen. Laut dem Abschlussbericht dieses Projekts erzielte das Erkennungssystem eine Trefferrate von rund 80 Prozent. Sprich 20 Prozent der Probanden blieben unerkannt «false negative». Bei den false positives, also einer Falscherkennung, war die Quote bei 0,1- 0,3 Prozent.5 Würden also 1000 Pendler durch den Bahnhof strömen, würde mindestens eine Person fälschlicherweise einen Alarm auslösen, weil diese als Terrorist*in / Zielperson identifiziert wird. Laut Ministerium sei die Trefferquote in diesem Masse akzeptabel...
forschung
notiz aus skizzebuch
forschung
27 / 84
26 / 84
testreihe 6 // reflektierende materialien
forschung
recherche // aktuelles
forschung
29 / 84
28 / 84
recherche// aktuelles
erkenntnisse
forschung
31 / 84
30 / 84
Das Objekt muss: -veränderbar sein -die Gesichtssymmetrie stören -wichtige Merkmale verdecken oder vergrössern/ -verkleinern oder verzerren -auffällig sein um auf einen Missstand aufmerksam zu -machen
umsetzung
erste skizzen
umsetzung
33 / 84
32 / 84
erste skizzen
umsetzung
skizzen
umsetzung
35 / 84
34 / 84
skizzen
umsetzung
erste materielle versuche
umsetzung
37 / 84
36 / 84
erste materielle versuche
recherche
analog filter
recherche
analog filter
Auszug aus der schriftlichen Arbeit: Um eine Person biometrisch zu erfassen, wird im besten Fall ein frontales Portraitfoto mit guten Lichtverhältnissen benutzt.6 Solche Portraitfotos kennen wir von Identitätsausweisen, aber oftmals auch von sozialen Netzwerken wie Facebook-, LinkedIn- oder Instagram-Profilen. Jedes Bild, auf dem das Gesicht einer Person grösstenteils zu sehen ist, eignet sich grundsätzlich als Referenzbild für eine Gesichtserkennung. Vor kurzem hat die New York Times ein Unternehmen aufgedeckt, welches mit solchen Gesichtsdaten handelt. Die Firma Clearview entwickelte eine Gesichtserkennungs-Applikation, die genutzt werden kann, um unbekannte Personen auf der Strasse zu erkennen.7
38 / 84
39 / 84
das datenschutzgesetz in der schweiz wurde 1993 verfasst
6 Könnecke 2014, S. 34-35 7 Hill 2020
recherche // digital filter
analog filter
recherche // digital filter
analog filter
40 / 84
41 / 84
instagram filter
analog filter mit geschenkpapier
analog filter
umsetzung // gipsmodell
analog filter
43 / 84
42 / 84
umsetzung // gipsmodell
analog filter
umsetzung // tiefziehtechnik // acrylglas
analog filter
45 / 84
44 / 84
umsetzung // tiefziehtechnik // acrylglas
analog filter
umsetzung // halterung // skizzen
analog filter
47 / 84
46 / 84
umsetzung // halterung // messing
umsetzung //
analog filter
produktaufnahme
analog filter
48 / 84
49 / 84
stรถrungsfaktor: spiegelung material: acrylglas und messing
graceful camouflage
recherche // skizzen // prisma
graceful camouflage
51 / 84
50 / 84
recherche // prisma
recherche // aktuell // inspiration
graceful camouflage
recherche
graceful camouflage
52 / 84
53 / 84
fotos: carlos molina
graceful camouflage
umsetzung // tiefziehtechnik
graceful camouflage
55 / 84
54 / 84
umsetzung // gipsmodell // tiefziehtechnik
graceful camouflage
umsetzung // halterung // messing
graceful camouflage
57 / 84
56 / 84
umsetzung //
umsetzung //
graceful camouflage
produktaufnahme
graceful camouflage
58 / 84
59 / 84
stรถrungsfaktor: ablenkung und verzerrung der gesichtsmerkmale material: acrylglas, messing
illusionist
umsetzung // skizzen
illusionist
61 / 84
60 / 84
umsetzung // skizzen
illusionist
umsetzung // recherche // email starbug biometriehacker // inspiration
illusionist
63 / 84
62 / 84
umsetzung // skizzen
Pablo Picasso- Femme au béret et à la robe quadrillée
Pablo Picasso- Portrait de Dora Maar
illusionist
umsetzung // alte brillen
illusionist
65 / 84
64 / 84
umsetzung // modell
illusionist
umsetzung // löten
illusionist
67 / 84
66 / 84
umsetzung // löten
für die umsetzung habe ich alte defekte brillen auseinander gebaut und neu zusammen gelötet und mit messing ergänzt
umsetzung //
illusionist
produktaufnahme
illusionist
68 / 84
69 / 84
stรถrungsfaktor: vergrรถsserung, verkleinerung und verschiebung von merkmalen material: alte brillengestelle, messing, acrylglas
endprodukte
test // unknown
endprodukte
71 / 84
70 / 84
test // unknown
fotografien // analog filter
endprodukte
fotografien // analog filter
endprodukte
72 / 84
73 / 84
fotografie: samira eugster
fotografie: samira eugster
fotografien // analog filter
endprodukte
fotografien // graceful camouflage
endprodukte
74 / 84
75 / 84
fotografie: samira eugster
fotografie: samira eugster
fotografien // graceful camouflage
endprodukte
fotografien // graceful camouflage
endprodukte
76 / 84
77 / 84
fotografie: samira eugster
fotografie: samira eugster
fotografien // illusionist
endprodukte
fotografien // illusionist
endprodukte
78 / 84
79 / 84
fotografie: samira eugster
fotografie: samira eugster
fotografien // illusionist
endprodukte
fotografien // illusionist
endprodukte
80 / 84
81 / 84
fotografie: samira eugster
fotografie: samira eugster
82 / 84
83 / 84
nicht zu exisitieren bedeutet die mรถglichkeit zu haben, das zu sein, was immer man mรถchte--
quellen
Hill 2020: Kashmir Hill, The Secretive Company That Might End Privacy as We Know It, in: The New York Times, 2020, https://www.nytimes.com/2020/01/18/technology/ clearview-privacy-facial-recognition.html?searchResultPosition=1, zuletzt besucht am 29.04.2020. Kirsch 2017: Constantin Kirsch, Neuronale Netze und andere Verfahren zur Gesichtserkennung in der Heimautomatisierung, Masterarbeit Studiengang Informatik, Hochschule Bonn-Rhein-Sieg, Sankt Augustin, 2017. Knaut 2014: Andrea Knaut, Kontrollpolitische Automatisierung der Personenidentifizierung an der Grenze, in: Phantomgesichter, Zur Sicherheit und Unsicherheit im biometrischen Überwachungsbild, Band 18, hrsg. von Ulrich Richtmeyer, Wilhelm Fink, Paderborn, 2014, S.55-71. Könnecke 2014: Michael Könnecke, Das biometrische Dokumenten-Foto, in: Phantomgesichter, Zur Sicherheit und Unsicherheit im biometrischen Überwachungsbild, Band 18, hrsg. von Ulrich Richtmeyer, Wilhelm Fink, Paderborn, 2014, S.33-41.
84 / 84
Kreutzer und Sirrenberg 2019: Ralf T. Kreutzer und Marie Sirrenberg, Künstliche Intelligenz verstehen, Grundlagen- Use Cases- unternehmenseigene KI-Journey, Springer Gabler, Wiesbaden, 2019. o.V., Abschlussbericht des Bundespolizeipräsidiums 2018: Ohne Verfasser, Teilprojekt I, «Biometrische Gesichtserkennung» des Bundespolizeipräsidiums im Rahmen der Erprobung von Systemen zur intelligenten Videoanalyse durch das Bundesministerium des Innern, für Bau und Heimat, das Bundespolizeipräsidium, das Bundeskriminalamt und die Deutsche Bahn AG am Bahnhof Berlin Südkreuz im Zeitraum vom 01.08.2017- 31.07.2018, Abschlussbericht, Bundespolizeipräsidium Potsdam, Potsdam, 2018, https://www.bundespolizei.de/Web/DE/04Aktuelles/01Meldungen/2018/10/181011_abschlussbericht_gesichtserkennung_down.pdf?__blob=publicationFile, zuletzt besucht am 03.05.2020.
86 / 84