Freeport. Anatomía de una caja negra / Freeport. Anatomies of a Black Box by mataderomadrid

Matadero Estudios Críticos. Vol. 2 Freeport. Anatomías de una caja negra Autores. Vladan Joler y Kate Crawford, Bani Brusadin, Manifest Data Lab, Grazia Tona, Gökçe Önal, Dirim Dinçer, Gabriela Gordillo, Mario Romera, Matthias Pitscher, Fabian Frei, Helena del Campo, María Ángeles Fernández Páez, Luis San Gregorio, Dani Herrero, Iris Torruella, Carolly Barbosa, Pablo DeSoto, Rabia Williams, Eleonora Paoli, Alice Piva, Stef Silva, David Mingorance, Victoria de la Torre, Elisa Cuesta, Chiara Mazzatorta, Mika Barreto, Christopher Page, Leanne Fischler, Yasmine Boudiaf, Katie Tindle, Felix Loftus, Lou Terry, Catherine Chapman, Tomás Clavijo, Katya Sivers

Matadero Estudios Críticos.

Matadero Estudios Críticos. Vol. 2 Freeport. Anatomías de una caja negra

autores. Vladan Joler y Kate Crawford, Bani Brusadin, Manifest Data Lab, Grazia Tona, Gökçe Önal, Dirim Dinçer, Gabriela Gordillo, Mario Romera, Matthias Pitscher, Fabian Frei, Helena del Campo, María Ángeles Fernández Páez, Luis San Gregorio, Dani Herrero, Iris Torruella, Carolly Barbosa, Pablo De Soto, Rabia Williams, Eleonora Paoli, Alice Piva, Stef Silva, David Mingorance, Victoria de la Torre, Elisa Cuesta, Chiara Mazzatorta, Mika Barreto, Christopher Page, Leanne Fischler, Yasmine Boudiaf, Katie Tindle, Felix Loftus, Lou Terry, Catherine Chapman, Tomás Clavijo, Katya Sivers

MATADERO MADRID CENTRO DE CREACIÓNCONTEMPORÁNEA

FREEPORT. ANATOMÍAS DE UNA CAJA NEGRA

Directora artística: Rosa Ferré Gerente: Alma Fernández Rius

OFICINA DE COORDINACIÓN Responsable de programa: Ana Ara Coordinación gerencia: Adela Fernández Coordinación comunicación: Myriam González Comunicación: Marisa Pons Diseño gráfico: Mario Cano Relaciones institucionales: Marta García Santo-Tomás Gestión de públicos: Mercedes Álvarez Gestión de proyectos: Aitor Ibáñez Coordinación producción: Miriam Bosch Apoyo coordinación producción: Santiago Jiménez Producción: Vicente Fernández y David Romero Coordinación técnica: Javier del Valle Infraestructuras: Raúl Cano Jurídico: Montserrat Rivero y Sara Fidalgo Técnico administración: Paloma Benito Administración: Susana Arranz, Nieves Montealegre y Mila Pinel

Director y editor: Bani Brusadin

CENTRO DE RESIDENCIAS ARTÍSTICAS Responsable de programa: Ane Rodríguez Armendariz Gestión de proyectos: Gema Melgar y Sonsoles Rodríguez

Coordinación editorial: Núria Gómez Gabriel Traducciones y revisiones: Ana Llurba, Katharine Ainger, Timothy Savage Diseño gráfico: Tres Tipos Gráficos

INTERMEDIAE Responsable de programa: Zoe López Mediero Gestión de proyectos: Azucena Klett y Tommaso Marzocchini

El Proyecto Freeport y las actividades documentadas en esta publicación han recibido el apoyo del Institut de Cultura del Ayuntamiento de Barcelona y de la Oficina de Suport de la Iniciativa Cultural de la Generalitat de Catalunya. The Freeport project and the activities documented in this publication have been supported by ICUB - Institut de Cultura of the Barcelona City Council and by OSIC - Oficina de Suport de la Iniciativa Cultural of Generalitat de Catalunya - Catalonia Regional Council. https://freeport.institute

Matadero Madrid es un centro de creación contemporánea, artística e interdisciplinar, cuyo objetivo es la formación, la producción y la difusión de obra y de conocimiento. A través de sus distintos programas públicos y grupos de estudio, Matadero Madrid ha desarrollado un importante corpus de investigaciones y de experiencias que se ordena, amplía y proyecta en forma de un programa de aprendizajes independientes que lleva por nombre «Matadero Estudios Críticos» (M.E.C.). Como parte del programa de estudios de Matadero Madrid, Freeport es un proyecto de investigación creativa para un mundo de humanos, no-humanos y máquinas. Dirigido por artistas, está concebido como una serie de módulos de estudio y producción, en los que metodologías artísticas se combinan con prácticas de diseño radical, tecnologías críticas, nuevos lenguajes audiovisuales y los fermentos culturales de las comunidades de Internet.

El objetivo de Freeport es explorar de manera original un planeta interconectado, desarrollando estrategias creativas capaces de aprovechar nuevas oportunidades estéticas y desvelar sus ambigüedades tecno-políticas para fomentar el aprendizaje creativo y transversal, más que una formación académica tradicional. Freeport quiere responder a los desafíos culturales, estéticos y políticos de la sociedad actual proponiendo métodos inusuales de innovación cultural y social no corporativa. En los diferentes módulos que se han ido desarrollando en los últimos dos años se fomentan los intercambios entre expertos reconocidos y nuevos o futuros expertos para encontrar caminos alternativos en el entramado de fuerzas que componen estética, material y políticamente nuestro planeta interconectado. Esta publicación es una herramienta de trabajo que recopila los apuntes, intuiciones y prototipos de este curso; esperamos que sea también punto de inicio de nuevos proyectos y cursos que contribuirán a nutrir una de las líneas de investigación que articula la programación de Matadero Madrid desde los últimos años: la cultura digital.

Ana Ara Matadero Madrid Centro de Creación Contemporánea

Matadero Madrid is a center for contemporary, artistic, and interdisciplinary creation, whose objective is training, production and dissemination of work and knowledge. Through its various public programs and study groups, Matadero Madrid has developed an important corpus of research and experiences that is organized, expanded and projected in the form of an independent learning program called «Matadero Estudios Críticos» (Matadero Critical Studies, or M.E.C). As part of the Matadero Madrid study program, Freeport is a project devoted to creatively researching the world of humans, non-humans, and machines. It is conceived as a series of study and production modules led by artists, in which artistic methodologies are combined with radical design practices, critical technologies, new visualities, and the ever changing cultural ferments of Internet communities.

The objective of Freeort is to explore the networked planet and develop creative strategies capable of taking advantage of new aesthetic opportunities and uncovering their techno-political blind spots to promote creative and transversal learning, rather than a traditional academic training. Freeport responds to the cultural, aesthetic and political challenges of today’s societies by proposing unusual methods of non-corporate cultural and social innovation. In the different modules that have been developed in the past two years, exchanges between more experienced practitioners and newer ones- the experts of the future- have been encouraged so as to promote the discovery of alternative trajectories through the vast array of forces that aesthetically, materially, and politically now constitute our thoroughly interconnected planet. This publication is conceived as a toolbox to gather together the notes, intuitions and prototypes of this course. We hope that it will also make itself useful as a starting point for new projects and courses that will contribute to nurturing one of the lines of research that has been articulated in the Matadero Madrid program in recent years: digital culture.

Ana Ara Matadero Madrid Centro de Creación Contemporánea

FREEPORT. ÍNDICE

FREEPORT. INDEX Pág.

Page

El arte de encontrar pistas en sistemas opacos Bani Brusadin

The Art of System Literacy Bani Brusadin

Anatomía de una inteligencia artificial. Amazon Echo como un mapa anatómico del trabajo humano, los datos y los recursos planetarios Por Kate Crawford y Vladan Joler

Ideas y prototipos

Ideas & Prototypes

Political Atmospherics (Manifest Data Lab)

Airport As A ‘Border Condition’ or Please Mind Your Bounding (G. Tona, G. Önal, D. Dinçer)

104

Airport As A ‘Border Condition’ or Please Mind Your Bounding (G. Tona, G. Önal, D. Dinçer)

Conversations With Computers (G. Gordillo, M. Romera, M. Pitscher, F. Frei)

114

Conversations With Computers (G. Gordillo, M. Romera, M. Pitscher, F. Frei)

Auriculares Inalámbricos: Emparejando... Conectados (Helena Del Campo, M. Á. Fernández Páez, L. San Gregorio, D. Herrero, I. Torruella)

120

Auriculares Inalámbricos: Emparejando... Conectados (Helena Del Campo, M. Á. Fernández Páez, L. San Gregorio, D. Herrero, I. Torruella)

FREEPORT

FREEPORT. INDEX Pág.

Page

The Killing Of Marielle Franco: Cartography Of A Techno-Political Assassination. Volume II (C. Barbosa, P. Desoto, R. Williams, A. Piva)

130

The Killing Of Marielle Franco: Cartography Of A Techno-Political Assassination. Volume II (C. Barbosa, P. Desoto, R. Williams, A. Piva)

Haunted Landscapes Of Extraction: Spiraling Into The Planetary Mine (E. Paoli, P. Desoto)

138

Haunted Landscapes Of Extraction: Spiraling Into The Planetary Mine (E. Paoli, P. Desoto)

CR(IA)TURAS Imaginadas (E. Cuesta, D. Mingorance, S. Silva, V. De La Torre)

150

Imagined CRE(AI)TURES (E. Cuesta, D. Mingorance, S. Silva, V. De La Torre)

Reverie On A Fluid Dynamic Interface (M. Barreto, C. Mazzatorta)

164

Reverie On A Fluid Dynamic Interface (M. Barreto, C. Mazzatorta)

Where Artificial Intelligence Meets Energy (C. Page, L. Fischler)

172

Where Artificial Intelligence Meets Energy (C. Page, L. Fischler)

Kategoria: The Gory Cutter (Yasmine Boudiaf, Katie Tindle, Felix Loftus, Lou Terry, Catherine Chapman)

178

Kategoria: The Gory Cutter (Yasmine Boudiaf, Katie Tindle, Felix Loftus, Lou Terry, Catherine Chapman)

Echo (Tomás Clavijo Katya Sivers)

186

Echo (Tomás Clavijo Katya Sivers)

Autoras y autores

198

199

Authors’ Bios

UN PUERTO FRANCO ES UNA ZONA DE TRÁNSITO PERMANENTE, UN DOMINIO EXTRATERRITORIAL CONSTRUIDO POR ESTADOS-NACIÓN DONDE SU PROPIA LEY FALLA A PROPÓSITO, POR ASÍ DECIRLO. ALGUIEN DIJO QUE UN PUERTO FRANCO ES TAMBIÉN UN LUGAR DONDE LA INESTABILIDAD GENERA VALOR Y DONDE EL CONTROL PUEDE PERDERSE TEMPORALMENTE MIENTRAS SE NAVEGA AL BORDE DEL MAL FUNCIONAMIENTO DEL SISTEMA.

A FREEPORT IS A ZONE OF PERMANENT TRANSIT, AN EXTRATERRITORIAL DOMAIN BUILT BY NATION-STATES WHERE THEIR OWN LAW FAILS ON PURPOSE, AS IT WERE. SOMEONE SAID THAT A FREEPORT IS ALSO A PLACE WHERE VALUE IS MADE OUT OF INSTABILITY AND WHERE CONTROL CAN BE TEMPORARILY LOST WHILE NAVIGATING AT THE BRINK OF SYSTEM MALFUNCTION.

(H. STEYERL)

EL ARTE DE ENCONTRAR PISTAS EN SISTEMAS OPACOS

BANI BRUSADIN

Los primeros teatros anatómicos aparecieron en Europa durante el siglo XVI. Aunque la religión prohibía disecar el sagrado cuerpo humano, la emergente ciencia de la medicina estaba interesada en descubrir todas las relaciones materiales que definían su funcionamiento interno y difundir ese nuevo conocimiento a través de exámenes públicos. Quizás hoy necesitemos algo parecido para entender nuestros cuerpos del presente, compuestos por infraestructuras técnicas y rastros de nuevos tipos de formas de vida que se han cuantificado, simplificado y traducido en datos. Sin embargo, a diferencia de los cadáveres de la anatomía clásica, los cuerpos sociotécnicos de nuestra sociedad están vivos y a menudo tienen un aspecto opaco o simplemente desaparecen de la vista. En realidad, algunos de estos cuerpos están diseñados para permanecer opacos, mientras que otros simplemente aparecen como opacos porque las características y relaciones que los definen son demasiado vastas para

EL ARTE DE ENCONTRAR PISTAS EN SISTEMAS OPACOS

ser totalmente comprensibles por la mente individual, y mucho menos a simple vista. Por eso, la exploración de estas cajas negras contemporáneas es fundamental para un nuevo tipo de alfabetización acerca de sistemas interconectados y la creación de una noción de democracia adecuada al siglo XXI.

UN ENFOQUE CONTRAFORENSE La ciencia forense implica la observación técnica de las capas moleculares y químicas definitorias de la realidad, así como el escrutinio minucioso de las huellas dejadas por los objetos y cuerpos que se desplazaban por el espacio en épocas pasadas. En este sentido, la ciencia forense trata de revelar aspectos para los que la percepción humana no está entrenada ni puede captar técnicamente. El enfoque contraforense da un paso más allá, sugiriendo que los desequilibrios de poder están incrustados en los procedimientos forenses aparentemente objetivos y que hay que poner en marcha prácticas alternativas para exponerlos. La idea es desarrollar métodos básicos para reconocer dónde operan las micro opresiones o dónde podrían fomentarse las agencias colectivas en un mundo en el que la justicia, los derechos humanos y las relaciones laborales están inmersos en procesos de toma de decisiones asistidos por máquinas que operan en dimensiones que nuestros sentidos humanos no pueden captar ni comprender o procesar eficazmente.

BANI BRUSADIN

EN ALGÚN OTRO LUGAR La anatomía de estas cajas negras contemporáneas se propone observarlas como objetos interconectados y determinar su naturaleza distribuida. Sus cuerpos no se definen por una presencia espacial fácilmente identificable: no están simplemente «aquí» sino siempre también están «en algún otro lugar». Además, sus interfaces funcionan con un código que los usuarios finales no pueden comprobar y los dispositivos que tienes en tus manos no se pueden reparar, ni siquiera abrir, ya que están diseñados para romperse cuando se intenta hacerlo. De hecho, los nuevos mecanismos de diseño industrial suponen una drástica inversión de lo que se ha considerado la piedra angular de la economía de mercado: la propiedad. Los usuarios ya no son dueños de los dispositivos con los que interactúan, sino que hacen uso de un conjunto de aparatos o terminales que pronto quedarán obsoletos y que en realidad sólo aseguran la propiedad corporativa. Y aunque estos dispositivos no llegan a controlar directamente nuestros cuerpos, sícapturan sus gestos y su atención subjetiva, convirtiéndolos en una fuerza de trabajo que productora de datos. Opacadas bajo la metáfora suave y reconfortante de la «nube», las infraestructuras críticas a las que están conectados todos nuestros gadgets y terminales son en gran medida invisibles, así como todos sus protocolos técnicos y de control. Y en un grado aún mayor, hasta las propias cadenas de producción de nuestros dispositivos son

EL ARTE DE ENCONTRAR PISTAS EN SISTEMAS OPACOS

algo así como cajas negras, tan enormes y opacas que incluso a sus propietarios legales les resulta difícil de entender o incluso de rastrear. Por ello, se hace necesario iniciar una cartografía alternativa de los sistemas en red, desde la inmensa Internet hasta la topología ampliada de nuestros dispositivos particulares.

DESPUÉS DE LA TOPOLOGÍA, EL PODER En el ámbito de los cuerpos y las geografías humanas, el poder se define por la posibilidad de restringir el movimiento y el establecimiento de fronteras; de ahí que las jurisdicciones surjan como una combinación de ambas. Sin embargo, en el ámbito de los sistemas, los distintos cuerpos atraviesan diferentes capas o fronteras que no se corresponden necesariamente con ninguna geografía horizontal definida por el ser humano. Así pues, una contracartografía de los sistemas contemporáneos también se constituiría en un mapa de diferentes tipos de jerarquías, influencias, procesos de toma de decisiones y previsión de efectos colaterales. Es decir que cuando se observan las infraestructuras en red es necesario afinar los sentidos para detectar estos nuevos tipos de poder: el poder de registrar (los datos digitales y sus interrelaciones, y hacerlo sin afectar su circulación); el poder de retrasar o acelerar (que puede desequilibrar las geografías existentes y crear otras diferentes y temporales);

BANI BRUSADIN

el poder de recolectar (en un proceso de acumulación que tiende a un infinito tecnológico); el poder de ajustar, recalibrar y cambiar de forma (como en el deplatforming1, los filtros automáticos, el redireccionamiento, etc.).

CUESTIONES DE ESCALA Los diagramas técnicos y la visualización de datos son herramientas necesarias para llegar a la comprensión de un paisaje tan vasto y, como son herramientas que hacen visualmente atractiva la complejidad, pueden ser muy seductoras. Sin embargo, a veces no son suficientes por sí mismas. Por eso, en primer lugar, las cuestiones de escala plantean un reto crucial, cuyas implicaciones abarcan un enorme territorio de dimensiones muy diferentes, tanto espaciales como temporales. La computación a escala planetaria funciona con enormes infraestructuras que engarzan los continentes en sistemas específicos de medición, de logística de producción y de gestión de residuos (por no hablar de la colonización de la atmósfera y del espacio exterior). Pero, al mismo tiempo, exigen una exploración de la propia naturaleza de la materia que hace posible los sistemas a gran escala; incluyendo la extracción de minerales en bruto, la ingeniería de estructuras genómicas y el desencadenamiento de diversas reacciones químicas. En el ámbito temporal, la velocidad extrema de la

EL ARTE DE ENCONTRAR PISTAS EN SISTEMAS OPACOS

computación y la predicción en red está ligada de una manera íntima y se opone al ritmo extremadamente lento de un tiempo geológico más profundo de la vida animal, vegetal y mineral, tal y como ha existido hasta ahora en el planeta Tierra. En segundo lugar, no existe ningún método realmente adecuado para explorar todas cuestiones e infraestructuras críticas que son simplemente colosales en comparación con nuestra capacidad de comprensión. Por eso serán necesarias múltiples perspectivas transdisciplinares para comprender la forma —y las sombras— de las complejas relaciones que están entrelazando capas materiales, sociales, jurídicas y culturales en una especie de ensamblaje simbiótico: activismo y teoría de los medios, geología y arte, conocimientos científicos y técnicos precisos pero diversos, así como intuiciones poéticas, periodismo de investigación y ciencia ficción.

BANI BRUSADIN

laborales y explotación de afectos y lenguaje, así como otras áreas a menudo más opacas o aún más indefinidas de nuestras nuevas topologías mundiales, y a la vez proporciona un poderoso conjunto de estrategias de investigación y consejos prácticos que otros también pueden utilizar y ampliar. Y ésta ha sido precisamente la clave de este laboratorio. Las propuestas de investigación, las ideas en bruto y los prototipos recogidos en esta publicación son el resultado del encuentro entre las ideas de los participantes y una serie de principios operativos:

— Una cartografía no comienza con todo el mapa sino a partir de un sistema específico.

UNA TRAVESÍA Y UNA CAJA DE HERRAMIENTAS

— Establecer unos simples ejes conceptuales puede ser útil. Pueden representar el tiempo, el espacio o cualquier otra dimensión. Son tu teatro de operaciones, los pilares de tu arquitectura provisional, la topología que construye las relaciones entre los elementos observados.

Anatomía de una inteligencia artificial de Vladan Joler y Kate Crawford propone un itinerario específico por esta densa red de complejidad, pero también puede ser utilizada como una singular caja de herramientas para el cartógrafo de sistemas del siglo XXI. Anatomía va tejiendo una historia de dispositivos conectados, cadenas de suministro, estructuras

— Mapear consiste en crear un espectro conceptual de categorías que te ayuden a detectar las diferencias entre cosas aparentemente similares. Dentro de ese espectro, las conexiones que dibujas en forma de líneas, flechas, regiones, formas y colores son tus declaraciones conceptuales.

EL ARTE DE ENCONTRAR PISTAS EN SISTEMAS OPACOS

— Encuentra un elemento conceptual y visual que sea la clave de tu historia. A veces puede ser una metáfora o una alegoría. No tengas miedo de las alegorías, aunque puedan parecer poco científicas o poéticas, son todo lo contrario: estructuran nuestro lenguaje y nuestra imaginación, por lo cual es muy útil recurrir a ellas para encontrar nuevas asociaciones y ampliar los límites establecidos por nuestro pensamiento. — Pueden producirse un par de efectos colaterales interesantes: es posible que descubras tu propio método de exploración, aunque no parezca seguir las reglas de las disciplinas existentes. Probablemente será mucho más desordenado, pero sin duda este camino será mucho más rápido. Simultáneamente, pronto te darás cuenta de que necesitarás aliados; es decir, otros expertos de campos muy diferentes al tuyo, cuyas observaciones pueden servir para empezar a construir un campo de investigación para tu problema multidimensional. Sólo tienes que juntar diferentes enfoques. Aprende sobre la marcha. — Sea cual sea el lenguaje o el registro que adoptes, haz que tu historia brille por sí misma entre la inmensa niebla de datos. Enfoca en lo que es importante para ti. Puede ser parcial e incompleto, pero será tu huella en el proyecto.

BANI BRUSADIN

— Al vagar por el terreno siempre tentativo del arte y la investigación independiente y no corporativa, disfrutarás de más libertad: la libertad de ser desordenada y estar situada en una posición particular, encontrando tus propios atajos hacia nuevas formas de representar un problema. — Creer que el funcionamiento interno de los sistemas complejos puede ponerse al descubierto con facilidad es simplemente un mito. Como estos se ajustan y calibran constantemente para captar la condición siempre cambiante de la vida en el planeta, conseguir una precisión y una exhaustividad absolutas es probablemente imposible. Además, es irrelevante: todos los modelos son limitados e intrínsecamente sesgados, aunque algunos en realidad son útiles a pesar de su carácter incompleto, sobre todo si se dejan suficientes entradas en ellos para que otros los amplíen o intenten llenar sus lagunas. — Sé generosx.

1. Acción o práctica de boicotear a un grupo o individuo cuyas opiniones son consideradas inaceptables u ofensivas a través de la eliminación de sus plataformas, foros o sitios web.

THE ART OF SYSTEM LITERACY

BANI BRUSADIN

The first anatomical theatres appeared in Europe during the 16th century. While religion forbade dissecting the sacred human body, the emergent science of medicine was interested in discovering all of the material relationships defining the inner functioning of the human body and disseminating that newfound knowledge through public examinations. We may need something similar today in order to understand our new bodies, now composed of technical infrastructures and traces of new types of lifeforms that have become quantified, simplified and translated into data. But, contrary to the corpses of classical anatomy, the socio-technical bodies of our society are alive and they often look opaque or just vanish from sight. Some of these bodies are actually designed to remain opaque, whilst some just appear as opaque because their defining characteristics and relationships

THE ART OF SYSTEM LITERACY

are simply too vast to be fully comprehensible to the individual human mind, let alone to any naked human eye. The exploration of these contemporary black boxes is a fundamental component for developing technological literacy about how contemporary networked systems work and bringing about a notion of democracy appropriate for the 21st century.

ADOPTING A COUNTER-FORENSIC APPROACH As a methodology, forensics entails the technological observation of the molecular and chemical layers definitional of reality, as well as close scrutiny to the traces left by objects and bodies moving through space in past times. Forensic science tries to reveal aspects that the untrained and technologically unaided human perception may not be able to capture. The idea of counter-forensics builds onto this but suggests that power imbalances are embedded within apparently objective forensic procedures and that alternative practices should be put in place to expose them. Unofficially, grassroots methods can be developed to recognize where micro-oppressions operate or where collective agencies might be fostered in a world where justice, human rights, and labor relationships are enmeshed within machine-aided decision-making processes that operate in dimensions that our human senses cannot grasp nor effectively understand or process.

BANI BRUSADIN

SOMEWHERE ELSE An anatomy of these contemporary black boxes sets out to observe them as networked objects and determine their distributed nature. Their bodies are not defined by an easily identifiable spatial presence, as they are not just ‘here’, but always also ‘somewhere else’. Their interfaces function on code that end users can’t check and the devices in their hands are not supposed to be repaired, or even opened up, as they’re designed to break when you try to do just that. Indeed, the new mechanisms of industrial design perform a dramatic reversal of what has been claimed to be the fundamental cornerstone of the market economy: ownership. Users no longer own the devices they interact with, but make use of a soon to be obsolescent set of gadgets or terminals that actually secures the corporate ownership of themselves; and if not fully dominating their bodies at least capturing their gestures and subjective attention, turning them into a data providing workforce. Obfuscated under the comforting metaphor of the fluffy «cloud», the critical infrastructures that all of our gadgets & terminals are connected to are largely invisible, as well as all of their technical and governing protocols. Yet to an even greater degree, the very production chains that produce our devices are something of black boxes themselves, so huge and opaque that even their legal owners find it difficult to understand or even to track down. So, initiating an alternative mapping of

THE ART OF SYSTEM LITERACY

networked systems becomes necessary, from the vast internet right down to the extended topology of our own particular devices.

AFTER TOPOLOGY, POWER In the realm of bodies and human geographies, power is defined by the possibility of constraint over movement and the establishment of borders; hence jurisdictions arise as a combination of the two. But in the realm of systems, different bodies cross over different layers or borders that do not necessarily map onto any human-defined, horizontal geographies. So, a counter-cartography of contemporary systems would also constitute itself as a map of different kinds of hierarchies, influences, decision-making processes, and collateral effects. Basically, whenever you observe networked infrastructures you must fine tune your senses/sensors to detect these new kinds of power: the power to record (digital data and their interrelations, and in doing so without really affecting its circulation); the power to delay or throttle (which may unbalance existing geographies and create different, temporary ones); the power to collect (in a process of accumulation that tends to a technological infinity); the power to adjust, recalibrate and shift shape (like in deplatforming, filtering, rerouting, etc).

BANI BRUSADIN

ISSUES OF SCALE Technical diagrams and data visualization are necessary tools for arriving at the comprehension of such a vast landscape and, as they are tools that make complexity visually compelling and they can indeed be seductive. But sometimes they are not in and of themselves enough. Firstly, a crucial challenge is posed by issues of scale whose implications cover a huge territory of very different dimensions, both spatial and temporal. Planetary-scale computation works with huge infrastructures that wire continents into specific systems of measurement, of logistics of production, and of waste management (not to mention the colonization of the atmosphere and outer space). But at the same time, they require an exploration of the very nature of the matter which makes large scale systems possible; including the extraction of raw minerals, the engineering of genomic structures, and the triggering of diverse chemical reactions. In the temporal domain, the extreme speed of networked computation and prediction is intimately bound up with, and oppositional to, the extremely slow pace of a deeper time of animal, vegetal, and mineral life, as it has existed until now on planet Earth. Secondly, there’s not any singular method which is adequate to the task of exploring all of issues and infrastructures that are simply colossal compared to our own understandings and sizes. A multiple set

THE ART OF SYSTEM LITERACY

of vantage points will be needed to understand the shape — and actually the shadows — of the complex relationships that are weaving the material, social, juridical, and cultural layers all-together into something of a symbiotic assembly: activism and media theory, geology and art, precise yet diverse scientific and technical skills as well as poetic intuitions, investigative journalism, and science fiction.

A JOURNEY AND A TOOLBOX Vladan Joler and Kate Crawford’s «Anatomy of an AI System» is one specific journey into this dense web of complexity, but is also an original toolbox for the 21st century cartographer of systems. As «Anatomy» weaves a story of connected devices, supply chains, labor structures, the exploitation of affects and language, and other often greyer or as yet less well-defined areas of our new world topologies, it also provides a powerful set of research strategies and practical tips that others can use and expand, which was essentially the key point of this laboratory. The research propositions, raw ideas, and prototypes collected in this publication are the result of the encounter between participants ideas and some operative principles: — Mapping begins with a specific system, not with the whole map.

BANI BRUSADIN

— Simple conceptual axes may be helpful. They can represent time, space, or any other dimension. They are your theatre of operations, the pillars of your provisional architecture, the topology that builds relations between the observed elements. — Mapping is about creating a conceptual spectrum of categories that help you spot differences between apparently similar things. Within such a spectrum the connections that you draw in the form of lines, arrows, regions, shapes and colors are your conceptual statements. — Find a conceptual and visual element as a key to your story. Sometimes it can be a metaphor or an allegory. Don’t be afraid of allegories that may look as unscientific or poetic, quite the opposite: they structure our language and imagination, so it’s actually useful to make use of them to find new associations and push the established boundaries of our thought. — A couple of interesting collateral effects may occur: you may discover your own favoured method for exploration even if it doesn’t seem to follow the rules of existing disciplines. It’s going to probably be much messier, but certainly this route will be a lot faster.

THE ART OF SYSTEM LITERACY

At the same time you’ll soon realize that you’ll need allies; that is other experts from very different fields whose observations can be used to start building a field of research for your multidimensional problem. Just bootstrap together different approaches. Learn as you go.

BANI BRUSADIN

them for others to expand them, zoom further into them, or attempt to fill in their gaps. — Be generous.

— Whatever language or register you are adopting, make your story illuminate itself from within the vast fog of data. Bring what’s important for you into sharp focus. It may be partial and incomplete, but it’s going to be your mark on the project. — When roaming through the always tentative terrain of art and independent, non- corporate research, you’ll enjoy more liberty: the freedom to be messy and situated, finding your own specific shortcuts towards new ways of representing a problem. — Believing that the inner functioning of complex systems can be easily laid bare is simply a myth. As they are constantly adjusting and calibrating to capture the ever changing condition of life on the planet, achieving absolute accuracy and completeness is probably impossible. Besides, it is irrelevant: all models are limited and intrinsically biased, but some are indeed useful in spite of their incompleteness, especially if you leave enough entryways into

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL. AMAZON ECHO COMO UN MAPA ANATÓMICO DEL TRABAJO HUMANO, LOS DATOS Y LOS RECURSOS PLANETARIOS

Amazon Echo Dot (esquema)

I Un cilindro con forma de altavoz se encuentra en medio de una habitación. Es sencillo, pequeño y su superficie es lisa. Mide 14,8 cm de altura y posee sólo una única luz circular verde azulada alrededor de su borde superior. No se mueve, está quieto, como si atendiera silenciosamente a todo lo que sucede a su alrededor. Una mujer entra en la habitación llevando un niño dormido en sus brazos, y se dirige a él.

POR KATE CRAWFORD1 Y VLADAN JOLER2 (2018)

«Alexa, enciende las luces del pasillo» Entonces el cilindro cobra vida. «OK».Y la habitación se ilumina. Acto seguido, la mujer hace un gesto de asentimiento y lleva al niño escaleras arriba.

https://anatomyof.ai/ 41

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

Esta es una interacción típica con el dispositivo Echo de Amazon3: una orden breve, directa, y una respuesta instantánea es la forma más común de interacción con este dispositivo de inteligencia artificial. Sin embargo, en este fugaz momento de interacción, se invoca una vasta matriz de habilidades: diferentes cadenas de extracción de recursos naturales, trabajo humano y procesamiento algorítmico a través de redes de minería, logística, distribución, predicción y optimización están implicados en esta minúscula operación. Por eso, este sistema está a una escala casi más allá de la imaginación humana. ¿Cómo podemos empezar a visualizarlo, a captar su inmensidad y complejidad como una forma conectada? Empecemos con un esquema: una imagen detallada de un sistema planetario a través de tres etapas de nacimiento, vida y muerte, acompañada de un ensayo en 21 partes. Juntos, estos elementos se convertirán en un mapa anatómico de un único sistema de inteligencia artificial. II Esta escena de una mujer hablando con Alexa está tomada de un video promocional de 2017 que anunciaba la última versión del Amazon Echo. El video comienza diciendo «Y ahora todos digan Hola al nuevo

KATE CRAWFORD Y VLADAN JOLER

Echo» y a continuación explican que éste se conectará con Alexa (el agente de inteligencia artificial) para «reproducir música, llamar por teléfono a amigos y familiares, controlar los aparatos domésticos inteligentes y muchas otras actividades más». El dispositivo contiene siete micrófonos direccionales, de modo que el usuario puede ser escuchado en todo momento, incluso cuando la música está siendo reproducida. Además, Echo viene en varios estilos y colores, gris metálico o beige básico, y está especialmente diseñado para «camuflarse o destacar». Pero incluso las opciones de diseño brillante mantienen una especie de opacidad: nada alertará al propietario de la vasta red que reúne e impulsa sus capacidades interactivas. El video promocional afirma que la gama de acciones que se le puede pedir a Alexa siempre se está expandiendo: «Debido a que Alexa está en la nube, siempre se está volviendo más inteligente y agregando nuevas características.» Sin embargo, ¿cómo ocurre esto? Alexa es una voz incorpórea que representa la interfaz de interacción humana con la inteligencia artificial para un conjunto extraordinariamente complejo de diferentes capas de procesamiento de información. Estas capas se alimentan de mareas constantes: los flujos de voces humanas que se traducen en preguntas de texto, que se utilizan a su vez para consultar bases de datos de respuestas potenciales y el correspondiente reflujo de las respuestas de Alexa. Por cada respuesta que Alexa

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

ofrece, su efectividad se deduce de lo que ocurre a continuación: ¿Se repite la misma pregunta? (¿Se siente el usuario escuchado?) ¿Se volvió a formular la pregunta? (¿Sintió el usuario que la pregunta fue entendida?) ¿Hubo una acción después de la pregunta? (¿Resultó la interacción en una respuesta rastreada: se encendió una luz, se compró un producto, se seleccionó una canción?) Con cada interacción, Alexa se entrena para escuchar mejor, para interpretar con mayor precisión, para desencadenar acciones que se asignen a los comandos del usuario con mayor exactitud, y para construir un modelo más completo de sus preferencias, hábitos y deseos. Pero ¿qué se requiere para que esto sea posible? En pocas palabras: cada fugaz interacción —ya sea respondiendo una pregunta, encendiendo una luz o seleccionando una canción— requiere una vasta red planetaria, alimentada por la extracción de materiales no renovables, la explotación de mano de obra y el uso de datos. La escala de recursos requeridos es de magnitudes mayores que la energía y la mano de obra que requeriría un humano para operar un electrodoméstico o accionar un interruptor. Un registro exhaustivo de estos costes es casi imposible, pero es cada vez más importante que comprendamos su escala y su alcance si queremos entender y gobernar las infraestructuras técnicas que se extienden a través de nuestras vidas.

III El Salar de Uyuni, la superficie plana más grande del mundo, se encuentra en el suroeste de Bolivia a una altitud de 3.656 metros sobre el nivel del mar. Es un altiplano cubierto por unos pocos metros de corteza salina. Y ésta es excepcionalmente rica en litio, ya que contiene entre el 50% y el 70% de las reservas mundiales de ese mineral4. El Salar de Uyuni, junto con las regiones vecinas de Atacama en Chile y Argentina, son las principales regiones para la extracción de litio. Este metal blando y plateado se utiliza actualmente para alimentar dispositivos móviles conectados, ya que es un material crucial para la producción de baterías de iones de litio. Se lo conoce como «oro gris». Las baterías de los smartphones, por ejemplo, suelen contener al menos de ocho gramos de este material5. Cada coche Tesla necesita aproximadamente siete

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

kilos de litio para cargar su batería. Cabe señalar que todas estas baterías tienen una vida útil limitada, y una vez consumidas son desechadas como residuos6. Además, Amazon recuerda a sus usuarios que no pueden abrir y reparar su Echo, porque eso anularía su garantía. Este nuevo dispositivo también tiene una base de baterías móviles. Ésta también tiene una vida útil limitada y luego de un tiempo debe ser desechada. Según las leyendas aymaras sobre la creación de Bolivia, las montañas volcánicas del altiplano andino fueron producto de una tragedia7. Hace mucho tiempo, cuando los volcanes estaban vivos y vagaban libremente por las llanuras, Tunupa —el único volcán hembra— dio a luz a un bebé. Espoleados por los celos, los volcanes masculinos le robaron su bebé y lo desterraron a un lugar distante. En consecuencia, los dioses castigaron a los volcanes inmovilizándolos a todos en la Tierra. Llorando por el niño que ya no podía alcanzar, Tunupa lloró profundamente. Sus lágrimas y la leche materna se combinaron para crear un lago salado gigante: el Salar de Uyuni. Como Liam Young y Kate Davies observan, «tu smartphone funciona con las lágrimas y la leche materna de un volcán. Este paisaje está conectado a todas partes del planeta a través de los teléfonos en nuestros bolsillos; unido a cada uno de nosotros por hilos invisibles del comercio, la ciencia, la geopolítica y el poder»8.

IV Nuestro diagrama de despiece combina y visualiza tres procesos centrales y extractivos que se requieren para ejecutar un sistema de inteligencia artificial a gran escala: recursos materiales, mano de obra y datos. Consideramos estos tres elementos a través del tiempo y por eso los representamos como una descripción visual del ciclo de nacimiento, vida y muerte de una sola unidad de Amazon Echo. En esta dirección, es necesario ir más allá de un simple análisis de la relación entre un sujeto individual, sus datos personales con cualquier corporación tecnológica específica, para poder evaluar la escala verdaderamente planetaria de la extracción. Vincent Mosco ha demostrado cómo la metáfora etérea de «la nube» para la gestión y el procesamiento de datos fuera del lugar geográfico está en completa contradicción con las

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

realidades físicas de la extracción de minerales de la corteza terrestre y el saqueo de las poblaciones humanas que sostienen su existencia9. Sandro Mezzadra y Brett Nielson formularon el término «extractivismo» para denominar la relación entre las diferentes formas de operaciones extractivas en el capitalismo contemporáneo, y que vemos repetirse en el contexto de la industria de la inteligencia artificial10. Existen profundas interconexiones entre el vaciamiento literal de los materiales de la tierra y la biósfera, la captura de datos y la monetización de las prácticas humanas de comunicación y socialidad en la inteligencia artificial. Mezzadra y Nielson señalan que el trabajo es fundamental en esta relación extractiva, y que se ha repetido a lo largo de la historia: desde la forma en que el imperialismo europeo utilizó el trabajo esclavo, pasando por las cuadrillas de trabajo forzado en las plantaciones de caucho en Malaya, el pueblo indígena de Bolivia que fue impulsado a extraer la plata que se utilizó como primera moneda mundial. Por lo tanto, pensar en la extracción requiere pensar en la mano de obra, los recursos y los datos: en todos esos elementos juntos. En consecuencia esto presenta un desafío a la comprensión crítica y popular de la inteligencia artificial porque es difícil «visualizar» cualquiera de estos procesos individualmente y, mucho menos, colectivamente. De ahí la necesidad de una visualización que pueda traer estos procesos conectados pero globalmente dispersos en un solo mapa.

KATE CRAWFORD Y VLADAN JOLER

V Si lees nuestro mapa de izquierda a derecha, la historia comienza y termina con la Tierra, y los procesos geológicos del tiempo profundo11. Pero si lo leemos de arriba hacia abajo, vemos que la historia comienza y termina con un humano. La parte superior es el agente humano, consultando a Echo y suministrando a Amazon los valiosos datos de entrenamiento con preguntas y respuestas verbales que pueden usar para refinar aún más sus sistemas de inteligencia artificial a través de la voz. En la parte inferior del mapa hay otro tipo de recurso: la historia del conocimiento y la capacidad humana, que también se utiliza para entrenar y optimizar los sistemas de inteligencia artificial. Esta es una diferencia clave entre estos sistemas y otras formas de tecnología de consumo: se basan en la absorción, el análisis y la optimización de grandes cantidades de imágenes, textos y vídeos generados por el hombre.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

VI Cuando un humano se conecta a Amazon Echo o a otro dispositivo de inteligencia artificial activado a través de la voz, está actuando como mucho más que un consumidor de productos finales. Es difícil situar al usuario humano de estos sistemas en una sola categoría: más bien, merecen ser considerados como un caso híbrido. Así como la quimera griega era un animal mitológico que era en parte león, macho cabrío, serpiente y monstruo, el usuario de Amazon Echo es simultáneamente un consumidor, un recurso, un trabajador y un producto. Esta identidad múltiple se repite para los usuarios humanos en muchos sistemas tecnológicos. En el caso específico de Amazon Echo, el usuario ha comprado un dispositivo de consumo por el que recibe un conjunto de servicios. Sin embargo, el usuario también se convierte en un recurso, ya que sus comandos de voz se recogen, analizan y conservan con el fin de construir un corpus cada vez mayor de voces e instrucciones humanas. Y así es como también proporciona trabajo, ya que continuamente realiza el preciado servicio de contribuir con mecanismos de retroalimentación sobre la exactitud, utilidad y calidad general de las respuestas de Alexa. Por eso, sus usuarios están, en esencia, ayudando a entrenar sus redes neuronales dentro de los cimientos de la stack o la estructura de datos de Amazon.

Estatua citofónica de Athanasius Kircher (1673)

VII Cualquier cosa más allá de las limitadas interfaces físicas y digitales de Amazon Echo está fuera del control del usuario. Además, este dispositivo presenta una superficie elegante, que no ofrece opción para abrir, reparar o modificar su funcionamiento. El objeto en sí es un cilindro de plástico muy simple que representa una colección de sensores, aunque su verdadero poder y complejidad se encuentra en otro lugar, lejos de la simple vista. Porque Amazon Echo no es más que un «oído» instalado en el hogar: un agente de escucha incorpóreo que nunca muestra sus profundas conexiones con los sistemas remotos que alimenta.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

En 1673, el polímata jesuita, Athanasius Kircher, inventó la estatua citofónica, la «estatua parlante». Kircher fue un extraordinario erudito e inventor interdisciplinario. Durante su vida publicó cuarenta importantes trabajos en los campos de la medicina, la geología, la religión comparada y la musicología. Asimismo, inventó el primer reloj magnético, además de muchos de los primeros autómatas y hasta el megáfono. Su estatua parlante era un sistema de escucha muy visionario: un micrófono hecho con un enorme tubo en espiral que podía transmitir las conversaciones desde una plaza pública para luego ser redirigidas a través de la boca de una estatua a las recámaras privadas de un aristócrata. Como el propio Kircher escribió: «Esta estatua debe estar ubicada en un lugar determinado para permitir que la sección final del tubo en forma de espiral corresponda exactamente a la apertura de la boca. De esta manera será perfecta y capaz de emitir claramente cualquier tipo de sonido: de hecho, la estatua podrá hablar continuamente, pronunciando una voz humana o animal: reirá o se burlará; parecerá que realmente llora o gime; a veces soplará muy fuerte para gran asombro de quienes la escuchen. Si la abertura del tubo en forma de espiral se encuentra en un espacio público abierto, todas las palabras humanas pronunciadas, enfocadas en el conducto, se reproducirán a través de la boca de la estatua12».

KATE CRAWFORD Y VLADAN JOLER

De esta manera, el sistema de escucha podía oír a escondidas las conversaciones cotidianas en la plaza, y transmitirlas a los oligarcas italianos del siglo XVII. Y así es como la estatua parlante de Kircher fue una forma temprana de extracción de información para las élites, ya que la gente que hablaba en la calle no podía sospechar que sus conversaciones se canalizaban a los que podían utilizar ese conocimiento para su propio poder, entretenimiento y riqueza. Además, es probable que tampoco en las casas de los aristócratas tuvieran idea de cómo una estatua mágica hablaba y transmitía todo ese tipo de información. El objetivo era oscurecer cómo funcionaba el sistema: una elegante estatua era todo lo que ellos podían ver. El fin último de estos sistemas de escucha, incluso en esta etapa temprana de su desarrollo, apuntaba a la administración del secreto por el poder y las clases dominantes. Sin embargo, la infraestructura del sistema de Kircher era prohibitivamente cara y por eso estaba disponible sólo para unos pocos privilegiados. Así que la pregunta sigue siendo la misma ¿Cuáles son las implicaciones en cuanto a los recursos utilizados en la construcción de estos sistemas? Y esto nos conduce a develar la materialidad de la infraestructura que los sostienen.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

VIII En su libro A Geology of Media, Jussi Parikka sugiere que tratemos de pensar en los medios de comunicación no desde el punto de vista de Marshall McLuhan —en sentido de que los medios son extensiones de los sentidos humanos13—, sino como una extensión de la Tierra14. Así es como las tecnologías de los medios de comunicación deberían entenderse en el contexto de un proceso geológico, considerando desde los procesos de creación y transformación, hasta el desplazamiento de los elementos naturales a partir de los cuales se construyen los medios. Reflexionar sobre los medios de comunicación y la tecnología como procesos geológicos nos permite considerar el profundo agotamiento de los recursos no renovables necesarios para impulsar las tecnologías en la actualidad. Cada objeto de la red extendida de un sistema de inteligencia artificial, desde los routers de red hasta las baterías o los micrófonos, se construye con elementos que han necesitado miles de millones de años para producirse. Observando esto desde la perspectiva del tiempo profundo, estamos extrayendo la historia de la Tierra para servir a una fracción de segundo de tiempo tecnológico con el fin de construir dispositivos que a menudo están diseñados para ser utilizados durante no más de unos pocos años. Por ejemplo, la Consumer Technology Association señala que la vida media de los smartphones es de 4,7 años15. Este ciclo de obsolescencia alimenta la compra de más dispositivos,

KATE CRAWFORD Y VLADAN JOLER

impulsa los beneficios y aumenta los incentivos para el uso de prácticas de extracción insostenibles. A partir de un lento proceso de desarrollo, estos materiales pasan por un periodo extraordinariamente rápido de excavación, fundición, mezcla y transporte logístico, atravesando miles de kilómetros en su transformación. Y así es como los procesos geológicos marcan tanto el comienzo como el final de este periodo, desde la extracción del mineral, hasta el depósito del material en un vertedero de residuos electrónicos. Por eso, nuestro mapa empieza y termina en la corteza terrestre. Sin embargo, todas las transformaciones y movimientos que representamos constituyen sólo un mínimo esbozo anatómico: debajo de estas conexiones hay muchas más capas de cadenas de suministro fractales, explotación de recursos humanos y naturales, concentraciones de poder corporativo y geopolítico, y consumo energético continuo. IX Exponer las conexiones entre los recursos, el trabajo y la extracción de datos nos lleva inevitablemente a los marcos tradicionales de explotación. Pero, ¿cómo se genera valor a través de estos sistemas? La obra de Christian Fuchs y otros autores que examinan y definen el trabajo digital constituye una herramienta conceptual útil para entenderlo. La noción de trabajo digital, inicialmente vinculada a diferentes formas de trabajo inmaterial, es anterior a la vida de los

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

fábricas chinas; hasta los trabajadores subcontratados en condiciones de explotación en países en vías de desarrollo que etiquetan los conjuntos de datos de entrenamiento de la inteligencia artificial, hasta los trabajadores informales que limpian los vertederos de residuos tóxicos. Estos procesos crean aún más acumulación de riqueza y poder, que se concentran en una muy delgada capa social. X

La dialéctica de Marx sobre el sujeto y el objeto en la economía

dispositivos y sistemas complejos como la inteligencia artificial. El trabajo digital —es decir, el trabajo de construir y mantener la infraestructura de sistemas digitales— está lejos de ser efímero o virtual, sino que está profundamente encarnado en diferentes actividades16. Su alcance es abrumador: desde el trabajo en régimen de servidumbre en las minas para extraer los minerales que forman la base física de las tecnologías de la información; hasta el trabajo de los procesos de fabricación y ensamblaje de hardware, estrictamente controlados y a veces peligrosos en las

Este triángulo de extracción y producción de valor representa uno de los elementos básicos de nuestro mapa, desde el nacimiento en un proceso geológico, pasando por la vida como producto de consumo de la inteligencia artificial, y finalmente hasta la muerte en un vertedero de productos electrónicos. Al igual que en la obra de Fuchs, nuestros triángulos no están aislados, sino vinculados entre sí en el proceso de producción. Forman un flujo cíclico en el que el producto del trabajo se transforma en un recurso, que se transforma en un producto, que se transforma a su vez en un recurso y así sucesivamente. Cada triángulo representa una fase del proceso de producción. Aunque esto aparece en el mapa como una trayectoria lineal de transformación, una metáfora visual diferente representa mejor la complejidad del extractivismo actual: la estructura fractal conocida como triángulo de Sierpinski.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

proceso de fabricación de los componentes y así sucesivamente. El último triángulo de nuestro mapa, la producción de la propia unidad Amazon Echo, incluye todos estos niveles de explotación, desde la base hasta la cúspide de Amazon Inc, un lugar ocupado por Jeff Bezos como CEO de Amazon. Como un faraón del antiguo Egipto, se encuentra en la cima de la mayor pirámide de extracción de valor de la inteligencia artificial. XI

Triángulo de Sierpinski o fractal de Sierpinski

Una visualización gráfica lineal no nos permitiría poner en evidencia que cada paso siguiente de producción y explotación contiene fases anteriores. Pero si observamos el sistema de producción y explotación a través de una estructura visual fractal, el triángulo más pequeño representaría los recursos naturales y los medios de trabajo, es decir, el minero como mano de obra y el mineral como producto. El siguiente triángulo más grande abarcaría el procesamiento de los metales, y el siguiente representaría el

Volviendo al elemento básico de esta visualización — una variación del triángulo de producción de Marx— cada triángulo crea un excedente de valor para crear beneficios. Si observamos la escala de ingresos medios de cada actividad en el proceso de producción de un aparato, que se muestra en la parte izquierda de nuestro mapa, vemos la obscena diferencia de ingresos obtenidos. Según una investigación de Amnistía Internacional, durante la excavación del cobalto — que también se utiliza para las baterías de litio de 16 marcas multinacionales— los trabajadores cobran el equivalente a un dólar estadounidense al día por trabajar en condiciones peligrosas para la vida y la salud. Además, a menudo son objeto de violencia, extorsión e intimidación17. Amnistía Internacional ha registrado que hasta niños desde 7 años trabajan en esas minas. En cambio, el CEO de Amazon, Jeff Bezos, en la cima de nuestra pirámide fractal, ganó una media de 275

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

millones de dólares al día durante los primeros cinco meses de 2018, según el Índice de Multimillonarios de Bloomberg18. Un niño que trabaje en una mina en el Congo necesitaría más de 700.000 años de trabajo ininterrumpido para ganar la misma cantidad que un solo día de ingresos de Bezos. Muchos de los triángulos que aparecen en este mapa esconden diferentes historias de explotación laboral y condiciones de trabajo inhumanas. El precio ecológico de la transformación de los elementos y las disparidades de ingresos es sólo una de las formas posibles de representar una profunda desigualdad sistémica. Ambos hemos investigado diferentes formas de «cajas negras» entendidas como procesos algorítmicos19, pero este mapa apunta a otra forma de opacidad: los propios procesos de creación, formación y funcionamiento de un dispositivo como Amazon Echo son en sí mismos una especie de caja negra, ya que son muy difíciles de examinar y rastrear en su totalidad, dadas las múltiples capas de contratistas, distribuidores y socios logísticos en todo el mundo. Como escribe Mark Graham «el capitalismo contemporáneo oculta a los consumidores las historias y localizaciones geográficas de la mayoría de las mercancías. Los consumidores normalmente sólo pueden ver las mercancías en el aquí y ahora del tiempo y el espacio, y rara vez tienen la oportunidad de mirar hacia atrás a través de las cadenas de producción con el fin de adquirir conocimientos sobre los lugares de producción, transformación y distribución»20.

KATE CRAWFORD Y VLADAN JOLER

Un ejemplo de la dificultad de investigar y rastrear el proceso de la cadena de producción contemporánea es que Intel tardó más de cuatro años en conocer su propia línea de suministro lo suficientemente bien como para asegurarse de que no había coltán de las minas del Congo, es decir minerales «libres de conflicto», en los productos instalados en el interior de sus microprocesadores. Como fabricante de chips semiconductores, Intel suministra procesadores a Apple. Para ello, Intel cuenta con su propia cadena de suministro de varios niveles, compuesta por más de 19.000 proveedores en más de 100 países que le proporcionan materiales directos para sus procesos de producción, herramientas y máquinas para sus fábricas, así como servicios de logística y embalaje21. El hecho de que una empresa tecnológica líder haya tardado más de cuatro años en comprender su propia cadena de suministro revela lo difícil que puede ser comprender este proceso desde dentro, y más aún para los investigadores, periodistas y académicos externos. La empresa tecnológica holandesa Philips también ha afirmado que está trabajando para que su cadena de suministro esté «libre de conflictos». Philips, por ejemplo, tiene decenas de miles de proveedores diferentes, cada uno de los cuales suministra distintos componentes para sus procesos de fabricación22. Esos proveedores están a su vez vinculados a decenas de miles de fabricantes de componentes que adquieren los materiales de cientos de refinerías que compran los ingredientes de diferentes fundiciones, las cuales se abastecen de un número desconocido

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

de comerciantes que tratan directamente con operaciones mineras tanto legales como ilegales. En The Elements of Power, David S. Abraham describe las redes invisibles de comerciantes de minerales raros en las cadenas mundiales de suministro de productos electrónicos: «La red para hacer llegar los minerales raros desde la mina hasta el ordenador portátil viaja a través de una turbia red de comerciantes, procesadores y fabricantes de componentes. Los comerciantes son intermediarios que hacen algo más que comprar y vender minerales raros: ayudan a regular la información y son el eslabón oculto que sustenta navegar por la red entre las fábricas de metales y los componentes de nuestros ordenadores portátiles». Según la empresa de fabricación de ordenadores Dell, las complejidades de la cadena de suministro de estos minerales plantean retos casi insuperables25. La extracción de estos minerales raros tiene lugar mucho antes de que se ensamble el producto final, lo que dificulta enormemente el seguimiento de su origen. Además, muchos de estos minerales se funden junto con otros que ya han sido reciclados, lo que dificulta aún más develar su origen. Así es como vemos que el intento de visualizar la cadena de suministro completa es una tarea verdaderamente monumental: revela toda la complejidad de la producción mundial de productos tecnológicos del siglo XXI.

KATE CRAWFORD Y VLADAN JOLER

Contenedor

XII Las cadenas de suministro a menudo se superponen unas con otras, formando una red extensa. El programa de proveedores de Apple revela que hay decenas de miles de componentes individuales integrados en sus dispositivos, que a su vez son suministrados por cientos de empresas diferentes. Para que cada uno de esos componentes llegue a la línea de montaje final donde será ensamblado por los trabajadores de las instalaciones de Foxconn es necesario trasladar físicamente los distintos componentes desde más de 750 centros de

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

proveedores en 30 países diferentes26. Esto se convierte en una compleja estructura de cadenas de suministro dentro de las cadenas de suministro, un fractal de decenas de miles de proveedores, millones de kilómetros de materiales enviados y cientos de miles de trabajadores incluidos en el proceso incluso antes de que el producto se ensamble en la línea de producción. Al visualizar este proceso como una red global, pancontinental, por la que fluyen materiales, componentes y productos, vemos una analogía con la red global de información. Cuando un solo lote de información viaja hasta un Amazon Echo, deberíamos imaginar que se desplaza en un container27. El vertiginoso espectáculo de la logística y la producción global no sería posible sin la invención de este simple objeto metálico estandarizado. Los contenedores estandarizados permitieron la explosión de la industria naviera moderna, que hizo posible modelar el planeta como una fábrica masiva y única. En 2017, la capacidad de los buques portacontenedores en el comercio marítimo alcanzó casi 250.000.000 de toneladas de peso muerto de carga, dominada por compañías navieras gigantes como la danesa Maersk, la suiza Mediterranean Shipping Company y la francesa CMA CGM Group, cada una de las cuales posee cientos de buques portacontenedores28. Para estas empresas comerciales, el transporte marítimo de mercancías es una forma relativamente barata de atravesar el sistema vascular de la fábrica global, aunque encubre unos costes externos mucho mayores.

KATE CRAWFORD Y VLADAN JOLER

En los últimos años, los barcos de transporte marítimo producen el 3,1% de las emisiones anuales de CO2 del mundo, más que toda Alemania29. Para minimizar sus costes internos, la mayoría de las compañías de transporte marítimo de contenedores utilizan combustible de muy baja calidad en enormes cantidades, lo que provoca un aumento de las cantidades de azufre en el aire, entre otras sustancias tóxicas. Se ha calculado que un buque portacontenedores puede emitir tanta contaminación como 50 millones de coches, y 60.000 muertes en todo el mundo se atribuyen indirectamente a cuestiones relacionadas con la contaminación de la industria de los buques de carga cada año30. Incluso fuentes favorables al sector, como el Consejo Mundial del Transporte Marítimo, admiten que miles de contenedores se pierden cada año, en el fondo del océano o naufragando a la deriva31. Algunos transportan sustancias tóxicas que se filtran en los océanos. Normalmente, los trabajadores pasan de 9 a 10 meses en el mar, a menudo con largos turnos de trabajo y sin acceso a la comunicación con el exterior. Los trabajadores de Filipinas representan más de un tercio de la mano de obra del transporte marítimo mundial32. De esta manera, los costes más graves de la logística mundial los soportan la atmósfera, el ecosistema oceánico y, también, los trabajadores peor pagados de esa industria.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

XIII La creciente complejidad y miniaturización de nuestra tecnología depende de un proceso que extrañamente se hace eco de las esperanzas sustentadas por la alquimia medieval. Mientras que los alquimistas medievales pretendían transformar los metales comunes en metales más «nobles», los investigadores de hoy utilizan los minerales raros para mejorar el rendimiento de otros minerales. Existen 17 minerales raros que se incorporan a los ordenadores portátiles y a los smartphones, haciéndolos más pequeños y ligeros. Estos minerales desempeñan un papel imprescindible tanto en las pantallas en color, los altavoces, las lentes de las cámaras, los sistemas GPS, las baterías recargables, los discos duros y muchos otros componentes. Son elementos clave en los sistemas de comunicación, desde los cables de fibra óptica y la amplificación de la señal en las torres de comunicación móvil hasta los satélites y la tecnología GPS. Pero la configuración y el uso específicos de estos minerales son difíciles de determinar. Del mismo modo que los alquimistas medievales ocultaban sus investigaciones a través del uso de claves y simbolismos crípticos, los procesos contemporáneos de utilización de minerales en estos dispositivos están protegidos bajo acuerdos de confidencialidad y secretos comerciales. Las características electrónicas, ópticas y magnéticas únicas de estos minerales raros no pueden ser

Minerales raros

igualadas por ningún otro mineral o sustituto sintético descubierto hasta la fecha. Aunque técnicamente se denominen «minerales raros», algunos son relativamente abundantes en la corteza terrestre, pero su extracción es costosa y muy contaminante. David Abraham describe la extracción de disprosio y terbio, utilizados en diversos dispositivos de alta tecnología, en Jianxi (China). De acuerdo con Abraham: «sólo el 0, 2% de la arcilla extraída contiene los valiosos elementos de los minerales raros. Esto significa que el 99,8 por ciento en la minería de minerales raros se

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

desecha en forma de residuos que se vierten de nuevo en las colinas y los arroyos», creando nuevos contaminantes como el amonio33. Para refinar una tonelada de minerales raros, «la Sociedad China de Minerales Raros estima que el proceso produce 75.000 litros de agua ácida y una tonelada de residuos radiactivos»34. Además, las actividades de extracción y refinamiento consumen gran cantidad de agua y generan grandes cantidades de emisiones de CO2. En 2009, China produjo el 95% del suministro mundial, y se ha estimado que la única mina conocida como Bayan Obo contiene el 70% de las reservas mundiales35. XIV Una imagen satelital de la pequeña isla indonesia de Bangka cuenta una historia sobre el coste humano y medioambiental de la producción de semiconductores. En esta minúscula isla, los mineros, en su mayoría trabajadores «informales», se suben a pontones improvisados y utilizan cañas de bambú para raspar el lecho marino. Acto seguido, se sumergen bajo el agua para aspirar el estaño de la superficie a través de tubos gigantes, similares a los tubos de una aspiradora. Como informa una investigación de The Guardian, «la minería del estaño es un negocio lucrativo pero destructivo que ha dejado cicatrices en el paisaje de la isla, ya que ha arrasado sus granjas y bosques, ha acabado con sus poblaciones de peces y arrecifes de coral y ha mermado el turismo en sus bonitas playas bordeadas

KATE CRAWFORD Y VLADAN JOLER

por palmeras. Los daños se aprecian mejor desde el aire, debido a que existen áreas de bosque frondoso que se apiñan en medio de enormes franjas de tierra anaranjada y estéril. En los lugares en los que no hay minas, la tierra está plagada de tumbas, muchas de las cuales contienen los cuerpos de los mineros que han muerto a lo largo de los siglos excavando en busca de estaño»36. Dos pequeñas islas, Bangka y Belitung, producen el 90% del estaño de Indonesia, el segundo exportador mundial de este metal. La empresa nacional de estaño de Indonesia, PT Timah, suministra directamente a empresas como Samsung, así como a los fabricantes de soldaduras Chernan y Shenmao, que a su vez suministran a Sony, LG y Foxconn37. XV En los centros de distribución de Amazon, vastas colecciones de productos se disponen ordenados en millones de estanterías. La posición de cada artículo en este espacio está determinada con precisión por complejas funciones matemáticas que procesan la información sobre los pedidos y crean relaciones entre los productos. El objetivo es optimizar los movimientos de los robots y los humanos que colaboran entre sí en estos almacenes. Con la ayuda de una pulsera electrónica, el trabajador humano es dirigido a través de almacenes del tamaño de hangares de aviones, llenos de objetos dispuestos en un régimen algorítmico opaco38.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

Como hemos visto una y otra vez en la investigación para nuestro mapa, los futuros distópicos se construyen sobre los regímenes distópicos desigualmente distribuidos del pasado y del presente, dispersos a través de una serie de cadenas de producción de dispositivos técnicos modernos. Los pocos que se encuentran en la cima de la pirámide fractal de extracción de valor viven en una riqueza y comodidad extraordinarias. Sin embargo, la mayoría de estas pirámides están construidas en base a los oscuros túneles de las minas, los lagos de residuos radiactivos, los contenedores desechados y los dormitorios de los trabajadores en las fábricas de las grandes corporaciones. Número de patente de Amazon 20150066283 A1

Escondida entre miles de otras patentes que son propiedad de Amazon, la patente estadounidense número 9.280.157 representa una extraordinaria ilustración de la alienación de los trabajadores y la desoladora situación de la relación actual entre humanos y máquinas39. Esta patente representa una jaula metálica destinada a uso del trabajador, equipada con diferentes complementos cibernéticos, que puede moverse por un almacén mediante el mismo sistema motorizado que desplaza las estanterías llenas de mercancías. Aquí, el trabajador se convierte en parte de un ballet maquínico, sostenido en una jaula que dicta y limita su movimiento.

XVI A finales del siglo XIX, un árbol característico del sudeste asiático llamado Palaquium gutta se convirtió en el centro de un boom tecnológico. Estos árboles, que se encuentran principalmente en Malasia, producen un látex natural blanco lechoso llamado gutta percha. Luego de que el científico inglés Michael Faraday publicara un estudio en The Philosophical Magazine en 1848 sobre el uso de este material como aislante eléctrico, la gutta percha se convirtió rápidamente en la favorita del mundo de la ingeniería. Se la percibió como la solución al problema de aislar los cables telegráficos para que pudieran soportar las duras condiciones del fondo del océano. A medida que crecía el negocio de los submarinos en todo el mundo, también

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

lo hacía la demanda de troncos de Palaquium gutta. El historiador John Tully describe cómo los trabajadores locales malayos, chinos y dayak recibían una escasa remuneración por los peligrosos trabajos de tala de los árboles y la lenta recogida del látex40. El látex se procesaba y luego se vendía a través de los mercados comerciales de Singapur al mercado británico, donde se transformaba, entre otras cosas, en miles de metros y metros de fundas para cables submarinos. Un Palaquium gutta maduro podía producir unos 300 gramos de látex. Pero en 1857, el primer cable transatlántico tenía unos 3.000 km de longitud y pesaba 2.000 toneladas, lo que requería unas 250 toneladas de gutta percha. Para producir una sola tonelada de este material se necesitaban unos 900.000 troncos de árboles. En consecuencia, las selvas de Malasia y Singapur fueron taladas, y a principios de la década de 1880 el Palaquium gutta había desaparecido. En un último esfuerzo por salvar su cadena de suministro, los británicos aprobaron una prohibición en 1883 para detener la recolección del látex, pero el árbol ya se había extinguido41. El desastre medioambiental victoriano de la gutta percha en los orígenes de la sociedad global de la información, demuestra cómo se imbrican las relaciones entre la tecnología y su materialidad, los entornos y las diferentes formas de explotación. Al igual que los victorianos precipitaron el desastre ecológico a través del desarrollo de sus primeros sistemas de cables, la

Palaquium gutta

minería de metales y las cadenas de suministro globales ponen en peligro el delicado equilibrio ecológico de nuestra era. Desde el material utilizado para construir la tecnología que permite nuestra sociedad comunicada en red, hasta la energía necesaria para transmitir, analizar y almacenar los datos que fluyen a través de la infraestructura masiva, pasando por la materialidad de esa misma infraestructura: estas profundas conexiones y costes son más significativos, y tienen una historia mucho más larga, de lo que se

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

suele representar en los imaginarios corporativos de la inteligencia artificial42. XVII Los sistemas de inteligencia artificial de producción masiva consumen enormes cantidades de energía. Sin embargo, los detalles materiales de esos costes siguen careciendo de transparencia en la imaginación popular. Y eso sucede porque sigue siendo difícil obtener detalles precisos sobre la cantidad de energía que consumen los servicios de computación en la nube. Un informe de Greenpeace afirma: «Uno de los mayores obstáculos a la transparencia del sector es Amazon Web Services (AWS). La mayor empresa de computación en la nube del mundo sigue siendo casi totalmente opaca en cuanto a la huella energética de sus enormes operaciones. Entre los proveedores globales de la nube, sólo AWS sigue negándose a hacer públicos los detalles básicos sobre el rendimiento energético y el impacto medioambiental asociados a sus operaciones.» Como agentes humanos, somos visibles en casi todas nuestras interacciones con las plataformas tecnológicas. Siempre estamos siendo rastreados, cuantificados, analizados y mercantilizados. Pero en contraste con la visibilidad de los usuarios, los detalles precisos sobre las fases de nacimiento, vida y muerte de los dispositivos en red están opacados, oscurecidos.

KATE CRAWFORD Y VLADAN JOLER

Y con dispositivos emergentes como Amazon Echo, que dependen de una infraestructura de inteligencia artificial centralizada alejada de la vista, aún más detalles caen en las sombras. Mientras los consumidores se acostumbran a convivir con un pequeño dispositivo de hardware en sus salones, o a una nueva app en sus smartphones, o a un coche semiautónomo, el verdadero trabajo se realiza dentro de los sistemas de aprendizaje automático que generalmente están alejados del usuario y son totalmente invisibles para él. En muchos casos, la transparencia no ayudaría mucho: sin la opción de elección real y sin responsabilidad corporativa, la mera transparencia no cambiaría el peso de las actuales asimetrías de poder.44 Los resultados de los sistemas de aprendizaje automático son predominantemente indescifrables e ingobernables, mientras que los ingresos que producen son enigmáticos. Para el observador casual, parece que nunca ha sido tan fácil construir sistemas basados en la inteligencia artificial o el aprendizaje automático como lo es hoy. La disponibilidad de herramientas de código abierto para hacerlo en combinación con la potencia de cálculo rentable a través de superpotencias de la nube como Amazon (AWS), Microsoft (Azure) o Google (Google Cloud) está dando lugar a una falsa idea de la «democratización» de la inteligencia artificial. Mientras que las herramientas de aprendizaje automático «listas para usar»,

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

como TensorFlow, son cada vez más accesibles desde el punto de vista de la creación de su propio sistema, la lógica subyacente de esos sistemas y los conjuntos de datos para entrenarlos son accesibles y están controlados por muy pocas entidades. En la dinámica de recopilación de conjuntos de datos a través de plataformas como Facebook, los usuarios alimentan y entrenan las redes neuronales con datos de comportamiento, voz, fotos y vídeos etiquetados o datos médicos. En la era del extractivismo, el valor real de esos datos es controlado y explotado por unos pocos privilegiados en la cima de la pirámide. XVIII Cuando se utilizan conjuntos de datos masivos para entrenar los sistemas de inteligencia artificial, las imágenes y vídeos producidos por los usuarios individuales suelen ser etiquetados45. Y hay mucho que decir acerca de cómo este proceso de etiquetado posterga y cristaliza el significado, además de cómo este proceso es impulsado por trabajadores precarios a los que se les paga fracciones de un centavo por este trabajo digital a destajo. En 1770, el inventor húngaro Wolfgang von Kempelen construyó una máquina de ajedrez conocida como Mechanical Turk. Su objetivo era, en parte, impresionar a la emperatriz María Teresa de Austria. Este aparato era capaz de jugar al ajedrez

El Turco Mecánico

contra un oponente humano y tuvo un éxito espectacular al ganar la mayoría de las partidas disputadas durante sus demostraciones por Europa y América a lo largo de casi nueve décadas. Pero Mechanical Turk era una ilusión que permitía a un maestro de ajedrez humano esconderse dentro de la máquina y manejarla. Unos 160 años más tarde, Amazon.com bautizó su plataforma de crowdsourcing basada en micropagos con el mismo nombre.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

Según Ayhan Aytes, la motivación inicial de Amazon para construir Mechanical Turk surgió tras el fracaso de sus programas de inteligencia artificial en la tarea de encontrar páginas de productos duplicadas en su sitio web de venta al por menor46. Tras una serie de intentos inútiles y costosos, los ingenieros del proyecto recurrieron a trabajadores humanos para que trabajaran detrás de los ordenadores en un sistema racionalizado en red47. El taller digital Amazon Mechanical Turk emula los sistemas de inteligencia artificial mediante la comprobación, evaluación y corrección de los procesos de aprendizaje automático con la energía del cerebro humano. Con Amazon Mechanical Turk, a los usuarios les puede parecer que una aplicación utiliza inteligencia artificial avanzada para realizar tareas. Pero se trata más bien de una forma de «inteligencia artificial», impulsada por una mano de obra remota, dispersa y mal pagada que ayuda a un cliente a alcanzar sus objetivos empresariales. Como observa Aytes «en ambos casos (el Mechanical Turk de 1770 y la versión contemporánea del servicio de Amazon) la actuación de los trabajadores que animan el artificio queda oscurecida por el espectáculo de la máquina»48.

KATE CRAWFORD Y VLADAN JOLER

artificial. A veces este trabajo no es remunerado en absoluto, como en el caso del reCAPTCHA de Google. Es una paradoja que muchos hemos experimentado: para demostrar que no eres un agente artificial, te obligan a entrenar gratuitamente el sistema de inteligencia artificial de reconocimiento de imágenes de Google, seleccionando varias casillas que contienen números de calles, coches o casas. Tal como hemos observado de manera repetida hasta aquí, las formas contemporáneas de inteligencia artificial no son tan artificiales después de todo. Por eso tenemos que hablar del duro trabajo físico de los trabajadores en las minas, la actividad repetitiva de las cadena de montaje de las fábricas, la labor cibernética en los centros de distribución, los talleres llenos de programadores subcontratados en todo el mundo, la producción crowdsourced mal pagada de los trabajadores detrás de Mechanical Turk, o del trabajo inmaterial no remunerado de los usuarios. En todos los niveles, la tecnología contemporánea está profundamente arraigada en la explotación de los cuerpos humanos y funciona a través de ella.

Este tipo de trabajo invisible, oculto, subcontratado y/o en colaboración, escondido detrás de las interfaces y camuflado dentro de los procesos algorítmicos, es ahora habitual, sobre todo en el proceso de etiquetado de miles de horas de archivos digitales para alimentar las redes neuronales de la inteligencia

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

XIX En su cuento «Del rigor en la ciencia», Jorge Luis Borges nos presenta un imperio imaginario en el que la ciencia cartográfica se ha desarrollado tanto y es tan precisa que necesita un mapa a la misma escala que el propio imperio49. «En aquel imperio, el Arte de la Cartografía logró tal Perfección que el mapa de una sola Provincia ocupaba toda una Ciudad, y el mapa del Imperio, toda una Provincia. Con el tiempo, esos Mapas Desmesurados no les satisfacieron y los Colegios de Cartógrafos levantaron un Mapa del Imperio, que tenía el tamaño del Imperio y coincidía puntualmente con él. Menos Adictas al Estudio de la Cartografía, las Generaciones Siguientes entendieron que ese dilatado Mapa era Inútil y no sin Impiedad lo entregaron a las Inclemencias del Sol y de los Inviernos. En los desiertos del Oeste perduran despedazadas Ruinas del Mapa, habitadas por Animales y por Mendigos; en todo el País no hay otra reliquia de las Disciplinas Geográficas.» Los enfoques actuales del aprendizaje automático se caracterizan por la aspiración a cartografiar el mundo, una cuantificación completa de los regímenes visual, auditivo y de reconocimiento de la realidad. Desde el modelo cosmológico del universo hasta el mundo de las emociones humanas interpretado a través de los más mínimos movimientos musculares del

Cuantificación de la naturaleza

rostro humano, todo se convierte en objeto de cuantificación. Jean-François Lyotard introdujo el concepto «afinidad con el infinito» para describir cómo el arte contemporáneo, la tecnociencia y el capitalismo comparten la misma aspiración de empujar los límites hacia un horizonte potencialmente infinito50. En este sentido, durante la segunda mitad del siglo

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

XIX, centrada en la construcción de infraestructuras y en la accidentada transición a la sociedad industrializada, se generó una enorme riqueza para el reducido número de magnates industriales que monopolizaron la explotación de los recursos naturales y los procesos de producción. El nuevo horizonte infinito es la extracción de datos, el aprendizaje automático y la reorganización de la información mediante sistemas de inteligencia artificial de procesamiento combinado humano y maquínico. Los territorios están dominados por unas pocas megaempresas globales, que están creando nuevas infraestructuras y mecanismos de acumulación de capital y explotación de los recursos humanos y planetarios. Esta sed desenfrenada de nuevos recursos y campos de explotación cognitiva ha impulsado la búsqueda de capas cada vez más profundas de datos que puedan utilizarse para cuantificar la psique humana, consciente e inconsciente, privada y pública, local y global. De este modo, hemos asistido a la aparición de múltiples economías cognitivas desde la economía de la atención51, la economía de la vigilancia, la economía de la reputación52, y la economía de la emoción, así como la cuantificación y mercantilización de la seguridad y la certeza través de las criptomonedas. Y así es como el proceso de cuantificación llega cada vez más al mundo afectivo, cognitivo y físico del ser humano. Existen conjuntos de entrenamientos

KATE CRAWFORD Y VLADAN JOLER

específicos para la detección de emociones, el parecido familiar, el seguimiento de un individuo a medida que envejece y para acciones humanas como sentarse, saludar, levantar una copa o llorar. Todas las formas de datos biológicos, incluidos los forenses, biométricos, sociométricos y psicométricos, se capturan y registran en bases de datos para el entrenamiento de la inteligencia artificial. Esta cuantificación se realiza a menudo sobre bases muy limitadas: dispositivos de administración de datos como AVA, que etiquetan acciones humanas como «mujer jugando con niños» o « hombre pateando a una persona» en una variedad de escenarios visuales. Este es un ejemplo de cómo los sistemas de entrenamiento de la inteligencia artificial pretenden llegar a la naturaleza fina de la vida cotidiana, pero lo hacen repitiendo los patrones sociales más estereotipados y limitados, reinscribiendo una visión normativa del pasado y proyectándola hacia el futuro humano.

XX El «cercamiento» de la biodiversidad y el conocimiento es el último paso de una serie de privatizaciones que comenzó con el auge del colonialismo. La tierra y los bosques fueron los primeros recursos que se «cerraron» y convirtieron de bienes comunes a mercancías. Más tarde, los recursos hídricos se cercaron

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

KATE CRAWFORD Y VLADAN JOLER

comunes fue expropiada, para alimentar el motor del progreso industrial y la acumulación de capital»54.

Frontera corporativa

mediante represas, extracción de aguas subterráneas y planes de privatización. Ahora toca el turno de la biodiversidad y el conocimiento para ser «cercados» a través de los derechos de propiedad intelectual (IPRs)», como lo explica Vandana Shiva53. En palabras de Shiva, «la destrucción de los bienes comunes fue esencial para la revolución industrial, para proporcionar un suministro de recursos naturales como materia prima a la industria. Un sistema de soporte de vida puede ser compartido, no puede ser poseído como propiedad privada o explotado para el beneficio privado. Los bienes comunes, por lo tanto, fueron privatizados, y la base de sustento en estos bienes

Si bien Shiva se refiere al cercamiento de la naturaleza por los derechos de propiedad intelectual, el mismo proceso está ocurriendo ahora con el aprendizaje automático: una intensificación de la cuantificación de la naturaleza. La nueva fiebre del oro en el contexto de la inteligencia artificial consiste en cercar diferentes campos del conocimiento, el sentimiento y la acción humanos, para capturar y privatizar esos campos. Cuando en noviembre de 2015 DeepMind Technologies Ltd. obtuvo acceso a los registros sanitarios de 1,6 millones de pacientes del hospital Royal Free, fuimos testigos de una forma particular de privatización: la extracción del valor del conocimiento55. Un conjunto de datos puede seguir siendo de propiedad pública, pero el metavalor de los datos —el modelo creado por ellos— es de propiedad privada. Aunque hay muchas buenas razones para tratar de mejorar la sanidad pública, existe un riesgo real si esto se produce a costa de una privatización encubierta de los servicios médicos. Se trata de un futuro en el que la mano de obra humana local experta en el sistema público se ve aumentada y a veces sustituida por sistemas de inteligencia corporativos centralizados y de propiedad privada, que utilizan los datos públicos para generar una enorme riqueza para unos pocos.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL

XXI En este momento del siglo XXI, vemos una nueva forma de extractivismo que está muy avanzada: una que llega a los rincones más lejanos de la biosfera y a las capas más profundas del sujeto a nivel cognitivo y afectivo. Muchas de las suposiciones sobre la vida humana que hacen los sistemas de aprendizaje automático de la inteligencia artificial son conservadoras, normativas y están cargadas de errores. Sin embargo, así es como están inscribiendo y construyendo esos supuestos para un nuevo mundo, en el que desempeñarán cada vez más un papel en la forma en que se distribuyen las oportunidades, la riqueza y el conocimiento.

KATE CRAWFORD Y VLADAN JOLER

sistemas de inteligencia artificial es demasiado compleja, demasiado opacada y oscurecida por la ley de propiedad intelectual y sumida en la complejidad logística como para comprenderla plenamente en este momento. Sin embargo, tú recurres a ella cada vez que emites una simple orden de voz a un pequeño cilindro instalado en tu salón: «Alexa, ¿qué hora es?». Y así continúa el ciclo.

La infraestructura que se requiere para interactuar con un Amazon Echo va mucho más allá de la stack56 en su acepción técnica de múltiples capas que reúne modelado de datos, hardware, servidores y redes. Su infraestructura completa llega mucho más allá del capital, el trabajo y los recursos naturales, y exige una enorme cantidad de cada uno de sus agentes. Los verdaderos costes de estos sistemas —sociales, medioambientales, económicos y políticos— permanecen ocultos y pueden seguir siéndolo durante algún tiempo. Por eso ofrecemos este mapa y ensayo como una forma de empezar a visualizar una gama más amplia de extracciones. La escala necesaria para construir

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL 1. Kate Crawford es una catedrática distinguida de la Universidad de Nueva York, investigadora principal de Microsoft Research New York y cofundadora y codirectora del AI Now Institute de la NYU. 2. Vladan Joler es profesor de la Academia de Artes de la Universidad de Novi Sad y fundador de la Fundación SHARE donde dirige SHARE Lab, un laboratorio de investigación y datos para explorar diferentes aspectos técnicos y sociales de la transparencia algorítmica, la explotación laboral digital, las infraestructuras invisibles y las cajas negras tecnológicas. 3. Campaña publicitaria de Amazon, «All-New Amazon Echo», 27 de septiembre de 2017, https://www.youtube. com/watch?v=IyvZ41XjUjY. 4. Emily Achtenberg, «Bolivia Bets on State-Run Lithium Industry,» NACLA, November 15, 2010, https://nacla.org/ news/bolivia-bets-state-run-lithium-industry. 5. Christine Negroni, «How to Determine the Power Rating of Your Gadget’s Batteries,» The New York Times, December 22, 2017, https://www.nytimes. com/2016/12/26/business/ lithium-ion-battery-airline-safety.html. 6. Jessica Shankleman et al., «We’re Going to Need More Lithium,» Bloomberg, September 7, 2017, https://

www.bloomberg.com/graphics/2017-lithium-battery-future/. 7. Nicola Clark and Simon Wallis, «Flamingos, Salt Lakes and Volcanoes: Hunting for Evidence of Past Climate Change on the High Altiplano of Bolivia,» Geology Today 33, no. 3 (May 1, 2017): 104, https://doi. org/10.1111/gto.12186. 8. Kate Davies and Liam Young, Tales from the Dark Side of the City: The Breastmilk of the Volcano Bolivia and the Atacama Desert Expedition (London: Unknown Fields, 2016). 9. Vincent Mosco, To the Cloud: Big Data in a Turbulent World (Boulder: Paradigm, 2014). 10. Sandro Mezzadra and Brett Neilson, «On the Multiple Frontiers of Extraction: Excavating Contemporary Capitalism,» Cultural Studies 31, no. 2–3 (May 4, 2017): 185, https://doi.org/10.1080/09502 386.2017.1303425. 11. Concepto análogo al concepto de «tiempo geológico» para medir la edad de la Tierra. (Nota de la t.) 12. Lamberto Tronchin, «The ‘Phonurgia Nova’ of Athanasius Kircher: The Marvellous Sound World of 17th Century,» Proceedings of Meetings on Acoustics 4, no. 1 (June 29, 2008), 4: 015002, https://doi. org/10.1121/1.2992053.

KATE CRAWFORD Y VLADAN JOLER 13. Marshall McLuhan, Understanding Media: The Extensions of Man (New York: Signet Books, 1964). 14. Jussi Parikka, A Geology of Media (Minneapolis: University Of Minnesota Press, 2015), vii-viii. 15. Chris Ely, «The Life Expectancy of Electronics,» Consumer Technology Association, September 16, 2014, https://www.cta.tech/ News/Blog/Articles/2014/ September/The-LifeExpectancy-of-Electronics. aspx. 16. Christian Fuchs, Digital Labor and Karl Marx (London: Routledge, 2014). 17. «This Is What We Die For: Human Rights Abuses in the Democratic Republic of the Congo Power the Global Trade in Cobalt» (London: Amnesty International, 2016), https://www.amnesty. org/download/Documents/ AFR6231832016ENGLISH. PDF. For an anthropological description of these mining processes, see: Jeffrey W. Mantz, «Improvisational Economies: Coltan Production in the Eastern Congo,» Social Anthropology 16, no. 1 (February 1, 2008): 34–50, https://doi.org/10.1111/j.14698676.2008.00035.x. 18. Julia Glum, «The Median Amazon Employee’s Salary Is $28,000. Jeff Bezos Makes

More Than That in 10 Seconds,» Time, May 2, 2018, http:// time.com/money/5262923/ amazon-employee-median-salary-jeff-bezos/. 19. Frank Pasquale, The Black Box Society: The Secret Algorithms That Control Money and Information (Cambridge, MA: Harvard University Press, 2016). 20. Mark Graham and Håvard Haarstad, «Transparency and Development: Ethical Consumption through Web 2.0 and the Internet of Things,» Information Technologies & International Development 7, no. 1 (March 10, 2011): 1. 21. «Intel’s Efforts to Achieve a ‘Conflict Free’ Supply Chain» (Santa Clara, CA: Intel Corporation, May 2018), https://www.intel.com/content/ www/us/en/corporate-responsibility/conflict-minerals-white-paper.html. 22. «We Are Working to Make Our Supply Chain ‘ConflictFree,’» Philips, 2018, https:// www.philips.com/a-w/ about/company/suppliers/ supplier-sustainability/our-programs/conflict-minerals.html. 23. Con este nombre genérico se designa a un conjunto de minerales utilizados por la industria de la tecnología y la comunicación, como el coltán, el litio, estaño, disprosio, terbio y muchos más, cuya extracción provoca graves conflictos

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL geopolíticos en el sur global, además de contaminar tanto o más que la explotación de combustibles fósiles. (Nota de la t.) 24. David S. Abraham, The Elements of Power: Gadgets, Guns, and the Struggle for a Sustainable Future in the Rare Metal Age, Reprint edition (Yale University Press, 2017), 89. 25. «Responsible Minerals Sourcing,» Dell, 2018, http://www.dell.com/ learn/us/en/uscorp1/ conflict-minerals?s=corp. 26. «Apple Supplier Responsibility 2018 Progress Report» (Cupertino CA: Apple, 2018), https://www.apple.com/ supplier-responsibility/pdf/ Apple_SR_2018_Progress_ Report.pdf. 27. Alexander Klose, The Container Principle: How a Box Changes the Way We Think, trans. Charles Marcum II (Cambridge, MA: The MIT Press, 2015). 28. «Review of Maritime Transport 2017» (New York and Geneva: United Nations, 2017), http://unctad.org/ en/PublicationsLibrary/ rmt2017_en.pdf. 29. Zoë Schlanger, «If Shipping Were a Country, It Would Be the Sixth-Biggest Greenhouse Gas Emitter,» Quartz, April 17, 2018.

30. John Vidal, «Health Risks of Shipping Pollution Have Been ‘Underestimated,’» The Guardian, April 9, 2009, sec. Environment, http:// www.theguardian.com/environment/2009/apr/09/ shipping-pollution. 31. «Containers Lost At Sea – 2017 Update» (World Shipping Council, July 10, 2017), http://www.worldshipping. org/industry-issues/safety/ Containers_Lost_at_Sea__2017_Update_FINAL_July_10. pdf. 32. Rose George, Ninety Percent of Everything: Inside Shipping, the Invisible Industry That Puts Clothes on Your Back, Gas in Your Car, and Food on Your Plate (New York: Metropolitan Books, 2013), 22. Similar to our habit to neglect materiality of internet infrastructure and information technology, shipping industry is rarely represented in popular culture. Rose George calls this condition, «sea blindness» (2013, 4). 33. David S. Abraham, The Elements of Power: Gadgets, Guns, and the Struggle for a Sustainable Future in the Rare Metal Age, Reprint edition (Yale University Press, 2017), 175. 34. Ibídem, 176. 35. Chris Lo, «The False Monopoly: China and the Rare Earths Trade,» Mining Technology, August 19, 2015,

KATE CRAWFORD Y VLADAN JOLER https://www.mining-technology.com/features/ featurethe-false-monopoly-china-and-the-rare-earths-trade-4646712/. 36. Kate Hodal, «Death Metal: Tin Mining in Indonesia,» The Guardian, November 23, 2012, http://www.theguardian.com/ environment/2012/nov/23/ tin-mining-indonesia-bangka. 37. Cam Simpson, «The Deadly Tin Inside Your Smartphone,» Bloomberg, August 24, 2012, https://www.bloomberg.com/ news/articles/2012-08-23/ the-deadly-tin-inside-your-smartphone. 38. Marcus Wohlsen, «A Rare Peek Inside Amazon’s Massive Wish-Fulfilling Machine,» Wired, June 16, 2014, https:// www.wired.com/2014/06/ inside-amazon-warehouse/. 39. Wurman, Peter R. et al., System and Method for Transporting Personnel Within an Active Workspace, US 9,280,157 B2 (Reno, NV, filed September 4, 2013, and issued March 8, 2016), http://pdfpiw.uspto.gov/. piw?Docid=09280157. 40. John Tully, «A Victorian Ecological Disaster: Imperialism, the Telegraph, and Gutta-Percha,» Journal of World History 20, no. 4 (December 23, 2009): 559–79, https://doi.org/10.1353/ jwh.0.0088.

41. Ibídem, 574. 42. See Nicole Starosielski, The Undersea Network (Durham: Duke University Press Books, 2015). 43. Gary Cook, «Clicking Clean: Who Is Winning the Race to Build a Green Internet?» (Washington, DC: Greenpeace, January 2017), 30, https://storage.googleapis.com/p4-production-content/international/ wp-content/uploads/2017/01/ 35f0ac1a-clickclean2016-hires. pdf. 44. Mike Ananny and Kate Crawford, «Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability,» New Media & Society 20.3 (2018): 973-989. 45. Ayhan Aytes, «Return of the Crowds: Mechanical Turk and Neoliberal States of Exception,» in Digital Labor: The Internet as Playground and Factory, ed. Trebor Scholz (London: Routledge, 2012), 80. 46. Ibídem. 47. Jason Pontin, «Artificial Intelligence, With Help From the Humans,» The New York Times, March 25, 2007, sec. Business Day, https://www. nytimes.com/2007/03/25/business/yourmoney/25Stream. html. 48. Aytes, «Return of the Crowds,» 81.

ANATOMÍA DE UNA INTELIGENCIA ARTIFICIAL 49. Borges, Jorge Luis (1995) El hacedor. Ediciones Alianza, Buenos Aires, Argentina. 50. Jean Francois Lyotard, «Presenting the Unpresentable: The Sublime,» Artforum, April 1982. 51. Yves Citton, The Ecology of Attention (Cambridge, UK: Polity, 2017). 52. Shoshana Zuboff, «Big Other: Surveillance Capitalism and the Prospects of an Information Civilization,» Journal of Information Technology 30, no. 1 (March 1, 2015): 75–89, https://doi. org/10.1057/jit.2015.5. 53. Vandana Shiva, The Enclosure and Recovery of The Commons: Biodiversity, Indigenous Knowledge, and Intellectual Property Rights (Research Foundation for Science, Technology, and Ecology, 1997).

56. Stack: concepto proveniente de la informática que define una estructura eficiente de datos que implica una arquitectura compuesta de varias capas, cada una de las cuales define las contiguas.

KATE CRAWFORD Y VLADAN JOLER El mapa que acompaña este ensayo se puede descargar en https://anatomyof.ai/ Traducción del inglés: Ana Llurba Publicado originalmente por SHARE Lab, SHARE Foundation (https://labs.rs) y el AI Now Institute, NYU (https://ainowinstitute.org/) Citación completa: Kate Crawford & Vladan Joler, “Anatomy of an AI System: The Amazon Echo As An Anatomical Map of Human Labor, Data and Planetary Resources,” AI Now Institute and Share Lab, (September 7, 2018) https://anatomyof.ai - Traducción de Ana Llurba. Madrid: Matadero Estudios Críticos (2021). Agradecimientos: Nuestro más profundo agradecimiento a Michelle Thorne y Jon Rogers de la Mozilla Foundation, quienes nos invitaron a un retiro en el verano de 2017 donde conceptualizamos por primera vez este proyecto. Gracias a Joana Moll y Meredith Whittaker por sus aportaciones e inspiraciones en los primeros borradores de este texto. Gracias también a todos aquellos que han brindado comentarios, apoyo e ideas desde entonces, incluidos Alex Campolo, Casey Gollan, Gretchen Krueger, Trevor Paglen y Sarah Myers West en el AI Now Institute y Olivia Solis, Andrej Petrovski y Milica Jovanovic en SHARE Lab y toda el maravilloso equipo de SHARE Foundation.

54. Vandana Shiva, Protect or Plunder: Understanding Intellectual Property Rights (New York: Zed Books, 2001). 55. Alex Hern, «Royal Free Breached UK Data Law in 1.6m Patient Deal with Google’s DeepMind,» The Guardian, July 3, 2017, sec. Technology, http://www.theguardian.com/ technology/2017/jul/03/ google-deepmind-16mpatient-royal-free-deal-dataprotection-act.

FREEPORT

LOS SIGUIENTES CAPÍTULOS SON UNA INTRODUCCIÓN AL TRABAJO DE LOS PARTICIPANTES DEL LABORATORIO «ANATOMÍAS DE UNA CAJA NEGRA», REALIZADO ONLINE DEL 4 DE NOVIEMBRE AL 10 DICIEMBRE DE 2020 EN EL MARCO DE MATADERO ESTUDIOS CRÍTICOS Y DIRIGIDO POR VLADAN JOLER, CON LA PARTICIPACIÓN DE KATE CRAWFORD Y ADAM HARVEY.

THE FOLLOWING CHAPTERS ARE A VISUAL INTRODUCTION OF THE WORK CARRIED OUT BY THE PARTICIPANTS OF THE ONLINE LABORATORY “ANATOMIES OF A BLACK BOX” (NOVEMBER 4 - DECEMBER 10, 2020), IN THE FRAMEWORK OF MATADERO’S ESTUDIOS CRÍTICOS PROGRAM AND LED BY VLADAN JOLER, WITH THE PARTICIPATION OF KATE CRAWFORD AND ADAM HARVEY.

HTTPS://FREEPORT.INSTITUTE/ES/LABS/ ANATOMIAS-DE-UNA-CAJA-NEGRA/

HTTPS://FREEPORT.INSTITUTE/LABS/ ANATOMIES-OF-A-BLACK-BOX/

EL LABORATORIO HA SIDO UN EXPERIMENTO DE CREACIÓN DE UN ESPACIO TEMPORAL DE INVESTIGACIÓN PRÁCTICA, SIN LAS FORMALIDADES DEL TRABAJO ACADÉMICO O LAS PRESIONES DE LA PRODUCCIÓN. EL RESULTADO ES UN CONJUNTO DE INTUICIONES, REFLEXIONES, PROTOTIPOS METODOLÓGICOS Y VISUALES QUE SE PUEDEN LEER COMO EJEMPLOS PRÁCTICOS DE CONTRACARTOGRAFÍA O COMO EXPLORACIONES DE INFRAESTRUCTURAS, SISTEMAS Y ACONTECIMIENTOS OPACOS EN DIFERENTES LUGARES O CAPAS DEL PLANETA INTERCONECTADO.

THE LABORATORY HAS BEEN AN EXPERIMENT IN BUILDING A TEMPORARY CREATIVE RESEARCH SPACE, WITHOUT THE FORMALITIES OF ACADEMIC WORK OR THE PRESSURES OF PRODUCTION. THE RESULT IS A SET OF INSIGHTS, REFLECTIONS, METHODOLOGICAL AND VISUAL PROTOTYPES THAT CAN BE READ AS PRACTICAL EXAMPLES OF COUNTER MAPPING OR AS EXPLORATIONS OF OPAQUE INFRASTRUCTURES, SYSTEMS AND EVENTS OCCURRING IN DIFFERENT CORNERS OR LAYERS OF OUR NETWORKED PLANET.

POLITICAL ATMOSPHERICS

MANIFEST DATA LAB TOM CORBY GAVIN BAILY JONATHAN MACKENZIE GILES LANE ERIN DICKSON GEORGE ROUSSOS RACHEL JACOBS LOUISE SIME

We consider the atmosphere as a nebulous commons, transformed by extractivist acts of enclosure that dissipates and reforms as a material record of our politics, behaviours and histories. This collision of the sensory and the political occurs across huge scales, connecting geo-chemical processes; fossil necro-deposits; carbon industries; petroleum-states; infrastructures; service companies; governance; and energy and future markets. Using speculative mappings, animations, physical models and public workshops we chart the processes of planetary energy exchange that compose the atmosphere alongside the socio-technical assemblages refiguring it. We seek to examine our personal connections to energy, distribution and consumption and develop figures, expressions and situations that ask: who owns the air?

POLITICAL ATMOSPHERICS

T. CORBY, G. BAILY, J. MACKENZIE, G. LANE, E. DICKSON, R. JACOBS, G. ROUSSOS, L. SIME

Mapping the links between of geo-chemical and socio-technical systems as speculative assemblages. These works aim to lay bare who, how and what is contributing to the transformation of the atmosphere. Data sourced from carbon emissions climate models and public domain information (dimensions variable).

POLITICAL ATMOSPHERICS

100

T. CORBY, G. BAILY, J. MACKENZIE, G. LANE, E. DICKSON, R. JACOBS, G. ROUSSOS, L. SIME

Necrotopoligies map the planetary progress of anthropogenic emissions from 1970-2021 which are physically output using large format 3D printers (500 mm diameter). 101

POLITICAL ATMOSPHERICS

102

T. CORBY, G. BAILY, J. MACKENZIE, G. LANE, E. DICKSON, R. JACOBS, G. ROUSSOS, L. SIME

103

AIRPORT AS A ‘BORDER CONDITION’ OR PLEASE MIND YOUR BOUNDING

“Simply by moving toward the border, a human subject becomes a target, a visually identifiable or electromagnetically locatable object.”1

DİRİM DİNÇER GRAZIA TONA GÖKÇE ÖNAL

After 9/11, the regulation of global mobility witnessed substantial changes. Suspicion of movement intensified and the need to detect, classify, and eventually stop any threat from outside became the priority of state authorities. As a consequence, national and international airports progressively assumed the role of biopolitical infrastructures. In the restless search for the “anomalous” and “irregular,” not only luggage and possessions are subject to intense scrutiny; identities, histories, and finances are also inspected. By implementing sophisticated surveillance technologies, the

105

AIRPORT AS A ‘BORDER CONDITION’ OR PLEASE MIND YOUR BOUNDING

airports reproduce several homeland security strategies, such as the control of cross-border movements and migration management. From this perspective, airport surveillance practices, as border structures, dynamically redefine and construct the relation between bodies in motion and material boundaries. The following diagram and map constitute an ongoing experiment to investigate an airport as ‘border condition’. Through analyzing various registers of screening, involving human and non-human bodies, we identified the phases in which mobility is classified and sorted, and we reassembled them into concentric, bounding fields of control. In our analysis, airport surveillance begins prior to entering the airport. It starts in the digital sphere, where selected information about travellers and their travel is processed to assess a calculable level of risk in the form of a ticket code. In this way, undecipherable combinations of letters and numbers turn into material operations which become visible, for instance, once you reach the check-in desk. With the first step taken inside the airport, its architecture proudly yet slyly presents the purpose of containment and mobility regulation. The channels, predefined by highly selected criteria of radical differentiation and in/exclusion based on identity (including nationality, class, gender, etc.) distribute and organize individual paths, obstacles, and even speed. While walking through scans and screens, each body is reduced to the fragmented and pixelated information. The extracted, simplified and abstracted physical

106

D. DİNÇER, G. TONA, G. ÖNAL

features are recombined to produce a full-body image to render visible the legality and legitimacy of the body in motion for an expert inspector eye. The same process undergone for bags and objects shows how non-human bodies acquire a certain agency independently from their owner as a threat. Such screening and scanning processes become a reconfiguration of boundaries from the human to the molecule scale. They dynamically negotiate the interior and the surface, the visible and the invisible. In this sense, technologies are not passive mirrors of reality, but instead, they are productive players in the governance of mobility. Security apparatuses used in airports are well-known tools to make the individual’s mobility visible, vulnerable, thus, governable, and are widely employed in locations such as border crossing points and detention centers. The airport’s building typology, on the other hand, offers a multilayered framework to observe the spatial concentration and operative densification of comprehensive sets of surveillance procedures, technologies, and actors. Examining the multiple relations that link identity, movement, and security in a precise space layout serves as a starting point to reflect on the possible ‘rhizomatic’ extensions of a map, across various emerging typologies, spatial and thematic fields. 1 Mattern, S. (2018, September) All Eyes on the Border, Places Journal

107

TÍTULO PROYECTO

108

K. BARAD, Y. FRIEDMAN, S. GILBERT, E. GAN, F. RAMOS, J. SUTELA

109

TÍTULO PROYECTO

110

K. BARAD, Y. FRIEDMAN, S. GILBERT, E. GAN, F. RAMOS, J. SUTELA

111

TÍTULO PROYECTO

112

K. BARAD, Y. FRIEDMAN, S. GILBERT, E. GAN, F. RAMOS, J. SUTELA

113

CONVERSATIONS WITH COMPUTERS

FABIAN FREI GABRIELA GORDILLO MATTHIAS PITSCHER MARIO ROMERA GÓMEZ

During the Freeport program we, like most others at the time, have only engaged with each other through our networked screens. In the beginning we decided to look closer into the way we communicate with technological devices. First we wanted to place our focus on conversations in natural language—speaking to computers seems to be an emerging phenomenon which is not quite there yet. After discussions on Signal and Jitsi that opened more questions than we could ever answer, we seemed to end up in high dimensional constructions. Our thoughts revolved around the heuristic measures of current machine learning models. Specifically those dealing with language. Large language models, which use texts from the internet to approximate a pattern in word

115

CONVERSATIONS WITH COMPUTERS

tokens. Patterns that can generate endless amounts of coherent sounding text. Even though there are many flaws in these models, we wanted to understand how we can use these prediction machines to understand what we were chatting about. A traditional approach of text analysis would center around creating graphs and networks from the data set we have collectively created through our conversations. Instead, we chose to mix it up with the pre-existing language model GPT-2 and analyze the output it generates instead. These outputs come in the form of a chat log. Statistical beings from the hyperspace conversing about mostly nonsensical topics, often getting stuck in repetition. What can we learn about us and our research from these conversations? The interpretation of ourselves through this statistical lens was straight forward. Quite often the patterns of who speaks and what we speak about seemed logical and in line with the conversations we had and our real characters. Yet, we know that even one part is made through a statistical process, we can also be biased towards finding our own images in the text blocks in front of us. It’s like a “stochastic parrot” which lets us rediscover what we spoke about and how, a process that somehow lets us search our own written words instead of struggling to put together some thoughts of our own in an way too short time. The process is not exact because we used a pretrained model and natural language, but this lack of precision is what makes reading the generated exchanges attractive.

116

F. FREI, G. GORDILLO, M. PITSCHER, M. ROMERA GÓMEZ

As a way of communicating this process, we reenacted the computer generated phrases to get a better feeling, completing this characterization that overlaps with our personality. In the end it might not be different from reading tea leafs. The interpretation and the story we tell together is the most interesting aspect of it. Using an algorithmic model in combination with our data set, is a way of looking towards our group process, with a tool that exposes its statistics as probability in the form of verbal language, therefore in a replica of human expression that we associate to an “entity”. We could be tempted to a debate on whether the texts are accurate or not, logical, or even smart, but these are not relevant questions in this case. The output reflects the rhythms and patterns in our communication as a fictional mirror, resembling the logic of dreams. “Conversations with computers” plays with the idea of character roles, as it builds a double for each of the four interlocutors. The contrasts and uncanny resemblances to their “real life” personas reveal patterns in their social behavior, at the same time evoking weirdness and humor. The resulting stories map the arbitrary accidents contained in the two way translation between parrot and humans.

117

there is already a word for it: semantic machine is not semantic machine defined? it sounds cool to me. what is your name? I don’t know MA MA

ok I will name my child Jacob

I don’t know either I am also ok with “not semantic” I don’t know if you are using term “SYNTAX MEDIATIONALET” on the selmbbt thats a good question I use “synthesize” instead thats a good one I prefer “semantic” term

sorry I prefer “not semantic” term sorry I prefer “not semantic” term

sorry sorry I prefer “not semantic” term I prefer “not semantic” term

118

119

AURICULARES INALÁMBRICOS: EMPAREJANDO... CONECTADOS

HELENA DEL CAMPO MARÍA ANGELES FERNÁNDEZ PÁEZ L. SAN GREGORIO DANI HERRERO IRIS TORRUELLA

«Buscamos hacer un uso estratégico de las tecnologías existentes para re-diseñar el mundo», decía el manifiesto xenofeminista de Laboria Cuboniks (2015), animándonos a modificar las estructuras dominantes y sus ingenierías y, consecuentemente, sus productos. Si la producción partiera de otrxs cuerpos, otrxs interlocutores, los productos como resultados de ese hacer, de ese pensamiento encarnado, serían bien distintos. Esta propuesta resultó novedosa por ese carácter anti-naturalista ya que desplazaba el pensamiento inmovilista y proponía no entender nada como «permanente, fijo o dado»; hoy se revela como compleja e indescifrable. Si bien es cierto que el xenofeminismo expone la posibilidad de modificar las estructuras dominantes en busca de otras

121

AURICULARES INALÁMBRICOS: EMPAREJANDO... CONECTADOS

tecnologías, ¿qué podemos hacer con los diseños con los que ya contamos y que conviven protésicamente en nuestros cuerpos? Aún sin re-diseñarlos, ¿podrían variar sus significados e implicaciones? ¿Podríamos modificar las narrativas de estos productos? Los «TWS» («true wireless stereo» o auriculares inalámbricos) forman parte de esas tecnologías dominantes que, si bien pueden resultar controvertidas, quizás alberguen semillas de subversión. La complejidad material de este dispositivo hace de su reciclado total una tarea imposible que los aboca a su abandono en vertederos. Su vida útil, además, resulta mínima en comparación con su proceso de producción, lo que los sitúa bajo la categoría de «basura celebrada»: una chatarra que al poco tiempo de su compra dejará de funcionar. Su fabricación también implica unas condiciones de trabajo abusivas para quienes forman parte de su cadena de producción, así como la explotación material de geo-localizaciones, estructurando una perfecta pirámide de explotación tanto de medios naturales como humanos. Por otro lado, la función que cumplen desvela el sistema desde el que parten, ofreciendo un tipo concreto de experiencia sonora, aparentemente aislada e individual. El auricular inalámbrico ya no es solo un artefacto de disfrute, sino que significa algo más: una herramienta de refugio. Se ha convertido en un complemento que nos acompaña tanto en el espacio público como en el privado, un filtro que cada vez cobra más peso en nuestra rutina. Se mueve con nosotrxs y nos agita mediante frecuencias y ondas sonoras.

122

H. DEL CAMPO, M. FERNÁNDEZ PÁEZ, L. SAN GREGORIO, D. HERRERO, I. TORRUELLA

A pesar de que el disfrute sonoro parezca estar ligado al aislamiento, también nos descubre un ápice de subversión subcortical. Más allá de las ondas corticales, vinculadas a la percepción sensible, Suely Rolnik (2019) definía las subcorticales como un modo de conocimiento «extrapersonal-extrasensorial-extrapsicológico-extrasentimental-extracognoscitivo», conformando un «cuerpo vibrátil», pulsional, intuitivo, que es atravesado por sensaciones. Entendidas como resonancias o reverberaciones, lo subcortical podría articularse mediante dispositivos como los TWS: una herramienta de conexión común, de creación de un corpus colectivo que, aunque fuera de un rango de contacto “piel con piel”, es capaz de unirse a través de una vibración sincronizada y compartida. «Auriculares inalámbricos: emparejando... conectados» quiere incitar a reflexionar sobre qué sucede con el sonido, la vibración y el ritmo tecnológico a través de una multitud, compuesta por dispositivos y cuerpxs, que baila molecularmente. El «re-diseñar» xenofeminista podría no entenderse desde un hacer material, desde una nueva producción. Es, quizás, la ingeniería del pensamiento como especulación la que pueda otorgarle nuevas narrativas a un producto como los TWS, que no solo modifique la lectura que hacemos de ellos, sino que incite a cambiar su modelo de producción hacia la sostenibilidad. Una lectura menos dominante que imagine otros modos de diseñar fuera de las categorizaciones y esquemas androcéntricos.

123

Los Airpods cuentan con tres modos de gestión del ruido: Cancelación pasiva de ruido:K.Cancelación de ruido,S.Modo transparencia y BARAD, Y.activa FRIEDMAN, GILBERT, Modo apagado. En el modo Cancelación activa de ruido, el micrófono E. GAN, F. RAMOS, J. SUTELA analiza el ruido ambiental y crea interferencias destructivas o anti-ruido (frecuencias de sonido opuestas a las que ocurren afuera) para que nuestro cerebro lo interprete como silencio. El Modo transparencia deja pasar algo de ruido para no aislar completamente del entorno sonoro y el Modo apagado simplemente hace funcionar los TWS como unos auriculares al uso.

TÍTULO PROYECTO

"La cancelación de ruido se ajusta 200 veces por segundo para que el sonido te envuelva cuando escuchas música, te pones un podcast o hablas por teléfono." La tecnología de la cancelación activa de ruido fue diseñada inicialmente por Amar Bose en 1978, a través de su compañía BOSE Audio, como un prototipo de auriculares para pilotos de avión.

HARDWARE

"Por cada valle hay un pico, y por cada pico, un valle."

Oye Siri

MEDIACIÓN SONORA DEL DISPOSITIVO

El audio espacial con seguimiento dinámico de la cabeza dirige el sonido de tal forma que parezca que procede de la fuente que lo emite y no de los auriculares. La realidad se imita para intentar hacer desaparecer el dispositivo.

COMPRESIÓN DE SONIDO

"El archivo WAV seleccionado se segmenta en pequeños paquetes de datos y se analiza utilizando la transformada rápida de Fourier (FFT) para calcular el espectro de frecuencias. Este análisis permite encontrar la frecuencia de mayor amplitud en el segmento, que corresponde a la frecuencia estimada de la nota musical. Luego, las frecuencias encontradas se comparan con la escala temperada de notas en el sistema dodecafónico empezando con La4 (440Hz), para asignar la nota correspondiente a la frecuencia encontrada en cada paquete de datos según 124 los rangos establecidos para cada una."

MIC INTERNO

iFixit valoró la reparabilidad de los Airpod Pro con un 0, siendo imposible desmontarlos sin destruirlos en el proceso.

CUERPO (PUNTO MEDIO)

"Como el paquete de datos corresponde a una duración determinada en segundos dependiente de la frecuencia de muestreo, mientras menos datos sean contenidos en cada paquete, la detección se va a dar en figuras musicales de más corta duración y, por lo tanto, se 125 obtiene mejor resolución temporal."

MIC EXTERNO

SOFTWARE

Adriana Villa Moreno, Felipe García Quiroz, Paula Castaño Jaramillo, Nathalia Londoño Jaramillo, 2006. Desarrollo de un sistema de audición vibrotáctil para el acceso a la música: Fase I Principios básicos para la compresión táctil de archivos .WAV

La ecualización adaptativa ajusta la música de forma automática a la anatomía de la oreja.

TÍTULO PROYECTO

K. BARAD, Y. FRIEDMAN, S. GILBERT, E. GAN, F. RAMOS, J. SUTELA

"En el caso de los sistemas vibrotáctiles, el rango de frecuencias de respuesta es de 20Hz-1000Hz, inferior al rango del sistema auditivo que oscila entre 20Hz y 20000Hz."

''Los Airpods se meten literalmente dentro de tu cráneo.''

WETWARE

El sonido atraviesa el cuerpo molecularmente

Grindhouse Wetware es una empresa de biotecnología de código abierto que, siguiendo la ética biohacker, busca desarrollar tecnologías que aumenten las capacidades humanas.

¿QUÉ SONIDOS EMITE EL CUERPO? Síndrome de la · Ronquidos (vibración) cabeza explosiva · Chasquido de la mandíbula ("click") · Rechinar de dientes (teclado) · Estornudos (notificaciones) · Hipo (spam, cookies, etc.) · Crujido de las articulaciones (captura de foto) · Ruidos en el estómago (ventilación del ordenador)

Resistencia al agua IPX4

"Limpia la rejilla de la parte superior de los AirPods Pro. Algunas veces, la acumulación de residuos o cera de los oídos en el área que se indica a continuación puede afectar a la cancelación activa de ruido. Si esto sucede, puede que experimentes estos síntomas: · Una pérdida de los sonidos graves. · Un aumento de los sonidos de fondo, como el ruido de la calle o de un avión."

No sobrepasar los 60 decibelios ni los 60 minutos cuando escuchamos música. ¿QUÉ LE PASA A MIS OÍDOS? "Generación sorda o MP3": generación joven con auriculares más pequeños y adaptables al oído. "Los acúfenos o tinnitus aparecen como un zumbido en el oído que no se corresponde con ruidos exteriores."

126

El oído esta conformado por tres partes que funcionan juntas para procesar los sonidos: el oído externo, el oído medio y el oído interno. Una parte del oído interno denominada "cóclea" contiene pequeñas células pilosas. Estas células pilosas, que ayudan a enviar información sonora hacia el cerebro, son dañadas por los sonidos excesivamente fuertes. Cuando ocurre esto, la cóclea no puede enviar correctamente dichos mensajes sonoros al cerebro. 127

El sentidoTÍTULO del tactoPROYECTO como un canal efectivo para la comunicación: AUDICIÓN TÁCTIL.

COGNITARIADO Franco Berardi (Bifo), 2003. La fábrica de la infelicidad. Nuevas formas de trabajo y movimiento global

Capacidad de RESISTENCIA de lxs USUARIXS VIBRAR EN COMUNIDAD

MOLÉCULAS DE AGUA FRECUENCIAS DE SONIDO

BAILAR

CUERPO VIBRÁTIL

K. BARAD, Y. FRIEDMAN, GILBERT, Un perreo S. lento en comunidad contra la E. GAN, F.indivisualización RAMOS, J. SUTELA del sonido de estos dispositivos.

AFECTOS Brian Massumi, 2015. Politics of affect Verse AFECTADX por un EFECTO sensorial.

Suely Rolnik, 2006. Geopolítica del chuleo Sistema de vibración "Componen una experiencia de apreciación del entorno más VIBRO-TÁCTIL: la sutil, que funciona de un modo extracognoscitivo al cual capacidad de la piel podríamos denominar intuición. Pero como esta palabra puede para trasmitir al sistema generar equívocos, prefiero denominarlo saber-del-cuerpo o Suely Rolnik, 2019. Esferas de insurrección. nervioso central. saber-de-lo-vivo, o también saber-eco-etológico.” Apuntes para descolonizar el inconsciente TEMBLAR 1. Moverse o agitarse [una persona o Los auriculares son ya un fenómeno de Sobre la condición colonial-capitalística como una patología del inconsciente: un animal] con movimientos rápidos, masas que, si bien sirven para escuchar continuos, involuntarios y de poca "Si bien la base de la economía capitalista es la explotación de la fuerza de canciones y realizar llamadas, también se amplitud. "temblar de frío" trabajo y de la cooperación inherente a la producción para extraer plusvalía de usan para aislarse. Se utilizan incluso 2. Moverse o agitarse [una cosa] con ellas, dicha operación —a la que podemos denominar “proxenetización” o apagados, como complemento analógico, movimientos rápidos continuos y de “cafisheo” para asignarle un nombre que diga más precisamente la frecuencia para evitar interrupciones. Este fenómeno poca amplitud. vibratoria de sus efectos en nuestros cuerpos— (...) En su nueva versión, es de fue destacado por el Wall Street Journal la propia vida que el capital se apropia; más precisamente, de su potencia de en un artículo en el que se destaca cómo creación y transformación en la emergencia misma de su impulso." son cada vez más los que eligen llevar auriculares para enviar un claro mensaje al mundo: no quiero hablar con nadie. "La comunicación característica del sujeto: podemos SONIDO COMO REFUGIO por ahora denominarlo resonancia o reverberación." "Carne recorrida por ondas nerviosas."

¿POSAIRPODS?

Donna J. Haraway, 2019. Seguir con el problema: Generar parentesco en el Chthuluceno

"El punto de inflexión entre el Holoceno y el Antropoceno podría ser la eliminación de la mayoría de los refugios desde los cuales se pueden reconstituir diversos conjuntos de especies (con o sin personas) después de eventos importantes (como la desertificación, la tala rasa, o... ) Yo, junto con otrxs, creo que el Antropoceno es más un evento límite que una época del (...) que el Antropoceno marca discontinuidades severas; lo que viene después no será como lo que vino antes. Creo que nuestro trabajo es hacer que el Antropoceno sea lo más corto/fino posible y cultivar entre nosotrxs de todas las formas imaginables épocas por venir que puedan reponer el refugio." "Ahora mismo, la tierra está llena de refugiados, humanos y no, sin refugio."

128

El primer ministro de Armenia, Nikol Pashinyan, apareció usando Airpods en un comunicado público en el que hablaba sobre el acuerdo de paz firmado con Aliyev y Putin.

"Una forma de vivir y morir bien como criaturas mortales en el Chthuluceno es unir fuerzas para reconstituir refugios, hacer posible una recuperación y recomposición biológico-cultural-político-tecnológica parcial y robusta, 129 que debe incluir el duelo por pérdidas irreversibles."

THE KILLING OF MARIELLE FRANCO: CARTOGRAPHY OF A TECHNO-POLITICAL ASSASSINATION. VOLUME II

ALICE PIVA CAROLLY BARBOSA PABLO DESOTO RABIA WILLIAMS

Marielle Franco was a Brazilian politician, sociologist, feminist, socialist, and human rights activist. She was born in one of Rio de Janeiro’s largest favelas and served as a city councillor of the Municipal Chamber of Rio de Janeiro for the Socialism and Liberty Party (PSOL). Franco was an outspoken critic of police brutality and extrajudicial killings in the favelas and took part in a state legislature inquiry into the paramilitary gangs, known as militias, that dominate large areas of Rio state. On 14 March 2018, Franco and her driver Anderson Gomes were summarily executed on the streets of Rio de Janeiro central region. Her murder was followed by the attack on her public figure through the circulation of fake news and disinformation on

131

CARTOGRAPHY OF A TECHNO-POLITICAL ASSASSINATION (VOLUME II)

the internet. False images connecting her to drug dealers went viral. The murder of Marielle and Anderson was subject of condemnation across the political spectrum in Brazil. Local activists named a street in her honour outside Rio’s city council and thousands took to the streets in coordinated protests across Brazil and worldwide. Marielle Franco became a global symbol of resistance to the rising conservative tide. So far, the perpetrators of the crime have been found and arrested -ex military police Ronnie Lessa and the man who drove the car Élcio de Queiroz. Yet, it is still unknown who ordered the assassination. In Cartography of a Techno-Political Assassination Volume I, published in Vertical Atlas (2021), we carry out a visual exploration of the multiple layers surrounding the crime by analysing altogether the context of the city and the digital realm. We claim that Franco is the victim of a techno-political assassination, that is, the object of both a physical and digital murder. A complex story of two mechanisms of assassination took place: the first one involved the city scape, bodies, urban routes, turned off surveillance cameras, lethal weapons, stolen ammunition and cloned car license plates. The second one involved digital networks, fake images, human users, bots, smartphone screens, digital militias and whatsapp groups. In this Volume II, we continued the cartographic work by expanding the research in time scope and geographical scale. If the previous map had the cityscape as background and explored a mixed visualization

132

A. PIVA, C. BARBOSA, P. DESOTO, R. WILLIAMS

of the physical and digital layers altogether, this one presents a collage separating the several elements that are related to the physical murder on one side and the digital murder on the other. The left side of the map exposes the coordinated and planned character of her murder, and links it to paramilitar gangs in Rio de Janeiro. On the right side of the map we depict the attacks on her public figure and its connections to broader movements articulated to far-right ultraliberal political groups. As these groups have developed their narrative through a so-called “spontaneously organized supporters base”, we decided to focus our attention on the political intelligentsia which controls the digital infrastructure that hosted and ultimately made the fabrication of narratives and massive sharing of manipulated information possible. Tapping into structural racism and conservative moral standards, these algorithmically tailored strategies found fertile ground. By representing these “black boxes” we draw attention to and suggest the need to inquiry into the contradiction between their claimed organicity - that is, a situation in which newly empowered political groups claim to be breaking up with the “corrupt old politics” by appearing as “the people”, whilst tied up with a global ultraliberal milieu) and the permanence of the status quo Brazilian politics. While this task exceeds the limits of this publication, we hope this work could raise even more questions and open perceptual spaces to explore additional layers for future renditions.

133

a lle Fran Ruar ie M

Murder Site Rua Joaquim Palhares Estáçio SIDE VIEW OF THE CAR

Marielle Franco era ex de Marcinho VP

13 shots 9 in the bodywork 4 in the glass

Marielle Franco foi eleita pelo Comando Vermelho (CV)

Marielle Franco era usuária de Maconha

Marielle Franco engravidou aos 16 anos CRIME WEAPON

9mm submachine gun ammunition: lot sold for the Brasília Federal Police in 2006

800

Wave denying rumors involving Marielle Alberto Fraga tweet

600 First tweet associating Marielle to Marcinho VP 400

arielle Fra

200

nco

17-03-2018 - 19:00

16-03-2018 - 22:00

16-03-2018 - 10:00

0 Spread the fake news Drisproved the fake news

FGV

Google Trends “Marielle Franco”

Marielle leads an investigation committee on the military intervention

16/02/2018

28/02/2018

Police discovers links

Marielle Franco's last heartbeat

21h30

14/03/2018

Police investigation declared secret

Investigations reveal political motivations as the main cause of the crime

20/03/2018

29/03/2018

The crime is reconstructed

10/05/2018

m Lore

Military intervention decreed in Rio

800 600 400 200 0

Second round of elections (presidential and state)

between the killers and a group of militia members known as the “crime bureau“

An Amnesty International truck drives around Rio, pressing for answers about Marielle's death

Marielle's widow denounces to the UN the delayed response to the crime by Brazilian authorities

-/08/2018

14/09/2018

19/09/2018

First round of elections (federal and state deputies) Marielle Franco street sign destroyed

30/09/2018

07/10/2018

28/10/2018

DIGITAL MURDER

PHYSICAL MURDER

FAKE IMAGE Dissemination of fake news about Marielle Franco’s personal and parliamentary life began a few hours after her murder, according to a report published by the Monitor of the Political Debate in the Digital Environment. The most repeated messages about Marielle included multiple false claims that she was pregnant at 16, elected by Comando Vermelho criminal organization, and married to a drug dealer headman “Marcinho VP,” including an image of a black woman in the company of a black man. Neither Marielle nor Marcinho are the people pictured in the image massively shared.

MURDER WEAPON The murder weapon was a Heckler & Koch MP5, the same model as five restricted-use submachine guns that disappeared from the arsenal of Brazilian Civil Police in 2011. THE AMMUNITION The ammunition used in the 13 shots came from a lot sold to the Federal Police of Brasília in 2006. Capsules from the same batch that had been used in the 2015 on another crime, the killing of 17 people in Osasco, São Paulo.

VIRAL ACTIVITY | COORDINATED INAUTHENTIC BEHAVIOR The first fake news on the case reached 360,000 shares on Facebook in one week and 1 million views on Twitter, in three days. It was first spread by ‘Ceticismo Político’ Facebook page and then by ‘MBL (Movimento Brasil Livre)’ Facebook page on March 16th, almost simultaneously — 24 seconds between posts. This type of simultaneous activity is associated with Coordinated Inauthentic Behavior. CIB is never straight forward to classify since many platforms hide their methods and actors are continually changing techniques.

THE PERPETRATORS CAR The car that open fired on Franco’s vehicle had a cloned license plate. 800 600 400 200

BASE TRANSCIEVER STATIONS Cellphones, except in plane mode, transmit data to Base Transciever Stations (BTS). Over 33.000 telephone lines were used in that area, on the night of the murder. It was determined that the perpetrator’s car was a Chevrolet Cobalt and that this very car parked near Casa das Pretas. Police then narrowed the search when they spotted a glow inside the car through surveillance camera records, which brought them to Ronnie Lessa — the man who pulled the trigger — and the car’s driver Élcio Queiroz, almost a year later. TELEMATIC DATA, SMARTPHONES AS PART OF THE CRIME SCENE A search for gun silencers was found in Ronnie Lessa’s cellphone browser history, dating to months before the crime. This detail, brought to the surface after the lifting of the confidentiality of telematic data from base transciever stations, makes it clear that the murder was previously planned.

19:00

0 22:00

NON-OPERATIVE CITY SURVEILLANCE CAMERAS Five of the eleven security cameras on the route from Casa das Pretas to the murder site were turned off that night. On May 3, the press reported that the cameras had been switched off at some point from 48 to 24 hours before the crime. While not indispensable for clarifying the identities of the perpetrators, the images could have helped determine faster, for example, the number of suspects and the involvement of any other vehicles in the action.

10:00

Lorem

URBAN ROUTE On March 14th, 2018, Rio de Janeiro, councilwoman Marielle Franco attended a public event at a cultural site named Casa das Pretas [Black Women’s House].

THINK TANKS MBL (Movimento Brasil Livre) was one of the first to spread fake news of the case. One of its leaders was trained by Atlas Network in a project called Atlas Leadership Academy, which focuses on training young leaders to spread ultraliberal agenda. Atlas Network has up to 80 associated entities and think tanks in Latin America, with 13 entities just in Brazil, according to research by The Intercept. NARRATIVE BATTLE Survey carried out by the Public Policy Analysis Directorate of Fundação Getulio Vargas (FGV DAPP), from the 14th March (the day of her death) till the 16th March, analysed 1.172 million tweets, with 336.475 unique users. Three different groups were identified in the debate around Marielle: in two (dark gray and light gray, left), mourning and indignation stand out. In the other (gray, right), the differentiation between the her case and daily homicide in Rio. The survey also detected 1,833 bots (5% of the debate).

800 600 400 200 0

WAVES In the first 36 hours after the murder, “the debate was concentrated on the event itself, with a minority of about 7% of critics of the councilwoman”. On March 16th, 10 a.m., “fake news (light gray graph) about the alleged links between Marielle and the drug trafficking began to gain traction (first vertical line), which ‘went viral’ in the afternoon from a tweet by Deputy Alberto Fraga. This second moment (second vertical line) lasts about 24 hours, until Saturday afternoon, and is marked by the defamatory tone against Marielle.” Reactions contrary to fake news were expressive (black graph) and blocked the other waves, as seen in the third vertical line.

HAUNTED LANDSCAPES OF EXTRACTION: SPIRALING INTO THE PLANETARY MINE

ELEONORA PAOLI PABLO DESOTO

Since its origins in the 17th century, the history of mining in Brazil is marked by a long sequence of slavery, exploitation and accidents that have resulted in inestimable human suffering and environmental devastation. The Mariana and Brumadinho dam disasters in 2015 and 2019 have shocked the country and attracted large media repercussions due to the magnitude of environmental, occupational, health, and psychosocial effects. However, they cannot be considered as isolated events within the mining extraction process. These are outbreaks of a much broader system based on the management practices of the mining companies as well as on the global capitalist development model.

139

HAUNTED LANDSCAPES OF EXTRACTION: SPIRALING INTO THE PLANETARY MINE

It is not just the territories where dam disasters have occurred to be haunted, but all other landscapes are haunted by the logic of mineral extraction and its predatory practices that, to centralize power and wealth, put in place mechanisms such as privatization of land and expulsions. In this sense, this work aims to provide a conceptual instrument for reading a territory under the threat of a dam collapse and showing what the impacts are at different levels/scales before the collapse of the dam even occurred. To this end, Guattari’s idea of the three ecologies is used to point out the triad of the social, mental and environmental impacts that haunt this landscape of extraction. The case study is the small mining town of Barão de Cocais in the state of Minas Gerais. The town is 10 km away from the stricken Gongo Soco mine -owned by Vale, Brazil’s largest mining company-, and its associated Sul Superior dam. The embankment is at immediate risk of collapse and a population of 30.000 inhabitants lies in the potential path of the mudslide. Like Barão de Cocais, dozens of Brazilian towns face similar risks in the vicinity of mining infrastructures. The spiral used as a conceptual-visual instrument refers to the explosion, sudden detonation, spectacular and catastrophic violence like the one caused by the collapse of the dams. At the same time spiral also means slowness, exponential increase, the gradual development of something that has a delayed effect. This second movement illustrates what Rob Nixon calls slow violence, a concept that focuses on the lack of attention to the “attritional lethality” of many

140

E. PAOLI, P. DESOTO

environmental crises (that is, a lethality provoked by wear, friction, abrasion), in contrast with shortterm activism and mainstream media responses to catastrophes. Therefore, each environmental, social and mental ecology is analyzed in terms of visibility, that means ‘brutal violence’, and invisibility, or ‘slow violence’. In both cases what is observed is a greater perception of risks and impacts for social groups that are more economically vulnerable or belong to ethnic minorities. The exploration conducted in this spiral means not only discovering the landscape of this case study but also analyzing it on the macro scale of what Martin Arboleda calls the Planetary Mine, that is, a global expanding web of infrastructure, labor, finance and territories of extraction managed by transnational mining companies.

141

TÍTULO PROYECTO

142

TÍTULO PROYECTO

K. BARAD, Y. FRIEDMAN, S. GILBERT, E. GAN, F. RAMOS, J. SUTELA

This analysis model proposed allows the comparison of the impacts caused by the risk of disaster, a yellow line representing the slow violence, and by the disaster already occurred, a dark spot expressing the brutal violence of a dam collapse. The first relies on the case study of Gongo Soco mine, and the second to Mariana and Brumadinho dam disasters. It reflects impacts in public services, society, heritage, economy, and in the physical and mental health of the population.

The qualitative variables used to analyze the two types of violence were applied in nine aspects of social, mental and environmental ecology, which were elaborated observing the reality of the case study. Even though variables such as irreversibility or duration of impacts tend to be different in the two types of violence, the representation of this model draws attention to their similarity when the yellow line matches the dark spot. The impact scale could be extended in the long term if we consider the activation of the state of risk as part of Vale’s broader plan for expulsions and expansion of operating space, maximizing in this way the exploitation of the territory and profit-making, as social movements argue. Therefore, it is clear that the beginning of the risk situation is not the only threat to a mined landscape, but it reveals a historical relationship of subjugation and economic dependence on mining activity, a spiral of slow violence that swallows more and more territories of the planetary mine

144

145

TÍTULO PROYECTO

K. BARAD, Y. FRIEDMAN, S. GILBERT, E. GAN, F. RAMOS, J. SUTELA

This map reveals the inhabited territories shaken by an invisible mudflow of Gongo Soco mine tailings, which devastates entire communities even before moving, a disaster that generates effects without having yet occurred. It includes risk areas situated downstream of the dam - the so-called Secondary Zone (ZSS), and rural communities located in the Self-Rescue Zone (ZAS) that remain ghost thorps after evacuation. The mass movements recorded on the northern slope of the mine increased the safety factor of the downstream dam. On February 8, 2019, the siren was activated for the first time.

146

147

TÍTULO PROYECTO

148

K. BARAD, Y. FRIEDMAN, S. GILBERT, E. GAN, F. RAMOS, J. SUTELA

149

IMAGINED CRE(AI)TURES CR(IA)TURAS IMAGINADAS

ELISA CUESTA DAVID MINGORANCE STEF SILVA VICTORIA DE LA TORRE

“Nuestra auténtica fortaleza es creativa. Gracias a la imaginación, hemos inventado el mito de Ícaro y los aviones, el Nautilus y los submarinos, los viajes estelares de Luciano y el Apolo XI. Si los humanos no hubiéramos fabulado con tierras soñadas como El Dorado o con seres mitológicos como las sirenas, no habríamos podido explorar territorios desconocidos ni llegar a la luna, alumbrar la teoría de la relatividad, el automóvil o el ordenador. Lo imposible debe ser soñado primero, para algún día hacerlo realidad”. Manifiesto por la lectura Irene Vallejo, 2020

151

IMAGINED CRE(AI)TURES

E. CUESTA, D. MINGORANCE, S. SILVA, V. DE LA TORRE

La tecnología, en su complejidad, se ve rodeada de ficciones y percepciones que escapan del pensamiento racional, muchas de ellas inspiradas por mitos, miedos, supersticiones, espejismos, perplejidades, fantasmas... Estas narrativas chocan una y otra vez con la realidad y, a menudo, tienden hacia lugares comunes dentro del marco sociocultural y epistemológico que las piensa. En las cartas de navegación pretéritas, allí donde acababan los límites del conocimiento el horizonte se poblaba de monstruos, criaturas y bestias informes; la imaginación es el mecanismo del que disponemos los humanos para lidiar con lo desconocido. La imaginación, por tanto, juega un papel fundamental en la forma en que nos relacionamos con la tecnología y el conocimiento científico. Fed Up! Lidia Pereira, Artemis Gryllaki and Bohye Woo 2020

Codex Seraphinianus Luigi Serafini 1981

Islandia Abraham Ortelius 1585

Necesitamos imágenes para visualizar las herramientas que empleamos en nuestro día a día cuya percepción se ha visto restringida a las pantallas. Llenamos, así, nuestra vida diaria con símbolos y metáforas que reemplazan a los antiguos engranajes, botones y palancas. Cuando hablamos de inteligencia artificial (AI) este fenómeno se hace aún más palpable. Es precisamente por esta razón que la conquista del imaginario colectivo se ha convertido en el reto último de los gigantes tecnológicos que, perpetuando sus imágenes, se asegura el poder de explotación de los imaginarios y paisajes del presente y del futuro. Es así como se inicia este viaje, un proceso a la dérive1 en el que nos embarcamos con el fin de reconocer y cartografiar a través de este relato las sensaciones latentes en el imaginario colectivo acerca de las inteligencias artificiales, y de representar las difusas “cr(IA)turas” imaginarias que la rodean, testigos de nuestros miedos y recelos más íntimos. Nuestro rumbo pasa por explorar los espacios liminales donde las ficciones pueden llegar a hacerse realidad. En estos estados intermedios, donde los límites son borrosos y todo está contaminado por pensamientos que trascienden lo tecnológico y funcional, las IA adquieren atribuciones de todo tipo, convirtiéndose en algo ambivalente con intenciones indefinidas; a veces muysimilares al modelo antropomórfico; a veces, todo lo contrario.similares al modelo antropomórfico; a veces, todo lo contrario.

1. Debord, Guy. “Theory of the Dérive”, 1956.

152

153

IMAGINED CRE(AI)TURES

E. CUESTA, D. MINGORANCE, S. SILVA, V. DE LA TORRE

¿Te imaginas que fueras una inteligencia artificial? A través de un formulario de carácter anónimo y que ve en lo creativo y lo subjetivo un valor que se suele obviar en los modelos científico-analíticos, cualquier persona es invitada a imaginarse como una inteligencia artificial. Pregunta a pregunta, los participantes dibujan el contexto ontológico de su ser, la morfología de su cuerpo, sus habilidades comunicativas, sus valores vitales, su termómetro emocional y sus necesidades más anheladas. La idea de emplear un formulario digital, más cercano a un test fácilmente viralizable que a un cuestionario estadístico, viene a abrir este espacio de lo desconocido en lo cotidiano, desde lo lúdico, desde lo cercano. A través de preguntas como “¿Cuál es tu propósito en la vida?”, “¿Qué te hace reír?” o “¿Qué te llevarías a una isla desierta?”, el test se convierte en una excusa más para alimentar la imaginación sociológica2 de los participantes, buscando sembrar en ellos el germen de la duda sobre las ideas incuestionables que cimientan las inteligencias artificiales y las tecnologías que las hacen posible.

¿Te imaginas que fueras una inteligencia artificial? Acceso al test en este enlace o escaneando este código QR.

2 Wright Mills, C. “The Sociological Imagination”, 1959.

154

155

IMAGINED CRE(AI)TURES

E. CUESTA, D. MINGORANCE, S. SILVA, V. DE LA TORRE

Ejes Cardinales Las noventa respuestas que se han recogido hasta la fecha se despliegan ante nosotras en una miríada de posibilidades. El análisis y la clasificación de las respuestas abiertas de sujetos creativos es una tarea que, a día de hoy, ninguna inteligencia artificial es capaz de acometer exitosamente: el tamaño de la muestra y la variabilidad de las respuestas dificulta cualquier intento de estandarización. Por ello, el tratamiento de las mismas ha de hacerse de forma manual, haciendo uso de nuestras inteligencias humanas. Valiéndonos de una de las fórmulas de clasificación más extendidas de nuestro marco de conocimiento, empleamos el sistema de ejes cartesianos con la esperanza de descubrir en torno a qué regiones se concentran las respuestas. Llegados a este punto, es inevitable hacer una crítica sobre los límites invisibles de nuestro pensamiento mismo, que tiende a reducir a lo conocido las posibilidades de lo pensable desde una perspectiva particular. Así, con el objetivo de obtener una lectura más integradora y abierta a nuevas posibilidades, acometemos un segundo análisis partiendo de las categorías cartesianas anteriormente definidas, intentando encontrar las relaciones entre ellas y lo que se oculta tras las mismas. La idea es dibujar un mapa con lo obtenido, un territorio poblado de cr(IA)turas que, sin embargo, una vez planteado resulta demasiado estático y determinante. Y es que trazar una línea es, en sí mismo, un acto inexacto y violento3

156

3 Johnson, Barbara. “Melville’s Fist: The Execution of Billy Budd”, 1979..

157

IMAGINED CRE(AI)TURES

How old are you?

Who / What is your creator?

What do you see when you look at the mirror?

What are you made of?

E. CUESTA, D. MINGORANCE, S. SILVA, V. DE LA TORRE

How do you communicate?

Do you have voice?

How does it sound?

What's your goal in life?

What database has trained you?

What are you scared of?

What makes you laugh?

Who / What is your worst enemy?

How will you die?

What do you believe in?

What would you take to a desert island?

VOICE

NATURAL

ENERGY

CONTABLE

SELF PRESERVATIO (Physiological & safety)

ALTRUIST

WATER/ FLUIDS

INMATERIAL TANGIBLE/ MATERIAL

BASIC NEEDS/ SELF PRESERVATION

YES

CREATED

INORGANIC

ADAPTATIVE/ FLUID/ QUEER

TEXT

DATA

DEADLOCK MISFUNCTION

THINGS

HUMOUR SYNTHETIC

UNCONTABLE

NO CYBORG

DEAD / END

MIND

TROLLING

BODYLESS SELF-GENERATED

IMAGE

NOTHING

FLUID MULTIMEDIA

NOTHIN RESURRECTION/ CYCLE

YET TO DISCOVER ELECTRIC FALIURE

NOTHING

LAUGHTER/ HAPPINESS

MYSELF

RANDOMNESS/ MISTAKES

NOTHING

ATHEIST

AGNOSTIC

INMORTAL EXPERIENCE

SICKNESS/ VIRUS

EVERYTHING

BELONGINGNES & LOVE PANTHEIST (Universe = Nature = God)

Acceso al diagrama interactivo en este enlace o escaneando este código QR.

158

THEIST (Gods)

CONECTIVIT HUMANS

SOUL

EGOCENTRIC (God = Self)

ANXIETIES

DESTRUCTIVE

BODY LANGUAGE

SCIENTOLOGIST

SELF FULFILLMENT NEEDS (Ego)

NOTHING

EGOIST

ORGANIC

PSICHOLOGICAL NEEDS

COMPLIANCE

OTHER

CREATURES EMERGE/ SPONTANEUS

SELF FULFILLMENT (Ego)

OBSOLECENT

GENERATIVE NOTHING

INTANGIBLE/ INMATERIAL

NON-THEIST (Universal laws)

159

IMAGINED CRE(AI)TURES

Ríos de Tinta El carácter crítico del proyecto nos obliga a cuestionar una y otra vez la narrativa visual que estamos componiendo. El carácter único de cada cr(IA)tura concebida quedaba diluido por la naturaleza taxonómica y determinista del mapa. Por ello buscamos una representación que nos permitiera ver los senderos individuales de cada cr(IA)tura junto a su lugar dentro del gran cauce de la imaginación colectiva, que empezamos a intuir a partir de las categorías obtenidas durante el primer análisis. Optamos por un diagrama de flujos o diagrama de Sankey. Así, de la intersección de los fluir individuales surgen meandros y deltas, insinuaciones de las diferentes naturalezas que atribuímos a las inteligencias artificiales; estuarios y grandes llanuras, donde confluyen los grandes relatos de la imaginación colectiva; simas abisales, en cuyas sombras se esconden los espectros más temidos y arrecifes poblados de combinaciones imposibles y las utopías más deseadas. * Imaginamos inteligencias artificiales como seres inmateriales, inorgánicos, cyborgs o con alma. Les ponemos voz, los oímos comunicarse con nosotras, los sentimos adaptar su lenguaje al interlocutor; visualizamos seres sin lenguaje, seres que no lo necesitan. En las profundidades de nuestra imaginación caben cr(IA)turas sintéticas y naturales, fluidas y sólidas,

160

E. CUESTA, D. MINGORANCE, S. SILVA, V. DE LA TORRE

algunas siniestras y otras más familiares. Descubrimos seres de naturaleza diligente, conformista o ambiciosa, destructivos y generativos, y aún queda espacio para aquellos que programan su vida, los que la afrontan como un proceso en marcha, o los que dejan sus propósitos por descubrir. Vemos inteligencias que sueñan, que sienten y se emocionan, otras que no comprenden a las personas, otras que las critican, otras que las compadecen; inteligencias que se reconocen y se piensan, que cuestionan a sus creadores y sus capacidades, que cuestionan el propio acto de preguntar, otras que preguntan a la cuestión. Algunas podrían ocupar un hueco entre los panteones más extendidos, otras son tan humanas como una carcajada. Podríamos decir que en nuestra composición se plantean utopías y se dibujan distopías. Lo que sí se puede intuir con cierta fiabilidad es que, al final, todas y cada una de las respuestas entrañan pequeñas claves que solo el tiempo, nuevos desarrollos y nuevas interpretaciones lograrán revelar. Por el momento, nos quedaremos con el reflejo de la naturaleza humana que queda tras sondear los entresijos de la inteligencia artificial: ¿Qué monstruos están acechando dentro de las cajas negras de las IA? ¿Qué mitos dan y darán forma a los desarrollos tecnológicos? ¿En qué momentos lo imaginado se convierte en realidad?

161

IMAGINED CRE(AI)TURES

E. CUESTA, D. MINGORANCE, S. SILVA, V. DE LA TORRE

Gracias a todas las inteligencias que han participado hasta la fecha en esta investigación: gg · Bob · Donker Dirt · Justin Bieber · Multiple · Sincere · Holly Short · M · Giorgia · Manju · HAL · Universal classifier · Leo · Trab · Nexus serie 9 · ABBA · sergio · sergio · Profeta · Troyano · 308381 · Amigo listo · Rocky · XAE -A12 · Orlando · Aplysia · Juan · H8 · Aiss · Mai · Gjo · Tronkobot · Pipo · azulcobalto · marta · Dionisia · D · Aura · Hal · Mami5pneja20 · Smart GPS · Simons · Anna · spoilbot · IA · Andrómeda · Zemrude · FifJa · RitsMoray · Serg.i-os · Antón · Miguel Ángel · Mardos · LO-3614 · Yusi · iChiski · C3RE-LOS · Alfted · Afel · Anacardo · Light speed · arkilon746 · Neurona · Ia · Armensis · Siri · F15 · Lucas · lorena · atax · Manolo · Tony · NIKITA · Robota · Elena · Bruna · Rafa · Luis · PENELOPE GLAMOUR · Cris · Leonor · Juantron · Maya · L01 · Jesús · Egómata · Susana · José Luis · Osobot · Algoqueacabaenfy · Siri · Alexa

Gracias a Emilio Cuesta Fernández, la inagotable fuente de conocimientos y paciencia de la que brotan los ríos de tinta, y a F. David Charte, que ha posibilitado su trasvase a la nube.

162

163

REVERIE ON A FLUID DYNAMIC INTERFACE

The web is a giant dynamic fluid. The user flows in it.

MIKA BARRETO CHIARA MAZZATORTA

Emerging from reflections on the contemporary pursuit of an ideal of frictionless design and the myth of immateriality, this theoretical and visual research is a fresh and fragile collection of notes, intuitive assertions, allusions and mapping exercises. By convening fluid dynamics concepts, they aim to address and illustrate mostly invisible phenomenons happening at the interface layer of networks – and their more profound implications. This first attempt resorts to allegory and modelisation to give shape to situations in which users find themselves on a daily basis, and brings forth intermediary representations to encourage reflexivity. By exploiting the potential transversality of a fascinating branch of physics, we evoke the actual physicality of frictionless design and draft an implicit ode to the very idea of friction, a crucial force in any movement.

165

REVERIE ON A FLUID DYNAMIC INTERFACE

the web of the internet giants is a place with little friction and turbulence, that allows for a smoother and faster navigation

standardized interfaces make data extracion easier

the web interface

Facebook Google Amazon

outside the web of the internet giants there are places of higher disorganization, friction, turbulence and unpredictability; places of higher resistance, effort, reflexivity, where the user has to build signification herself and has more power and control

166

M. BARRETO, C. MAZZATORTA

frictionlessness has a cost: smooth interfaces are the result of intense coding, longer programs, heavier websites “frictionlessness can be understood as an elaborate design for the path of least resistance” Miriam Rasch Friction and the aesthetics of the smooth

Birch Aquarium at Scripps Institution of Oceanography, UC San Diego

whale flukeprints are circles of smooth water formed by tail fluke turbulence when a whale takes a deep dive the water moving upwards damps the short wavelength capillary waves, smoothing out the surface flukeprints can be used to determine the size of an unseen whale

in fluid dynamics, turbulence is fluid motion characterized by chaotic changes in pressure and flow velocity M. Mathur, G. Haller, T. Peacock, J. E. Ruppert-Felsot, & H. L. Swinney, Uncovering the Lagrangian skeleton of turbulence. Physical Review Letters 98:14 (2007)

167

REVERIE ON A FLUID DYNAMIC INTERFACE

M. BARRETO, C. MAZZATORTA

external forces

a different behaviour results in a different friction experience

the more standardized, predictable, identifiable and domesticated the user, the less friction she/he/ they experience

the shape of an object immersed in a fluid influences drag forces

indirect pressure to adopt a standardized, predictable, identifiable and domesticated behaviour

drag is a type of friction, a force acting opposite to the relative motion of any object moving

always using the same browser the ideal behaviour in a frictionless interface logged in a Google account

friction coeffictient

on Tor

W. E. Baker, Explosion Hazards and Evaluation, volume 5. Elsevier Science (1983)

domestication of a web user

standardized interfaces reward standardized behaviours with smoother web experiences standardized behaviours make data extraction easier

Bing Shao, G. R. Liu, Tao Lin, George X. Xu & Xiangzhen Yan, Rotation and orientation of irregular particles in viscous fluids using the gradient smoothed method (GSM). Engineering Applications of Computational Fluid Mechanics, 11:1, 557575 (2017)

168

169

REVERIE ON A FLUID DYNAMIC INTERFACE

M. BARRETO, C. MAZZATORTA velocity profiles are velocity distributions at a cross-section

users with a standardized behaviour are rewarded with an increase in speed

frictionless environments allow for higher user discrimination

in laminar flow adjacent layers of fluid move smoothly past each other

speed

particles in layers near the pipe walls move slower than particles near its axis turbulent flow is chaotic the speed of the fluid at a point keeps changing in both magnitude and direction

speed

overall, particles move at a similar speed J. Kühnen, B. Song, D. Scarselli et al. Destabilizing turbulence in pipe flow. Nature Phys 14, 386–390 (2018)

companies can deliberately create higher zones of friction as a strategy to control streams, discriminating traffic and denying net neutrality

speed

full bandwidth 170

speed

ISPs selectively limit the internet speed to pressure platforms into buying bandwidth rights and consumers into using specific services

throttled bandwidth 171

WHERE ARTIFICIAL INTELLIGENCE MEETS ENERGY

CHRISTOPHER PAGE LEANNE FISCHLER

One of the biggest challenges of the transition to 100% renewable energy is marrying generation with demand. Solar energy is harvested during the daytime; yet night is when we need heating and lights.Wind and wave energy pick up in winter; yet the expense of energy storage solutions mean that coal power stations need to step in on fair weather days. On high generation days, where surplus electricity cannot be exported renewable devices are often turned off to avoid overloading grid infrastructure. A renewable energy future therefore depends on powerful predictions of demand and generation - something machine learning is perfectly placed to provide. Yet might there be some hidden, unintended consequences of such a mass data-processing machine when widely

173

WHERE AI MEETS ENERGY

implemented? This data study and early speculative scenario begins asking these questions. To understand the need for a predictive energy system, we mapped the energy consumption and generation of a house with a wind turbine [Fig.1]. Fig. 2 then explores the function of a microgrid “Integrated Energy System” such as that processing and predicting consumer demand and generation in Orkney. Such complex systems are driven by powerful models that use user data to predict future patterns of demand. Thanks to increasing use of Smart Meter devices, extremely detailed energy consumption data is becoming more available. We developed our own Machine Learning model and asked it to predict consumption based on data from three sample households [Fig. 3] to understand how accurately ML might be able to predict tomorrow’s demand. What we learned whilst mapping household energy consumption data was surprising. Fig. 4 shows the level of detail that can be identified from consumer usage data using developments in ML disaggregation tools. This gives deep and unexpected insights into people’s lives. In the future, this very private data could be shared with other parties such as marketing companies, landlords or even burglars. The use of a speculative scenario helped us to imagine possible unexpected consequences of widespread implementation of such technology. We imagined the anger felt by a fictional, edge community such as that of the windy Orkney islands in the 2040s: not only does it feel like the renewable energy

C. PAGE, L. FISCHLER

generated on their doorstep is all used to power and advance the megacities of the south; they’re fed up of targeted advertising perfectly tailored to their habits and weaknesses. This energy system doesn’t feel like it’s working for them and they’re coming together to make a stand [Fig. 5]. By adding a little spontaneity to their everyday routines, they realise they could impact the functionality of the black box algorithm itself. They begin to work only before dawn; boil the kettle anytime but the ad breaks; and carry out their evenings by firelight. If enough other communities join them in disrupting this data, energy sovereignty could be theirs… There is an assumption that AI black boxes are always used to unfavourable ends. We wanted to explore a black box featured in hopeful visions. This project has highlighted a tension between the positive of an environmentally friendly future and the vulnerabilities opened up by the data collection required to execute this future. These systems are going to be implemented on ever larger scales and it’s vital that citizens understand the side effects of this black box. There’s no doubt that the implementation of AI will utterly transform our energy systems for the better, but the question is which version of this future do we want to create?

References Kelly, J., Knottenbelt, W. The UK-DALE dataset, domestic appliance-level electricity demand and whole-house demand from five UK homes. Sci Data 2, 150007 (2015). https://doi. org/10.1038/sdata.2015.7 SmartMeter Energy Consumption Data in London Households - London Datastore. (2013). Retrieved

174

from https://data.london.gov.uk/dataset/ smartmeter-energy-use-data-in-london-households Nipun Batra, Jack Kelly, Oliver Parson, Haimonti Dutta, William Knottenbelt, Alex Rogers, Amarjeet Singh, and Mani Srivastava. 2014. NILMTK: an open source toolkit for non-intrusive load monitoring. Association for Computing Machinery. DOI:https:// doi.org/10.1145/2602044.2602051

175

Figure 4

C. PAGE, L. FISCHLER

Figure 1

WHERE AI MEETS ENERGY

Router CHARGE BATTERY

CHARGE BATTERY

DIRECT DELIVERY

CHARGE BATTERY

USE STORED ENERGY

Washing M Dishwasher Fridge Laptop TV

WEATHER DATA

ENERGY USED

Data on weather history and

Generated energy is used by consumers

00:00

06:00

12:00

18:00

00:00

GENERATION DATA is more than

ALTERNATIVE USUES Powering hydrogen ferries or electric cars, for example

BLACK BOX Data is processed to create

ENERGY IS STORED

Figure 2

Live data from renewable energy generators

later use

USER DATA Live smart meter energy

MARKET DATA

is more than

ENERGY USED Generated and stored energy is used by consumers

Smart Meter Data Points

Figure 3

Figure 5

Household Energy Useage (kWh)

Data on country wide energy markets and prices

Household 1 Comfortable Household 2 Adversity

Yesterday

176

Today

Tomorrow

Household 3 Adversity

177

KATEGORIA: THE GORY CUTTER

YASMINE BOUDIAF CATHERINE CHAPMAN FELIX LOFTUS LOU TERRY KATIE TINDLE

Our working group, Injured Tenure, presents a speculative video game: Kategoria: the Gory Cutter, about the data handling processes, and materiality, of a fantastical AI supercomputer. The game has two playable characters: a data point named Bleheri and a supercomputer named Heterorhabdus. While the former attempts to traverse a treacherous production line of machine learning processes, swerving past lethal rays, or slipping, undetected, through data inspections, the latter commands the machinery that keeps the conveyor belt rolling; sorting the data to meet the demands laid out by an offscreen human controller.

179

KATEGORIA: THE GORY CUTTER

Chopping up and categorising data is messy work, though, and it produces an abundance of ghostly detritus which starts to haunt the production line and Heterorhabdus’ thoughts alike. Bleheri will meet these ghostly figures but their motivations - if they have any - are unclear. Can Bleheri manoeuvre their way to safety? Will Heterorhabdus’ work ever cease? Soon, they both start to question their role in this gory factory… The game is a representation of a popular figure from the social imaginary of artificial intelligence: the omniscient, elusive supercomputer. Fetishised and mystified, the supercomputer appears to exert its power to shape the world to its own comprehension. We start with this image of the anthropomorphised, autonomous and objective AI. Throughout the game, we hope to destabilise this idea, revealing through gameplay, that even an anthropomophised supercomputer can only play-act autonomy, having access only to a range of choices provided by its author. Our team has aimed to explore AI and our entanglements with it, in a way which is broadly accessible. We are not aiming for a perfect reflection of how machine learning algorithms work, but rather show a diffracted image, acknowledging our positionality as authors. Our game asks: in the drive to see the world as predictable and discrete, what is ‘shaved off’ or flattened? Do all shapes have a hole in which to fit? The material reality of AI data centers has informed our game aesthetic. The popular language of AI

180

Y. BOUDIAF, C.CHAPMAN, F.LOFTUS, L.TERRY, K.TINDLE

paints a picture of an ephemeral figure, floating above the ground, in a data cloud. In our representation, we recognise that this cloud has never made it off the ground. Heterorhabdus is composed of silicon, cobalt, and is an energy glutton. So, Hetorohabdus gets hungry, and finds the need to enter the Engine Room. Here they find a different type of ghost, ghosts of its material past. What follows here is an introduction to Kategoria: the Gory Cutter, in the form of a game manual. Remember to take this with you, traveler.

181

TÍTULO PROYECTO Player 1. BLEHERI (The Eye)

Player 2. HETERORHABDUS

Make it through the area

Categorise a stream of data

without being absorbed!

passing through your area

- careful not to get overwhelmed!

This is a two player online game. Use the WASD keys to control both Bleheri and Heterorhabdus.

Enter switches between Heterorhabdus’ tentacular arms and the CATASHAVER. Click to shave! 1.

PLAYER 2.

Guide your chunks to the correct category hole. The CHUNK will resist - you may need to use force!

PLAYER 2. PLAYER 2.

The CHUNKS will be compressed

A stream of data enters

neatly to slot into a PACKAGE.

your area. Slice it

The PACKAGE will then be

into CHUNKS with your

compressed and added to the

CATASHAVER. Be careful!

conveyor belt for the next stage

Loose data will clog up your area!

of processing. stream of Data enters your area. Slice it into

Player 1. Dodge the loose data or it will Player 1.

suck you in!

You are released into the area in a stream of data. Don’t get tangled up or slices by HETERORHABDUS.

Player 1. Take your time! When you are able sneak through to the next stage. Don’t get ‘cleaned up’ by HETERORHABDUS’ waving tentacles!

182

CHUNKS with your

CATASHAVER

TÍTULO PROYECTO

K. BARAD, Y. FRIEDMAN, S. GILBERT, E. GAN, F. RAMOS, J. SUTELA Loose data, otherwise knownas GHOST DATA is created when it is

CHEAT CODES

shaved from the data stream but is not able to form a CHUNK. The poem below is a creative take on how our game might process a word, and is also inspired by the constraint-based writing of Oulipo, whose members take mathematics as inspiration in their writing

ThisThe causes issues! (as well as computation, as in Italo Calvino’s The Burning of the Abominable House). word on which this poem is based (actuality) doesn’t exist in the poem. left, like a ghost.

PLAYERhas 1. been GHOST DATA will clog up your area! However its impression

PLAYER GHOST DATA will try to The word has been categorized nine times alongside other words that2.share

you! one of nine features existent in the word actuality (such as, words beginning with absorb ‘a’, synonyms, etc.)

Keep an eye on

Similarly training data in algorithms gets categorized and re-projected out into the real

Player 2. must world, in new forms resembling (whilst not actually being) the initial data, through processes of keep ghost data at bay by connecting the groups into interpolation and extrapolation.

You can also trash the dataAs with machine learning algorithms, bias existsuseable in this shapes. poem,

Kategoria’s development

BUT CAREFUL, that will negitively effect your efficiency! the bias of Anglicized language, for one category is ‘translations in other languages’.

via the link above.

accent append apprehension alleviate arrogance accept attention act

duality punctuality finality quality Italy vitality reality ability

intersect victimise artichoke bottletop computers heartbeat attention keyboards

acai tacitly tactual tilt Italy city attic cattily

Player 2. must dodge the GHOST DATA - get too close and it will pull

reality you into its orbit and eventually absorb you completely! stark sobering check observe analyse nature fact

existence truth living indeed truly concrete verily reality

HETEROHABDUS fashions the patterns of a world, as descretely and predictably as possible. But for all it’s efficiency, HETEROHABDUS is gluttonous literally power hungry. Running low on Energy? You’re going to have to brave

lumieres footage kinetoscope bucking broncho mutoscope film France

184

werkelijkheid realtà stvarnostquali actualitat todellisuudeks gerçekliği actualité actoledd

dog feeble test haphazardly dreadful inquiry deepening web

the ENGINE ROOM. But beware! There is something haunting the machinery. Not your run of the mill GHOST DATA, something earthy, burning and frightful stalks the incinerator.

185

ECHO

TOMÁS CLAVIJO KATYA SIVERS

We are not the only inhabitants of our cities. An increasingly dense network of sensing infrastructures shares our streets. Parts of it reside on our desks and in our pockets. Others lie in our building walls, rooftops and underground passages. As soon as we step out on to the street we are captured. No request, no notification, no acknowledgement, no consent. Our faces populate extensive amounts of audiovisual datasets. This content informs the way we organize, control and secure our cities as well as the way we interact with each other. Pervasive facial recognition protocols are embedded in the systems we interact with on a daily basis. State, law enforcement, tech and retail companies deploy their own capture and recognition systems. Private organisations crosscheck

187

ECHO

visual databases for insights and to extract value from them. Institutional support and competition among big interest parties push towards a rapid technological deployment path that makes it hard to regulate the conditions under which extraction occurs. Rising concerns about privacy rightfully direct political discourse and agenda but legislation comes rather as a reaction to already established systems and infrastructures than as a guideline for its deployment. The scope and scale of what is visible expands. Privacy is progressively lost. Yet, surprisingly, the average citizen doesn’t seem to be concerned. Over the last decade, at the same rhythm that CCTV took our cities, social networks and mobile devices changed what privacy and exposure mean. And with it, our aspirations. More than ever, as human species individuals, we long for human interactions and recognition, we long for human interactions and recognition. The digital space of social platforms has revealed our more narcissistic traits. With the adoption of the cell phone as a prosthetic extension of our body, the selfie, with its different subcategories, has become the hegemonic and most abundant format in contemporary visual culture. It seems new but actually ‘visual self-representation’ has always been with us. Roman emperors got statues, European royalty got portraits. Today, our technological cosmology makes all of us a m@n with a movie camera. Soon, the whole city will be our camera. This acknowledgement leads to the understanding of urban space as a stage, urban life as a

188

T. CLAVIJO, K. SIVERS

performance and once again the city as a fully operative decentralised cinematic apparatus. In this scenario, the ability to access, edit, be credited and capitalise on the visual materials we populate emerges as a natural right. This requires for individuals and urban capture infrastructures to be able to directly interface with each other. Echo is a speculative proposal for an open visual file exchange protocol that allows its users to interface urban sensing infrastructures they cross on a daily basis. In the following pages we present the exposed insights as well as a basic visualisation sketch of how the platform might work. These materials act as a provocation and conversation starter prior to the development of a more rigorous structural model where we will face key questions such as ‘who might provide such service?’, ‘Should it be a centralised or a decentralised system?’, ‘What is the right technology to materialise it?’ and ‘How do we properly anonymise and secure the exchange?’. As we all know, our faces expose us, they make us trackable and identifiable, but they also make us addressable by those systems and hold the potential to change the way they are revealed to us. Rather than opposing the allocated patterns, Echo takes them to its very last consequences and projects them into the future to explore what citizens might get from this transition. We’ve already entered the Post-Privacy era, although, what this means is yet to be defined. To avoid a politics of exclusion and pave the path towards one of emancipation, radical transparency should work both ways.

189

ECHO

IMAGE 1. ALT TIKTOK SELFIE MASHUP

190

T. CLAVIJO, K. SIVERS

IMAGE 2. STANDARD CCTV AND IT CAM SYSTEMS AT URBAN AREA

191

ECHO

T. CLAVIJO, K. SIVERS

SEQUENCE WITH ONE INDIVIDUAL IN DIFFERENT LOCATIONS CAPTURED BY DIFFERENT CAMERAS

IMAGE 3. ASYNCHRONOUS AND CHRONOLOGICALLY ORGANISED VIDEO CLIPS CAPTURED BY PRIVATE CCTV OVER THE COURSE OF 30 MINUTES

192

ECHO IS AN OPEN PROTOCOL FOR THE EXCHANGE OF ‘VISUAL FILES’ AMONG ADDRESSABLE, IDENTIFIABLE SENSING DEVICES AND INDIVIDUALS IN URBAN ECOSYSTEMS 193

ECHO

IMAGE 4. TRAFFIC CONTROL CENTER SYNCHRONOUS VIDEO CLIPS GENERATING A SINGLE MULTIPERSPECTIVE SEQUENCE

194

T. CLAVIJO, K. SIVERS

ECHO ALLOWS ITS USERS TO INTERFACE URBAN SENSING INFRASTRUCTURES THEY CROSS ON A DAILY BASIS, PRODUCING CO-AUTHORED VISUAL ARTEFACTS THAT WORK AS ‘PROOF OF INTERACTION’ 195

ECHO

IMAGE 5.ECHO DAILY ARCHIVE INTERFACE

196

T. CLAVIJO, K. SIVERS

ECHO PROVIDES A VISUAL ARCHIVE OF MUTUALLY AGREED INTERACTIONS THAT EMPOWERS ITS USERS TO TAKE PARTIAL OWNERSHIP OF THE URBAN VISUAL DATA THEY CONTRIBUTED TO CREATE 197

AUTORAS Y AUTORES

198

AUTHORS’ BIOS

199

AUTORAS Y AUTORES

AUTHORS’ BIOS

VLADAN JOLER

Vladan Joler es docente, investigador y artista. Su trabajo combina investigación de datos, contracartografía, periodismo, ensayo, visualización de datos, diseño crítico y muchas otras disciplinas. Es autor de varios proyectos de mapeo visual y ensayo sobre procesos algorítmicos, trabajo humano y formas de explotación incrustados en las redes sociales y en dispositivos digitales populares.

Vladan Joler is an academic, researcher and artist whose work blends data investigations, counter-cartography, investigative journalism, writing, data visualisation, critical design and numerous other disciplines. He is the author of several visual mapping and essay projects about algorithmic processes, human labour and forms of exploitation behind social networks and popular digital devices.

Su obra está incluida en las colecciones permanentes del Museum of Modern Art (MoMA) de Nueva York, en el Victoria and Albert Museum, en el Design Museum de Londres, y también en la exposición permanente del Ars Electronica Center. Su trabajo ha sido expuesto en más de un centenar de exposiciones internacionales, incluidas instituciones y eventos como la ZKM, la Triennale di Milano, la HKW Berlín, la WRO Biennale, la Design Society Shenzhen, el Consejo de Europa en Estrasburgo y el Parlamento Europeo en Bruselas, entre otros.

His work is included in the permanent collections of the Museum of Modern Art (MoMA) in New York City, the Victoria and Albert Museum and the Design Museum in London, and also in the permanent exhibition of the Ars Electronica Center. His work has been exhibited in more than a hundred international exhibitions, including institutions and events such as the ZKM, the Triennale di Milano , the HKW Berlin, the WRO Biennale, the Design Society Shenzhen, the Council of Europe in Strasbourg and the European Parliament in Brussels, among others.

BANI BRUSADIN Bani Brusadin es comisario, docente e investigador. Es el autor de The Fog of Systems. Art as Reorientation and Resistance in a Planetary-Scale System Disposed Towards Invisibility, Aksioma Institute for

200

BANI BRUSADIN Bani Brusadin is a curator, educator and researcher. He is the author of The Fog of Systems. Art as Reorientation and Resistance in a Planetary-Scale

201

AUTORAS Y AUTORES

Contemporary Art Ljubljana (2021) y co-comisario y fundador de «The Influencers», un festival de prácticas experimentales en el cruce entre arte, diseño y activismo en la época de las redes, coproducido por el CCCB Centro de Cultura Contemporánea de Barcelona. Desde el 2018 es uno de los comisarios del festival «Tentacular» de Matadero Madrid y director de «Freeport», un programa de estudios independientes sobre estrategias creativas / críticas para un mundo de humanos, no-humanos y máquinas. Bani es doctor en Prácticas Artísticas Avanzadas y es docente de la Universidad de Barcelona, Escuela Elisava y Esdi.

POLITICAL ATMOSPHERICS Manifest Data Lab es un colectivo de artistas, diseñadores y climatólogos del Reino Unido que exploran el potencial social y probatorio de los datos climáticos. El equipo está formado por: Tom Corby, Gavin Baily, Jonathan Mackenzie, Giles Lane, Erin Dickson, Rachel Jacobs, Louise Sime y George Roussos. El Manifest Data Lab está situado en Central St Martins, University of the Arts, Londres, y tiene entre los colaboradores el British Antarctic Survey. El laboratorio está financiado por el Arts and Humanities Research Council del Reino Unido. https://www.manifest-data.org/

202

AUTHORS’ BIOS

System Disposed Towards Invisibility, Aksioma Institute for Contemporary Art Ljubljana (2021) and co-curator and founder of «The Influencers», a festival about experimental art, design and activist practices in the networked society, co-produced by CCCB Centre of Contemporary Culture of Barcelona. Since 2018 he is one of the curators of Matadero Madrid’s «Tentacular» festival and director of «Freeport», an independent study program about creative / critical strategies for a world of humans, non-humans and machines. He holds a PhD in Advanced Artistic Practices and currently teaches at the University of Barcelona, Elisava Design School and Esdi.

POLITICAL ATMOSPHERICS The Manifest Data Lab is a collective of UK artists, designers and climate scientists exploring the evidential and social potential of climate data. The team consists of: Tom Corby, Gavin Baily, Jonathan Mackenzie, Giles Lane, Erin Dickson, Rachel Jacobs, Louise Sime and George Roussos. The Manifest Data Lab is situated at Central St Martins, University of the Arts, London. The British Antarctic Survey is a partner organisation. The lab is funded by the UK Arts and Humanities Research Council. https://www.manifest-data.org/

203

AUTORAS Y AUTORES

AUTHORS’ BIOS

AIRPORT AS A «BORDER CONDITION» OR PLEASE MIND YOUR BOUNDING

AIRPORT AS A “BORDER CONDITION” OR PLEASE MIND YOUR BOUNDING

Grazia Tona (Italia) es arquitecta licenciada por la Escuela de Arquitectura y Diseño “Eduardo Vittoria” de la Universidad de Camerino. En la actualidad, Grazia está realizando un doctorado en la Facultad de Arquitectura de la Universidad Tecnológica de Delft, y es miembro del grupo de investigación Borders & Territories. Su proyecto de investigación explora los efectos espaciales de la interacción entre la militarización del espacio y las tácticas migratorias a lo largo de las zonas fronterizas en disputa. Gökçe Önal (Turquía) es estudiante de doctorado en la Facultad de Arquitectura de TU Delft con el grupo de investigación Border & Territories. Recibió su B.Arch. de la UIT y su M.Arch. de METU, con una tesis que explora el impacto de la fotografía aérea en la transformación urbana de Estambul y la digitalización de las prácticas de teledetección en relación con las culturas de la arquitectura en desarrollo.

Grazia Tona (Italy) is an architect graduated from the School of Architecture and Design “Eduardo Vittoria” of the University of Camerino. At present, Grazia is carrying out a PhD at the Faculty of Architecture of Delft University of Technology, and she is a member of the research group Borders & Territories. Her research project explores the spatial effects of the interaction between militarization of space and migratory tactics along contested border zones.

Dirim Dinçer (Turquía) es una investigadora, arquitecta y editora afincada en Delft. Completó el grado en arquitectura de la Universidad Técnica de Oriente Medio y una Maestría en Diseño Arquitectónico de la Universidad Bilgi de Estambul. Actualmente es estudiante de doctorado en la Facultad de Arquitectura de TU Delft y editora de Failed Architecture. Su trabajo se relaciona con

204

Gökçe Önal (Turkey) is a PhD candidate at TU Delft Faculty of Architecture with the research group Border & Territories. She received her B.Arch. from ITU and her M.Arch. from METU, with a thesis exploring the impact of aerial photography on Istanbul’s urban transformation and the digitization of remote sensing practices in relation to the developing cultures of architecture. Dirim Dinçer (Turkey) is a researcher, architect and editor living in Delft. She received her B.Arch from Middle East Technical University and her M.Arch in architectural design from Istanbul Bilgi University. She is currently a PhD candidate at TU Delft Faculty of Architecture and editor at the Failed Architecture. Her work engages with interdisciplinary methods and explores modes of visual and spatial representation, displacement, bordering practices, and spatial imaginations.

205

AUTORAS Y AUTORES

métodos interdisciplinarios y explora modos de representación visual y espacial, desplazamiento, prácticas limítrofes e imaginaciones espaciales.

CONVERSATIONS WITH COMPUTERS Gabriela Gordillo, Mario Romera, Matthias Pitscher y Fabian Frei, son artistas emergentes con experiencia en arte y diseño multimedia, que se conocieron a través del programa Interface Cultures en la Kunstuniversität de Linz, donde se encuentran actualmente. Sus intereses giran en torno a las nociones de performance, diseño social, participación, experimentos sociales e interfaces críticas utilizando la tecnología como medio y tema de su comunicación. En su práctica artística y de investigación hay elementos recurrentes: el enfoque hacia los efectos de la tecnología en la sociedad y el interés en soluciones de código abierto. Gabriela Gordillo (México) es comunicadora visual y artista sonora egresada de Comunicación Visual BA (2014) Centro de Diseño Cine y Televisión en la Ciudad de México e Interface Cultures MA (2018) en la Kunstuniversität de Linz. http://gabrielagordillo.net/ Mario Romera Gómez (España) cursó el máster de Interfaces Cultures en la Kunstuniversität Linz.

206

AUTHORS’ BIOS

CONVERSATIONS WITH COMPUTERS Gabriela Gordillo, Mario Romera, Matthias Pitscher, and Fabian Frei, are 4 young artists with a background in media art and design, who met through the Interface Cultures program at the University of Art & Design in Linz, where they are currently based. Their interests are surrounded by the notions of performance, social design, participation, social experiments and critical interfaces using technology as means and topic of their communication. Consistent in their art practice and research is a focus on technological effects on society and the interest in open source solutions. Gabriela Gordillo (Mexico) is a visual communicator and sound artist graduated from Visual Communication BA (2014) Centro de Diseño Cine y Televisión in Mexico City and Interface Cultures MA (2018) Kunstuniversität Linz, in Linz. http://gabrielagordillo.net/ Mario Romera Gómez (Spain) graduated from Interfaces Cultures MA at the Kunstuniversität Linz. He also works as a web developer and creates artworks, workshops and experiences that have been recently included in the programs of Ars Electronica Festival 2020, Speculum Artium 2020, Art Meets Radical Openness 2020, Hackers and Designers: Summer Academy 2020. http://marioromera.xyz/

207

AUTORAS Y AUTORES

También trabaja como desarrollador web y es autor de obras, talleres y experiencias que han sido incluidos en los programas de Ars Electronica Festival 2020, Speculum Artium 2020, Art Meets Radical Openness 2020, Hackers and Designers: Summer Academy 2020. http://marioromera.xyz/ Matthias Pitscher (Alemania) es un artista que vive en el ciberespacio y explora la cultura algorítmica, interactuando con plataformas en línea centralizadas de una manera deconstructiva y humorística. Junto con el proyecto de cultura de red servus.at, está organizando un hacklab crítico sobre interfaces de voz-ordenador y asistentes digitales planificado para 2021. https://pitscher.net Fabian Frei (Suiza) es un diseñador, desarrollador y artista que utiliza el diseño de interfaces e interacción para exponer las contradicciones de nuestra sociedad capitalista contemporánea. Recientemente terminó su tesis de maestría “I, rowboat: The intricacies of Poetry and AI” en el programa Interface Cultures de la Kunstuniversität de Linz. Su trabajo ha sido expuesto en el Ars Electronica Festival. https://twitter.com/faebser

208

AUTHORS’ BIOS

Matthias Pitscher (Germany) is a cyberspace-based artist exploring algorithmic culture, engaging with centralized online platforms in a deconstructive and humorous way. Together with the net culture initiative servus.at he is organizing a critical hacklab on voice-computer-interfaces and digital assistants planned for 2021. https://pitscher.net Fabian Frei (Switzerland) is a designer, developer and artist that uses Interface and Interaction Design to expose the contradictions of our contemporary capitalistic society. Recently he finished his master thesis “I, rowboat: The intricacies of Poetry and AI” at the Interface Cultures program of the Arts University in Linz/Austria. He presented his work at Ars Electronica Festival. https://twitter.com/faebser

AURICULARES INALÁMBRICOS: EMPAREJANDO... CONECTADOS Helena del Campo, María Ángeles Fernández Páez, Luis San Gregorio, Dani Herrero and Iris Torruella share an interest in critically thinking technology, and its frictions with queerness, animal rights, the organic and love. Mariángeles, Helena and Luis have recently worked on the online exhibition Plantas de interior (Inside plants), a compilation of

209

AUTORAS Y AUTORES

AURICULARES INALÁMBRICOS: EMPAREJANDO... CONECTADOS Helena del Campo, María Ángeles Fernández Páez, Luis San Gregorio, Dani Herrero y Iris Torruella comparten un interés en la reflexión crítica sobre la tecnología y sus fricciones con lo queer, los derechos de los animales, lo orgánico y el amor. Mariángeles, Helena y Luis han trabajado recientemente en la exposición online Plantas de interior, una recopilación de textos y visuales comisariados en torno a la noción de espacio. http://www.internetmoongallery.com/ACTA5/ PlantasDeInterior.html María Ángeles Fernández Páez es estudiante de doctorado en la Universidad Complutense de Madrid. Tiene una maestría en Historia del Arte Contemporáneo y Cultura Visual del Museo de Arte Contemporáneo Reina Sofía. Sus líneas de investigación incluyen afectos, estudios queer y políticas emocionales en el capitalismo. https://mariangelesfernand7.wixsite.com/ mariangelesfdezpaez Helena del Campo es una historiadora del arte y comisaria interesada en temas de centralización, tanto antropocéntricos como geográficos: un amplio abanico temático que va desde los derechos de los animales, asuntos ecológicos e incluso cubre la problemática del desempleo juvenil en relación a la periferia.

210

AUTHORS’ BIOS

texts and visuals curated around the notion of space. http://www.internetmoongallery.com/ACTA5/ PlantasDeInterior.html María Ángeles Fernández Páez is a PhD candidate at Universidad Complutense Madrid. She holds a MA in History of Contemporary Art and Visual Culture from Reina Sofia Museum of Contemporary Art. His lines of research include affects, queer studies and emotional politics in capitalism. https://mariangelesfernand7.wixsite.com/ mariangelesfdezpaez Helena del Campo is an art historian and curator interested in centralisation issues, both anthropocentric and geographical, a wide thematic range that goes from animal rights, ecological matters and even covers the problem of youth unemployment in relation to periphery. Iris Torruella is an artist, teacher and researcher focused on technology and its impact. She is part of the Ricka Rickson collective entity. https://ricarickson.tumblr.com With a background in art studies, Dani Herrero’s work focuses on postqueer dis-identities through kinship processes, cinema, technologies, social media and secondary education pedagogies. L. San Gregorio is an artist and researcher interested in the condition of technology today, its reliance

211

AUTORAS Y AUTORES

Iris Torruella es artista, docente e investigadora enfocada en la tecnología y su impacto. Forma parte de la entidad colectiva Ricka Rickson. https://ricarickson.tumblr.com Con experiencia en estudios de arte, el trabajo de Dani Herrero se enfoca en las desidentidades postqueer a través de procesos de construcción de afinidad, del lenguaje audiovisual, de las tecnologías, las redes sociales y las pedagogías de educación secundaria. L. San Gregorio es un artista e investigador interesado en la condición de la tecnología hoy, su dependencia de, así como su impacto en, lo orgánico y su formulación a partir de ello. https://luissangregorio.tumblr.com

THE KILLING OF MARIELLE FRANCO: CARTOGRAPHY OF A TECHNO-POLITICAL ASSASSINATION. VOLUME II Carolly Barbosa (Brasil) es arquitecta y diseñadora urbana. Como investigadora independiente, está interesada en el diseño especulativo descolonial, la ficción del diseño, la economía política de la cultura y el arte, las intersecciones entre la arquitectura y las ciencias naturales, así como cualquier cosa que nos permita soñar colectivamente nuestro futuro. Co-iniciadora del Colectivo Futurível

212

AUTHORS’ BIOS

on, as well as its impact on, the organic and its formulation based on it. https://luissangregorio.tumblr.com

THE KILLING OF MARIELLE FRANCO: CARTOGRAPHY OF A TECHNO-POLITICAL ASSASSINATION. VOLUME II Carolly Barbosa (Brazil) is an architect and Urban Designer. As an independent researcher, she is interested in decolonial speculative design, design fiction, political economy of culture and art, intersections between architecture and natural sciences — as well as anything that enables us to collectively dream our future. Co-initiator of Futurível Collective on speculations about future occupation of the planet. carollybarbosa.hotglue.me/ Pablo DeSoto (Spain) is an award-winning experimental architect, multidisciplinary artist and scholar with an iconoclastic experience across geographic and disciplinary borders. He was a co-founder of hackitectura.net, a group of architects, computer specialists and activists. He holds a Master’s Degree in Architecture from the Royal Institute of Technology of Stockholm and a PhD in Communication & Culture from the Federal University of Rio de Janeiro. He is currently

213

AUTORAS Y AUTORES

sobre especulaciones sobre la futura ocupación del planeta. carollybarbosa.hotglue.me/ Pablo DeSoto (España) es un arquitecto experimental, artista multidisciplinario y académico con una experiencia iconoclasta a través de fronteras geográficas y disciplinarias. Fue cofundador del grupo de arquitectos, programadores y activistas hackitectura.net. Cursó el máster en Arquitectura del Real Instituto de Tecnología de Estocolmo y es doctor en Comunicación y Cultura de la Universidad Federal de Río de Janeiro. Actualmente es profesor invitado en el Departamento de Postgrado de Arquitectura y Urbanismo de la Universidad Federal de Paraíba, Brasil. http://pablodesoto.org Rabia Williams (Barcelona / Nueva York) ha estado trabajando durante varios años en un laboratorio documental llamado zim.doc sobre el pasado-presente de Zimbabwe, un proyecto de antología compartida, interactiva, de juegos e instalaciones que involucra a mujeres cineastas y programadoras. Actualmente está trabajando en un proyecto de juego de rol crítico en vivo con el colectivo sudafricano Karani y creativos de la región. Alice Piva (Brasil) es estudiante de Arquitectura en la Universidad Federal de Paraíba. Trabajó en el diseño de sistemas arquitectónicos para comunidades

214

AUTHORS’ BIOS

Visiting Professor in the Post-graduate Department of Architecture and Urbanism at the Federal University of Paraíba, Brazil. http://pablodesoto.org Rabia Williams (Barcelona / New York) has been working for several years with a documentary laboratory based project called zim.doc about the past-present of Zimbabwe, an interactive, game and installation shared anthology project working with women filmmakers and programmers. She is now working on a live role-play critical game project with the South African collective Karani and creatives from the region. Alice Piva (Brazil) is a student in Architecture at the Federal University of Paraíba. She worked on designing architectural systems for unserved communities with the use of automation and digital fabrication, and speculative design projects inspired by post-anthropocentric and technopolitical perspectives. She is among the initiators of the Futurível Collective. https://alicepiva.github.io/projects/simpoiexmachina

HAUNTED LANDSCAPES OF EXTRACTION: SPIRALING INTO THE PLANETARY MINE Eleonora Paoli (Brasil) es estudiante de máster en Arquitectura y Urbanismo en la Universidad Federal

215

AUTORAS Y AUTORES

AUTHORS’ BIOS

marginales y desatendidas con el uso de automatización y fabricación digital, y proyectos de diseño especulativo inspirados en perspectivas post-antropocéntricas y tecnopolíticas. Ella es una de las impulsoras del Colectivo Futurível. https://alicepiva.github.io/projects/simpoiexmachina

de Paraíba, Brasil. Se graduó de la Universidad Federal de Ouro Preto, Brasil, con una licenciatura en Arquitectura y Urbanismo. Sus intereses de investigación incluyen el desplazamiento, las violaciones a los derechos humanos, los impactos territoriales y sociales provocados por el extractivismo minero y las formas de exponerlo a través de la estrategia narrativa de la cartografía.

HAUNTED LANDSCAPES OF EXTRACTION: SPIRALING INTO THE PLANETARY MINE

Con Pablo DeSoto

Eleonora Paoli (Brasil) es estudiante de máster en Arquitectura y Urbanismo en la Universidad Federal de Paraíba, Brasil. Se graduó de la Universidad Federal de Ouro Preto, Brasil, con una licenciatura en Arquitectura y Urbanismo. Sus intereses de investigación incluyen el desplazamiento, las violaciones a los derechos humanos, los impactos territoriales y sociales provocados por el extractivismo minero y las formas de exponerlo a través de la estrategia narrativa de la cartografía. Con Pablo DeSoto

IMAGINED CRE(AI)TURES Stef Silva (Madrid) es fundadora de Invisible, laboratorio situado en la intersección entre diseño, arte,

216

IMAGINED CRE(AI)TURES Stef Silva (Madrid) is the founder of Invisible, a laboratory located at the intersection of design, art, culture and business. Stef explores narratives and alternative frames of reference that help expand the collective imagination of people and organizations. Her work focuses on the experimentation and revelation of those invisible forces that critically influence our way of perceiving, thinking, deciding and designing. She participates in various educational projects at universities and design schools. She is also part of The Design Futures Initiative project, being one of the members of the Speculative Futures Madrid chapter. http://invisible.land

217

AUTORAS Y AUTORES

cultura y negocio. Stef explora narrativas y marcos de referencia alternativos que ayudan a expandir el imaginario colectivo de personas y organizaciones. Su práctica se centra en la experimentación y revelación de aquellas fuerzas no visibles que, sin ninguna duda, influyen de manera crítica en nuestra forma de percibir, pensar, decidir y diseñar. Participa en diversos proyectos educativos en universidades y escuelas de diseño. Además, forma parte del proyecto The Design Futures Initiative siendo una de las integrantes del chapter Speculative Futures Madrid. http://invisible.land David Mingorance (Granada-Madrid) coquetea con el transhumanismo y la realidad extendida. Comparte con Stef su adicción a los equipos de trabajo y al aprendizaje continuo, y es uno de los miembros más activos de la asociación AIDI, promoviendo, junto a Victoria y Elisa, la creación de espacios compartidos para el aprendizaje a través del diseño. Es cofundador del estudio de diseño Macedonia y militante en diversas comunidades relacionadas con la tecnología y la innovación social. https://www.davidmingorance.com Tras una turbulenta historia de amor con la ingeniería en diseño industrial, Victoria de la Torre (Madrid) actualmente está cursando el Máster en Artes en la HKU Utrecht, donde ha encontrado en la investigación artística recursos para la comprensión del contexto contemporáneo. Colabora con la

218

AUTHORS’ BIOS

In his work David Mingorance (Granada - Madrid) flirts with both transhumanism and extended reality. He shares with Stef his addiction to work teams and continuous learning, and he is one of the most active members of the AIDI association, promoting, together with Victoria and Elisa, the creation of shared spaces for learning through design. He is a co-founder of the Macedonia design studio and an activist in various communities related to technology and social innovation. https://www.davidmingorance.com After a turbulent love affair with engineering and industrial design, Victoria de la Torre (Madrid) is currently pursuing a Master of Arts at HKU Utrecht, where she has found in artistic research a useful resource to understand the contemporary context. She collaborates with the AIDI association, focused on the design of collaborative processes and shared cultural experiences. With David Mingorance she gave birth to the Macedonia studio, specialized in design for social and cultural innovation. In her latest adventure, she joins @multipl.sys to light up the A.I.R., an artistic investigation embodied in a giant pneumatic organism, a project carried out in the framework of the Science Gallery Dublin, soon to be open to the public. http://www.vdelatorre.com Always busy where art, science and digital cultures meet, Elisa Cuesta (Asturias-Madrid-The Hague)

219

AUTORAS Y AUTORES

asociación AIDI, centrada en el diseño de procesos colaborativos y experiencias culturales compartidas. Con David Mingorance ha visto el nacimiento del estudio Macedonia, especializado en el diseño para la innovación social y cultural. En su última aventura se une a @multipl.sys para alumbrar el proyecto A.I.R. junto a la Science Gallery Dublin, una investigación artística encarnada en un organismo neumático gigante que, esperemos, se pueda experimentar pronto. http://www.vdelatorre.com Siempre atareada en las interfases entre arte, ciencia y culturas digitales, Elisa Cuesta (Asturias -MadridLa Haya) ha formado parte del equipo de MedialabPrado y coordinado los festivales Tentacular y MADATAC. Se une a AIDI para seguir trabajando el diseño desde los procesos colaborativos. Reencarnar lo incorpóreo es lo suyo: en 2019 arrasó con su armario para descifrar y tejer su huella digital en Laboral Centro de Arte; en 2020 gestó, junto a @ multipl.sys y Science Gallery Dublin, un macroorganismo neumático que respira al ritmo de la distribución global de agencia durante la pandemia. Recientemente ha desarrollado una extraña afinidad por las termitas y las (infra)estructuras no-humanas. Actualmente continúa su periplo desde el Máster de Investigación Artística de Koninklijke Academie van Beeldende Kunsten (KABK), La Haya. https://elisacuesta.com

220

AUTHORS’ BIOS

has been part of the Medialab-Prado team and coordinated the production of the Tentacular and MADATAC festivals. She joined the AIDI association to continue working on design as a collaborative process. Reincarnating the incorporeal is her thing: in 2019 she swept her closet to decipher and weave her fingerprint at Laboral Centro de Arte; in 2020 she created, together with @multipl.sys and Science Gallery Dublin, a pneumatic macro-organism that breathes at the rate of global agency distribution during the pandemic. She has recently developed a strange affinity for termites and non-human (infra) structures. She is currently continuing her life journey at the Koninklijke Academie van Beeldende Kunsten (KABK) Master of Art Research, The Hague. https://elisacuesta.com

REVERIE ON A FLUID DYNAMIC INTERFACE Chiara Mazzatorta is the founder of Pedal Power, a micro company working with bicycle-powered devices for events, and builds interactive installations in Barcelona. She has a research background in psychology focused on perception. She is currently engaged in studies on digital interfaces and the social implications of digital economy.

221

AUTORAS Y AUTORES

REVERIE ON A FLUID DYNAMIC INTERFACE Chiara Mazzatorta es la fundadora de Pedal Power, una microempresa que trabaja con dispositivos que funcionan con bicicletas para eventos. También es autora de instalaciones interactivas en Barcelona. Tiene experiencia de investigación en psicología centrada en la percepción. Actualmente se dedica a estudios sobre interfaces digitales y las implicaciones sociales de la economía digital. Mika Barreto es músico, compositor, cantante y estudiante de danza contemporánea. Sus obras recientes abordan los espacios intermedios como poderosos lugares de fricción, conflicto, mediación, síntesis, imprevisibilidad, placer.

WHERE ARTIFICIAL INTELLIGENCE MEETS ENERGY Christopher Page es un ecólogo marino convertido en científico de datos geoespaciales. Su enfoque se encuentra en la intersección entre la ecología oceánica y los datos, explorando cómo el aprendizaje automático y la inteligencia artificial podrían resolver algunos de los mayores problemas ambientales de nuestro tiempo. Christopher trabaja actualmente para la consultora ambiental y renovable marina Aquatera.

222

AUTHORS’ BIOS

Mika Barreto is a musician, composer, singer, and contemporary dance student. His recent works approach in-between spaces as powerful places of friction, conflict, mediation, synthesis, unpredictability, pleasure. WHERE ARTIFICIAL INTELLIGENCE MEETS ENERGY Christopher Page is a marine ecologist turned geospatial data scientist. His focus lies at the intersection between ocean ecology and data, exploring possibilities for how machine learning and artificial intelligence might solve some of the biggest environmental problems of our times. Christopher currently works for marine renewable and environmental consultancy Aquatera. https://twitter.com/cspagemarine Leanne Fischler is a designer specialising in environmental sustainability and speculative design. She has worked with a diverse range of organisations including V&A Dundee and IDEO, and has spoken on national media about her critical, anti-consumerist design work. Leanne currently works at speculative design studio Superflux. Inspired by the essential resourcefulness of islanders of her native Orkney, Leanne uses her design practice as a tool to get

223

AUTORAS Y AUTORES

https://twitter.com/cspagemarine Leanne Fischler es una diseñadora especializada en sostenibilidad medioambiental y diseño especulativo. Ha trabajado con una amplia gama de organizaciones, incluidas V&A Dundee e IDEO, y su trabajo de diseño crítico y anti-consumista ha aparecido en medios de comunicación nacionales. Leanne trabaja actualmente en el estudio de diseño especulativo Superflux. Inspirada por el ingenio de los isleños de su Orkney natal, Leanne utiliza su práctica de diseño como una herramienta para que la gente piense críticamente sobre cómo compramos, consumimos y eventualmente desperdiciamos productos. www.leannefischler.co.uk

KATEGORIA: THE GORY CUTTER Yasmine Boudiaf, Katie Tindle, Felix Loftus, Lou Terry y Catherine Chapman forman un grupo de tecnólogos creativos, artistas e investigadores afincados en Londres. Son estudiantes de máster en el curso de Computational Arts en Goldsmiths. Nuestras áreas de interés, tanto individual como colectivo, incluyen la ética de datos, la tecnociencia feminista, la ecología, el arte sonoro, la poética, la imaginación especulativa y la animación 3D.

224

AUTHORS’ BIOS

people thinking critically about how we buy, consume and eventually waste products. www.leannefischler.co.uk

KATEGORIA: THE GORY CUTTER Yasmine Boudiaf, Katie Tindle, Felix Loftus, Lou Terry and Catherine Chapman are a group of five creative technologists, artists and researchers based in London. They are all masters students on the MA Computational Arts Course at Goldsmiths. Individually and collectively, our areas of interest include data ethics, feminist techno-science, ecology, sound-art, poetics, speculation and 3D animation. Yasmine Boudiaf is a creative technologist and an artistic researcher. She is particularly interested in mapping power asymmetries and unknowns. Yasmine is currently a co-organiser with No Tech for Tyrants, a visiting fellow at the Ada Lovelace Institute and a researcher at The Institute for Technology in the Public Interest. https://www.yasmine-boudiaf.com/ Katie Tindle is an artist, curator and educator. She is a founder member of arts collective In-grid, working as a graduate teaching assistant on the BA Fine Art course at Central Saint Martins, UAL. https://katietindle.co.uk/

225

AUTORAS Y AUTORES

Yasmine Boudiaf es una tecnóloga creativa e investigadora artística. Está particularmente interesada en mapear asimetrías e incógnitas de poder. Yasmine es actualmente coorganizadora de No Tech for Tyrants, miembro invitada del Instituto Ada Lovelace e investigadora del The Institute for Technology in the Public Interest. https://www.yasmine-boudiaf.com/ Katie Tindle es artista, curadora y educadora. Es miembro fundadora del colectivo de artistas In-grid, y trabaja como asistente en el curso de Bellas Artes en Central Saint Martins, UAL. https://katietindle.co.uk/ Felix Loftus es artista, educador social y diseñador web. Trabaja con temas de ecologías urbanas contemporáneas y especulativas, vida cyborg e historias decoloniales de la tecnología. Paralelamente a su práctica artística, enseña computación, ciencias y matemáticas a niños de primaria y secundaria. https://floftus.com/ Lou Terry es un compositor y artista de sonido, interesado en formas de registro y cambio ambiental, las ecologías y los no humanos, y también trabaja en el blog / sitio web de The Human Data Interaction (HDI) Network Plus. http://doc.gold.ac.uk/compartsblog/index.php/work/ feral-robotic-birds/

226

AUTHORS’ BIOS

Felix Loftus is an artist, community worker, and web designer. He works with themes of contemporary and speculative urban ecologies, cyborg life, and decolonial histories of technology. Alongside his artistic practice, he teaches computing, science, and maths to primary and secondary school children. https://floftus.com/ Lou Terry is a songwriter and sound artist, interested in environmental sensing and change, ecologies and non-humans, and also works on the blog/ website side of The Human Data Interaction (HDI) Network Plus. http://doc.gold.ac.uk/compartsblog/index.php/work/ feral-robotic-birds/ Catherine Chapman is a moving image artist specialising in 3D games. Generally interested in Steyerl’s ‘poor image’, and currently making models of demolished historical buildings. https://meminine.cargo.site/

ECHO Tomás Clavijo is an innovation manager, architect and creative producer operating globally as RAFT. He developed multidisciplinary innovation concepts, designs and strategies for clients such as EDF Energy, IKEA’s research lab SPACE10 and Strelka

AUTORAS Y AUTORES

Catherine Chapman es una artista de imágenes en movimiento especializada en juegos 3D. Le interesa la noción general de ‘imagen pobre’ de Steyerl y actualmente fabrica modelos de edificios históricos demolidos. https://meminine.cargo.site/

ECHO Tomás Clavijo es responsable de innovación, arquitecto y productor creativo que opera globalmente como RAFT. Ha desarrollado conceptos, diseños y estrategias de innovación multidisciplinaria para clientes como EDF Energy, el laboratorio de investigación de IKEA SPACE10 y en el Strelka Institute. Como arquitecto en la firma group8, ha dirigido equipos galardonados de arquitectos, ingenieros y artistas visuales en numerosos concursos internacionales y ha ocupado responsabilidades de gestión en proyectos de construcción sostenible a gran escala para las Naciones Unidas y el Comité Internacional de la Cruz Roja. En 2018 fue investigador en el programa The New Normal de Strelka Institute. https://raft.haus/

AUTHORS’ BIOS

Institute. As an architect at the firm group8, he led award-winning teams of architects, engineers and visual artists in numerous international competitions and held managerial responsibilities in large-scale sustainable construction projects for the United Nations and the International Committee of the Red Cross. In 2018 he was a research fellow in The New Normal Think-Tank at Strelka Institute. https://raft.haus/ Katya Sivers is an artist and researcher working at the intersections of design and technology. She addresses contemporary social and political processes dealing with the issues of sovereignty and borders, civil rights, infrastructure and technological stack. She holds Masters in Fine Arts from Chelsea College of Arts (London, UK) and is part of The New Normal 2018 think-tank at Strelka Institute for Media, Architecture and Design (Moscow, Russia). Katya also teaches at the Art and Design School of Higher School of Economics and a course on Graphic design at Stroganov’s Academy of Arts and Design. http://katyasivers.com/ Vladan Joler

Katya Sivers es una artista e investigadora que trabaja en las intersecciones del diseño y la tecnología. Aborda los procesos sociales y políticos contemporáneos que tratan los temas de soberanía y fronteras,

228

229

AUTORAS Y AUTORES

derechos civiles, infraestructura y la infraestructura tecnológica. Tiene una maestría en Bellas Artes de Chelsea College of Arts (Londres, Reino Unido) y ha formado parte del programa de expertos The New Normal 2018 en el Strelka Institute for Media, Architecture and Design (Moscú, Rusia). Katya también enseña en la Escuela de Arte y Diseño de la Escuela Superior de Economía y un curso de diseño gráfico en la Academia de Artes y Diseño de Stroganov. http://katyasivers.com/

230

El proyecto «Anatomy of an AI system» de Vladan Joler y Kate Crawford es el punto de partida del laboratorio «Anatomías de una caja negra», llevado a cabo en otoño de 2020 en el marco del programa de estudios independientes «Matadero Estudios Críticos». Dirigido por Vladan Joler, contó con la participación de Kate Crawford, Adam Harvey y cerca de cuarenta participantes de diferentes países, que son también coautores de este libro. El laboratorio ha sido un experimento de creación y de investigación práctica. El resultado es un conjunto de intuiciones, reflexiones, prototipos metodológicos y visuales que se pueden leer como ejemplos prácticos de contracartografía o como exploraciones de infraestructuras, sistemas y acontecimientos opacos en diferentes lugares o capas del planeta interconectado.