El alma de la máquina

quedan limitadas a métricas brillantes pero sesgadas en cuanto a su alcance cualitativo. Estamos ajenos al estremecimiento, somos, en palabras de Byung-Chul Han, «un hombre sin carácter» (p. 72), donde el hecho digital lo vuelve intrascendente, incapaz de «comunicación y conexión» con el vecino ¿Y para qué? El único empleo que nuestra hiperindividualización hace del otro es la de ese vector computarizado que nos sirve de comparativa. Es una relación superflua en un espacio fantasioso que está sustituyendo progresivamente nuestro marco real de acción y contemplación humanas.

Paradójicamente, rechazar esta realidad fingida, al igual que ocurre con la no-sociedad, no le quita veracidad a su hecho. Eppur si muove. Como Cecilia en La rosa púrpura de El Cairo (1985), consolamos nuestro mundo deprimente y lleno de inseguridades con universos ficticios mediante el formalismo cuantitativo. El valor reputacional a través de los números nos domina, y ello es especialmente notable en las redes sociales, esa «vía de escape» que en algunos casos llega a albergar más información sobre nosotros que la que poseemos de manera tangible. A primera vista, número de comentarios, posts, me gusta y seguidores suelen usarse como signos de resonancia de la reputación, muy a pesar del escepticismo que despierta el comparar bajo mismos valores parámetros como los amigos en línea frente aquellos que se encuentran fuera del espacio digital (Mau, 2019). Todas estas formas de reconocimiento poseen un fuerte impacto en nuestras cabezas, pues cuanto mayor sea este eco más intensivamente las personas se incluirán en redes sociales, guiados por esa necesidad de reconocimiento social, de producción de un valor para su consumo. Continuamente, hasta la extenuación de su rendimiento.

El alma de la máquina

Los poderosos de antaño han quedado desacreditados pornuestra sociedad informatizada. Los políticos y sus liturgias se han trivializado por efecto de las redes sociales y sus declaraciones carentes de narrativa (Han, 2014)5 , sustituidas por discursos de doscientos cuarenta caracteres a lo sumo. Ahora, aquel que controle y diseñe el algoritmo será capaz de acceder a los datos y dictar cómo se emplea su medición, permitiendo establecer qué es o no relevante en nuestro mundo (Mau, 2019). Son los matemáticos y analistas quienes configuran el alma rigurosa y precisa de la máquina. Mas, ¿quién revisa a aquellos que definen las bases de la eficiencia, prolongaciones que se extienden hacia el control social para salvaguardar la efectividad de sus fórmulas? «Quis custodiet ipsos custodes?» preguntaba el poeta romano Juvenal. Nadie parece tener respuesta evidente, aunque sí somos capaces de presentar múltiples ejemplos de sectores e instituciones que ambicionan ostentar o detentar dicho control, entidades públicas y privadas al unísono.

El principio de eficiencia que promueve el alma de la máquina choca frontalmente con las aspiraciones humanas de buen gobierno y buena sociedad que grandes pensadores de la Ilustración plasmaban en su ensayística. Rousseau decía al inicio de Discurso sobre el origen de la desigualdad entre los hombres (1754) cómo él hubiera deseado «nacer en un país en el cual el soberano y el pueblo no tuviesen más que un solo y único interés, a fin de que los movimientos de la máquina se encaminaran siempre al bien común» (p. 2). En

5 En el enjambre.

esencia, una gobernanza que sometía la máquina, el progreso, a las facultades humanas. Misma premisa se desliga de nuestro presente, aunque con distintos resultados. Todo algoritmo surge de individuos ciertamente humanos, pero en su proceso legan su humanidad a la precisa e inexpresiva medida de los números, tan ciertos en su resultado pero tan vacíos en su esencia. «Mejor» y «peor»; «sobresaliente» e «insuficiente» son vinculaciones humanas póstumas que aportan valor y fondo a un cálculo que de primeras carece de toda adjetivación. Los analistas definen lo que se va a medir y de qué forma; son los ciudadanos, sometidos voluntariamente a sucálculo, quienes después racionalizan los resultados que se obtienen de su cuantificación.

El control del algoritmo no es elitista: lo es su diseño. Existen empresas cuya veintena de expertos en teoría de números son los que configuran la base misma de su sistema de beneficios, y por ende su mayor riesgo no es tanto la quiebra del ejecutivo como la huida en desbandada de los diseñadores del algoritmo (O´Neil, 2016). En la mayoría de las ocasiones, se les veta a los empleados de la compañía mantener contacto con esta sección. La extralimitación de sus comunicaciones se realiza con el objetivo de evitar «contaminación» de su espacio de trabajo (Ibid.) Sin embargo, y aunque es innegable que los grandes ránquines mundiales son dirigidos por gestoras internacionales, cualquiera puede controlar, que no definir, el algoritmo. Ello va desde grandes fondos de inversión que mueven fondos millonarios hasta el individuo que con su puntuación altera la media del Uber que lo trajo a casa.

Muchas veces, la poca transparencia en el diseño de un algoritmo —a pesar de la que suele demandar para su medición— nos hace preguntarnos: ¿cómo se puede mantener la humanidad en un espacio cuyo hermetismo y configuración en base a cálculos y fría estrategia parece más propio de un comando de operaciones especiales? La respuesta: no se puede. El analista renuncia a su humanidad en el momento en que la hoja de cálculos y los sistemas informáticos se encienden. Los números no entienden de subjetividades humanas, y mientras la presión por cumplir las reglas se intensifica, «el alcance para el surgimiento de desarrollos creativos disminuye» (Mau, 2019, p. 147). Una vez alguien entra en la cultura de la cuantificación, no es fácil salir de ella. De hecho, estas métricas basadas en la utilidad extienden un poder normativo que afecta a los individuos, unidades organizacionales e incluso instituciones de un país en la confección de sus actividades y estructura. A pie de calle, el fenómeno se visualiza especialmente en las reseñas populares. Este tipo de evaluación nace de la presunción por mantener la felicidad y satisfacción tanto de consumidores como de trabajadores, si bien al mismo tiempo nos acerca peligrosamente hacia una relación de control donde el consumidor se convierte en cómplice del supervisor (Ibid.). Así, la vigilancia ya no es dirigida por un jefe o una cámara a pie de fábrica, sino mediante la acción evaluadora del cliente o, siendo más concretos, a través del algoritmo que genera un resultado según unas fórmulas prediseñadas. Aunque no poseamos conciencia comunitaria, la sociedad métrica genera una red de interdependencia humana. De acuerdo con Bauman (2006), en este nuevo sistema «no hay nada que los demás hagan o puedan hacer que podamos asegurar que no afecte a nuestras perspectivas, oportunidades y sueños» (p. 127) y viceversa.

En una apuesta deportiva, se invierte por ver quién bateará la bola, cuántas canastas se encestarán o qué jugador será el MVP de la jornada. Es decir, los beneficios o pérdidas «van en función de movimientos asociados al partido, pero no al partido en sí» (O´Neill, 2016, p. 50). De igual modo, la sociedad métrica ordena y clasifica los parámetros y acciones humanas, pero en ningún momento busca entender la naturaleza humana. Midiéndose a través de patrones, se cuantifican los gestos de los individuos, sus acciones; se prevén sus respuestas y comportamientos, mas no las causas ulteriores que motivan al sujeto a obrar de esa forma. Es la vuelta al «2D perceptivo» ya mencionado. El problema de los números es que solo entienden la repetición y la certeza de la invariabilidad en el modelo donde se aplican. De ahí que tiendan a la homogeneización de lo medido en pos de establecer un estándar en las tablas y clasificaciones posteriores. Sin embargo, la naturaleza humana, en constante cambio, no puede soportar la condición inmutable y uniforme que establece el «régimen de los números».

Lo homogéneo no aporta igualdad, sino cohesión. Dicha unidad cercena la diversidad, e incluso la libertad para definirse a uno mismo. En su defecto, se aporta una idea comercializada de diferenciación que pueda dar beneficios a aquellos que explotan su venta (Mau, 2019). Igualmente, la libertad también adquiere un carácter figurado: explora las nuevas realidades virtuales, sumérgete en el espacio web y navega sin restricción alguna. «Bienvenido a un nuevo mundo», reza el eslogan de la nueva Play Station 5 de Sony, reminiscencias del «Where do you want to go today?», de Windows6. Tras ella, promoción de videojuegos de entorno abierto que otorgan al sujeto la sensación de estar explorando «libremente» todo un universo de sensaciones. Consignas que ocultan entre sus líneas un panóptico inocuo: el consumo como medio para mitigar la emancipación del individuo (Han, 2014) y su diferenciación frente al resto. Es el Gran Hermano definitivo: aquel que ha logrado que el prisionero crea que no está encarcelado. Todo el mundo se siente libre pero, como en la felicidad paradójica y su percepción de la dicha, nadie lo es realmente. Mediante el algoritmo nos autoimponemos una vigilancia inconsciente, de suma transparencia y desnudez en pos de lograr la mayor eficiencia de cara a una sociedad del rendimiento. Ante esto, Byung-Chul Han (2014) afirma que «comunicación y control coinciden totalmente» (p. 34). La expansión de los medios a través del hecho digital permite explotar una sensación de libertad producida en serie y que actúa como un elemento más de consumo. Hemos creado una «subsistencia aumentada» del consumo donde muy a pesar del crecimiento económico, la sociedad «aún no se ha liberado de su libertador» (Debord 1967, p. 54).

Este proceso que constriñe a la sociedad métrica, y que se basa en la gestión de los macrodatos, está estrechamente relacionado con lo que Byung-Chul Han acuñó como Big Deal. En él, el control desplegado por el sistema, y el rédito económico obtenido mediante la comercialización de la información obtenida de los usuarios, se unen en una macroentidad que organiza a los individuos en función de su valor de mercado. La

6 «¿Dónde quieres ir hoy?» fue un eslogan publicitario creado por Microsoft en 1994 y que parecía advenir, en palabras de Byung-Chul Han (2014), una «libertad y movilidad ilimitadas en la web» (p. 11). A la vista de los hechos está que procesos como las ya citadas políticas de cookies cercenan de raíz este supuesto emancipador.