1_9788410562912

HOMO EX MACHINA

Ética de la inteligencia

artificial y Derecho digital ante el horizonte de la singularidad tecnológica

FERNANDO H. LLANO ALONSO

Prólogo de Stefano Pietropaoli

HOMO EX MACHINA

Ética de la inteligencia artificial y Derecho digital ante el horizonte de la singularidad tecnológica

COMITÉ CIENTÍFICO DE LA EDITORIAL TIRANT LO BLANCH

María José Añón Roig

Catedrática de Filosofía del Derecho de la Universidad de Valencia

Ana Cañizares Laso

Catedrática de Derecho Civil de la Universidad de Málaga

Jorge A. Cerdio Herrán

Catedrático de Teoría y Filosofía de Derecho. Instituto Tecnológico Autónomo de México

José Ramón Cossío Díaz

Ministro en retiro de la Suprema

Corte de Justicia de la Nación y miembro de El Colegio Nacional

María Luisa Cuerda Arnau

Catedrática de Derecho Penal de la Universidad Jaume I de Castellón

Manuel Díaz Martínez

Catedrático de Derecho Procesal de la UNED

Carmen Domínguez Hidalgo

Catedrática de Derecho Civil de la Pontificia Universidad Católica de Chile

Eduardo Ferrer Mac-Gregor Poisot

Juez de la Corte Interamericana de Derechos Humanos

Investigador del Instituto de Investigaciones Jurídicas de la UNAM

Owen Fiss

Catedrático emérito de Teoría del Derecho de la Universidad de Yale (EEUU)

José Antonio García-Cruces González

Catedrático de Derecho Mercantil de la UNED

José Luis González Cussac

Catedrático de Derecho Penal de la Universidad de Valencia

Luis López Guerra

Catedrático de Derecho Constitucional de la Universidad Carlos III de Madrid Ángel M. López y López

Catedrático de Derecho Civil de la Universidad de Sevilla

Marta Lorente Sariñena

Catedrática de Historia del Derecho de la Universidad Autónoma de Madrid

Javier de Lucas Martín

Catedrático de Filosofía del Derecho y Filosofía Política de la Universidad de Valencia

Víctor Moreno Catena

Catedrático de Derecho Procesal de la Universidad Carlos III de Madrid

Francisco Muñoz Conde

Catedrático de Derecho Penal de la Universidad Pablo de Olavide de Sevilla

Angelika Nussberger

Catedrática de Derecho Constitucional e Internacional en la Universidad de Colonia (Alemania). Miembro de la Comisión de Venecia

Héctor Olasolo Alonso

Catedrático de Derecho Internacional de la Universidad del Rosario (Colombia) y Presidente del Instituto Ibero-Americano de La Haya (Holanda)

Luciano Parejo Alfonso

Catedrático de Derecho Administrativo de la Universidad Carlos III de Madrid

Consuelo Ramón Chornet

Catedrática de Derecho Internacional Público y Relaciones Internacionales de la Universidad de Valencia

Tomás Sala Franco

Catedrático de Derecho del Trabajo y de la Seguridad Social de la Universidad de Valencia

Ignacio Sancho Gargallo

Magistrado de la Sala Primera (Civil) del Tribunal Supremo de España

Elisa Speckmann Guerra

Directora del Instituto de Investigaciones

Históricas de la UNAM

Ruth Zimmerling

Catedrática de Ciencia Política de la Universidad de Mainz (Alemania)

Fueron miembros de este Comité: Emilio Beltrán Sánchez, Rosario Valpuesta Fernández y Tomás S. Vives Antón

Procedimiento de selección de originales, ver página web: www.tirant.net/index.php/editorial/procedimiento-de-seleccion-de-originales

HOMO EX MACHINA

Ética de la inteligencia artificial y Derecho digital ante el horizonte de la singularidad tecnológica

FERNANDO H. LLANO ALONSO

Prólogo de Stefano Pietropaoli

tirant lo blanch

Valencia, 2024

Copyright ® 2024

Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito del autor y del editor.

En caso de erratas y actualizaciones, la Editorial Tirant lo Blanch publicará la pertinente corrección en la página web www.tirant.com.

En la presente obra se integra, dentro del Capítulo 2, la obra que resultó ganadora del XIV Premio Ángel Olavarría, patrocinado por la Fundación Cultura Andaluza con la colaboración de la Fundación Cajasol

© Fernando H. Llano Alonso

© TIRANT LO BLANCH

EDITA: TIRANT LO BLANCH

C/ Artes Gráficas, 14 - 46010 - Valencia

TELFS.: 96/361 00 48 - 50

FAX: 96/369 41 51

Email: tlb@tirant.com

www.tirant.com

Librería virtual: www.tirant.es

ISBN: 978-84-1056-291-2

Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro procedimiento de quejas.

Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

A mi padre, Higinio Llano González (1936-2018)

Maestro de vida y ser humano ejemplar

El hombre se resuelve a buscar en él la máquina oculta que encierra para servir al hombre (José Ortega, Meditación de la técnica, 1939)

PRÓLOGO

Cuando, con una sensación de sombría inquietud que supera con creces a la de confianza y esperanza, trato de reflexionar sobre los tiempos que el destino nos ha asignado, hay una expresión que se me presenta y no me abandona. Tiempos difíciles. Vivimos tiempos difíciles.

Todas las épocas de la historia de la humanidad han estado más o menos constantemente marcadas por terribles problemas: guerras, hambrunas, epidemias y todos los demás que nos hacen gruñir y sudar bajo el peso de la vida. La laboriosidad de los hombres, su ingenio, su deseo irrefrenable no sólo de sobrevivir, sino de vivir en un mundo mejor, han permitido atenuar el peso de estas plagas. Pero hoy nos enfrentamos a un problema totalmente nuevo, o, mejor dicho, a un problema que se ha hecho presente, real, concreto, verdadero, después de haber sido durante siglos sólo un fantasma agitado por lo que muchos juzgaban mentes perturbadas, afectadas por delirios, fabricantes de pesadillas que parecían destinadas a permanecer evanescentes.

El problema de nuestra época es el posible fin de lo que hemos llamado humanidad. A manos de ella misma.

Este problema, por supuesto, ya se evocó en la época de la guerra termonuclear. Bien mirado, ya entonces se trataba de la relación entre el hombre y la técnica: una relación que hoy se expresa de forma distinta a la de los tiempos del equilibrio del terror entre las superpotencias, pero que implica una amenaza para la humanidad quizá aún más grave, aunque aparentemente menos sangrienta: más sutil y, por tanto, más insidiosa.

Como sostenía ejemplarmente Ortega y Gasset hace casi un siglo, la técnica es esencial al hombre, en el sentido de que es la esencia del hombre: sin técnica no hay hombre. Pero si “la técnica es un modo de ser del hombre”, debe estar condicionada por el modo en que está en la naturaleza, circunstancia o mundo: “Se vive con la técnica, pero no de la técnica”.

El quid de la cuestión es exactamente éste: el poder de la técnica prefigura hoy una inversión, en la que el hombre vive de la técnica y

Stefano Pietropaoli

para la técnica. La revolución tecnológica en curso —que es una revolución digital en primer lugar, pero más en general una revolución industrial, social, cultural y antropológica— nos ofrece una cantidad impresionante de herramientas, cuya naturaleza y finalidad somos cada vez más incapaces de comprender. La tecnología ya no se limita a ofrecer medios: ella misma se ha convertido en el fin.

Este es el escenario en el que los cruzados de las nuevas confesiones —el transhumanismo y su versión aún más radical, el posthumanismo— predican la superación de lo humano: una criatura imperfecta y frágil, falaz y vulnerable, que ahora podemos sacrificar en la fragua del homo excelsior.

Homo excelsior era el título de la obra de Fernando Llano Alonso, de la que este volumen no es una mera continuación, sino que es, al mismo tiempo, un desarrollo y una culminación. Para no ser deslumbrados por una luz demasiado intensa, a veces abrimos un ojo cada vez: Homo ex machina es el segundo ojo, el que, tras una primera toma de conciencia de lo que nos rodea, se abre para ganar en profundidad de perspectiva, para ver mejor lo que tenemos delante.

La díada que representan estos dos volúmenes es un proyecto complejo y ambicioso de humanización de la tecnología, o más bien de construcción de un nuevo humanismo en la sociedad tecnológica.

En el primer volumen, la cuestión central era qué queremos ser como especie: en qué condiciones, a qué coste, superando qué límites y decidiendo qué otros límites no cruzar. La propuesta era clara: no dejar espacio ni al desencanto resignado ni a las utopías fútiles, sino elaborar una estrategia para adaptarnos al futuro tecnológico sin renunciar a nuestra propia identidad y naturaleza.

En Homo ex machina, el quid es la relación entre la especie humana y la máquina. Con la llegada de la “singularidad tecnológica”, las máquinas serán más “inteligentes” que los seres humanos. El homo sapiens, por tanto, no sólo coexistirá con sujetos híbridos, transhumanos y posthumanos, realizados a través de la biotecnología, la IA y la genética. Aparecerán en escena otros sujetos: androides y robots humanoides (como se presagia en gran parte de la literatura de ciencia ficción), o más probablemente sistemas de software impalpables, sin cuerpo, o injertados en cuerpos mecánicos no antropomórficos, dotados de una IA general y fuerte.

En este escenario —no sólo posible, sino probable, y tal vez incluso inevitable— ¿perderá el ser humano la centralidad que ganó y defendió durante el Antropoceno? Y el propio invento humano que tradicionalmente llamamos derecho, que siempre ha sido elaborado por hombres y para hombres, ¿qué destino tendrá?

Como en Homo excelsior, en Homo ex machina Fernando Llano Alonso rechaza tanto la visión entusiasta de los tecnófilos integrados como la visión pesimista de los tecnófobos apocalípticos. Que la ciencia jurídica ha llegado al final de su larga historia es posible, pero el desenlace del desafío es aún incierto. Todo depende de las opciones (también políticas y éticas, además de puramente jurídicas) que se tomen.

Los juristas, por su parte, pueden y deben contribuir a preservar un saber que representa uno de los más altos logros de la civilización humana. Debemos despejar el camino de un posible malentendido. No se trata de la defensa interesada de profesiones que están en peligro de ser ejercidas por organismos dotados de “inteligencia artificial”. El abogado-robot, el juez-robot, el notario-robot: ya existen numerosas aplicaciones, no sólo experimentales, de estos hircocervos de silicio. Más allá de todas las preocupaciones laborales, lo que realmente está en juego es el destino mismo del derecho. Y es en este plano donde el filósofo del derecho tiene el deber de tomar la palabra.

Hubo un tiempo, no muy lejano, en que la teoría del derecho recorría un camino que prometía conducir a un derecho “puro”: un derecho formal, libre de las influencias de la ética y de la política, un sistema eficaz, sin lagunas, libre del error humano, cierto, objetivo, axiomatizado, compuesto de disposiciones tan rígidamente lógicas que no podían admitir interpretaciones divergentes.

El avance tecnológico permitió desandar ese camino, que la filosofía jurídica había rechazado en gran medida. Las tecnologías digitales han hecho posible la dataficación de nuestras existencias, la reducción de nuestra experiencia vital a datos. No hay ningún aspecto de nuestras vidas que no se vea afectado por esta perversión de la cuantificación total, de la mensurabilidad absoluta, de la transformación en código binario blanco y negro de lo que en su lugar sería una existencia iridiscente. Hemos llegado al cumplimiento paradóji-

Stefano Pietropaoli

co del nihilismo computacional: ya nada tiene valor, porque todo se ha vuelto calculable.

Nuestra propia identidad personal coincide siempre más con nuestra identidad digital: vivimos cada vez más en una realidad digital (no virtual, sino absolutamente concreta, aunque inmaterial), inmersos en el pantano de un meta-universo en el que se debate el novo homo ludens.

Al abrir este prefacio, recordé la expresión “tiempos difíciles”, que es también el título de una novela de Dickens: un texto que denuncia una visión utilitarista de la realidad, bien representada por las palabras con las que se abre ese texto, bajo la bandera de la importancia fundamental de los “hechos” (“Now, what I want is, Facts”). Podría sustituir hoy en ese mismo incipit la palabra “hechos” por la palabra “datos”: “Pues bien; lo que yo quiero son datos. No les enseñéis a estos muchachos y muchachas otra cosa que datos. En la vida sólo son necesarios los datos. No planteéis otra cosa y arrancad de raíz todo lo demás. Las inteligencias de los animales racionales se moldean únicamente a base de datos; todo lo que no sea esto no les servirá jamás de nada. De acuerdo con esta norma educo yo a mis hijos, y de acuerdo con esta norma hago educar a estos muchachos ¡Ateneos a los datos, caballero!”.

Este proceso de dataficación integral afecta también al derecho. La automatización y la estandarización han abierto la puerta al sueño de un derecho computacional, entendido y gobernado (tal vez incluso creado) por máquinas sin pasiones y, por tanto —así se pretende— imparcial, tercero, en una palabra, justo. Pero, ¿seguiría siendo este derecho, enteramente reducido al lenguaje de las máquinas, el derecho que hemos conocido hasta ahora?

Fernando Llano Alonso intenta sostener, con la valentía que sólo puede poseer quien domina a la perfección las cuestiones abordadas, plantea una alternativa teórica a la doctrina justecnicista dominante, fruto de ese formalismo jurídico que antes evocábamos. Esta alternativa se construye desde la perspectiva de un humanismo tecnológico, capaz de conciliar la revolución digital con los principios de la cultura jurídica moderna. Defender el derecho, por tanto, no significa sólo proteger las profesiones jurídicas, sino salvar una forma

de pensamiento, un estar en el mundo, una posibilidad de vida. El derecho no es si no es humano.

El derecho es, ante todo, ciencia jurídica, es decir, conocimiento desarrollado por juristas. Un conglomerado (una base de datos) de normas formadas, organizadas, gestionadas, administradas por máquinas, no es derecho. Un derecho automatizado ya no necesita eruditos, investigadores, expertos, sino sólo operadores del sistema, autómatas algorítmicos. Reducido a un sistema automático autosuficiente e inalterable, ya no necesitaría el pensamiento. La máquina del derecho computacional “absorbe” al jurista, como el dron al soldado y el robot industrial al obrero.

En esta línea, Fernando Llano Alonso juega todas las cartas posibles para revalorizar la naturaleza intrínsecamente humana del derecho, reivindicando su sintonía originaria con el saber humanístico, con la filosofía, con la ética, con la historia, con la literatura. Éste es el único camino que, respondiendo a la deriva utilitarista que se está imponiendo a todos los niveles, puede permitirnos no sufrir pasivamente la automatización del mundo, sino asumirla críticamente, salvaguardando lo que no se puede calcular ni debe reducirse a datos: el conocimiento, los afectos, el deseo y, en general, todo aquello que hace que la vida humana merezca ser vivida. Porque, de nuevo en palabras de Ortega, no somos cosas, sino que somos “dramas”, marcados por una complejidad irreductible: no somos datos, porque estamos “en continua lucha por ser lo que debemos ser”.

La propuesta teórica de este volumen es una defensa apasionada, llena de esperanza pero nunca ingenua, del papel de la cultura, la educación, la investigación científica, la sabiduría de los clásicos y los bienes que constituyen la riqueza inmaterial de una sociedad. Al mismo tiempo, es también una denuncia de las tesis de quienes sostienen la inutilidad del saber y la obsolescencia de la cultura, en una época en la que las matemáticas correlacionistas suplantan a las hipótesis, los modelos y la experiencia. En otras palabras, una era en la que las estadísticas basadas en Big Data dan respuestas que pretenden ser definitivas sin apoyarse en ningún argumento semántico o causal.

Sólo redescubriendo la naturaleza humana del derecho podremos salvarlo. Sólo recordando su génesis y su desarrollo milenario podremos dar respuesta a preguntas cada día más urgentes.

Stefano Pietropaoli

El escenario del derecho corre el riesgo de verse invadido por nuevos actores no humanos. La propia expresión inteligencia artificial, tan eficaz y evocadora pero también tan equívoca, suscita una reflexión sobre el significado de los términos, las palabras y los conceptos, que son decisivos para comprender nuestra manera de vincularnos a las máquinas, nuestra relación con ellas, pero también para subrayar la distancia entre el hombre y la máquina. Por un lado, existe una fuerte tentación de imputar a las máquinas cualidades que tradicionalmente hemos reservado a los seres humanos: además de la inteligencia, la autonomía, la imparcialidad (o neutralidad), la conciencia, la subjetividad y, por tanto, también la titularidad de derechos y deberes. Por otra parte, asistimos a la erosión progresiva de estas mismas cualidades en el ser humano. Un ser humano cada vez menos inteligente, autónomo, imparcial, consciente, y cada vez menos un sujeto de derecho.

No cabe duda de que las tecnologías pueden representar una herramienta para mejorar las condiciones de vida, de trabajo y de existencia de los seres humanos. Pero tampoco hay que ocultar que su mal uso, o al menos su uso distorsionado, puede causar daños muy graves. Pensemos en el debilitamiento de las facultades cognitivas, cada vez más subyugadas por el uso de prótesis digitales, o en la omnipresencia de instrumentos de control cuyo uso puede alterar radicalmente el funcionamiento de la sociedad y de la democracia.

Es en esta perspectiva en la que es necesario evaluar cuidadosamente todos aquellos enfoques, desarrollados en los últimos años, que preservan el papel del ser humano, reivindicando su centralidad e insustituibilidad. Entre ellos, merece especial atención la “reserva de humanidad”. Al igual que la reserva de ley o la reserva de jurisdicción, la reserva de humanidad (cuyo esquema teórico se hace eco del propuesto por Ernesto Garzón Valdés en referencia a la reserva de bienes fundamentales) establece límites que resguardan el ejercicio de los derechos fundamentales de ciertos peligros, que en este caso consisten en la intromisión de decisiones algorítmicas no supervisadas por seres humanos. Si bien este puede ser un instrumento capaz de proteger derechos, bienes y necesidades básicas, el marco jurídico actual sigue siendo opaco, cuando no ambiguo. Por esta razón, para salvar el derecho, para salvar su humanidad y —yo diría— incluso