1_9788411831185

IntelIgencIa artIfIcIal concepto, alcance, retos

COLECCIÓN “CARTOGRAFÍAS FILOSÓFICAS”

Director de la colección:

pedro Jesús teruel Universitat de València

Comité científico:

ana andaluz

Universitat Pontificia de Salamanca

Jesús conIll

Universitat de València

adela cortIna

Universitat de València

Óscar cubo

Universitat de València

alba JIménez

Universidad Complutense de Madrid manuel JIménez redondo Universitat de València

claudIo la rocca Università Degli Studi di Genova rogelIo rovIra

Universidad Complutense de Madrid

margIt ruffIng

Johannes Gutenberg-Universität Mainz nurIa sánchez madrId

Universidad Complutense de Madrid sergIo sevIlla

Universitat de València

salvI turrÓ

Universitat de Barcelona

vIoletta WaIbel Universität Wien

Coordinación y traducción:

Jesús valdés

elsa gonzález-esteban y Juan carlos sIurana aparIsI (edItores)

IntelIgencIa artIfIcIal concepto, alcance, retos

tirant humanidades

Valencia, 2024

Todos los derechos reservados. Ni la totalidad ni parte de este libro puede reproducirse o transmitirse por ningún procedimiento electrónico o mecánico, incluyendo fotocopia, grabación magnética, o cualquier almacenamiento de información y sistema de recuperación sin permiso escrito de los autores y del editor.

En caso de erratas y actualizaciones, la Editorial Tirant Humanidades publicará la pertinente corrección en la página web www.tirant.com.

Esta publicación se enmarca en el Proyecto Coordinado de Investigación Científica y Desarrollo «Ética discursiva y Democracia ante los retos de la Inteligencia Artificial»: PID2019-109078RB-C21 («Ética aplicada y confiabilidad para una Inteligencia Artificial») y PID2019-109078RB-C22 («Ética cordial y Democracia ante los retos de la Inteligencia Artificial»), financiado por MCIN/ AEI /10.13039/501100011033, y en las actividades del grupo de investigación de excelencia PROMETEO CIPROM/2021/072, financiado por la Conselleria d’Innovació, Universitats, Ciència i Societat Digital de la Generalitat Valenciana

© Los autores y las autoras

©

TIRANT HUMANIDADES

EDITA: TIRANT HUMANIDADES

C/ Artes Gráficas, 14 - 46010 - Valencia

TELFS.: 96/361 00 48 - 50

FAX: 96/369 41 51

Email: tlb@tirant.com

www.tirant.com

Librería virtual: www.tirant.es

ISBN: 978-84-1183-118-5

MAQUETA: Innovatext

Imagen de portada: Cámara-ojo de HAL 9000, protagonista cibernético del film de Stanley Kubrick, basado en un relato de Arthur C. Clarke, 2001: Una odisea en el espacio (2001: A Space Odyssey, 1968). La imagen aparece publicada en Wikipedia Commons con una licencia Creative Commons Attribution 3.0 Unported (CC BY 3.0).

Si tiene alguna queja o sugerencia, envíenos un mail a: atencioncliente@tirant.com. En caso de no ser atendida su sugerencia, por favor, lea en www.tirant.net/index.php/empresa/politicas-de-empresa nuestro Procedimiento de quejas.

Responsabilidad Social Corporativa: http://www.tirant.net/Docs/RSCTirant.pdf

p resentac IÓ n

“Cartografías filosóficas” nace en 2022 como colección filosófica de Tirant lo Blanch. Acoge estudios relacionados con la historia de la filosofía y sus problemas; presta especial atención a las redes conceptuales propias de la modernidad y de la época contemporánea, así como a la filosofía clásica alemana. Constituye el órgano editorial del grupo de investigación “Kant-València”, con sede en el departamento de Filosofía de la Universidad de Valencia.

Envío de originales:

pedro Jesús teruel Universitat de València

Departament de filosofia

Avinguda Blasco Ibáñez, 30. 46010 València pedro.teruel@uv.es

Grupo de investigación “Kant-València”

Página web: https://kantvalencia.blogs.uv.es

Contacto: kantvalencia@uv.es

J uan a rana c añedo - a rgüelles

f ranc I sco a renas d olz

p h I l I p b rey

J esús c on I ll

a gustín d om I ngo m oratalla

f ranc I sco f ernández b eltrán

d om I ngo g arcía - m arzá

e lsa g onzález - e steban

J av I er g rac I a c alandín

a lexander K r I eb I tz

c hr I stoph l ütge

p edro J esús p érez z afr I lla

m aría J osé s enent v I dal

J uan c arlos s I urana a par I s I

d I eter s turma

p edro J esús t eruel

a sunc IÓ n v entura f ranch

Juan carlos sIurana aparIsI: Ética para la aplicación de la inteligencia artificial a la mercadotecnia influyente ....................................................................

francIsco fernández beltrán: Implicaciones éticas del impacto de la inteligencia artificial en la comunicación pública...................................................

maría José senent vIdal y asuncIÓn ventura franch: Aplicación de la perspectiva de género a la regulación de los sistemas de inteligencia artificial

307

327

p r Ó logo

Por una inteligencia artificial centrada en el ser humano elsa gonzález-esteban y Juan carlos sIurana aparIsI Universitat Jaume I y Universitat de València

La inteligencia artificial se ha convertido en el centro de atención de una multitud de personas teóricas y profesionales de los diferentes ámbitos de la actividad humana, por su supuesta capacidad para analizar, predecir, mejorar y dar respuesta a los múltiples problemas y conflictos que subyacen en nuestra sociedad.

La aplicación de algoritmos de inteligencia artificial en los diferentes procesos de las instituciones, organizaciones y empresas está permitiendo, por ejemplo, la optimización de los recursos, la precisión y control administrativo, o el diagnóstico de enfermedades. Sin embargo, estos modelos no están exentos de fuertes críticas y grandes dudas tanto internas como externas. Cada vez son mayores las evidencias de su falta de objetividad, su alta opacidad, su relativismo conductual o su arbitraje sesgado, lo cual lleva a exigir que sean las propias personas afectadas las que definan las expectativas de la inteligencia artificial a corto y medio plazo para evitar las consecuencias negativas que está produciendo o puede llegar a producir. En definitiva, se manifiesta la necesidad de la supervisión humana.

Este libro se focaliza en la nueva situación creada por la creciente penetración de la inteligencia artificial en todos los órdenes de la vida humana, analizando desde una perspectiva ética, principalmente ético-discursiva y cordial, su repercusión para las personas y la sociedad. Trata de proponer, justificar y aplicar un diseño institucional y una infraestructura ética que permita orientar la gestión y toma de decisiones en las organizaciones para garantizar la acción y supervisión humanas,

entendidas desde la ética del discurso como participación y búsqueda deliberativa de acuerdos por parte de todos los afectados.

Esta exigencia de participación deriva de la autonomía como núcleo básico del marco ético para una inteligencia artificial confiable. Y este núcleo de la confianza requiere mecanismos de participación, control y decisión, es decir, mecanismos de gobernanza que implican tanto al gobierno como a la sociedad civil.

Frente a los problemas de reduccionismo y simplificación que supone toda dataficación hasta los problemas derivados de los algoritmos de «caja negra», pasando por la aplicación y uso de la inteligencia artificial en empresas y organizaciones, defendemos la reflexión crítica y propuestas concretas que garanticen el cumplimiento de los requisitos previos para una inteligencia artificial centrada en el ser humano. Desde este marco crítico entendemos que la ciencia y la tecnología deben desarrollarse con y para la sociedad.

Este libro se nutre de la actividad de un grupo consolidado interuniversitario de investigación sobre la ética y la democracia, radicado en la Universitat Jaume I de Castellón y la Universitat de València, con el referente intelectual de la catedrática Adela Cortina, y entre cuyos miembros se encuentran actualmente los autores y las autoras de algunos de sus capítulos, como Jesús Conill Sancho, Domingo García Marzá, Agustín Domingo Moratalla, Francisco Arenas Dolz, Pedro Jesús Teruel Ruiz, Javier Gracia Calandín, Francisco Fernández Beltrán, María José Senent Vidal, Asunción Ventura Franch, así como los coeditores, Elsa González-Esteban y Juan Carlos Siurana Aparisi.

Queremos ahora destacar que este grupo trabaja siempre de forma coordinada con diferentes grupos de investigación nacionales e internacionales que garantizan tanto la interdisciplinaridad de los resultados finales como su repercusión a nivel nacional e internacional. Este libro, que es un ejemplo de esa colaboración constante con otros grupos de investigación, pretende contribuir a la difusión de una cultura científica e innovadora en un marco global de ética de la responsabilidad capaz de dar razón tanto de los riesgos como de los beneficios que desde una perspectiva ética se sigue de la penetración actual de la inteligencia arti-

ficial. Los autores y las autoras pertenecientes a esos otros grupos de investigación de ámbito nacional e internacional son los siguientes: Juan Arana Cañedo-Argüelles, Dieter Sturma, Alexander Kriebitz, Christoph Lütge y Philip Brey.

Entendemos que es necesario definir con claridad los conceptos básicos utilizados al hablar de la inteligencia artificial, pero también conocer, analizar y evaluar su alcance y sus retos, junto a las directrices éticas que pretenden regularla. Así, el presente libro se propone tres objetivos principales, que aborda respectivamente en cada una de sus partes.

Primera parte. Inteligencia artificial: Concepto

Nuestro primer paso en esta dirección ha sido clarificar el propio concepto de «inteligencia» que pretende ser la base de la inteligencia artificial, pues se ha conseguido construir máquinas capaces de resolver con rapidez problemas concretos haciendo uso de la llamada «inteligencia especial», pero los avances científicos se encaminan a lograr en algún momento la «inteligencia general», que tendría similitudes con la humana y que, desarrollada por máquinas, podría incluso, supuestamente, superarla. En esa aspiración a igualar o incluso a superar la inteligencia humana es donde resulta necesario comprender cuáles son las características que permiten aflorar nuestra propia subjetividad.

Esta primera parte del libro tiene como objetivo clarificar, analizar y discernir el significado de «inteligencia» para destacar los rasgos específicos de la inteligencia artificial, mostrando las condiciones que permiten hablar de subjetividad en conexión con la ética del discurso en su versión cordial. Un importante foco de atención es la conexión entre la inteligencia artificial y la dimensión corporal, sentiente y emocional de la inteligencia.

En esta parte contamos con las contribuciones de Juan Arana Cañedo-Argüelles sobre «Algunas críticas de los neurocientíficos al paradigma computacional»; Jesús Conill Sancho sobre «Inteligencia artificial e inteligencia corporal y sentiente (en perspectiva zubiriana)»; Dieter Sturma sobre «La extensión de la mente. Inteligencia artificial, tecnología y ser humano como forma de vida»; y Pedro Jesús Teruel Ruiz sobre

«Recrear el mundo. Inteligencia artificial y emociones: una ejercitación neurofilosófica».

Segunda parte. Inteligencia artificial: Alcance

La inteligencia artificial se aplica a una enorme variedad de ámbitos humanos, lo cual plantea también nuevos desafíos éticos relacionados con los cambios sociales y culturales, así como personales, que pueden producirse. Es necesario mostrar la parte de responsabilidad que tiene la ciudadanía en el tipo de sociedad que podemos construir dependiendo de la orientación que tome la investigación en este campo de la ciencia y la tecnología. Pero la ciudadanía misma se encuentra cada vez más atrapada en entornos digitales y mediáticos que sesgan la realidad y que, como consecuencia de los algoritmos diseñados para las redes sociales, finalmente, crean cámaras de eco, de modo que cada ciudadano acaba escuchando solamente los discursos que comparte, lo cual está generando que las ideas extremas dentro de cada cámara de eco adquieran protagonismo, al no potenciarse comunidades de diálogo con opiniones diversas.

La segunda parte de este libro tiene como objetivo proponer desde las bases de una democracia deliberativa un diseño institucional para la gestión, monitorización y cumplimiento que permita un desarrollo teórico y práctico de la inteligencia artificial en el sistema democrático y sus principales instituciones. Es también nuestro objetivo construir una infraestructura ética que permita una gobernanza capaz de afrontar los riesgos derivados de la inteligencia artificial en el contexto empresarial y organizativo en general, proponiendo un diseño institucional que dé cuenta del principio de explicabilidad, entendido como transparencia y participación de todas las partes implicadas. También reflexionamos sobre cómo afecta este nuevo fenómeno a la educación, y sus conexiones con la psicología evolucionista.

A esta parte contribuyen los siguientes autores con estos títulos: Domingo García Marzá, «Crítica de la razón algorítmica: contra la neutralidad como ideología»; Francisco Arenas Dolz, «Más allá del capitalismo de la vigilancia. La democracia en la era de la inteligencia artificial»; Alexander Kriebitz y Christoph Lütge, «La inteligencia artificial y sus

consecuencias para los derechos humanos: una evaluación desde la ética de la empresa»; Javier Gracia Calandín, «Inteligencia artificial: ¿una ventaja para la educación?»; Pedro Jesús Pérez Zafrilla, «Conexiones entre inteligencia artificial y psicología evolucionista». Tercera parte. Inteligencia artificial: retos

En cada uno de los ámbitos de aplicación de la inteligencia artificial surgen nuevos retos que es necesario afrontar desde la ética. Es importante analizar retos específicos para poder hablar de un uso de la inteligencia artificial centrado en el ser humano en cualquier ámbito del Estado y la Sociedad Civil. Y es necesario, por ello, proponer una ciudadanía digital y mediática capaz de fomentar la cohesión social a través de la verdadera participación en diálogos argumentativos entre las personas afectadas por problemas comunes.

Son objetivos de esta tercera parte, entre otros, afrontar los siguientes retos: Discernir la noción de tiempo, atención y apropiación en la inteligencia artificial. Establecer la relación existente entre las dimensiones de una Investigación e Innovación Responsable (RRI, Responsable Research and Innovation, por sus siglas en inglés) y los requisitos esenciales que deben respetar las aplicaciones de la inteligencia artificial para ser consideradas confiables. Analizar e identificar las dimensiones de la responsabilidad ante la intervención de la inteligencia artificial en las diversas esferas sociales, culturales y personales, diseñando procedimientos para potenciar el compromiso cívico ante el desarrollo tecnológico. Elaborar una propuesta de ciudadanía digital y mediática que incluya la transformación de la democracia desde la justicia cordial y el universalismo moral, y que fomente la cohesión social, la participación y la pertenencia. Y afrontar retos específicos como el impacto de la inteligencia artificial en la mercadotecnia influyente y la comunicación pública, o su revisión desde la perspectiva de género.

Los autores y autoras de esta parte y los títulos de sus contribuciones son los siguientes: Agustín Domingo Moratalla, «El reto del discernimiento en la inteligencia artificial: tiempo, atención y apropiación»; Philip Brey, «Hacia una estrategia multilateral para la ética de la inteligencia artificial»; Elsa González-Esteban, «Investigación e innova-

ción en inteligencia artificial: responsabilidad y confianza»; Juan Carlos Siurana Aparisi, «Ética para la aplicación de la inteligencia artificial a la mercadotecnia influyente»; Francisco Fernández Beltrán, «Implicaciones éticas del impacto de la inteligencia artificial en la comunicación pública»; María José Senent Vidal y Asunción Ventura Franch, «Aplicación de la perspectiva de género a la regulación de los sistemas de inteligencia artificial».

Para el desarrollo de los objetivos de este libro se ha seguido una metodología propia y adecuada para las éticas aplicadas, la hermenéutico-crítica. Esta metodología penetra, en primer lugar, en la propia praxis profesional e institucional para interpretar los contextos y campos concretos de actividad, sus lógicas e idiosincrasia, así como para aprehender los principios, normas, valores, fines y virtudes que constituyen la ética cívica sobre la que se erigen, sustentan y desarrollan. En segundo lugar, se introduce en el ámbito de la deliberación crítica para abordar su justificación moral a través de la búsqueda de consenso entre todos afectados sobre las consecuencias derivadas de una norma, acción o decisión. Finalmente, en tercer lugar, aborda su adecuación y posibilidades de concreción sobre cada contexto a aplicar. De este modo, la hermenéutica-crítica permite abordar con garantías el estudio crítico de las fuentes bibliográficas, directrices internacionales, estudios de campo y contextos, y casos prácticos relacionados con los actuales enfoques prácticos, marcos axiológicos y uso de algoritmos de inteligencia artificial en la democracia, la economía y la sociedad para aclarar, fundamentar y ofrecer orientaciones para el desarrollo práctico de la inteligencia artificial en un sentido moralmente válido y socialmente responsable.

La perspectiva de una renovada ética discursiva, que sustenta la mayoría de los trabajos de investigación de esta obra, posee un carácter universalista capaz de enfrentarse a los retos globales que derivan de la inteligencia artificial. De igual forma, las éticas aplicadas van más allá del derecho estatal y están relacionadas con las directrices tanto europeas como internacionales acerca de una inteligencia artificial confiable. Las respuestas sobre qué significa una inteligencia artificial centrada en el Ser humano exigen este enfoque universalista.

Entendemos que la metodología de la hermenéutica crítica resulta muy valiosa para reconstruir las bases éticas que subyacen a la generación de confianza en los sistemas y procesos de la inteligencia artificial. Con esa orientación, en el presente libro proponemos mecanismos y procedimientos para el cumplimiento por parte de los individuos y las instituciones del marco ético para una inteligencia artificial confiable.

Este libro es un resultado del Proyecto de Investigación Científica y Desarrollo «Ética aplicada y confiabilidad para una inteligencia artificial» PID2019-109078RB-C21 y del Proyecto de Investigación Científica y Desarrollo «Ética cordial y Democracia ante los retos de la inteligencia artificial» PID2019-109078RB-C22, en ambos casos financiados por MCIN/AEI/10.13039/501100011033. También es un resultado del grupo de investigación de excelencia PROMETEO CIPROM/2021/072, financiado por la Conselleria d’Innovació, Universitats, Ciència i Societat Digital de la Generalitat Valenciana.

Terminamos este prólogo agradeciendo enormemente al profesor Pedro Jesús Teruel toda la labor realizada en la preparación de este libro, especialmente su contacto con los autores extranjeros y su inestimable apoyo en la organización de los capítulos, y a Jesús Valdés Blanqued, por sus cuidadas traducciones.

Pensamos que es un libro de muy alta calidad y necesario en los tiempos que corren. Expresamos finalmente nuestro agradecimiento a todas las personas que lo han hecho posible y a quienes compartan con nosotros su lectura y sus reflexiones.

Castellón y Valencia, 18 de abril de 2023