Conversando con una máquina

Este artículo es sobre los chats inteligentes y se suma a documentos sobre ellos de carácter descriptivo, anecdotario, perturbador, alentador… que están surgiendo por todos lados, que se transmiten sin filtro (a velocidad vertiginosa), que “existen” y por eso importan. ¿Uno más?

Cualquier tecnología suficientemente avanzada es indistinguible de la magia.

A. Clark

SILVIA RAQUEL

GARCÍA BENÍTEZ Doctora en Ingeniería. Sus líneas de investigación son sistemas complejos suelo-estructura, dinámica de masas de suelo y rocas, geosísmica, redes neuronales, inteligencia artificial y modelado avanzado de fenómenos naturales, entre otras.

Considero necesario comenzar con una breve discusión sobre la “opinocracia”. Como humanos, la razón es fundamental para entender y entendernos, de ahí su importancia para la ciencia y la vida moral y política. Razonar o dialogar (dialogar es discurrir con razones) es imprescindible para articular una sociedad abierta y plural, conciliando intereses y opiniones y tomando –entre todos– decisiones justas y convincentes. Sin ciudadanos racionalmente competentes no hay democracia, hay –como dijo alguien– “opinocracia”. Sobre los productos/aplicaciones de la inteligencia artificial (el término más usado en el año 2022; la RAE lo seleccionó por delante de “apocalipsis”, “ucraniano” e “inflación”) se está activando un feroz movimiento en el que todos se creen con derecho a tener razón, sin considerar que tal derecho (como el que se tiene a emitir sentencias o recetar pastillas) va ligado al conocimiento y la responsabilidad para ejercerlo.

Este moderno prurito antiintelectualista (según el cual tener razón es como tener pulmones o dedos en los pies: no hace falta hacer nada) exige atender bases éticas y filosóficas para que el debate público deje de ser entretenido y se vuelva fértil. Una prueba del ínfimo nivel argumentativo del debate (sea en los medios o en ese extraño conato de sociedad civil que son las redes) es la abundancia de pseudoargumentos y falacias que se dan en él. Si un chat inteligente es tal o cual cosa se llama a la falacia ad hominem, en vez de atender a los argumentos se descalifica a la persona que los esgrime; ad populum, si lo dicen todos, entonces es verdad; o ad baculum, ¡entiende, que te lo estoy diciendo! Normalmente, estos enredos son esgrimidos por un “hombre de paja” (alguien que sólo ojea noticias cortas, artículos simplistas o material que no requiere –o él lo decide así–ser leído a profundidad o analizado).

Cultivar el conocimiento Razonar, y bien lo sabemos los ingenieros, no es cosa de un día. Hace falta mucha práctica, hace falta cultivar el conocimiento. Voy a usar a Parménides y sus dos vías: ta pros doxan o la vía de la opinión, que equivale al conocimiento sensible de las cosas materiales y cambiantes (la realidad es una opinión, se sabe lo básico sobre lo imperfecto, es un conocimiento equívoco) y ta pros aletheian o la vía de la verdad, la única que da acceso al auténtico conocimiento, al saber racional que se obtiene por ejercicio del intelecto, de lo auténticamente real. En este texto se intenta mostrar un camino por el que podemos transitar todos para conocer, entender y decidir… buscar, como decía Machado, la verdad juntos. En las condiciones que impone esta revolución tecnológica y las distopías/utopías que se vislumbran para la humanidad, es imperioso que persistamos en esa búsqueda.

¿Qué es un chat inteligente?

Un chat inteligente es un sistema de charla (plática) con inteligencia artificial, que responde a interrogaciones porque está entrenado para mantener conversaciones. Para entrenar a esta inteligencia artificial se le hacen preguntas, se le muestran las respuestas y se refuerzan las consideradas por el modelador como “+correctas” de forma que, a lo largo del tiempo, el sistema realice de forma automática la tarea diseñada.

Este procesamiento del lenguaje natural NLP (natural language processing) intenta que las computadoras entiendan, interpreten y manipulen el lenguaje humano. Aunque este procesamiento no es una ciencia nueva, el NLP avanza rápida y asombrosamente por el big data, el poder computacional y los algoritmos mejorados. Siendo el lenguaje nativo de una computadora millones de ceros y unos que producen acciones lógicas, resulta asombro- so que un dispositivo entienda “me gusta esta canción”, y a través de esta frase evalúe, almacene y reaccione adaptando su algoritmo para reproducir esa canción –y otras como esa– la siguiente vez que se quiera escuchar música. El dispositivo asistente que se activó por la voz entendió la intención no hablada en el comentario, ejecutó una acción, incluso pudo haber proporcionado retroalimentación en un enunciado bien estructurado, y lo hizo, todo, en menos de cinco segundos.

¿Se ha insertado una tecnología como esta en la ingeniería civil? Es bastante complejo emitir una simple respuesta como: “Se ha aplicado para simplificar, mejorar o automatizar cierto proceso de diseño o construcción”, que es la idea que se tiene sobre el uso de tecnologías de vanguardia en la profesión, porque estamos hablando de examinar el lenguaje, reconocer expresiones y contestar con consecuencias aceptadas por otros (los modeladores). En la construcción de la infraestructura se crean objetos que habilitan la explotación del ambiente, del agua o del aire en beneficio de la vida humana, aplicando conocimiento y conceptos (sobre cálculo, física, mecánica, etc.). ¿Un ingeniero civil actualmente sostiene diálogos con un robot para realizar este trabajo? No. ¿Podría llegar a hacerlo? Seguramente sí, pero no será de una forma tan cercana a las aplicaciones que hoy estamos comenzando a conocer. En la función del diseño, de la materialización y de la supervisión de obra siempre está conectado (en diferentes niveles de inmersión) el reflejo de la pericia humana, si esto es traducido en grandes bases de datos, establecido en reglas conectivas y expresado como bloques algorítmicos que mimeticen el proceso premisa → conclusión (tras reconocer texto o señales de audio); entonces estaríamos generando un entorno computacional, conversacional, que nos asistiría en el día a día, un ingeniero auxiliar.

¿Por qué el revuelo?, ¿qué está pasando hoy?

El procesamiento del lenguaje natural enfrenta la complejidad y diversidad de la comunicación humana. Nos expresamos de maneras infinitas, verbalmente y por escrito. No solo existen cientos de lenguajes y dialectos, sino que en cada lenguaje existe un conjunto único de reglas gramaticales y de sintaxis y términos y palabras coloquiales. Aunque el aprendizaje supervisado y no supervisado, y específicamente el aprendizaje a fondo (deep learning), se utilizan ahora para modelar el lenguaje, se necesitan también entendimiento sintáctico y semántico, y conocimientos de dominio que no están necesariamente presentes en estos métodos de aprendizaje máquina (machine learning). Como se puede inferir, una máquina que conversa es un entramado de técnicas, herramientas, métodos, teorías, bases de datos, instrucciones, calificaciones… cuya complejidad se está acercando (y en eso creo que se asienta la fascinación) a la humana. Habrá que recordar que de alguna forma ya hemos interactuado con el NLP y aprovechado sus ventajas: sistemas GPS operados por voz, asistentes digitales, software de dictado (voz a texto o viceversa), chatbots de servicio al cliente y, más importante, las soluciones empresariales que explotan su capacidad para agilizar, simplificar y aumentar las operaciones comerciales sin que nosotros, los consumidores, lo notemos. Ahora, prácticamente de forma natural, la inteligencia máquina habilitó los avances en el reconocimiento de voz (ante personas que hablan rápidamente, arrastrando las palabras, con diferentes énfasis y entonación o con gramática incorrecta), la caracterización de palabras por función de uso y contexto (por ejemplo, distinguir “make” en inglés cuando es verbo y cuando es sustantivo), desambiguación del sentido de las palabras, reconocimiento de nombres a entidades, análisis de sentimientos.

Entonces ¿por qué el revuelo?, ¿qué está pasando hoy? Por primera vez, un chatbot responde fluidamente a preguntas de forma conversacional, genera textos (muy velozmente) sobre prácticamente cualquier tema, redacta correos electrónicos, artículos de investigación, resúmenes de textos complejos, traduce, programa fragmentos de código, opera matemáticamente, incluso nos hace preguntas y organiza nuestro mejor plan de viaje, cambia nuestra dieta o decide sobre el teléfono celular que nos conviene… y lo compra. ¿Magia? Cuidado, lector: si no está entrenado en la inteligencia artificial, está usted ante un “conflicto cognitivo” que está provocando a la corteza dorsolateral prefrontal de su cerebro. ¿Se siente atraído? Es porque no entiende. No es peyorativo, no es insulto, es el incentivo evolutivo que ha llevado al ser humano a tratar de dar sentido a lo que parece inexplicable y, de esta manera, aprender y desarrollarse. Algo que desorienta y distorsiona nuestros sentidos es profundamente perturbador; ponerlo en el contexto de un truco de magia lo vuelve entretenido y divertido. Conversar con un bot es divertido, pero debería ser también intelectualmente desafiante. Riesgos los tiene, desventajas existen y claras anomalías éticas y morales se vislumbran ante la proliferación de inteligencias de este tipo. Y sobre esto también hay centenas de documentos –no es la intención de este sumarse a la discusión; lo que intenta esta disertación es contribuir modestamente, servir de apoyo para quien toma una decisión.

“Preocupaciones” y “penalizaciones” o “favoritismos” y “recomendaciones” Entonces, el bot (aféresis de robot) conversacional es un algoritmo entrenado al que se muestran respuestas correctas a preguntas específicas. Se refuerza lo que se considera un comportamiento de respuesta mejorado. Las respuestas provienen de un banco de datos que evoluciona. ¿Quién decide cuál es la respuesta correcta?, ¿quién construye las reglas de interpretación de preguntas?, ¿quién “premia” por mejores desempeños?, ¿quién elige el banco de datos (de respuestas)?, ¿quién activa el crecimiento (y en qué sentido) del banco de datos? Un ser humano, un grupo de ellos. Podrían ser distintos de los que desarrollaron o idearon las herramientas tecnoló-

Minería de datos

Inteligencia artificial

Aprendizaje automático

Aprendizaje profundo

Macrodatos gicas, los creadores de estos auxiliares computacionales. ¿Será que esto es realmente lo que está detrás de las “preocupaciones” y “penalizaciones” o “favoritismos” y “recomendaciones” sobre su uso? No sería esto algo nuevo. La declaración de la ONU (noviembre de 1975) sobre la utilización del progreso científico y tecnológico en interés de la paz y en beneficio de la humanidad anticipaba que este avance era uno de los factores más importantes del desarrollo de la sociedad humana, y por esto había que, de alguna forma, normar (promover, recomendar) que los estados firmantes cuidaran de su uso para mejorar las condiciones de vida de los pueblos y las naciones, y no para exacerbar problemas sociales o amenazar los derechos humanos y las libertades fundamentales del individuo. Recalco que se habla sobre los avances y su uso para la satisfacción de las necesidades materiales y espirituales de todos los sectores de la población, y bajo ningún concepto debería aplicarse para violar la soberanía y la integridad territorial de otros estados, intervenir en sus asuntos internos, hacer guerras de agresión, sofocar movimientos de liberación nacional o seguir políticas de discriminación racial. Algo (o mucho) de esta buena intención se ha perdido en el camino.

Interrelación de diferentes técnicas computacionales inteligentes. Fuente: Salehi y Burgueño, 2018.

Amenaza o ventaja

Las actividades de influencia ejercidas en o sobre el ámbito cognitivo de las comunidades objetivo de los bots de este tipo (que no somos todos los seres humanos, eso es claro) suponen tanto una amenaza y quebrantamiento grave para la estabilidad y la continuidad de la raza humana como la posibilidad de disminuir la susceptibilidad de ser manipulado, evitando la parcialidad y la creación de nichos de superioridad. Importante es reconocer que el surgimiento de estos asistentes se da en un espectro operacional volátil e incisivo de “ruido y niebla de infor- mación” y “manipulación mediática”, en lo que todo es urgente y no hay tiempo para profundizar y discernir. El conformismo cognitivo al usar un bot conversacional, es decir, la dependencia (en diferentes niveles) de su uso para la reproducción más simplista y vacía de la información es uno de los aspectos a evitar, pero esto ha pasado y podría seguir pasando en los sistemas educativos tradicionales y en la comunicación en general. Prefiero, y lo hago desde mi posición más reflexiva como desarrolladora, estudiosa y académica, usar una mirada positiva. Conversar con un bot puede ser una suerte de bitácora que cimienta el pensamiento crítico y muestra claramente y sin sesgos nuestros errores en la formulación de preguntas. No es la respuesta de un bot lo verdaderamente importante, sino lo que hacemos con ella. Si hay un efecto de expansión analítica e ideológica, el diálogo con una entidad de inteligencia artificial expandirá la creatividad y activará los mejores procesos de aprendizaje, lo que probablemente termine por mostrar las equivocaciones y debilidades de las instituciones educativas, pervertidas como “industria” desde hace muchos años.

“La escritura afectará la capacidad de la gente para recordar información de manera oral, acabará con la memoria”: Sócrates. “La televisión fracasará, porque la gente pronto se aburrirá de mirar a una caja contrachapada cada noche”: Zanuck (1946). “No existe ninguna razón por la cual una persona podría querer tener un ordenador en su casa”: Olsen (1977). Peor aún: “Debe abandonar por completo la opinión de que el Sol se detiene en el centro del espacio y la Tierra se mueve a su alrededor, y de ahora en adelante no sostener, enseñar o defender de cualquier manera esta doctrina, ya sea de forma oral o por escrito”: Belarmino (1616).

Hay muchos más robots de los que creíamos Resulta incuestionable que el salto tecnológico se ha producido. La realidad es que hay muchos más robots de los que creíamos, transformando aspectos de la vida conocidos hasta ahora como la automatización, la conectividad y la desintermediación. El hecho de que algunos de estos bots “hablen” los hace más visibles, y eso favorece la alarma entre quienes gustan de ser alarmados. Cada uno podrá afrontarlo de distintas maneras, pero vivimos en un mundo automatizado y digital y esto no puede ser puesto en duda, y tampoco que eso está transformando el entorno del trabajo, del ocio, la economía, las relaciones personales y nuestra organización social. Los neoluditas, voces escépticas o preocupadas y en su extremo apocalípticas, deben ser escuchados porque sus visiones y actitudes parten de problemas o dudas parcialmente probadas pero persistentes. Sin embargo, integrando correctamente las informaciones, estudiando, analizando, corrigiendo y discutiendo, uno encuentra sobrados argumentos con los que hacer frente a los mensajes apocalípticos. Por poner un ejemplo, la supuesta destrucción del empleo resulta incongruente en Corea del Sur, el país más robotizado del mundo, que tiene niveles de desempleo entre los más bajos del planeta (son otros sus enormes conflictos y no están ligados a los bots inteligentes). Desempleo o paro significa falta de empleo, se trata de un desajuste en el mercado laboral donde la oferta de trabajo (por parte de los trabajadores) es superior a la demanda de trabajo (por parte de las empresas). ¿Dónde cabe la aniquilación de la oferta por un bot “autónomo”? ¿Quién ajusta el mercado laboral? ¿Acaso nos está preocupando la pobreza? La pobreza es producto de la violencia estructural que se sustenta en un orden social injusto mediante una distribución desigual de la riqueza que recae en manos de unos pocos en detrimento de la mayoría de la población. La violencia estructural se sustenta en cuestiones de casta, etnia, género o puesto dentro de la escala social; violencia estructural en la que se entremezclan otras violencias: la cultural, patriarcal, moral, política… Entonces, podemos convenir que la pobreza genera conflictos (algunos acaban en crisis armadas), pero ¿un bot inteligente tiene el “poder” para generar este esqueleto promiscuo de relaciones sociales desiguales?

Conclusión

Mientras escribo pienso que lo que leí, analicé, resumí, usé con mi estilo y adecué con mi experiencia para la creación de este documento es la labor que mimetiza (o intenta) un chat conversacional. Y sonrío. No encuentro motivo para temer. No creo que exista razón alguna para pensar que mi yo creativo está siendo amenazado. Sé y entiendo, como muchos otros desarrolladores de tecnología, que el acto de creación necesariamente implica destrucción: la destrucción de viejos y habitualmente ineficientes modos de vida y producción. De esta desintegración surge vida, oportunidades, alternativas, formas inéditas sin las cuales, sencillamente, no podríamos seguir viviendo, formas inéditas con las cuales podemos construir una vida mejor para todos

Bibliografía

Clark, A. (1973). Profiles of the future: An inquiry into the limits of the possible. Harper & Row.

Luna, A. (2021). Escritura y pensamiento, la advertencia de Sócrates Centro Mexicano de Estudios Económicos y Sociales.

Essoe, G. (1981). The book of movie list. Westport: Crown.

Gil, C. (2014). La revolución de los computadores: navegando en un mar virtual. Universidad de Almería.

Flores, J. (2018). El juicio de la Inquisición contra Galileo. Historia National Geographic Salehi, H., y R. Burgueño (2018). Emerging artificial intelligence methods in structural engineering. Engineering Structures 171: 170.189.

¿Desea opinar o cuenta con mayor información sobre este tema? Escríbanos a helios@heliosmx.org www.cimesa.net

JAVIER

RAMÍREZ OTERO

Director adjunto de Planeación y Proyectos de Ingeniería, S.C. Consultor en proyectos de ingeniería hidráulica e hidroelectricidad. Miembro emérito del CICM. Académico de número de la Academia de Ingeniería.