Claves para un uso ético de la IA

Rafael Molina. Departamento de Innovación Pedagógica de EC

A lo largo de la historia, el ser humano ha tenido que ir haciendo frente a la aparición de distintos descubrimientos e invenciones que estaban destinadas a revolucionar por completo el mundo, cambiando en muchas ocasiones la forma de convivir, pensar, trabajar y, en este caso, también los procesos de enseñanza-aprendizaje y la labor de los docentes. Isaac Asimov ya hablaba en su obra Círculo vicioso de las leyes de la robótica. Nosotros a través de estas páginas no tenemos la intención de poner límite al diseño de diversas herramientas, pero sí guiar y dar claves para un uso ético de la IA en el aula.

Isaac Asimov a lo largo de obras como Fundación y tierra, Preludio a la fundación o en los cuentos de Serie de los robots, ya mencionaba e introducía la confección de las tres leyes de la robótica más conocidas en la historia de la literatura, todas ellas resumidas en una ley cero: “Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños”.

Hoy, con la irrupción en la sociedad de las nuevas tecnologías relacionadas con la inteligencia artificial, el debate se vuelve abrir entre los que ven la IA como una panacea que solucionará todos los males, y los que ven aproximarse un apocalipsis de la humanidad en no muchos años plagado de situaciones como las que podríamos encontrar en las novelas de Asimov. Entre estos dos polos nos encontramos movidos por noticias, leyendas urbanas, ciencia ficción y reflexiones varias. Nuestro objetivo en este artículo no es otro que el de arrojar luz sobre qué aspectos debemos tener en cuenta para hacer un buen uso, un uso ético, de las aplicaciones y herramientas de inteligencia artificial en el ámbito de la educación.

Hablar de ética relacionada con la inteligencia artificial es hablar de ética para el uso de la inteligencia artificial

La inteligencia artificial: presente y desconocida

Estamos acostumbrados a observar los frutos de la inteligencia artificial en nuestro día a día, en el corrector del móvil, el texto predictivo del correo electrónico, los anuncios de Amazon que parecen escuchar lo que se habla, las sugerencias de Netflix o Disney+, o los propios asistentes de voz como Alexa o Siri.

La inteligencia artificial ya está entre nosotros, aunque no supiéramos exactamente lo que era. Sin embargo, el principal cambio, y lo que realmente ha atraído la atención de la sociedad, es la divulgación de diversas herramientas basadas en inteligencia artificial generativa como ChatGPT, Dall-e y otras tantas aplicaciones que hoy en día siguen surgiendo a un ritmo frenético. Solo basta con echarle un vistazo a repositorios como AIFINDY (www.aifindy.com), donde podemos encontrar una gran selección de aplicaciones y herramientas basadas en IA clasificadas por funciones y por coste (desde gratuitas hasta de pago), para darnos cuenta de la velocidad a la que van apareciendo las novedades.

No es de extrañar que al ver todo este abanico de posibilidades que puede ofrecer el uso de la IA empiecen a surgir dudas sobre su eficacia, validez o rigor, a la vez que también nos cuestionemos si resulta ético utilizarlas para todas esas ideas, en el ámbito de la educación, que se nos pasan por la cabeza para poner a funcionar esas aplicaciones.

Una invención sin “instrucciones de uso”

No, no nos referimos a cómo utilizar ChatGPT para redactar o traducir, tampoco a cómo generar imágenes con Midjourney o Leonardo.ai. Hablamos de unas instrucciones de un buen uso, de un uso adecuado, de un uso más ético y responsable que nos haga conscientes de lo que estamos usando y de lo que supone para nosotros. En los últimos meses, han surgido diversas noticias relacionadas con jóvenes que mediante el supuesto uso de herramientas basadas en inteligencia artificial habían creado contenidos digitales para acosar a compañeros. Una imagen que no hace sino alimentar la llama del miedo y del rechazo a una innovación que tiene un potencial enorme para mejorar la vida de las personas. Pensemos por un momento en un cuchillo, un objeto presente en nuestro día a día y que utilizamos con total normalidad sin estar recordándonos siempre que puede ser utilizado para hacer daño o amenazar a otras personas. ¿Por qué, sin embargo, no somos capaces de valorar la inteligencia artificial también desde este punto de vista? Suponemos que es una cuestión de tiempo, de regulación legislativa y de descubrir su buen uso.

Claves para un uso ético de la inteligencia artificial

Hablar de ética relacionada con la inteligencia artificial es hablar de ética para el uso de la inteligencia artificial. Es importante resaltar esta idea de uso ya que la IA en sí no puede tener una ética. Las aplicaciones únicamente pueden cumplir las normas para las que son programadas (como los robots de Asimov), de forma que si le pedimos a ChatGPT cualquier tipo de contenido relacionado con violencia, con contenidos sexuales, etc. su respuesta será que va contra las normas de uso de ese ChatGPT, es decir, su uso está restringido por programación. Seguramente todos respiramos con alivio al comprovar esto, pero, más allá de delegar el uso ético en la propia aplicación y en su diseño, el verdadero punto de reflexión se deve coloar en el usuario. La ética no se puede dar si no hay autonomía de decisión y elección, y como tal la IA no tiene capacidad de elaborar más allá de su programación. Es el usuario humano, el docente o el alumno en el caso del ámbito educativo, el que tiene que realizar esa reflexión y colocar en su sitio cada uno de los usos y los límites que podemos establecer. Por esta razón, desde Escuelas Católicas aprovechamos los espacios disponibles para la reflexión de los que disponemos. Por eso, en la última reunión de coordinadores pastorales y pedagógicos de nuestras entidades titulares, celebrada el 26 de octubre, trabajamos este tema.

A partir de esta reflexión humana, responsable y propia, y teniendo en cuenta las últimas normativas publicadas y por publicar, os ofrecemos las siguientes claves para la reflexión:

Conocimiento de las herramientas de IA

Necesitamos formación en el funcionamiento y uso de la inteligencia artificial, tanto en el ámbito educativo como en el resto. Para poder hacer un buen uso, conocer los riesgos y las oportunidades que ofrece un avance tecnológico debemos conocer el origen y las consecuencias, su uso y los efectos positivos y negativos que puede tener, para poder tomar las decisiones de manera reflexiva e informada para su integración en nuestras aulas.

Esta formación no es solo inicial, sino que supone una continua actualización, al igual que ocurre con el resto de avances tecnológicos.

Asistencia de las tareas humanas

La inteligencia artificial no está pensada, al menos todavía, para sustituir a nadie, y mucho menos al docente. Debemos pensar en la IA como una herramienta más que puede asistir a las personas a aligerar y hacer más fácil diversas tareas como la revisión de textos, la elaboración de esquemas o la creación de recursos para la inclusión. En este sentido puede facilitar enormemente la personalización del aprendizaje para una gran diversidad de casos en un tiempo bastante más reducido que si prescindimos de su uso.

Revisión de los resultados

Ligado al punto anterior, esa asistencia también significa que los docentes tienen la última palabra sobre las decisiones. La inteligencia artificial siempre nos propondrá opciones que necesitan de revisión y modificación para comprobar los resultados. No podemos tener confianza ciega en la IA.

Protección de datos y privacidad

Quizá este es uno de los aspectos legales que más se van cuidando y se intentan cuidar día a día. Sin embargo, debemos ser conscientes de los datos que proporcionamos a las aplicaciones de IA (y a sus empresas) para sus publicaciones, así como los entornos en los que se produce dicha interacción. Entornos como ChatGPT pueden parecernos bastante blancos, pero no podemos compartir información privada nuestra ni de nuestros alumnos en ella. En otros casos, como Midjourney, la interacción se produce en un entorno tipo chat tradicional en el que interactúan también otros usuarios, y que por lo tanto se convierte en un contexto poco aconsejable para menores de edad y para compartir información o imágenes privadas.

Creatividad y pensamiento crítico

Estos dos aspectos se verán altamente influenciados por el desarrollo de las herramientas y aplicaciones de IA. En el primer caso, la creatividad, supone un punto de inflexión a la hora de diseñar y generar ideas, ya que en muchas ocasiones supondrá un primer paso para aquellas personas menos creativas y en otras tantas para dar un paso más allá a los más duchos. El pensamiento crítico, por su parte, se convierte en requerimiento para un buen uso de la IA; necesitamos tener claros los sesgos, el tipo de información que produce y poner el esfuerzo en ese pensamiento crítico para reflexionar sobre los resultados.

En definitiva, la inteligencia artificial ha llegado para quedarse. Tener claros los puntos en los que debemos poner el esfuerzo, a la espera de normativas más actualizadas, es lo que hará que pongamos la IA al servicio del docente y de la educación de los alumnos para que sea un recurso más y dejemos de verla como una amenaza.