INTELIGENCIA ARTIFICIAL EN SALUD, ENTRE TEMORES, OPORTUNIDADES Y DESAFÍOS

LA IA ESTÁ AVANZANDO MUCHO MÁS RÁPIDO QUE LOS DEBATES Y LAS REGULACIONES. EN VARIOS ÁMBITOS DE LA SALUD YA ESTÁ TENIENDO GRANDES RESULTADOS. LOS BENEFICIOS Y RIESGOS DE ESTAS INNOVACIONES DE LAS QUE MUCHAS VECES SE DESCONOCEN SUS ALCANCES.

Hace ya varios años se está usando Inteligencia Artificial aplicada a la salud. Pero en este último tiempo, el tema cobró una relevancia contundente. La velocidad de los avances nos interpela y nos hace entender que es necesario un debate serio al respecto, para que esta herramienta no sea algo a lo que temer, sino convertirla en una oportunidad para lograr mejores resultados en la atención de la salud. Para eso, los expertos en el tema piden una regulación seria.

Un informe del Banco Interamericano de Desarrollo indica que la Inteligencia Artificial (IA) tiene un enorme potencial para mejorar la salud de la población y para mejorar la eficiencia en torno del suministro de servicios de salud, y está a punto de convertirse en una importante herramienta en la transformación continua de los servicios de salud en la próxima década.

“El financiamiento de la IA en el sector salud llegó a US$3.000 millones en 2018, a US$4.090 millones en 2019 – que tuvo un tercer trimestre con financiamiento récord por US$1.600 millones – ya US$2.100 millones en el primer semestre de 2020. Las empresas están usando IA en todo el sector salud, incluyendo su uso para el triage de pacientes, el monitoreo y diagnóstico de enfermedades, la recomendación de tratamientos a partir de medicina de precisión, la mejora de los flujos de trabajo administrativo, la búsqueda de áreas de fraude y pérdidas en el sistema y el desarrollo y ensayo de nuevos medicamentos”, expresa el informe.

“LA INTELIGENCIA ARTIFICIAL ES EL ÚNICO CAMINO”

Para entender un poco más a qué nos referimos cuando hablamos de Inteligencia Artificial, dialogamos con Gustavo Ross Quass, tecnólogo, emprendedor y especialista en Inteligencia Artificial en Salud. Cuando le consultamos sobre la rápida difusión que está teniendo la IA en el último tiempo explicó: “La IA existe desde los años 50, lo que sucede es que en los últimos 5 años hubo quiebres que cambiaron la historia. Hasta hace pocos meses la IA era conocida sólo para los que trabajábamos en el tema. No era conocida ni por médicos ni por pacientes. Ahora a partir del ChatGPT vemos que toda la humanidad puede interactuar con estas tecnologías y es por eso que está generando tanto temor”.

En cuanto a los alcances de la IA en salud dijo: “Nos fuimos dando cuenta que la IA era mejor evaluando muchas variables al mismo tiempo que los seres humanos. Hace 2 semanas en San Diego, dejaron que pacientes sean atendidos por autómatas y demostraron que el autómata puede atender varios pacientes al mismo tiempo y tiene toda la paciencia del mundo. Además, tiene el conocimiento del cardiólogo, del úrologo, del gastroenterólogo, del radiólogo, todo al mismo tiempo. Incluso puede ver correlaciones entre las cosas que está observando”.

En cuanto a la posibilidad de una regulación del uso de este tipo de innovaciones Ross Quass opinó que “se debe regular y tenemos que entender que la regulación es un acuerdo sobre qué queremos y cómo queremos que nos ayude la IA, en qué cosas puede jugarnos en contra y en cuáles tenemos que tener cuidado. Debe ser un sistema de acuerdos, si no lo hacemos estaremos en problemas. Yo creo que se va a regular y quizás el problema más grave es que algunas grandes empresas tienen el poder de mover esa regulación hacia donde ellos les conviene. Estamos en un punto en que todos debemos demostrar que somos más seres humanos que autómatas, que podríamos preocuparnos como seres humanos sobre esa regulación y no tanto por los negocios”.

Consultado sobre cómo ve el futuro el especialista expresó: “Lo que nos está pasando ahora, es que con este salto que hubo en estos meses, de entender de lo que es capaz la inteligencia artificial estamos todos un poco en shock, pero la realidad es que desde hace mucho tiempo que estos avances están entre nosotros. Yo no creo que todo cambie radicalmente, este susto que nos da el Chat GPT a todos, no va a cambiar el curso de las cosas”.

Enfocando la temática en el impacto que tendrá en los sistemas de salud remarcó: “Sabemos que el sistema de salud está sobrepasado y que necesitamos más tecnología para poder atender a más personas. Los recursos no alcanzan para los problemas que nos estamos enfrentando. Estamos con mayor longevidad, con múltiples enfermedades, además el sistema de salud no está preparado y los hábitos no nos ayudan”.

“A los decisores del sistema de salud les diría que inviertan en tecnología y en inteligencia artificial, sin duda. La IA no va a sustituir a los médicos, pero los médicos que no entiendan o no quieran usar la inteligencia artificial serán sustituidos. La razón de algunos temores es que saben que necesitarán aprender la IA, algo que les parecía totalmente ajeno y que no tenía nada que ver con sus carreras. Son herramientas que les servirán para que más pacientes tengan el diagnóstico adecuado, el monitoreo correcto y la atención necesaria. La inteligencia artificial es el único camino”.

“ES UNA OPORTUNIDAD ENORME DE HACER MUCHO BIEN”

Consenso Salud entrevistó a Rodrigo Gónzalez, CEO de Clapps (Empresa de Innovación y Desarrollo de Software) y Director de Operaciones y Tecnología de CatalisIA (Empresa de Inteligencia Artificial para salud), quien nos explicó los alcances que está teniendo la IA y remarcó sus potenciales riesgos y beneficios, para la sociedad en general y para el sector salud en particular.

“Las nuevas tecnologías de IA generativa, especialmente aquellas centradas en generación de texto, permiten recrear comportamientos que no estamos acostumbrados a ver en las máquinas, si no en seres vivos. Para graficarlo puedo darte un ejemplo de una prueba que llevamos a cabo. Dentro de un contexto de pruebas exploratorias que realizamos sobre la capacidad de estas tecnologías, instanciamos lo que se llama un “agente autónomo”, al cual le dimos la tarea de investigar online sobre el estado del arte sobre tratamientos contra el cáncer, con el objetivo de proponer un enfoque innovador para un nuevo tratamiento. Más allá de los detalles finos de lo que logró este “agente”, los cuales omitimos evaluar ya que no era el objetivo, no pudimos evitar asombrarnos de los pasos que siguió y cómo los razonó, a tal punto que en un momento dado llegó a racionalizar la necesidad de tener mucho cuidado al proponer un protocolo de prueba en humanos (necesidad que identificó por sí mismo) y expresaba esto a la hora de detallar los pasos que iba a seguir:

. Usaré un nuevo agente GPT para generar un borrador inicial del protocolo.

. Revisemos el protocolo nosotros mismos (En referencia a sí mismo y a otros agentes que fueron instanciados bajo indicación del agente principal) y consultemos con un experto humano para revisarlo también.

. Hagamos una revisión basada en las devoluciones provistas por los revisores.

. Guardemos el protocolo en un archivo para referenciarlo en los próximos pasos de nuestra tarea”.

Esta manera de expresarse ya es algo que te deja pensando, porque te da a entender que se identifica como algo diferente, haciendo una separación entre “ellos” (los agentes autónomos) y “nosotros” (los humanos). Más allá de la mística que puedan generar estos ejemplos, creo que tenemos que entenderlo como lo que es, una máquina que hace un juego predictivo estadístico sobre el lenguaje natural que puede causar, en principio, la ilusión de algo más al mostrar comportamientos que históricamente hemos sólo visto en seres concientes. Este es uno de los puntos principales donde poner la atención, especialmente ante usuarios que puedan encontrarse en situaciones de vulnerabilidad, algo muy presente en cuestiones de salud”.

Cuando le consultamos sobre los peligros que trae aparejada la IA, González explicó: “Puntualmente en el ámbito de la salud, hay que tener sumo cuidado con la adopción viral y masiva de soluciones que puedan resultar tentadoras, pero carezcan de transparencia respecto del uso responsable de los datos y a las medidas que toma cada implementador para evitar las posibles consecuencias que pueda tener un uso inadecuado por parte de potenciales usuarios. Es muy importante estar atentos ya que los costos de construir y ofrecer estas soluciones se reducen mes a mes con nuevos avances, y quedan muy alcance de todos. En ese sentido, cuando la persona utiliza algún sistema basado en estas tecnologías y toma una decisión acerca de su salud, corre el riesgo de asumir la respuesta cómo válida debido a la elocuencia y agilidad que pueden lograr estos sistemas, lo cual sumado a la vulnerabilidad emocional que puede tener alguien ante una necesidad médica, puede ser un gran potenciador de problemas; más allá si la respuesta pueda tener o no información cierta, se vuelve una apuesta estadística, y no se cuenta con la responsabilidad que asume el profesional en el ejercicio de su profesión, poniendo a la persona ante un enorme riesgo de tomar decisiones muy dañinas para su salud sin siquiera comprender el riesgo que está corriendo. Mucha gente asume que puede usarlo como Google, que te da datos de internet donde uno ve la fuente y saca conclusiones acerca de su fiabilidad. Una solución como ChatGPT no te da datos, sino una generación de textos coherentes en base a estadística y nada más. Si la estadística no estuvo a tu favor te va a dar una posible respuesta que suene coherente, sin que sea algo certero.

En relación a la preocupación que todo esto genera, algunas de las empresas de inteligencia artificial más importantes del mundo (lideradas por OpenAI, creadora de ChatGPT) pidieron al gobierno de Estados Unidos que se las regule a fines de contar con reglas claras y transparentes para todos. El principal argumento recae en que la competencia natural entre las empresas está acelerando aún más la velocidad de los avances a riesgo de llevarlo más allá de lo que podamos adaptarnos responsablemente como sociedad en su conjunto”.

En cuanto a los costos relacionados con estas nuevas tecnologías dijo: “Los costos de producir soluciones son cada vez menores bajo una reducción de carácter exponencial. En lo que respecta a soluciones para la salud, comenzaremos a ver un gran despliegue de sistemas que hagan acompañamiento y seguimiento de los pacientes, y que trabajen en colaboración directa y bajo supervisión de los profesionales de la salud. Este nuevo panorama también potenciará la generación de datos e información que se podrán obtener de una manera mucho más masiva y simple, algo que, utilizado responsablemente, permitirá tomar decisiones de enorme valor en casi todos los ámbitos que hacen al mundo de la salud”.

Al consultarle sobre cómo está siendo recibido esto por los profesionales de la salud dijo: “Muchos lo van a ver como un peligro, pero muchos otros lo tendrán como un aliado. He conversado con profesionales que, ante el planteo sobre el tema, se enfocan muy rápidamente en la seguridad que les da su formación y experiencia, algo totalmente lógico, pero he notado que luego de que se informan un poco más respecto a qué es realmente todo esto, y las potenciales posibilidades que presenta, muestran tanto curiosidad como ciertos enfoques de preocupación, principalmente acerca de los malos usos. Es fundamental que se trabaje profundamente en que el sector se interiorice más en la naturaleza real de estas tecnologías, ya que va a ser algo que nos va a impactar a todos, y no sólo en el mundo de la salud. Desde Clapps y CatalisIA estamos trabajando mucho para comenzar a armar mesas de diálogo y explicar los pro y contra de la IA. Tenemos que lograr tratar el tema de manera seria y ordenada en todo el sector salud en una mesa multidisciplinaria. Es un desafío enorme que tenemos todos, ya que el foco suele estar puesto en la agenda del día a día, pero la IA está llegando mucho más rápido de lo que el sector está pudiendo procesar y debemos mejorar los esfuerzos al respecto”.

Cuando le preguntamos qué mensaje le daría al sector salud en relación a esta temática expresó: “les diría que se asesoren, que no subestimen el tema, y que estén dispuestos a pensar fuera de la caja de lo que conocen y saben desde su experiencia y formación. Esto es un cambio de paradigma fuerte en todo aspecto, y una oportunidad enorme de hacer mucho bien y que nos veamos todos ampliamente beneficiados, pero hay que prestarle más atención ya que, aun así, va a ser difícil seguirle el ritmo”.

Prudente Equilibrio Entre Su Empleo Y La Dignidad De Las Personas

Consultamos al senador Mario Fiad, vicepresidente de la Comisión de Salud de la Cámara de Senadores sobre la necesidad de contar con reglas claras para determinar sus alcances y uso.

“Como generalmente sucede, la ciencia y la tecnología avanzan a un ritmo vertiginoso y nos interpelan respecto de nuevas herramientas cuyo uso y alcance está atravesado por dilemas éticos y jurídicos”, sentenció Fiad.

“La IA está presente entre nosotros con un enorme potencial para producir grandes beneficios para la salud de las poblaciones.

Sus posibilidades en incrementar la precisión de diagnósticos, en acelerar resultados, en el seguimiento remoto de pacientes, son sin dudas un horizonte de impredecibles alcances que nos entusiasma y nos esperanza, especialmente al pensar en lograr mejorar la calidad de vida de las personas. Pero el entusiasmo debe ir acompañado de la necesaria dosis de responsabilidad, que requiere proveer a la IA de un adecuado marco de regulación que garantice el respeto por los derechos humanos armonizando los avances de la ciencia con el resguardo de los derechos fundamentales”, opinó el senador.

Fiad aclaró que, en la Comisión de Salud del Senado, la IA no es actualmente un tema de agenda, “aunque creo que debería serlo, planteado con el objetivo de enmarcar su desarrollo sin dejar de impulsarlo”.

“Al respecto quiero señalar que en mi provincia estamos atravesando un momento trascendental de su vida institucional porque estamos en el proceso de reformar la Constitución local y en la idea de modernizarla y que sea un instrumento que se oriente al futuro, en el borrador del proyecto se está debatiendo la inclusión de artículos referidos a la IA desde una perspectiva de derechos, enmarcada en los principios de legalidad, transparencia, responsabilidad, rendición de cuenta y protección de datos personales”.

Como conclusión cerró diciendo: “Estoy convencido que tenemos que impulsar estos nuevos desarrollos preservando un adecuado y prudente equilibrio entre su empleo y los derechos y dignidad de las personas”.

LA POSICIÓN DE LA ANMAT

Tuvimos la oportunidad de conocer la posición de la ANMAT en cuanto a la IA. Desde el organismo indicaron que “desde la perspectiva de la regulación, los organismos se enfrentan al desafío de generar normativa para la IA, por eso es necesario, en este escenario, comprender sus alcances y los aspectos que alcanzan a los marcos regulatorios de los productos para la salud. En ANMAT se registró el primer Sistemas de análisis de datos (software para sistema de ecografía) en el año 2017”.

“Refiriéndonos a este tipo de productos médicos, aplicados al análisis de imágenes, se puede mencionar como aspectos valiosos la reducción de tiempo y márgenes de error como así también la posibilidad de actuar como un primer tamiz en el diagnóstico de patologías”.

La ANMAT además resaltó que “implica un gran desafío a nivel regulatorio, ya que la tecnología avanza rápidamente, en muchas ocasiones, a una velocidad que supera la elaboración y adaptación de normativas. Por esta razón, y debido a que es un desafío a nivel mundial, es que ANMAT participa activamente en tres grupos de trabajo sobre este tema dentro del Foro Internacional de Reguladores de Dispositivos Médicos (IMDRF): Inteligencia Artificial en Productos Médicos (AIMD); Guía de Ciberseguridad de Productos Médicos y Software como Dispositivo Médico”.

Por Una Ia Segura

Por su parte, la Organización Mundial de la Salud pide que se tenga cuidado al usar herramientas de modelo de lenguaje grande (LLM) generadas por inteligencia artificial para proteger y promover el bienestar humano, la seguridad humana y la autonomía, y preservar la salud pública.

Los LLM incluyen algunas de las plataformas de más rápida expansión, como ChatGPT, Bard, Bert y muchas otras que imitan la comprensión, el procesamiento y la producción de la comunicación humana. Su difusión pública meteórica y su creciente uso experimental con fines relacionados con la salud están generando un entusiasmo significativo en torno al potencial para apoyar las necesidades de salud de las personas.

“Es imperativo que se examinen cuidadosamente los riesgos cuando se utilizan LLM para mejorar el acceso a la información de salud, como una herramienta de apoyo a la toma de decisiones, o incluso para mejorar la capacidad de diagnóstico en entornos de escasos recursos para proteger la salud de las personas y reducir la inequidad”, dice el organismo.

Advirtió que la adopción precipitada de sistemas no probados, podría generar errores por parte de los trabajadores de la salud, causar daño a los pacientes, erosionar la confianza en la IA y, por lo tanto, socavar los posibles beneficios y usos a largo plazo de tales tecnologías en todo el mundo.

La OMS reitera la importancia de aplicar los principios éticos y la gobernanza adecuada, tal como se enumeran en la guía de la OMS sobre la ética y la gobernanza de la IA para la salud, al diseñar, desarrollar y desplegar la IA para la salud. Los 6 principios básicos identificados por la OMS son: (1) proteger la autonomía; (2) promover el bienestar humano, la seguridad humana y el interés público; (3) garantizar la transparencia, la explicabilidad y la inteligibilidad; (4) fomentar la responsabilidad y la rendición de cuentas; (5) garantizar la inclusión y la equidad; (6) promover una IA que responda y sea sostenible.

Europa Y Un Proyecto Para Regular El Uso De La Ia

La plenaria del Parlamento Europeo aprobó recientemente un proyecto para regular el uso de la Inteligencia Artificial (IA) en la Unión Europea (UE), dando inicio a una delicada negociación con los representantes de los 27 países del bloque.

La normativa aprobada (con 499 votos a favor, 28 en contra y 93 abstenciones) regulará la IA según el nivel de riesgo: cuanto mayor sea para los derechos o la salud de las personas, por ejemplo, mayores serán las obligaciones de los sistemas tecnológicos.

La lista de alto riesgo incluye la IA en infraestructura crítica, educación, recursos humanos, orden público y gestión de la migración.

El Parlamento Europeo ha agregado condiciones adicionales antes de que se cumpla la clasificación de alto riesgo, incluida la posibilidad de dañar la salud, la seguridad, los derechos fundamentales o el medio ambiente.

Así, los eurolegisladores incluyeron en el paquete la prohibición al uso generalizado de sistemas automáticos de reconocimiento facial en lugares públicos.

Por la normativa aprobada, la UE podrá autorizar el uso de esos dispositivos de IA para reconocimiento facial en apoyo al combate a la criminalidad, aunque los detalles específicos aún deberán negociados con los países del bloque.

También define requisitos especiales para los sistemas de IA generativa, como ChatGPT y DALL-E, capaces de producir texto, imágenes, código, audio y otros medios, e incluyen la obligación de informar a los usuarios que una máquina, no un ser humano, produjo el contenido.