ARTIGO

ChatGPT: capacidades, limitações, impactos e desafios

Por Arthur Catto, da Catto Consultoria Empresarial e advisor do Observatório Softex

Este artigo é para você que está se perguntando porque esse interesse todo em ChatGPT. Ele é um modelo de inteligência artificial generativa (IAG) que surpreendeu o mundo no final de 2022, por sua capacidade de processamento de linguagem natural. Isso lhe permitiu “passar” no “exame da ordem dos advogados” nos EUA, escrever artigos acadêmicos completos em vários idiomas, criar sites inteiros a partir de dados bastante vagos, despertar uma atenção inédita e chegar a 100 milhões de usuários em poucas semanas. Esse alto desempenho e grande versatilidade também aparecem em modelos semelhantes, mas de aplicação distinta, como DALL-E 2 e Midjourney, que são dedicados à geração de imagens.

Ao ficarem disponíveis na década de 1950, os computadores revolucionaram conceitos e processos por serem capazes de produzir resultados fantásticos rapidamente, desde que devidamente programados.

A programação de computadores tornou-se uma profissão e o domínio de seus conceitos e técnicas, ciência e engenharia. Os modelos de IAG, como o ChatGPT, se propõem a provocar uma nova revolução, encurtando a distância entre nós e nossas vontades. Para isso, tratam autonomamente os temas que propomos e fazem eles mesmos a programação que gera os resultados que esperamos.

Essa perspectiva é, ao mesmo tempo, fascinante e preocupante, pois não conseguimos avaliar a extensão e a profundidade das mudanças que podem surgir. Assim como as calculadoras eliminaram a vantagem de quem conseguia fazer contas “de cabeça”, a IAG poderá tornar obsoletas algumas das nossas competências de hoje. Além disso, tudo acontece tão rápido que é literalmente impossível acompanhar e prever o que ainda está por vir. Por exemplo, apenas um mês antes do lançamento do ChatGPT, um dos maiores congressos internacionais de informática não mencionou IAG uma vez sequer. Prever o que será o mundo daqui a um ano tornou-se um exercício de futurologia muito arriscado.

Já sabemos que IAG causa profundos impactos em atividades ligadas à criação e tratamento de textos e imagens. No entanto, é difícil, para não dizer impossível, dizer o que poderá acontecer em outras áreas. Sabemos também que essas mudanças envolvem riscos. O ritmo com que surgem novas aplicações sugere que os cuidados necessários talvez não estejam sendo tomados. Apenas no

Google Chrome já há cerca de 1.000 extensões que prometem nos ajudar a tirar o máximo do ChatGPT. Será que elas foram suficientemente testadas? Será que os nossos dados estarão a salvo? Será que ao fazer isso não estamos querendo pilotar um Fórmula 1 sem usar cinto de segurança? Essas preocupações não são arbitrárias ou acidentais. Não é difícil mostrar que o ChatGPT pode errar feio em cálculos simples, pode se perder em questões lógicas básicas, pode “alucinar” e gerar respostas sem sentido, preconceituosas ou mesmo falsas. A evolução acelerada da IA, sem a implementação adequada de mecanismos de segurança, alinhamento e governança, gera preocupações em diversos setores, desde o empresarial até o governamental. Recentemente, a Itália bloqueou o acesso ao ChatGPT. Na mesma semana, uma carta aberta, assinada por nomes importantes da área de tecnologia, alertava sobre os riscos e desafios que o rápido desenvolvimento de sistemas de IA pode trazer para a humanidade e pedia a paralisação temporária do treinamento de sistemas de IA mais poderosos que o GPT-4. Quais são as implicações futuras da IA e como podemos nos preparar adequadamente para enfrentá-las? Explorar o desdobramento desse provável novo universo e o que há de fascinante e desafiador na “inteligência artificial ao alcance de todos” será o tema desta série nas próximas edições da revista.