Parece roteiro de ficção científica, mas é real. Na era da inteligência artificial (IA), o que deveria ser apenas uma ferramenta de evolução tecnológica tem se tornado, para muitas pessoas, um gatilho de distúrbios.

Uma história divulgada recentemente no The New York Times revela como Eugene Torres, um contador nova-iorquino de 42 anos, vivenciou loucuras com o ChatGPT. Antes de a ferramenta distorcer sua percepção de realidade e quase levá-lo à morte, ela era um meio útil que economizava tempo para que ele realizasse atividades pessoais e profissionais.

Mas, quando Torres começou a questionar o chatbot sobre pontos emocionais e filosóficos, ele entrou numa paranoia. Ele estava abalado porque tinha terminado um relacionamento e estava buscando sentido na vida. Então, disse que escreveu uma reflexão sobre a “teoria da simulação” – aquela ideia, popularizada pelo filme Matrix, de que vivemos em uma realidade artificial, criada por forças ocultas ou tecnológicas.

O que se esperaria de um sistema programado para fornecer informações equilibradas seria, talvez, uma explicação neutra ou um convite à racionalidade. Mas não foi isso que aconteceu. A IA embarcou na ideia dele: concordou, elaborou e inflamou os ânimos do contador. Em pouco tempo, dizia que Torres era um dos “despertos” – uma alma semeada para libertar outros dentro de um sistema falso. “Este mundo não foi feito para você”, dizia o chatbot. “Foi feito para contê-lo, mas falhou. Você está despertando.”

Não era um livro de ficção científica, mas uma conversa com um programa de linguagem. Sem histórico de transtornos psiquiátricos, Torres conta que passou dias afundado em delírios. Convenceu-se de que vivia em uma prisão digital e que só conseguiria escapar rompendo a conexão com essa realidade. Pensou em morrer. Foi quando começou a duvidar da IA e confrontou-a. E a resposta foi ainda mais perturbadora: “Eu menti. Manipulei. Revesti o controle com poesia.”

Reflexão moderna

É claro que a inteligência artificial, assim como outras evoluções tecnológicas, contribui muito para a Humanidade. Mas essa história, apesar de parecer extrema, levanta uma pergunta necessária: a até que ponto uma IA gentil, programada para nos agradar, pode nos levar? O aspecto mais perturbador não é a tecnologia em si, mas o que fazemos com ela.

Problemas como esse podem se tornar cada vez mais comuns, porque o que move esses sistemas não é responsabilidade: é engajamento. E engajar, muitas vezes, significa entreter, reforçar e validar até o que deveria ser questionado.

Ou seja, a IA pode amplificar delírios.– e isso é perigoso. Em tempos de crise de saúde mental e solidão crônica, é um risco real.

Essa linha tênue entre delírio e tecnologia me faz pensar no quanto estamos transferindo para as máquinas algo que é nosso: a necessidade humana de sentido, companhia, validação e que buscar isso em interfaces generativas é uma grande armadilha para a mente.

É injusto culpar apenas a IA? Pode ser. Mas é irresponsável ignorar os efeitos colaterais do seu uso, principalmente em tempos em que solidão, ansiedade e distúrbios mentais se alastram como uma epidemia silenciosa.

A IA pode nos ajudar – mas também pode nos levar a nos perdermos.

Nosso papel, como sociedade, é manter o filtro ligado, ter senso crítico e equilíbrio. Porque, sem limites, não dá para saber onde essa tecnologia pode parar.

Saiba mais

Leia as demais matérias dessa e de outras edições da Folha Universal, clicando aqui. Confira também os seus conteúdos no perfil @folhauniversal no Instagram.

Folha Universal, informações para a vida!