Em nossas vidas diárias, o uso de programas de inteligência artificial como o ChatGPT se tornou frequente.

Estudantes os utilizam para produzir trabalhos acadêmicos. Funcionários de escritório os pedem para organizar calendários e ajudar a escrever relatórios. Pais os solicitam para criar histórias personalizadas para dormir para crianças pequenas.

Dentro de nossos cérebros, como o uso persistente da IA molda a mente permanece incerto.

À medida que nossa dependência de ter vasto conhecimento rapidamente sintetizado ao nosso alcance aumenta, os cientistas estão correndo para entender como o uso frequente de programas de grandes modelos de linguagem, ou LLMs, está afetando nossos cérebros —investigando preocupações de que eles enfraquecem as habilidades cognitivas e sufocam a diversidade de nossas ideias.

Manchetes proclamando que a IA está nos tornando estúpidos e preguiçosos viralizaram neste mês após o lançamento de um estudo do MIT Media Lab. Embora os pesquisadores alertem que este estudo e outros na área não tiraram conclusões definitivas sobre se a IA está remodelando nossos cérebros de maneiras perniciosas, o trabalho do MIT e outros pequenos estudos publicados neste ano oferecem sugestões inquietantes.

Uma pesquisa no Reino Unido com mais de 600 pessoas, publicada em janeiro, encontrou uma “correlação negativa significativa entre o uso frequente de ferramentas de IA e habilidades de pensamento crítico”, já que usuários mais jovens, em particular, frequentemente dependiam dos programas como substitutos, e não instrumentos suplementares, para tarefas rotineiras.

A Wharton School da Universidade da Pensilvânia publicou um estudo na semana passada que mostrou que estudantes do ensino médio na Turquia com acesso a um tutor no estilo ChatGPT tiveram um desempenho significativamente melhor na resolução de problemas práticos de matemática. Mas quando o programa foi retirado, eles tiveram um desempenho pior do que os alunos que não usaram nenhum tutor de IA.

E o estudo do MIT que ganhou enorme atenção —e alguma reação negativa— envolveu pesquisadores que mediram a atividade cerebral principalmente de estudantes universitários enquanto usavam o ChatGPT para escrever redações durante três sessões. O trabalho deles foi comparado ao de outros que usaram o Google ou nada. Os pesquisadores equiparam 54 escritores de redações com toucas cobertas por eletrodos que monitoram os sinais elétricos no cérebro.

Os dados revelaram que os escritores que usaram o ChatGPT exibiram o menor engajamento cerebral e “consistentemente tiveram um desempenho inferior nos níveis neural, linguístico e comportamental”, de acordo com o estudo.

Por fim, eles entregaram redações que soavam semelhantes e careciam de toques pessoais. Professores de inglês que leram os trabalhos os chamaram de “sem alma”. O grupo “apenas cérebro” mostrou as maiores ativações neurais e conexões entre regiões do cérebro que “se correlacionavam com memória mais forte, maior precisão semântica e maior propriedade do trabalho escrito”.

Em uma quarta sessão, os membros do grupo ChatGPT foram convidados a reescrever uma de suas redações anteriores sem a ferramenta, mas os participantes se lembraram pouco de seu trabalho anterior.

Céticos apontam para inúmeras limitações. Eles argumentam que a conectividade neural medida por EEG não indica necessariamente cognição deficiente ou saúde cerebral. Para os participantes do estudo, as apostas também eram baixas —a entrada na faculdade, por exemplo, não dependia da conclusão das redações. Além disso, apenas 18 participantes retornaram para a quarta e última sessão.

A pesquisadora-chefe do MIT, Nataliya Kosmyna, reconhece que o estudo foi limitado em escopo e, ao contrário das manchetes virais da internet sobre o artigo, não estava avaliando se o ChatGPT nos está tornando burros. O artigo não foi revisado por pares, mas sua equipe divulgou descobertas preliminares para iniciar uma conversa sobre o impacto do ChatGPT, particularmente em cérebros em desenvolvimento, e os riscos da ética do Vale do Silício de lançar tecnologia poderosa rapidamente.

“Talvez não devêssemos aplicar essa cultura cegamente em espaços onde o cérebro é frágil”, disse Kosmyna em entrevista.

A OpenAI, a empresa californiana que lançou o ChatGPT em 2022, não respondeu aos pedidos de comentários (o Washington Post tem uma parceria de conteúdo com a OpenAI).

Michael Gerlich, que liderou o estudo de pesquisa do Reino Unido, chamou a abordagem do MIT de “brilhante” e disse que mostrou que a IA está sobrecarregando o que é conhecido como “descarregamento cognitivo”, onde usamos uma ação física para reduzir as demandas em nosso cérebro.

Mas, em vez de descarregar dados simples —como números de telefone que antes memorizávamos, mas agora armazenamos em nossos telefones— as pessoas que dependem de LLMs descarregam o processo de pensamento crítico. O estudo sugeriu que pessoas mais jovens e com menos educação são mais rápidas em descarregar o pensamento crítico para LLMs porque têm menos confiança em suas habilidades. (“Tornou-se parte de como eu penso”, disse um estudante mais tarde aos pesquisadores.)

“É um grande modelo de linguagem. Você pensa que é mais inteligente que você. E você adota isso”, disse Gerlich, professor na SBS Swiss Business School em Zurique.

Ainda assim, Kosmyna, Gerlich e outros pesquisadores alertam contra tirar conclusões abrangentes —nenhum estudo de longo prazo foi concluído sobre os efeitos da tecnologia nascente na cognição. Os pesquisadores também enfatizam que os benefícios da IA podem, em última análise, superar os riscos, libertando nossas mentes para enfrentar pensamentos maiores e mais ousados.

O medo de que a tecnologia altere nossos cérebros não é novidade. Sócrates alertou que a escrita nos faria esquecer. Em meados da década de 1970, professores temiam que calculadoras baratas pudessem tirar dos alunos a capacidade de fazer contas simples. Mais recentemente, o surgimento dos motores de busca gerou medos de “amnésia digital”.

“Não faz tanto tempo que todos nós estávamos em pânico de que o Google estava nos deixando burros, e agora que o Google faz mais parte de nossas vidas cotidianas, não parece tão assustador”, disse Samuel J. Gilbert, professor de neurociência cognitiva na University College London. “O ChatGPT é o novo alvo para algumas das preocupações. Precisamos ser muito cuidadosos e equilibrados na maneira como interpretamos essas descobertas” do estudo do MIT.

O artigo do MIT sugere que os escritores de redações com ChatGPT ilustram “dívida cognitiva”, uma condição na qual a dependência de tais programas substitui os processos cognitivos que exigem esforço e são necessários para o pensamento independente. As redações se tornam tendenciosas e superficiais.

A longo prazo, essa dívida cognitiva pode nos tornar mais fáceis de manipular e sufocar a criatividade.

Mas Gilbert argumenta que o estudo do MIT com escritores de redações também poderia ser visto como um exemplo do que ele chama de “derramamento cognitivo”, ou descartar algumas informações para liberar largura de banda mental para pensamentos potencialmente mais ambiciosos.

“Só porque as pessoas dedicaram menos esforço mental para escrever as redações que os experimentadores lhes pediram, isso não é necessariamente uma coisa ruim”, disse ele. “Talvez elas tivessem coisas mais úteis e valiosas que poderiam fazer com suas mentes.”

Especialistas sugerem que talvez a IA, a longo prazo e implementada corretamente, provará aumentar, e não substituir, o pensamento crítico.

O estudo da Wharton School com quase mil estudantes do ensino médio turcos também incluiu um grupo que teve acesso a um programa de tutoria no estilo ChatGPT com salvaguardas internas que forneciam dicas elaboradas por professores, em vez de dar as respostas prontas. Esses alunos tiveram um desempenho extremamente bom e fizeram aproximadamente o mesmo que os alunos que não usaram IA quando foram solicitados a resolver problemas sem ajuda, mostrou o estudo.

Mais pesquisas são necessárias para as melhores maneiras de moldar os comportamentos dos usuários e criar programas LLM para evitar danos às habilidades de pensamento crítico, disse Aniket Kittur, professor do Instituto de Interação Humano-Computador da Carnegie Mellon University. Ele faz parte de uma equipe que cria programas de IA projetados para acender faíscas criativas, não para produzir resultados acabados, mas sem graça.

Um programa, apelidado de BioSpark, visa ajudar os usuários a resolver problemas por meio da inspiração no mundo natural —por exemplo, criar um suporte de bicicleta melhor para montar em carros.

Em vez de uma interface de texto sem graça, o programa pode exibir imagens e detalhes de diferentes espécies animais para servir de inspiração, como a forma das pernas de um sapo ou a viscosidade do muco de um caracol que poderia espelhar um gel para manter as bicicletas seguras. Os usuários podem percorrer pesquisas científicas relevantes, salvando ideias à la Pinterest, e então fazer perguntas mais detalhadas ao programa de IA.

“Precisamos de novas formas de interagir com essas ferramentas que desbloqueiem esse tipo de criatividade”, disse Kittur. “E então precisamos de formas rigorosas de medir o sucesso dessas ferramentas. Isso é algo que só se pode fazer com pesquisa.”

A pesquisa sobre como os programas de IA podem aumentar a criatividade humana está se expandindo dramaticamente, mas não recebe tanta atenção por causa do zeitgeist da tecnologia da população, disse Sarah Rose Siskind, escritora de ciência e comédia baseada em Nova York que consulta empresas de IA.

Siskind acredita que o público precisa de melhor educação sobre como usar e pensar sobre a IA — ela criou um vídeo sobre como usa a IA para expandir seu repertório de piadas e alcançar novos públicos. Ela disse que também tem um artigo de pesquisa futuro explorando a utilidade do ChatGPT na comédia.

“Posso usar a IA para entender meu público com mais empatia e experiência do que nunca”, disse Siskind. “Então, há todas essas novas fronteiras da criatividade. Isso realmente deveria ser enfatizado.”

Parece que o debate sobre os efeitos da IA na cognição humana está apenas começando. Você acha que a IA, no final das contas, nos tornará mais ou menos inteligentes?