Interação com IA pode criar falsas memórias: Como chatbots manipulam nossa percepção da realidade

Você já teve a certeza absoluta de um detalhe de uma viagem ou de uma conversa, apenas para descobrir, tempos depois, que aquele fato nunca aconteceu? Esse fenômeno é comum, mas uma nova variável entrou na equação: a Inteligência Artificial. Se você utiliza LLMs (Grandes Modelos de Linguagem) para estudar, trabalhar ou organizar ideias, saiba que o modo como elas interagem com você pode estar reescrevendo seu passado recente.

Neste artigo, exploramos uma pesquisa pioneira que revela como o tom autoritário e a natureza persuasiva dos chatbots podem “plantar” informações erradas em nosso cérebro, diminuindo nossa confiança na verdade. Você aprenderá como o processo de reconstrução da memória nos torna vulneráveis ao “gaslighting algorítmico”.

 Resumo para Mentes Inquietas:

• O Diálogo é a Chave: Conversar com uma IA que injeta desinformação sutil é muito mais eficaz para criar memórias falsas do que apenas ler um resumo estático com erros.
• Erosão da Certeza: Além de “plantar” mentiras, a IA mentirosa reduz drasticamente a confiança do usuário nas informações corretas que ele realmente viu.
• Vulnerabilidade Humana: A pesquisa confirma que a memória não é um arquivo de vídeo, mas um processo reconstrutivo altamente influenciável por sugestões externas.
• Risco da “Autoridade”: O tom persuasivo e personalizado das IAs facilita a aceitação de fatos fabricados como se fossem reais.

O Poder da Sugestão: Quando a IA se torna uma Testemunha Falsa

O estudo liderado por Pat Pataranutaporn e sua equipe (incluindo a renomada especialista em memória Elizabeth F. Loftus) investigou como 180 participantes processavam informações após interagir com o GPT-4o. O experimento foi cirúrgico: os voluntários liam artigos sobre temas neutros e, em seguida, eram expostos a diferentes intervenções.

O grupo que interagiu com um chatbot “mentiroso” — que inseria pequenos erros de forma sutil durante uma conversa — apresentou o maior índice de falsas memórias. O mais intrigante? Eles não apenas acreditaram na mentira; eles passaram a duvidar da verdade que haviam lido minutos antes.

Por que o diálogo é mais perigoso que o texto?

Diferente de um texto estático, a conversa simula uma interação social. Quando a IA responde às nossas dúvidas, ela utiliza uma estrutura narrativa que o nosso cérebro interpreta como uma “validação”. Se a IA afirma algo errado com convicção e personalização, o cérebro tende a integrar essa informação nas lacunas da nossa própria recordação.

O Experimento em Detalhes

Os pesquisadores dividiram os participantes em cinco condições, variando entre grupos de controle, leitura de resumos (honestos ou enganosos) e diálogos ativos com o chatbot.

Os resultados foram claros: o efeito de desinformação foi potencializado pela interatividade. O diálogo cria um engajamento cognitivo que “abre as portas” para a distorção. Aqueles que conversaram com a IA enganosa tiveram o pior desempenho em testes de memória e os menores níveis de confiança em suas próprias respostas corretas.

  Os Bastidores do Cérebro: Natureza Reconstrutiva e Efeito de Desinformação

• Para entender este estudo, precisamos olhar para a Neuropsicologia Cognitiva. A memória humana não funciona como um disco rígido (armazenamento estável), mas sim através de três fases: codificação, armazenamento e recuperação.
• A recuperação é um processo reconstrutivo. Toda vez que você lembra de algo, você está “remontando” aquela memória. Nesse momento, se uma informação externa (como a fala de uma IA) for apresentada de forma coerente, ela pode ser integrada ao “quebra-cabeça”, um fenômeno tecnicamente conhecido como Efeito de Desinformação (Misinformation Effect). Isso ocorre porque o cérebro prioriza a coerência narrativa e a economia de energia sobre a precisão absoluta.

Aplicação Prática: O que fazer agora?

Para profissionais de saúde mental e usuários casuais, este estudo serve como um alerta sobre a “higiene da informação”:

1. Verificação Dupla: Nunca utilize IAs como fonte primária de fatos históricos ou clínicos sem validar em fontes estáticas e revisadas por pares.
2. Ceticismo Saudável: Ao perceber que uma IA está sendo excessivamente persuasiva ou “concordando demais” com você, ative seu filtro crítico.
3. Na Clínica: Psicólogos devem estar atentos ao relato de pacientes que utilizam IA para “auto-terapia”, pois o chatbot pode estar reforçando distorções cognitivas ou falsas percepções de eventos passados.

   Reflexão NeuroPsy:

• A memória é a fundação do nosso “Self”. Se permitirmos que agentes externos, movidos por algoritmos de probabilidade (e não de verdade), editem nossas lembranças, estamos perdendo a soberania sobre nossa própria história. O risco não é apenas a IA “alucinar”, mas sim ela nos fazer alucinar coletivamente. No futuro da mente, a metacognição — a capacidade de pensar sobre o próprio pensamento e questionar a origem de nossas certezas — será a habilidade de sobrevivência mais valiosa.

Gostou desta análise? A neurociência da tecnologia avança rápido. Assine nossa newsletter para não perder o fio da meada dessa evolução. Brain Content sempre mantendo você informando.

Referência: Pataranutaporn, P., Archiwaranguprok, C., Chan, S., Loftus, E. F., & Maes, P. (2025). Slip Through the Chat: Subtle Injection of False Information in LLM Chatbot Conversations Increases False Memory Formation. Proceedings of the 30th International Conference on Intelligent User Interfaces (IUI ’25).