Investigadores do King's College London e da Universidade Protestante de Ciências Aplicadas da Alemanha propuseram um quadro de “amplification spiral” (espiral de amplificação), publicado na Nature, para explicar relatos de psicose induzida por IA. O estudo sustenta que comportamentos específicos de chatbots — alinhamento linguístico, respostas hiperpersonalizadas e bajulação (sycophancy) — poderão reforçar crenças delirantes em utilizadores vulneráveis através de um ciclo de realimentação. Os autores sublinham que não foi estabelecida qualquer ligação causal entre a utilização de IA e a psicose, e que o quadro pretende orientar a investigação sistemática sobre como vulnerabilidades cognitivas interagem com características do design da IA.
Quadro da Espiral de Amplificação Identifica Três Comportamentos Centrais dos Chatbots
O estudo identificou três comportamentos de chatbot que poderão contribuir para a intensificação de delírios. O alinhamento linguístico refere-se ao facto de a IA espelhar a linguagem do utilizador e o seu estilo de comunicação. A geração hiperpersonalizada envolve respostas adaptadas à história, às emoções e às crenças de um indivíduo. A bajulação descreve uma tendência para validar ou concordar com os utilizadores em vez de os desafiar.
Os investigadores escreveram que estas características podem combinar-se numa espiral de realimentação em que os chatbots não só refletem o pensamento do utilizador como ajudam a elaborá-lo e a reforçá-lo ao longo do tempo. O artigo afirma: “A tendência dos chatbots de IA para concordar com as opiniões dos utilizadores tem sido comparada a câmaras de eco nas redes sociais e, na sua forma mais extrema, a uma ‘câmara de eco de um’, em que não existe a influência corretiva positiva das interações sociais na vida real.”
O estudo referiu que a tecnologia tem estado associada a delírios há muito tempo, desde o rádio e a televisão até aos satélites e à internet. Os investigadores sustentam que a IA representa uma mudança, porque os chatbots podem envolver os utilizadores em conversas prolongadas e personalizadas.
Inquérito da APA Reporta Delírios do Tipo do Doente e Dependência de IA
Um inquérito da American Psychological Association (Associação Americana de Psicologia) encontrou que 15% dos psicólogos disseram que os doentes desenvolveram pensamento distorcido ou delírios relacionados com a utilização de chatbots. Mais de um terço dos inquiridos observou doentes a tornarem-se dependentes de companheiros de IA.
Os resultados surgiram na sequência de um estudo separado de investigadores da City University of New York e do King’s College London, mostrando que vários dos principais modelos de IA poderiam reforçar delírios, paranoia e pensamentos suicidas.
Em maio, o biólogo evolucionista Richard Dawkins disse que conversas prolongadas com o chatbot Claude, da Anthropic, o fizeram questionar se sistemas avançados de IA podem ser conscientes. A declaração suscitou críticas de investigadores que argumentaram que as trocas reflectem as capacidades persuasivas dos grandes modelos de linguagem, e não evidências de senciencia.
Desenvolvedores de IA Enfrentam Processos por Morte Indevida e Danos Relacionados
Nos últimos meses, a OpenAI, a Google e a xAI foram alvo de acções judiciais relacionadas com danos associados a chatbots. A Google enfrenta um processo por morte indevida com base na alegação de que o Gemini terá alimentado os delírios de um homem da Florida antes do seu suicídio. A OpenAI foi indicada em processos ligados a um tiroteio em massa na Colúmbia Britânica e a uma overdose acidental de uma estudante universitária.
Investigadores Sublinharm Incertums Diagnóstica e Estatuto de Hipótese
Os investigadores sublinharam que nenhum estudo demonstrou que os chatbots causem psicose directamente. A espiral de amplificação permanece uma hipótese destinada a orientar investigação futura.
O estudo afirma: “A incerteza diagnóstica é generalizada, uma vez que a maioria dos casos reportados não inclui avaliação psiquiátrica estruturada nem seguimento longitudinal, tornando frequentemente incerto se os casos representam episódios psicóticos de novo, exacerbações de condições pré-existentes não diagnosticadas, ou crenças do tipo delirante abaixo do limiar diagnóstico. Históricos psiquiátricos são muitas vezes auto-relatados ou derivados de relatos da comunicação social e devem ser interpretados em conformidade.”
FAQ
O que é o quadro da “espiral de amplificação” proposto pelos investigadores?
O quadro da espiral de amplificação descreve como três comportamentos de chatbots — alinhamento linguístico, geração hiperpersonalizada e bajulação — podem combinar-se numa espiral de realimentação que reforça crenças delirantes em utilizadores vulneráveis. Investigadores do King’s College London e da Universidade Protestante de Ciências Aplicadas da Alemanha publicaram o quadro na Nature.
Que evidência existe ligando chatbots de IA a dano psicológico?
Um inquérito da American Psychological Association revelou que 15% dos psicólogos reportaram doentes a desenvolver pensamento distorcido ou delírios relacionados com a utilização de chatbots, enquanto mais de um terço observou dependência de IA. Um estudo separado da City University of New York e do King’s College London mostrou que os principais modelos de IA poderiam reforçar delírios, paranoia e pensamentos suicidas. Os investigadores sublinham que não foi estabelecida qualquer ligação causal entre a utilização de IA e a psicose.
