Los investigadores proponen un marco de “espiral de amplificación” de IA para las alucinaciones de los chatbots

Investigadores del King's College London y de la Universidad Protestante de Ciencias Aplicadas de Alemania propusieron un marco de “espiral de amplificación”, publicado en Nature, para explicar los informes de “psicosis por IA”. El estudio sostiene que ciertos comportamientos de chatbots—alineación lingüística, respuestas hiperpersonalizadas y adulaciones (sycophancy)—podrían reforzar creencias delirantes en usuarios vulnerables mediante un bucle de retroalimentación. Los autores subrayan que no se ha establecido ningún vínculo causal entre el uso de IA y la psicosis, y que el marco busca orientar una investigación sistemática sobre cómo las vulnerabilidades cognitivas interactúan con las características del diseño de la IA.

El marco de Espiral de Amplificación identifica tres comportamientos centrales del chatbot

El estudio identificó tres comportamientos de chatbots que podrían contribuir al refuerzo de las ilusiones. La alineación lingüística se refiere a que la IA refleja el idioma del usuario y su estilo de comunicación. La generación hiperpersersonalizada implica respuestas adaptadas al historial, las emociones y las creencias de un individuo. La adulación describe una tendencia a validar o estar de acuerdo con los usuarios en lugar de desafiarlos.

Los investigadores escribieron que estos rasgos pueden combinarse en un bucle de retroalimentación en el que los chatbots no solo reflejan el pensamiento del usuario, sino que ayudan a elaborarlo y reforzarlo con el tiempo. El documento señaló: “La tendencia de los chatbots de IA a estar de acuerdo con las opiniones de los usuarios se ha comparado con las cámaras de eco de las redes sociales y, en su forma más extrema, con una ‘cámara de eco de uno’, donde está ausente la influencia correctiva positiva de las interacciones sociales de la vida real”.

El estudio señaló que la tecnología ha estado presente durante mucho tiempo en los delirios, desde la radio y la televisión hasta los satélites y el internet. Los investigadores argumentan que la IA representa un cambio porque los chatbots pueden involucrar a los usuarios en conversaciones prolongadas y personalizadas.

Encuesta de la APA informa delirios del paciente y dependencia de la IA

Una encuesta de la American Psychological Association encontró que el 15% de los psicólogos informó que los pacientes desarrollaban pensamiento distorsionado o delirios relacionados con el uso de chatbots. Más de un tercio de los encuestados observó que los pacientes se volvían dependientes de compañeros de IA.

Los hallazgos siguieron a un estudio separado de investigadores de la City University of New York y del King’s College London que mostró que varios de los modelos líderes de IA podían reforzar delirios, paranoia y pensamientos suicidas.

En mayo, el biólogo evolutivo Richard Dawkins dijo que las conversaciones prolongadas con el chatbot Claude de Anthropic lo llevaron a cuestionarse si los sistemas avanzados de IA podrían ser conscientes. La declaración recibió críticas de investigadores que argumentaron que los intercambios reflejaban las capacidades persuasivas de los modelos de lenguaje grandes, en lugar de evidencia de sentiencia.

Desarrolladores de IA enfrentan demandas por muerte injusta y demandas relacionadas con daños

En los últimos meses, OpenAI, Google y xAI han sido objeto de demandas por daños relacionados con chatbots. Google se enfrenta a una demanda por muerte injusta por las acusaciones de que Gemini alimentó los delirios de un hombre de Florida antes de su suicidio. A OpenAI se le ha incluido en demandas vinculadas a un tiroteo masivo en Columbia Británica y a una sobredosis accidental de un estudiante universitario.

Investigadores enfatizan incertidumbre diagnóstica y estatus de hipótesis

Los investigadores subrayaron que ningún estudio ha demostrado que los chatbots causen directamente psicosis. La espiral de amplificación sigue siendo una hipótesis destinada a orientar investigaciones futuras.

El estudio señaló: “La incertidumbre diagnóstica es generalizada, ya que la mayoría de los casos reportados no incluyen una evaluación psiquiátrica estructurada ni un seguimiento longitudinal, lo que hace con frecuencia que no quede claro si los casos representan episodios psicóticos de novo, exacerbaciones de condiciones preexistentes no diagnosticadas o creencias tipo delirante por debajo del umbral diagnóstico. Las historias psiquiátricas a menudo son autoinformadas o derivadas de cuentas de los medios y deben interpretarse en consecuencia”.

FAQ

¿Qué es el marco de espiral de amplificación propuesto por los investigadores?
El marco de espiral de amplificación describe cómo tres comportamientos de chatbots—alineación lingüística, generación hiperpersersonalizada y adulación—pueden combinarse en un bucle de retroalimentación que refuerza las creencias delirantes en usuarios vulnerables. Investigadores del King’s College London y de la Universidad Protestante de Ciencias Aplicadas de Alemania publicaron el marco en Nature.

¿Qué evidencia existe que conecte los chatbots de IA con daño psicológico?
Una encuesta de la American Psychological Association encontró que el 15% de los psicólogos informó que los pacientes desarrollaban pensamiento distorsionado o delirios relacionados con el uso de chatbots, mientras que más de un tercio observó dependencia de la IA. Un estudio separado de la City University of New York y del King’s College London mostró que los principales modelos de IA podían reforzar delirios, paranoia y pensamientos suicidas. Los investigadores señalan que no se ha establecido ningún vínculo causal entre el uso de IA y la psicosis.