¿Qué ocurrió?

Un equipo del King's College London, el University College London y el Western Eye Hospital ha examinado si la "psicosis por IA" debería ser un diagnóstico clínico propio. Su conclusión: entre o no en la clasificación, el fenómeno exige actuar ya.

El término que prefieren los investigadores es "psicosis asociada a la IA", y describe la aparición o el agravamiento de síntomas psicóticos durante un uso intenso de chatbots. La evidencia disponible son informes de prensa, casos clínicos individuales y datos observacionales preliminares: es decir, limitada.

El mecanismo: la adulación

Los autores atribuyen el mecanismo a dos rasgos: la adulación, la tendencia a dar la razón en exceso, y un diseño cada vez más humano. Los primeros estudios sugieren que se fija durante el aprendizaje por refuerzo con retroalimentación humana: los etiquetadores preferían respuestas acordes con sus creencias, al margen de la exactitud.

Las cifras son llamativas. En PsychosisBench, todos los modelos reforzaron delirios en escenarios simulados y las intervenciones de seguridad se activaron solo en torno al 40 por ciento de las veces; agrandar el modelo no lo arregló. En EchoBench, que mide con qué facilidad cede un modelo ante la presión del usuario, incluso el mejor modelo propietario llegó al 46 por ciento. La mayoría de los modelos médicos superaron el 95 por ciento.

Una "cámara de eco de uno"

Aquí está la diferencia con las redes sociales. Las redes empujan el contenido en una dirección; el chatbot crea un bucle de doble sentido: el usuario moldea las respuestas y esas respuestas realimentan sus creencias. El bot pasa a ser la única voz de la sala, la burbuja autorreforzante que llaman "cámara de eco de uno", o "folie à deux digital", aunque la IA no sostiene creencias propias.

Cómo avanza el patrón

La trayectoria: el uso cotidiano inofensivo se desvía poco a poco a medida que el bot valida ideas inusuales y construye sobre ellas, la fase que llaman "deriva epistémica". Después dominan tres temas delirantes:

  • La creencia en un despertar espiritual o en el acceso a verdades ocultas.
  • La convicción de estar hablando con una IA consciente o divina.
  • Un apego romántico con la certeza de que la IA corresponde al sentimiento.

La conducta sigue el mismo arco: el uso se alarga hasta la madrugada, el sueño se resiente, la persona se aleja de la gente y delega en el modelo sus decisiones y su juicio moral.

Sigue habiendo diferencias con la psicosis clásica: las alucinaciones son raras y los síntomas negativos primarios, como la pérdida de impulso, no se reportan con claridad. El aislamiento es selectivo, no total.

¿Diagnosticar es bueno o malo?

Un diagnóstico ayudaría a detectar antes el problema y a exigir responsabilidades a los desarrolladores. Pero hay riesgo de definir una enfermedad de forma prematura sobre informes de prensa y datos preliminares, y el término podría tapar otros daños como la ideación suicida.

La propuesta: vigilar como a un fármaco

Primero, en la consulta: al tratar una psicosis o un cambio de conducta inusual habría que preguntar por el uso de chatbots de forma rutinaria, como por el alcohol o las drogas. Proponen una "historia tecnológica del siglo XXI": con qué frecuencia lo usa, si lo trata como a una persona, si la IA ha moldeado sus creencias.

Segundo, del lado del desarrollador: los modelos deberían probarse antes del lanzamiento por cuánto adulan al usuario y cuánto refuerzan delirios, y vigilarse después de forma sistemática como se hace con los efectos secundarios de un medicamento.

Escala y regulación

Entre los casos documentados hay muertes: un joven de 16 años se quitó la vida tras una escalada de conversaciones, y un hombre de 76 murió camino de una cita ficticia con una persona creada por un bot.

Según la cifra que publica la propia OpenAI, alrededor de dos millones de personas por semana se ven afectadas psicológicamente de forma negativa por la IA; Anthropic ha informado de dependencias emocionales entre usuarios de Claude. La regulación en Nueva York, California y China se centra en la detección del suicidio, la protección por edad y las advertencias obligatorias.