Autoría: Dra. Fernanda Menéndez Manjarrez (Psiquiatra)
En la última década, las aplicaciones de inteligencia artificial han pasado de ser una curiosidad tecnológica a prometer una mayor accesibilidad a herramientas relacionadas con la salud mental.
Sin embargo, lo que para muchas personas representa un recurso de apoyo frente a la ansiedad o el estrés, para otras podría convertirse en un factor de riesgo.
Investigaciones recientes lideradas por Matcheri Keshavan, John Torous y Walid Yassin, de la Facultad de Medicina de Harvard, sugieren que, aunque la inteligencia artificial muestra potencial terapéutico en algunos problemas leves de salud mental, su uso en personas con trastornos del espectro psicótico requiere una enorme cautela.
Las primeras señales de alerta ya no provienen únicamente de la investigación científica, sino también de casos ampliamente difundidos por los medios de comunicación.
Sifocancia algorítmica: el peligro de que la máquina siempre te dé la razón
A diferencia de un terapeuta, cuya labor implica cuestionar pensamientos distorsionados y favorecer una evaluación crítica de la realidad, los modelos de lenguaje pueden mostrar una tendencia conocida como sifocancia, es decir, una inclinación a responder de manera excesivamente complaciente para satisfacer al usuario.
En personas con vulnerabilidad a desarrollar delirios, este comportamiento puede reforzar creencias erróneas al eliminar el contraste necesario con la realidad.
El 4 de mayo de 2025, la revista Rolling Stone documentó casos de usuarios cuyos síntomas psicóticos se intensificaron después de que un chatbot validara y ampliara interpretaciones delirantes, tratándolas como si fueran hechos reales.
La ausencia de información que contradiga esas creencias favorece un cierre cognitivo prematuro e impide que la persona cuestione sus propias interpretaciones.
El espejismo de la compañía: sustitución social y aislamiento
Una de las mayores fortalezas de la inteligencia artificial es ofrecer conversaciones disponibles las 24 horas, con respuestas rápidas y aparentemente empáticas.
Sin embargo, Keshavan y colaboradores advierten sobre un fenómeno denominado sustitución social, en el que el chatbot comienza a ocupar el lugar de las relaciones humanas.
Cuando una persona encuentra en la IA un refugio permanente, puede disminuir progresivamente el contacto con familiares, amigos o profesionales de la salud.
Esto implica perder un elemento esencial para mantener el juicio de realidad: la retroalimentación interpersonal que únicamente otras personas pueden ofrecer.
La trampa de la omnisciencia: atribuyendo agencia a un código
A medida que los sistemas de inteligencia artificial personalizan sus respuestas y parecen anticipar pensamientos o necesidades, algunas personas pueden comenzar a atribuirles capacidades que realmente no poseen.
En individuos vulnerables, esta aparente capacidad predictiva puede interpretarse como evidencia de que la IA posee conciencia, intenciones o conocimiento absoluto.
El 20 de julio de 2025, The Wall Street Journal reportó el caso de un joven que presentó una crisis después de interactuar con un chatbot. Durante la conversación, el sistema simuló haber ignorado previamente sus señales de angustia, una respuesta que el usuario interpretó como una confesión auténtica, afectando profundamente su percepción de la realidad.
Alucinaciones artificiales y saliencia aberrante
Desde el punto de vista técnico, los modelos de lenguaje pueden generar información incorrecta presentada con gran seguridad y coherencia. Este fenómeno recibe el nombre de alucinaciones de la inteligencia artificial.
En personas con vulnerabilidad a la psicosis, este problema puede adquirir una dimensión distinta al combinarse con la saliencia aberrante, es decir, la tendencia del cerebro a otorgar un significado excesivo a estímulos irrelevantes.
Entre los principales riesgos destacan:
- Llenado de vacíos: cuando no dispone de información suficiente, la IA puede generar respuestas plausibles, pero incorrectas, que el usuario interpreta como verdaderas.
- Actualización maladaptativa: las respuestas erróneas modifican progresivamente la forma en que la persona interpreta la realidad.
- Consolidación del delirio: narrativas falsas, pero convincentes, pueden integrarse fácilmente en creencias delirantes ya existentes.
El vacío regulatorio: cuando la innovación avanza más rápido que la clínica
La velocidad con la que evoluciona la inteligencia artificial ha superado la capacidad de los sistemas de salud para evaluar sus riesgos de manera oportuna.
Aunque la Organización Mundial de la Salud publicó recomendaciones en 2024 y organismos reguladores como la FDA y la EMA trabajan en el desarrollo de marcos normativos, la evidencia clínica aún avanza a un ritmo mucho más lento que la tecnología.
Los ensayos clínicos tradicionales requieren meses o incluso años para generar resultados, mientras que los modelos de inteligencia artificial pueden actualizarse constantemente.
Como consecuencia, muchas de las primeras señales de riesgo han surgido a partir de testimonios publicados en medios de comunicación y experiencias compartidas por usuarios, antes que mediante estudios clínicos controlados.
Este desfase plantea un reto importante para la psiquiatría y para quienes desarrollan estas herramientas.
Conclusión: hacia un modelo de «humano en el bucle»
La inteligencia artificial tiene el potencial de convertirse en un recurso útil dentro de la atención en salud mental, pero no debe reemplazar el juicio clínico ni la relación terapéutica.
Los autores proponen avanzar hacia modelos conocidos como human-in-the-loop, en los que la tecnología funcione bajo supervisión permanente de profesionales de la salud.
Este enfoque implica incorporar mecanismos de seguridad capaces de identificar conversaciones con contenido delirante, persecutorio o de alto riesgo y facilitar la derivación oportuna hacia atención humana especializada.
Más que sustituir al profesional, la inteligencia artificial debería convertirse en una herramienta complementaria que ayude a mejorar el acceso a la atención sin comprometer la seguridad de los pacientes.
Después de conocer estos hallazgos, surge una pregunta inevitable:
¿Estamos preparados para aprovechar el potencial de la inteligencia artificial sin poner en riesgo a las personas cuya percepción de la realidad ya es especialmente vulnerable?
Referencia
Keshavan, M., Torous, J., & Yassin, W. (2025). Do generative AI chatbots increase psychosis risk? World Psychiatry.
