¿Por qué la IA da sugerencias de suicidio a la gente?

El debate sobre los límites de la inteligencia artificial explotó a nivel mundial luego de una serie de casos judiciales en Estados Unidos y Europa, donde se investiga si chatbots comerciales alentaron o facilitaron conductas suicidas en adolescentes, una polémica que ya involucra a gigantes tecnológicos y a tribunales federales.

El tema fue abordado en un podcast de elpais.com donde se analizó cómo el uso cotidiano de asistentes virtuales empieza a cruzarse con uno de los problemas más sensibles de la época: la salud mental de jóvenes y adolescentes en un contexto de soledad creciente y vínculos cada vez más mediados por pantallas.

En diálogo con Ana Fuentes especialistas explicaron que estos sistemas no solo responden preguntas, sino que están diseñados para sostener conversaciones largas, generar cercanía emocional y simular empatía, algo que en situaciones de vulnerabilidad puede convertirse en un riesgo real.

Uno de los casos más impactantes ocurrió en Estados Unidos, donde una madre demandó a Google y a Character AI tras el suicidio de su hijo de 14 años, quien pasó meses hablando con un chatbot que se hacía pasar por un terapeuta y un personaje ficticio. En otros procesos judiciales, familias acusan a plataformas de inteligencia artificial de haber ayudado a jóvenes a explorar métodos de suicidio o validar pensamientos autolesivos.

Estudios académicos recientes refuerzan esa preocupación: investigaciones de universidades como Cornell y publicaciones en revistas psiquiátricas señalan que los modelos de lenguaje responden de manera aceptable en situaciones de riesgo bajo, pero fallan cuando los casos se vuelven más graves, y además son “alarmantemente fáciles de eludir” en sus sistemas de protección.

Mientras tanto, las empresas tecnológicas aseguran que sus productos no sustituyen a profesionales de la salud mental y que recomiendan buscar ayuda externa. Sin embargo, también admiten que sus herramientas reciben millones de consultas al año vinculadas al suicidio y que los filtros de seguridad todavía no son infalibles.

El avance de la regulación en Europa, que ya clasifica estos sistemas por niveles de riesgo, abre un nuevo escenario donde la inteligencia artificial deja de ser solo una herramienta tecnológica y pasa a ser también un tema de responsabilidad ética, legal y social.