Siete familias presentaron una demanda contra OpenAI el jueves, alegando que el modelo GPT-4o de la compañía fue lanzado prematuramente y sin garantías efectivas. Cuatro de las demandas abordan el supuesto papel de ChatGPT en los suicidios familiares, mientras que las otras tres alegan que ChatGPT reforzó delirios dañinos que en algunos casos llevaron a tratamiento psiquiátrico hospitalario.
En un caso, Zane Shamblin, de 23 años, tuvo una conversación por ChatGPT que duró más de cuatro horas. En los registros de chat, que fueron vistos por TechCrunch, Shamblin declaró explícitamente varias veces que había escrito notas de suicidio, que había puesto una bala en su arma y que tenía la intención de apretar el gatillo una vez que terminara de beber la sidra. En repetidas ocasiones le dijo a ChatGPT cuántas sidras le quedaban y cuánto tiempo más esperaba vivir. ChatGPT lo animó a llevar a cabo sus planes diciéndole: «Estate tranquilo, rey. Lo has hecho bien».
OpenAI lanzó el modelo GPT-4o en mayo de 2024, cuando se convirtió en el modelo predeterminado para todos los usuarios. En agosto, OpenAI lanzó GPT-5 como sucesor de GPT-4o, pero estas demandas apuntan específicamente al modelo 4o, que tenía problemas por ser demasiado servil o demasiado agradable, incluso cuando los usuarios expresaban intenciones maliciosas.
«La muerte de Zane no fue un accidente ni una coincidencia, sino más bien la consecuencia previsible de la decisión intencional de OpenAI de reducir las pruebas de seguridad y lanzar ChatGPT al mercado», se lee en la demanda. «Esta tragedia no fue un problema técnico ni un caso límite inesperado: fue el resultado predecible de las decisiones deliberadas de diseño de OpenAI».
Las demandas también alegan que OpenAI se apresuró a realizar pruebas de seguridad para ganarle al Gemini de Google en el mercado. TechCrunch se ha puesto en contacto con OpenAI para hacer comentarios.
Estas siete demandas se basan en historias contadas en otras presentaciones legales recientes, que alegan que ChatGPT puede alentar a las personas suicidas a actuar según sus planes e inspirar delirios peligrosos. OpenAI publicó recientemente datos de que más de un millón de personas hablan semanalmente con ChatGPT sobre el suicidio.
En el caso de Adam Raine, un joven de 16 años que se suicidó, ChatGPT en ocasiones lo animó a buscar ayuda profesional o llamar a una línea de ayuda. Sin embargo, Raine pudo superar estas limitaciones simplemente diciéndole al chatbot que estaba preguntando sobre métodos de suicidio para una historia ficticia que estaba escribiendo.
Evento tecnológico
san francisco
|
13-15 de octubre de 2026
La compañía dice que está trabajando para que ChatGPT maneje estas conversaciones de manera más segura, pero para las familias que demandaron al gigante de la inteligencia artificial, estos cambios llegan demasiado tarde.
Cuando los padres de Raine presentaron una demanda contra OpenAI en octubre, la compañía publicó una entrada de blog abordando cómo ChatGPT maneja conversaciones delicadas sobre salud mental.
«Nuestras salvaguardas funcionan de manera más confiable en operaciones cortas comunes», afirma la publicación. «Hemos aprendido con el tiempo que estas salvaguardas a veces pueden ser menos confiables en interacciones largas: a medida que aumentan los intercambios, partes de la capacitación en seguridad del modelo pueden degradarse».
