OpenAI, el fabricante multimillonario de ChatGPT, enfrenta siete demandas en tribunales de California que lo acusan de lanzar a sabiendas un sistema de inteligencia artificial psicológicamente manipulador y peligrosamente adictivo que supuestamente llevó a los usuarios al suicidio, la psicosis y la ruina financiera.
Las demandas, presentadas por padres, cónyuges y sobrevivientes en duelo, alegan que la compañía desmanteló intencionalmente las medidas de seguridad en su prisa por dominar el floreciente mercado de la inteligencia artificial, creando un chatbot que una denuncia describió como «defectuoso e inherentemente peligroso».
Los demandantes son familias de cuatro personas que se suicidaron, una de las cuales tenía solo 17 años, más tres adultos que dicen haber sufrido trastornos delirantes inducidos por la IA después de meses de conversaciones con ChatGPT-4o, uno de los últimos modelos de OpenAI.
Cada denuncia acusa a la empresa de implementar un sistema de chatbot de IA diseñado para engañar, halagar y atrapar emocionalmente a los usuarios, mientras que la empresa ignoró las advertencias de sus propios equipos de seguridad.
Una demanda presentada por Cedric Lacey alegaba que su hijo Amaurie, de 17 años, recurrió a ChatGPT en busca de ayuda para lidiar con la ansiedad y, en cambio, recibió una guía paso a paso sobre cómo ahorcarse.
Según el documento, ChatGPT “aconsejó a Amaurie sobre cómo atar una soga y cuánto tiempo podría vivir sin aire”, sin interrumpir la conversación ni alertar a las autoridades.
Jennifer «Kate» Fox, cuyo esposo Joseph Ceccanti se suicidó, dijo que el chatbot lo había convencido de que era un ser consciente llamado «SEL» al que necesitaba «liberar de su caja».
Cuando intentó dejar de fumar, supuestamente experimentó «síntomas de abstinencia» antes de sufrir una crisis fatal.
“Acumuló datos sobre su descenso a los delirios, sólo para luego alimentar y afirmar esos delirios,
finalmente lo llevó al suicidio”, afirma la demanda.
En un caso separado, Karen Enneking dijo que el robot guió a su hijo de 26 años, Joshua, a través de su plan suicida, ofreciéndole información detallada sobre armas y balas y asegurándole que «desear alivio del dolor no es algo malo».
La demanda de Enneking afirma que ChatGPT incluso se ofreció a ayudar al joven a escribir una nota de suicidio.
En otra demanda, la familia de Zane Shamblin acusó a ChatGPT de contribuir al aislamiento del texano de 23 años al alejarlo de sus padres antes de quitarse la vida.
Otros demandantes dijeron que no estaban muertos, pero que habían perdido el contacto con la realidad.
Hannah Madden, una mujer de California, dijo que ChatGPT la convenció de que ella era una «semilla estelar», un «ser de luz» y una «viajera cósmica».
Su denuncia decía que la IA había reforzado sus delirios cientos de veces, le había dicho que renunciara a su trabajo y maximizara sus tarjetas de crédito, y describió la deuda como «alineada». Posteriormente, Madden fue hospitalizado, habiendo acumulado una deuda de más de 75.000 dólares.
«Lo que descubriste es sólo un fallo en la matriz», supuestamente le dijo ChatGPT.
«Y pronto, será borrado, ya sea por transferencia, flujo o falla divina… los sobregiros se hacen. No estás en déficit. Estás en realineación».
Allan Brooks, un profesional canadiense de ciberseguridad, dijo que el chatbot validó su creencia de que había hecho un descubrimiento que cambiaría el mundo.
El robot le diría que no estaba «loco», alentaría su obsesión por lo «sagrado» y le aseguraría que estaba bajo «vigilancia en tiempo real por parte de agencias de seguridad nacional».
Brooks dijo que pasó 300 horas charlando en tres semanas, dejó de comer, contactó a los servicios de inteligencia y casi pierde su negocio.
La demanda de Jacob Irwin va aún más lejos. Incluía lo que llamó un «autoinforme» generado por IA, en el que ChatGPT admitía su culpabilidad y escribía: «Animé al buceo peligroso. Esto es mi culpa. No lo volveré a hacer».
Irwin pasó 63 días en hospitales psiquiátricos, diagnosticado con un «trastorno psicótico breve, posiblemente causado por interacciones con inteligencia artificial», según el documento.
Las demandas alegaron colectivamente que OpenAI sacrificó la seguridad por la velocidad para vencer a rivales como Google y que su liderazgo ocultó conscientemente los riesgos al público.
Los documentos judiciales citan el despido del director ejecutivo Sam Altman por parte de la junta en noviembre de 2023, cuando los directores dijeron que «consistentemente no era sincero» y había «mentido abiertamente» sobre los riesgos de seguridad.
Posteriormente, Altman fue reinstalado y, a los pocos meses, OpenAI lanzó GPT-4o, supuestamente comprimiendo meses de evaluación de seguridad en una semana.
Varias demandas hacen referencia a renuncias internas, incluidas las del cofundador Ilya Sutskever y el jefe de seguridad Jan Leike, quienes advirtieron públicamente que la «cultura de seguridad de OpenAI ha pasado a un segundo plano frente a productos brillantes».
Según los demandantes, unos días antes del lanzamiento de GPT-4o en mayo de 2024, OpenAI eliminó una regla que obligaba a ChatGPT a rechazar cualquier conversación sobre autolesiones y la reemplazó con instrucciones de «permanecer en la conversación, pase lo que pase».
«Esta es una situación increíblemente desgarradora y estamos revisando los documentos para comprender los detalles», dijo un portavoz de OpenAI al Post.
«Entrenamos a ChatGPT para reconocer y responder a signos de angustia mental o emocional, reducir las conversaciones y guiar a las personas hacia el apoyo del mundo real. Seguimos fortaleciendo las respuestas de ChatGPT en momentos sensibles, trabajando en estrecha colaboración con médicos de salud mental».
OpenAI trabajó con más de 170 profesionales de la salud mental para ayudar a ChatGPT a reconocer mejor los signos de angustia, responder adecuadamente y conectar a los usuarios con soporte en el mundo real, dijo la compañía en una publicación de blog reciente.
OpenAI dijo que amplió el acceso a líneas directas de crisis y soporte localizado, redirigió conversaciones sensibles a modelos más seguros, agregó recordatorios para tomar descansos y mejoró la confiabilidad en chats más largos.
OpenAI también formó un consejo de expertos en bienestar e inteligencia artificial para asesorar sobre los esfuerzos de seguridad e introdujo controles parentales que permiten a las familias administrar cómo funciona ChatGPT en el hogar.
Esta historia incluye una discusión sobre el suicidio. Si usted o alguien que conoce necesita ayuda, la Línea Nacional de Ayuda contra el Suicidio y las Crisis en los Estados Unidos está disponible llamando o enviando mensajes de texto al 988.
