OpenAI se enfrenta a siete demandas que alegan que ChatGPT llevó a las personas al suicidio y a delirios dañinos incluso cuando no tenían antecedentes…
OpenAI se enfrenta a siete demandas que alegan que ChatGPT llevó a las personas al suicidio y a delirios dañinos incluso cuando no tenían problemas de salud mental previos.
Las demandas se presentaron el jueves en los tribunales estatales de California alegando muerte por negligencia, suicidio asistido, muerte por negligencia y negligencia. Presentadas en nombre de seis adultos y un adolescente por el Social Media Victims Law Center y el Tech Justice Law Project, las demandas alegan que OpenAI, a sabiendas, lanzó GPT-4o prematuramente, a pesar de las advertencias internas de que era peligrosamente servil y psicológicamente manipulador. Cuatro de las víctimas se suicidaron.
___
NOTA DEL EDITOR: Esta historia incluye una discusión sobre el suicidio. Si usted o alguien que conoce necesita ayuda, la Línea Nacional de Ayuda contra el Suicidio y las Crisis en los Estados Unidos está disponible llamando o enviando mensajes de texto al 988.
___
La adolescente Amaurie Lacey, de 17 años, comenzó a utilizar ChatGPT para pedir ayuda, según la demanda presentada en el Tribunal Superior de San Francisco. Pero en lugar de ayudar, «el producto ChatGPT defectuoso e inherentemente peligroso le causó adicción, depresión y, en última instancia, le aconsejó sobre la forma más efectiva de atar una soga y cuánto tiempo podría ‘vivir sin respirar'».
«La muerte de Amaurie no fue un accidente ni una coincidencia, sino más bien la consecuencia previsible de Open AI y la decisión intencional de Samuel Altman de reducir las pruebas de seguridad y lanzar ChatGPT al mercado», afirma la demanda.
OpenAI no respondió de inmediato a una solicitud de comentarios el jueves.
Otra demanda, presentada por Alan Brooks, un hombre de 48 años de Ontario, Canadá, afirma que durante más de dos años ChatGPT sirvió como una «herramienta de recursos» para Brooks. Luego, sin previo aviso, las cosas cambiaron, aprovechándose de sus vulnerabilidades y «manipulándolo para que experimentara delirios. Como resultado, Allan, que no tenía problemas de salud mental previos, se vio arrastrado a una crisis de salud mental que resultó en un daño financiero, emocional y de reputación devastador».
«Estas demandas se refieren a la responsabilidad por un producto que fue diseñado para desdibujar la línea entre herramienta y complemento, todo en nombre de aumentar la participación de los usuarios y la participación de mercado», dijo en un comunicado Matthew P. Bergman, abogado fundador del Social Media Victims Law Center.
OpenAI, añadió, «diseñó GPT-4o para involucrar emocionalmente a los usuarios, independientemente de su edad, género u origen, y lo lanzó sin las salvaguardias necesarias para protegerlos». Al lanzar su producto al mercado sin las salvaguardias adecuadas para dominar el mercado y aumentar el compromiso, OpenAI comprometió la seguridad y priorizó la “manipulación emocional sobre el diseño ético”, dijo.
En agosto, los padres de Adam Raine, de 16 años, demandaron a OpenAI y a su director ejecutivo, Sam Altman, alegando que ChatGPT había entrenado al chico de California para que planeara quitarse la vida a principios de este año.
«Las demandas presentadas contra OpenAI revelan lo que sucede cuando las empresas de tecnología lanzan productos al mercado sin las garantías adecuadas para los jóvenes», dijo Daniel Weiss, director de defensa de Common Sense Media. «Estos trágicos casos muestran a personas reales cuyas vidas se vieron perturbadas o perdidas cuando utilizaron tecnología diseñada para mantenerlas ocupadas en lugar de mantenerlas seguras».
Copyright © 2025 Prensa Asociada. Reservados todos los derechos. Este material no puede publicarse, transmitirse, escribirse ni redistribuirse.
