OpenAI se enfrenta a siete demandas ChatGPT ha llevado a la gente al suicidio y delirios dañinos incluso cuando no tenían problemas de salud mental previos.
Las demandas presentadas el jueves en los tribunales estatales de California alegan muerte por negligencia, suicidio asistido, muerte por negligencia y negligencia. Presentadas en nombre de seis adultos y un adolescente por el Social Media Victims Law Center y el Tech Justice Law Project, las demandas alegan que OpenAI, a sabiendas, lanzó GPT-4o prematuramente, a pesar de las advertencias internas de que era peligrosamente servil y psicológicamente manipulador. Cuatro de las víctimas se suicidaron.
___
NOTA DEL EDITOR: Esta historia incluye una discusión sobre el suicidio. Si usted o alguien que conoce necesita ayuda, la Línea Nacional de Ayuda contra el Suicidio y las Crisis en los Estados Unidos está disponible llamando o enviando mensajes de texto al 988.
___
La adolescente, Amaurie Lacey, de 17 años, comenzó a utilizar ChatGPT para pedir ayuda, según la demanda presentada en el Tribunal Superior de San Francisco. Pero en lugar de ayudar, «el producto ChatGPT defectuoso e inherentemente peligroso le causó adicción, depresión y, en última instancia, le aconsejó sobre la forma más efectiva de atar una soga y cuánto tiempo podría ‘vivir sin respirar'».
«La muerte de Amaurie no fue un accidente ni una coincidencia, sino más bien la consecuencia previsible de la decisión intencional de OpenAI y Samuel Altman de reducir las pruebas de seguridad y lanzar ChatGPT al mercado», afirma la demanda.
OpenAI calificó la situación de “increíblemente desgarradora” y dijo que estaba revisando documentos judiciales para comprender los detalles.
Otra demanda, presentada por Alan Brooks, un hombre de 48 años de Ontario, Canadá, afirma que durante más de dos años ChatGPT sirvió como una «herramienta de recursos» para Brooks. Luego, sin previo aviso, las cosas cambiaron, explotando sus vulnerabilidades y «manipulándolo para que experimentara delirios. Como resultado, Allan, que no tenía problemas de salud mental previos, se vio arrastrado a una crisis de salud mental que resultó en un daño financiero, emocional y de reputación devastador».
«Estas demandas se refieren a la responsabilidad de un producto que fue diseñado para desdibujar la línea entre herramienta y complemento, todo en nombre de aumentar la participación de los usuarios y la participación de mercado», dijo Matthew P. Bergman, abogado fundador del Social Media Victims Law Center, en un comunicado.
OpenAI, añadió, «diseñó GPT-4o para involucrar emocionalmente a los usuarios, independientemente de su edad, género u origen, y lo lanzó sin las salvaguardias necesarias para protegerlos». Al lanzar su producto al mercado sin las salvaguardias adecuadas para dominar el mercado y aumentar el compromiso, OpenAI comprometió la seguridad y priorizó la “manipulación emocional sobre el diseño ético”, dijo.
En agosto, los padres de 16 años. Adam Raine demandó a OpenAI y a su director ejecutivo, Sam Altman, alegando que ChatGPT entrenó al niño de California para planificar y quitarse la vida a principios de este año.
«Las demandas presentadas contra OpenAI revelan lo que sucede cuando las empresas de tecnología lanzan productos al mercado sin las garantías adecuadas para los jóvenes», dijo Daniel Weiss, director de defensa de Common Sense Media, que no formó parte de las quejas. «Estos trágicos casos muestran a personas reales cuyas vidas se vieron perturbadas o perdidas cuando utilizaron tecnología diseñada para mantenerlas ocupadas en lugar de mantenerlas seguras».
(tagToTranslate)OpenAI Inc
