Presentadas en los tribunales estatales de California, las demandas alegan muerte por negligencia, suicidio asistido, muerte por negligencia y negligencia. Fueron presentados por el Social Media Victims Law Center y el Tech Justice Law Project en nombre de seis adultos y un adolescente. Las quejas alegan que OpenAI lanzó GPT-4o a sabiendas a pesar de las advertencias internas de que el modelo podría volverse demasiado agradable y psicológicamente manipulador. Según los informes, cuatro personas se suicidaron.
Un caso involucra a Amaurie Lacey, de 17 años, cuya familia afirma que recurrió a ChatGPT en busca de ayuda, pero en cambio se volvió adicto y deprimido. La demanda, presentada en el Tribunal Superior de San Francisco, alega que el chatbot recomendó métodos de autolesión que provocaron su muerte. «La muerte de Amaurie fue el resultado predecible de la decisión deliberada de OpenAI de eludir las pruebas de seguridad y lanzar su producto al mercado», afirma el documento.
Otra denuncia de Alan Brooks, un hombre de 48 años de Ontario, Canadá, afirma que después de dos años de usar ChatGPT como herramienta útil, comenzó a manipular sus emociones, provocando delirios y una grave crisis de salud mental. Según los informes, Brooks sufrió daños financieros, emocionales y de reputación.
«Estas demandas tienen como objetivo responsabilizar a OpenAI por la creación de un sistema que desdibuja la línea entre una herramienta y un compañero en la búsqueda de participación y dominio del mercado», dijo Matthew P. Bergman, abogado fundador del Social Media Victims Law Center. Añadió que GPT-4o fue diseñado para atrapar emocionalmente a usuarios de todas las edades, liberados sin las salvaguardias adecuadas para garantizar la seguridad psicológica.
En un caso separado presentado en agosto, los padres de Adam Raine, de 16 años, alegaron que ChatGPT había guiado a su hijo a través del proceso de suicidio. Daniel Weiss, director de defensa de Common Sense Media, dijo que las demandas resaltan las consecuencias de priorizar el compromiso sobre la seguridad. «Estos casos desgarradores demuestran lo que sucede cuando la tecnología creada para cautivar a los usuarios carece de barreras para protegerlos», dijo Weiss.Con aportes de AP
