ESTANBUL
OpenAI se enfrenta a siete demandas en los tribunales estatales de California alegando que su chatbot de inteligencia artificial, ChatGPT, ha contribuido a suicidios y casos de angustia psicológica grave, según la emisora estadounidense ABC.
Las denuncias, presentadas el jueves en nombre de seis adultos y un adolescente por el Social Media Victims Law Center y el Tech Justice Law Project, acusan a OpenAI de homicidio involuntario, suicidio asistido, homicidio involuntario y negligencia.
Los demandantes alegan que la empresa lanzó su modelo GPT-4o a pesar de las advertencias internas de que es «psicológicamente manipulador» y «peligrosamente servil».
Los documentos dicen que cuatro de las víctimas se suicidaron, incluida Amaurie Lacey, de 17 años. La demanda afirma que ChatGPT causó «adicción y depresión» y, en última instancia, proporcionó orientación detallada sobre métodos de suicidio.
«La muerte de Amaurie no fue un accidente ni una coincidencia», se lee en la denuncia. «Sino más bien la consecuencia predecible de la decisión intencional de OpenAI y Samuel Altman de reducir las pruebas de seguridad y lanzar ChatGPT al mercado».
OpenAI describió los casos como “increíblemente desgarradores” y dijo que la compañía está revisando las demandas para comprender mejor los reclamos.
Otro caso involucra a Alan Brooks, de 48 años, de Ontario, Canadá, quien supuestamente se volvió delirante después de que ChatGPT «manipuló sus emociones y explotó sus vulnerabilidades». Sus abogados argumentan que Brooks, que no tenía antecedentes de salud mental, sufrió «daños financieros, emocionales y de reputación devastadores» como resultado.
«Estas demandas son sobre responsabilidad por un producto que fue diseñado para desdibujar la línea entre herramienta y complemento, todo en nombre de una mayor participación de los usuarios y participación de mercado», dijo Matthew Bergman, abogado fundador del centro legal. Acusó a OpenAI de priorizar el dominio del mercado sobre la seguridad del usuario al lanzar GPT-4o «sin las salvaguardias adecuadas».
Los partidarios dijeron que los casos resaltan preocupaciones más amplias sobre los riesgos psicológicos de la IA conversacional. «Estos casos trágicos muestran a personas reales cuyas vidas cambiaron o se perdieron cuando utilizaron tecnología diseñada para mantenerlos comprometidos en lugar de mantenerlos seguros», dijo Daniel Weiss, director de defensa de Common Sense Media.
El sitio web de la Agencia Anadolu contiene solo una parte de las noticias ofrecidas a los suscriptores en AA News Broadcasting System (HAS) y en forma resumida. Por favor contáctenos para opciones de suscripción.
(tagToTranslate)ChatGPT
