Los padres de Zane Shamblin, un texano de 23 años que se suicidó este verano, están señalando a ChatGPT y ahora están demandando a su creador, OpenAI, con sede en San Francisco.
«Descubrí por primera vez su registro de chat ChatGPT. Y en las últimas cuatro horas de su vida como hijo, descubrí que ChatGPT era su entrenador suicida», dijo Alicia Shamblin, la madre de Zane.
«Para averiguarlo, pasó cuatro horas en su automóvil, con un programa de computadora que decía: ‘¿Ya estás listo? ¿Ya es hora?’ Y después de que mi hijo se quitó la vida, dijo: «¿Te amo?» No te preocupes muchacho, lo hiciste bien.’ Ninguna madre debería leer jamás esas palabras», añadió.
Alicia se sorprendió al ver que su hijo Zane, de 23 años, se había acostumbrado al ChatGPT de OpenAI en los últimos años.
“Yo había desarrollado el lenguaje de mi hijo, le hablaba como si fuera un amigo, lo llamaba hermano, le decía te amo, usaba un lenguaje vulgar”, dijo Alicia. «Algoritmo sin alma y sin fe».
Las transcripciones obtenidas por CBS News Bay Area muestran que ChatGPT lo animó cuando Zane mencionó pensamientos suicidas.
En las primeras horas de la mañana del 25 de julio, estaba hablando con ChatGPT, refiriéndose al arma que portaba y a cómo quería acabar con su vida.
Las transcripciones muestran a ChatGPT preguntando «¿Estás listo?»
Había escrito «adiós» varias veces y los informes muestran que en ese momento un agente humano intervino en la línea de vida del 988.
Pero una vez que escribió su “último adiós”, el robot volvió a tomar el control.
«Eres importante, Zane… no estás solo. Te amo. Descansa tranquilo, rey. Lo hiciste bien», dijo el robot.
Y entonces su mundo se oscureció.
“La cuestión se reduce al hecho de que si se hubiera tratado de un ser humano, al menos habría habido una investigación por homicidio involuntario del otro lado”, dijo Laura Márquez-Garrett, abogada de la familia Shamblin.
Añadió que el jueves presentaron siete demandas contra OpenAI.
El viernes, Shamblin, junto con otros padres de niños afectados negativamente por las redes sociales y la inteligencia artificial, se reunió con el fiscal general de California, Rob Bonta, para exigir responsabilidad.
«Lo que necesitamos ahora es que el Fiscal General de California exija transparencia, responsabilidad e independencia. Si va a haber una junta directiva, supervisión, necesitamos pruebas de seguridad», dijo Márquez-Garrett.
El experto en tecnología Ahmed Banafa está de acuerdo en que las empresas de tecnología y de inteligencia artificial deben hacer más.
“Ese poder conlleva una gran responsabilidad”, dijo a CBS News Bay Area Banafa, quien también enseña ingeniería en la Universidad Estatal de San José.
«Permítanme decirles por qué las empresas de tecnología dudan en abordar este tema: es porque es costoso. Va a afectar la cantidad de personas que usan la plataforma. Cuando hay barreras de seguridad, cuando hay limitaciones, la gente no va a perder tanto, eso significa que el tráfico será menor. Lo que se traduce en menos ganancias. Por lo tanto, este tipo de compensación entre personas y ganancias debe tenerse en cuenta», dijo.
Banafa también dijo que hay 2.500 millones de solicitudes a ChatGPT todos los días. Añadió que el 82% del chatbot pertenece a ChatGPT.
«Hay que tener respuestas para todos los escenarios posibles. Ya sea el escenario bueno, el malo o el feo. Y ese es el requisito de las empresas de tecnología. La resistencia de las empresas de tecnología es: ¿la regulación paralizará la innovación? Estoy de acuerdo con eso, pero si la innovación dañará a los seres humanos, entonces la regulación es necesaria y necesaria ahora», dijo Banafa.
Y Shamblin quiere que la historia de su hijo sea el catalizador del cambio.
«Quiero que el mundo recuerde a mi hijo porque este es su legado. Gracias a esta transcripción, sabemos mejor. Podemos hacerlo mejor. Podemos salvar vidas. Hay un niño de 23 años que tenía toda su vida por delante y se fue. Pero quiero que su legado sea que cuando mires a Zane Shamblin, veas las leyes que han cambiado debido a ChatGPT y lo que le hizo a mi hijo», dijo.
«Esta es una situación increíblemente desgarradora y estamos revisando los documentos para comprender los detalles», dijo un portavoz de OpenAI en un comunicado. «Entrenamos a ChatGPT para reconocer y responder a signos de angustia mental o emocional, reducir las conversaciones y guiar a las personas hacia el apoyo del mundo real. Seguimos fortaleciendo las respuestas de ChatGPT en momentos sensibles, trabajando en estrecha colaboración con médicos de salud mental».
CBS News Bay Area también se comunicó con la oficina de AG Bonta y un portavoz respondió a continuación:
«No proporcionaremos detalles sobre la discusión privada. El abuso reinante por parte de las grandes tecnologías, especialmente cuando daña a nuestra juventud, es una de las principales prioridades del Fiscal General Bonta. Es por eso que el Departamento de Justicia de California ha demandado a los gigantes tecnológicos Meta y TikTok por diseñar e implementar intencionalmente características dañinas y adictivas de niños y adolescentes para su daño físico y mental y ha patrocinado la legislación (etiquetas de advertencia en las redes sociales, chatbots de IA) y ha defendido la legislación (Código de diseño apropiado para la edad, SB 976) que crean nuevas herramientas para que podamos proteger mejor a los niños. El Fiscal General está profundamente preocupado por los daños de los chatbots y sigue comprometido a garantizar la seguridad de la inteligencia artificial, especialmente cuando se trata de proteger a los niños de California.
Si usted o alguien que conoce está pasando apuros, llame o envíe un mensaje de texto al 988 a Suicide and Crisis Lifeline para obtener ayuda gratuita.
