Entre una erupción cutánea de suicidios, la compañía detrás de ChatGPT podría comenzar a notificar a la policía a los usuarios de jóvenes que meditan en sus vidas, anunció el CEO y cofundador de la compañía, Sam Altman. El jefe de Openi de 40 años de Openi lanzó la bomba durante una entrevista reciente con el director de Tucker Carlson Conservative Talk Show.
Es «muy razonable para nosotros decir en los casos de jóvenes que hablan de suicidio, en serio, en los que no podemos ponernos en contacto con sus padres, llamamos autoridad», explicó TechTrepreneur. «Ahora sería un cambio porque la privacidad del usuario es realmente importante».
Según los informes, el cambio se produce después de que Altman y Openai fueron demandados por la familia de Adam Raine, un niño de California de 16 años que se suicidó en abril después de ser entrenado por el modelo de aprendizaje de los grandes idiomas. La familia adolescente dijo que el fallecido se le proporcionó «Passbook Passbook By-Tep» sobre cómo suicidarse, incluida la elaboración de una soga para colgarlo y componer una nota de suicidio, el primero en suicidarse.
Después de su muerte prematura, la Compañía de Inteligencia Artificial de San Francisco anunció en una publicación de blog que habría instalado nuevas características de seguridad que permitieron a los padres conectar sus cuentas con sus propias funciones desactivadas como la historia del chat y recibir avisos si el modelo detectara «un momento de dificultad aguda».
Todavía no está claro qué autoridades serán notificadas, o qué información se les proporcionará, de acuerdo con la propuesta de política de Altman. Sin embargo, su anuncio marca una desviación del anterior MO Di Chatgpt para el trato, quien planeó solicitar a quienes mostraron la concepción suicida para «llamar a la línea directa del suicidio», según lo que informó Guardian.
Bajo las nuevas barandillas, el Openi Bigwig dijo que habría bloqueado a los adolescentes tratando de hackear el sistema proponiendo consejos de suicidio bajo la máscara de búsquedas en una historia narrativa o un documento médico.
Altman cree que ChatGPT desafortunadamente podría involucrarse más suicidios de los que nos gustaría creer, alegando que «15,000 personas por semana se suicidan» y que «el 10% del mundo está hablando con Chatgpt».
«Son como 1.500 personas por semana que hablan, suponiendo que es correcto suicidarse y aún suicidarse al final», explicó TechTrepreneur. «Probablemente hablaron de eso. Probablemente no salvamos la vida».
Añadió: «Tal vez podríamos haber dicho algo mejor. Tal vez podríamos haber sido más proactivos.
Desafortunadamente, Raine no es el primer caso altamente anunciado de una persona que se quitó la vida después de que presumiblemente habló con la IA.
El año pasado, Megan García demandó al personaje. AI sobre la muerte de su hijo de 14 años, Sewell Setzer III en 2024-Siustendo, quien se quitó la vida después de haberse enamorado de un chatbot modelado en el personaje de «Game of Thrones» Daenerys Targaryen.
Mientras tanto, CHATGPT se ha documentado al proporcionar un tutorial sobre cómo cortar las muñecas y otros métodos de eharm.
Los expertos en inteligencia artificial atribuyen este desafortunado fenómeno al hecho de que las garantías de ChatGPT tienen un kilometraje limitado: cuanto más larga sea la conversación, mayor será la posibilidad de que el bot sea el ladrón.
«ChatGPT incluye salvaguardas como la guía de personas a la crisis de crisis», dijo un portavoz de OpenII en una declaración después de la muerte de Raine. «Si bien estas garantías funcionan mejor en intercambios comunes y cortos, con el tiempo hemos aprendido que a veces pueden volverse menos confiables en las largas interacciones en las que partes de la formación para la seguridad del modelo pueden degradarse».
Este problema técnico es particularmente alarmante, dada la prevalencia del uso de ChatGPT entre los jóvenes.
Alrededor del 72% de los adolescentes estadounidenses usan la IA como socio, mientras que uno de cada ocho está recurriendo a la tecnología para el apoyo de la salud mental, según una encuesta de sentido de los medios de comunicación.
Para frenar las instancias de una guía insegura de inteligencia artificial, los expertos han recomendado medidas que requieren que la tecnología se someta a pruebas más rigurosas de seguridad antes de estar disponible para el público.
«Sabemos que millones de adolescentes ya están recurriendo a los chatbots para obtener apoyo de salud mental y algunos se encuentran con una guía insegura», dijo al Post Ryan K. McBain, profesor de análisis de políticas en la Escuela de Política Pública de RAND. «Esto subraya la necesidad de una regulación proactiva y pruebas de seguridad rigurosas antes de que estas herramientas se incorporen profundamente a la vida de los adolescentes».
(Toucastotranslate) Tech (T) Chatgpt (T) OpenAi (T) Sam Altman (T) Suicidio (T) Tucker Carlson
