Openi ha anunciado el martes que está implementando los sistemas para el pronóstico y la verificación de la identidad en un intento de proteger a los menores que usan sus servicios.
El anuncio se produce semanas después de que los padres de un adolescente que se suicidó demandó al gigante de la tecnología por presumiblemente ayudó al hijo a elaborar una nota de suicidio y darle consejos sobre cómo hacerlo de manera más efectiva. El jueves, la Comisión Federal de Comercio ha lanzado una investigación sobre chatbots y seguridad para niños.
En una publicación de blog en el sitio web de Openi, el CEO Sam Altman ha dicho que la compañía «dará prioridad a la seguridad en vista de la privacidad y la libertad para los adolescentes; esta es una tecnología nueva y poderosa y creemos que los menores tienen una protección significativa».
Altman dijo que la compañía está creando un sistema de predicción de edad que adivina la edad de los usuarios en función de la forma en que interactúan con su chatgpt chatbot. En algunos casos, se requerirá la identificación cuando el sistema no pueda determinar definitivamente la edad de un usuario, según la publicación del blog.
«Sabemos que es un compromiso para los adultos, pero creemos que es un compromiso digno», dijo Altman en el puesto.
Cuando ChatGPT no está seguro de que un usuario tenga más de 18 años, se establecerá para configuraciones diseñadas para usuarios menores de 18 años. Estas configuraciones evitarán que la inteligencia generativa artificial debate el suicidio o el autocompledor también en contextos de escritura creativa, dijo la publicación del blog. También crearán un sistema de notificación a través del cual se notificará a los funcionarios de la compañía si el usuario está tratando de discutir el suicidio para que pueda contactar a los padres.
«Si no estamos seguros de la edad de alguien o tenemos información incompleta, tomaremos el camino más seguro y el valor predeterminado a la experiencia de menores de 18 años y daremos a los adultos para demostrar su edad para desbloquear las habilidades de los adultos», dijo una publicación de blog correlacionada.
Futuro registrado
Nube de inteligencia.
Saber más.
