El desarrollador de ChatGPT OpenII ha anunciado nuevas características de seguridad para los adolescentes el martes, incluido un sistema de predicción por edad y verificación de la edad de identificación en algunos países.
En una publicación de blog, Sam Altman, CEO de Openi, describió las luchas para equilibrar las prioridades de libertad y seguridad de Openi, diciendo: «Damos prioridad a la seguridad antes de la privacidad y la libertad para los adolescentes; esta es una tecnología nueva y poderosa y creemos que los menores tienen una protección significativa».
Altman escribió que la compañía estaba trabajando para construir un sistema que hubiera tratado de ordenar automáticamente a los usuarios en una de las dos versiones separadas de ChatGPT: una para adolescentes de 13 a 17 y otro para adultos de 18 o más de 18 años.
«En el caso de las dudas, jugaremos de manera segura y predefinida a la experiencia de menores de 18 años», escribió Altman. «En algunos casos o países también podemos solicitar un documento de identidad; sabemos que es un compromiso para los adultos, pero creemos que es un compromiso digno».
La compañía hizo el anuncio horas antes del inicio de una audición del comité judicial del Senado sobre el daños potenciales de los chatbots de IA. El mes pasado, una familia demandó a Openii, diciendo que ChatGPT trabajó como un «entrenador suicida» y condujo a la muerte de su hijo.
En una publicación de blog separada, la compañía ha declarado que lanzará cheques de los padres a fin de mes que permitirán a los padres instruir al ChatGPT cómo responder a sus hijos y ajustar la configuración, como la memoria y las horas de apagón.
Altman también ha observado que ChatGPT no está destinado a personas menores de 12 años, aunque el chatbot actualmente no tiene garantías de que los niños lo usen. OpenII no respondió de inmediato a una solicitud de comentarios sobre niños que usan sus servicios
Altman indicó que la discusión suicida no debe ser completamente censurada por ChatGPT. El chatbot «por defecto no debe proporcionar instrucciones sobre cómo suicidarse, pero si un usuario adulto solicita ayuda para escribir una historia imaginaria que represente suicidio, el modelo debería ayudar con esta solicitud», dijo.
Si una persona marcada por el programa de estimación de la Era de OpenAi expresa la ideación suicida, la compañía «intentará contactar a los padres de los usuarios y, si es incapaz, se comunicará con las autoridades en caso de daños inminentes», escribió.
«No espero que todos estén de acuerdo con estos compromisos, pero dado el conflicto, es importante explicar nuestro proceso de toma de decisiones», escribió Altman en X.
