La startup de inteligencia artificial (IA) anunciado Martes (16 de septiembre) que planea crear un sistema de predicción automatizado por edad capaz de determinar si los usuarios de su chatbot tienen más de 18 años, enviando a los usuarios más jóvenes a una versión de chatgpt limitada por edad.
La compañía también afirma que también está trabajando en los cheques de los padres, destinados a lanzar a fines de este mes, lo que permite a los padres conectar sus cuentas con sus cuentas adolescentes y administrar qué características deshabilitar, como la memoria y la cronología de los chats.
«Los adolescentes están creciendo con inteligencia artificial, y es para asegurarse de que ChatGPT los conoce donde están», escribió Openii en su blog. «La forma en que ChatGPT responde a un joven de quince años debe parecer diferente de la forma en que responde un adulto».
La publicación del blog agrega que si la empresa no está segura de la edad de un usuario o tiene información incompleta, «predefinido para la experiencia de menores de 18 años».
Estas nuevas medidas llegan semanas después de una causa de los padres de un adolescente que murió de suicidioacusando al chatbot de alentar las acciones del niño. Los cambios también están teniendo lugar cómo la Comisión Federal de Comercio (FTC) examinar Cómo la inteligencia artificial puede tener un impacto en la salud mental y la seguridad de los niños.
Publicidad: Desplácese para continuar
En un Publicaciones de blog Tímido con el anuncio de OpenAI, el CEO Sam Altman dijo que Operai estaría capacitado para no «participar en discusiones sobre el suicidio o el autocompledor también en un entorno de escritura creativa» y que si alguien menor de 18 años «tiene una idea de suicidio, intentaremos contactar a los padres de los usuarios y, si no es posible, nos comunicaremos con las autoridades en el evento de daños inminentes».
Pymts exploró la importancia de la verificación de la edad a principios de este año en una entrevista con Bryan LewisCEO de IntellericheckAquellos que han afirmado que no hay suficiente protección cuando se trata de verificar a las personas y ayudar a las empresas a asegurarse de que sus usuarios finales sean legítimos.
«Puedes nombrar tantos sitios web», le dijimos a Karen Webster, CEO de Pymnts, «que es Tiktok O un productor de armas, alcohol o pornografía … muchos de ellos solo dicen: «Tienes 18 o más» o «tienes 13 años y más? Haga clic en este botón». No hay evidencia. «
Los efectos de la cadena en esta barra baja para la entrada son sustanciales. Lewis enfatizó que los niños tenían acceso a contenido, desinformación, presentaciones inquietantes, videos, mensajes y opiniones que son perjudiciales para la psique que aún no se han formado por completo. La ansiedad de los niños y los problemas de salud mental lo son para las estrellas.
«Si realmente lo queremos Proteja a nuestra juventud«Agregó Lewis», tenemos que asegurarnos de saber quién soy. »
