Openi ha anunciado hoy que está desarrollando una «experiencia de ChatGPT diferente» a medida para adolescentes, un movimiento que subraya las crecientes preocupaciones sobre el impacto de los chatbots de inteligencia artificiales en la salud mental de los jóvenes.
El nuevo modo adolescente es parte de un impulso de seguridad más amplio de la compañía después de la causa de una familia que declaró que la falta de protecciones de ChatGPT contribuyó a la muerte por el suicidio del hijo adolescente. Los cambios incluyen tecnología de predicción de edad para mantener a los niños menores de 18 años de la versión ChatGPT estándar. Según el anuncio, si el sistema no puede estimar de manera segura la edad de alguien, CHATGPT estará de acuerdo automáticamente con la experiencia de menores de 18 años.
«Damos prioridad a la seguridad en vista de la privacidad y la libertad para los adolescentes; esta es una tecnología nueva y poderosa y creemos que los menores necesitan una protección significativa», escribió Sam Altman, CEO de OpenAi en una publicación de blog.
No se pierda ninguno de nuestros contenido tecnológico imparcial y revisiones basadas en el laboratorio. Agregue CNET como una fuente de Google favorita.
¿Qué hay de nuevo en el modo adolescente de chatgpt?
Operai dice que la versión para adolescentes llegará con límites integrados más rigurosos, como:
- Filtros de contenido: No hay conversación o discusión de Civettula sobre el autocompledor, incluso en un contexto de escritura imaginaria o creativa.
- Respuesta de crisis: Si un adolescente expresa pensamientos suicidas, Openi puede intentar advertir a los padres y en situaciones de emergencia, incluso las autoridades de contacto.
- Controles de los padres: Los padres pueden conectar cuentas, establecer reglas sobre cómo ChatGPT responde y la aplicación de «horas apagadas» cuando la aplicación está fuera de los límites.
(Divulgación: Ziffs Davis, empresa matriz de CNET, en abril presentó una causa contra el fabricante de Chatgpt de OpenII, alegando que violó los derechos de autor de Ziffis en formación y administró sus sistemas de inteligencia artificial).
El contexto más amplio
El anuncio de Openii se produce unas horas antes de una audición del Senado en Washington, DC, que examina la amenaza potencial de IA para los jóvenes. Los legisladores han impulsado a las compañías tecnológicas a la seguridad de los adolescentes que siguen acciones legales que acusan a las plataformas de inteligencia artificial para empeorar las luchas por la salud mental o para brindar asesoramiento perjudicial sobre la salud.
El enfoque de Openii refleja los movimientos anteriores de compañías como Google, que han hecho que los niños de YouTube se salten después de las críticas y la presión regulatoria. La publicación del blog de Altman enmarca la medida como parte de un acto de equilibrio más amplio entre seguridad, privacidad y libertad. Los adultos, según él, deben ser tratados «como adultos» con menos restricciones, mientras que los adolescentes necesitan protección adicional, incluso si esto significa privacidad comprometedora, cómo pedir identificaciones.
Leer también: Openi quiere que obtenga un certificado de chatgpt y encuentre su próximo trabajo
La compañía afirma que para fin de año esta experiencia se centró en los adolescentes implementará. La historia sugiere, sin embargo, que los adolescentes expertos a menudo encuentran soluciones alternativas para tener acceso sin restricciones. Sin duda, será una pregunta si estas barandillas son suficientes para proteger a los adolescentes a cartas tecnológicas que se sienten cómodas con ellos.
Si siente que usted o alguien que conoce está en peligro inmediato, llame al 911 (o la línea de emergencia local de su país) o vaya a una sala de emergencias para obtener ayuda inmediata. Explica que es una emergencia psiquiátrica y solicita a alguien capacitado para este tipo de situaciones. Si está luchando con pensamientos negativos o sentimientos de suicidio, los recursos están disponibles para ayudar. En los Estados Unidos, llama a la línea de vida de la prevención del suicidio nacional en 988.
