Tengo estos principios, Openi ha reconocido los desafíos de la reconciliación de la privacidad, la libertad y la seguridad en el uso de la IA.
Abierto Él ha esbozado cómo enfrenta tensiones entre la protección de la privacidad, la expansión de la libertad del usuario y la garantía de la seguridad de los adolescentes a medida que la IA se vuelve cada vez más integrada en aspectos personales y sensibles de la vida diaria. La compañía enfatizó que estos principios a veces están en conflicto, pero dijo que su objetivo es ser transparente en las decisiones tomadas.
La privacidad se ha presentado como una prioridad central. OpenII enfatizó que las interacciones de IA se encuentran entre las formas más sensibles de comunicación digital, comparables a las consultas con médicos o abogados. Para salvaguardar esto, la compañía está apoyando a los políticos para la protección privilegiada de las conversaciones de inteligencia artificial. También está desarrollando características de seguridad avanzadas para garantizar que los datos del usuario sigan siendo privados, incluso por los empleados. Existirán excepciones limitadas para situaciones que implican un uso grave inadecuado, riesgos inminentes para la vida o seguridad pública, o amenazas de seguridad de TI a gran escala, que pueden desencadenar la supervisión humana.
Junto a la privacidad, Openi se compromete a apoyar la libertad del usuario. La compañía está trabajando para expandir las formas en que las personas pueden usar el IAS dentro de los grandes límites de seguridad. A los adultos tendrán la flexibilidad de comprometerse con el sistema de manera que se alinee con sus preferencias, incluidos escenarios sensibles o complejos, siempre que estos no causen daños o limiten la libertad de los demás. La compañía ha descrito esto como un esfuerzo para tratar a los adultos con autonomía, ampliando gradualmente el alcance del uso aceptable a medida que la tecnología mejora.
Para los adolescentes, la seguridad tiene precedencia tanto en la privacidad como en la libertad. Openi está creando un sistema de predicción de edad para distinguir entre adultos y menores y incumplirá la experiencia de menores de 18 años en caso de incertidumbre. En algunas jurisdicciones, la identificación puede ser necesaria para verificar la edad, un paso que la compañía considera un compromiso necesario para fortalecer las protecciones. Los usuarios de adolescentes tendrán que enfrentar límites de contenido más riguroso, con el sistema diseñado para no participar en intercambios máximos o discusiones sobre el autocompledor, también en contextos creativos o imaginarios. En los casos en que un menor muestra signos de ideación suicida, OpenNi planea probar el contacto de los padres y, si es necesario, notificar a las autoridades relevantes para evitar daños inminentes.
Tengo estos principios, Openi ha reconocido los desafíos de la reconciliación de la privacidad, la libertad y la seguridad en el uso de la IA. El enfoque de la compañía está modelado por consultas de expertos y refleja la creencia de que dar prioridad a la transparencia ayudará a la compañía a navegar en los complejos compromisos impartidos por las tecnologías emergentes.
