Los objetivos son buenos, pero en última instancia dependen de que los usuarios lean cuadros de diálogo que advierten sobre los riesgos y requieren una aprobación cuidadosa antes de continuar. Esto, a su vez, disminuye el valor de la protección para muchos usuarios.
«La advertencia habitual se aplica a mecanismos que dependen de que los usuarios hagan clic en una solicitud de permiso», dijo a Ars Earlence Fernandes, profesor de la Universidad de California en San Diego, que se especializa en seguridad de inteligencia artificial. «A veces estos usuarios no entienden completamente lo que está pasando, o simplemente se acostumbran y hacen clic continuamente en ‘sí’. En ese punto, la frontera de seguridad no es realmente una frontera».
Como lo demostró la ola de ataques «ClickFix», muchos usuarios pueden ser engañados para que sigan instrucciones extremadamente peligrosas. Aunque los usuarios más experimentados (incluido un buen número de comentaristas de Ars) culpan a las víctimas de este tipo de estafas, estos incidentes son inevitables por varias razones. En algunos casos, incluso los usuarios más cuidadosos están cansados o bajo estrés emocional y, como resultado, cometen errores. Otros usuarios simplemente no tienen el conocimiento necesario para tomar decisiones informadas.
La advertencia de Microsoft, dijo un crítico, equivale a poco más que una CYA (abreviatura de Cúbrete el trasero), una maniobra legal que intenta proteger a una parte de su responsabilidad.
«Microsoft (como el resto de la industria) no tiene idea de cómo detener las inyecciones inmediatas o las alucinaciones, lo que lo hace fundamentalmente inadecuado para casi cualquier cosa seria», dijo el crítico Reed Mideke. «¿La solución? Transfiera la responsabilidad al usuario. Al igual que cada chatbot LLM tiene un descargo de responsabilidad: «Ah, por cierto, si lo usas para algo importante, asegúrate de verificar las respuestas», sin importar que no necesitarías el chatbot en primer lugar si supieras la respuesta».
Como indicó Mideke, la mayor parte de las críticas se extienden a las ofertas de IA que otras empresas, incluidas Apple, Google y Meta, están integrando en sus productos. A menudo, estas integraciones comienzan como funciones opcionales y eventualmente se convierten en funciones predeterminadas, ya sea que los usuarios las quieran o no.
