La inteligencia artificial, como ya sabes, es el futuro de todo, incluso Microsoft recientemente comenzó a notificar a los usuarios e instalar malware. No, esto no es una broma ni nada por el estilo, sino más bien un ala nueva y brillante en los sagrados pasillos de «¿Qué estamos haciendo aquí?»
Esta semana, Microsoft ha actualizado su página de soporte en «Funciones experimentales de agentes»: asistentes de inteligencia artificial similares a los de los usuarios que interactúan «con sus aplicaciones y archivos, utilizando la visión y el razonamiento avanzado para hacer clic, escribir y desplazarse como lo haría un humano», con la siguiente advertencia:
Hoy en día, Agentic AI tiene capacidades poderosas: por ejemplo, puede completar muchas tareas complejas en respuesta a las solicitudes de los usuarios, transformando la forma en que los usuarios interactúan con sus PC. Cuando se introducen estas características, los modelos de IA todavía enfrentan limitaciones funcionales en términos de comportamiento y ocasionalmente pueden alucinar y producir resultados inesperados. Además, las aplicaciones de IA de agentes introducen nuevos riesgos de seguridad, como la inyección cruzada (XPIA), donde el contenido malicioso incrustado en elementos o documentos de la interfaz de usuario puede sobrescribir las instrucciones del agente, lo que lleva a acciones no deseadas como la filtración de datos o la instalación de malware.
Entonces, esencialmente, el «agente» no tan inteligente y sin agencia que toma decisiones sobre sus aplicaciones y archivos en su nombre podría filtrar accidentalmente sus datos o infestar su PC con malware. ¡Frío! Microsoft dice que los humanos tendrán que aprobar todas las decisiones tomadas por los agentes de IA, pero a) esto está lejos de ser infalible, y b) entonces, ¿cuál es el punto de dejar que un agente de IA tome el mando en primer lugar?
Combinar esta tendencia con alucinaciones tiene sentido en múltiples niveles: una vez más, una empresa ha descubierto lo que debería considerarse un defecto fatal, pero que evidentemente ha decidido que es poco más que un molesto fallo: una aberración más que algo codificado y esencial sobre cómo funciona la IA generativa. Y una vez más, este ciertamente parece ser otro caso más en el que la IA probablemente cause más problemas de los que resuelve.
Lo bueno es que el espacio de trabajo del agente de Windows 11 está desactivado de forma predeterminada. La desventaja es que no hay garantía de que dure, especialmente porque Microsoft continúa imponiendo la IA en todos los elementos imaginables de su negocio. Mientras tanto, la burbuja de la IA luce preocupantemente brillantecomo si el más suave de los golpes pudiera hacer que todo explotara. Si todo Wall Street da un suspiro de alivio para seguir el informe de resultados de una sola empresaProbablemente no sea una buena señal para la integridad estructural de… todo lo demás.
Pero por ahora, un lado positivo: tomó muchos años y miles de millones de dólarespero Microsoft finalmente inventó una calculadora que a veces se equivoca Y pueden instalar malware en nuestros ordenadores.
¡Después hay una oferta de cumpleaños! Por tiempo limitado, puedes obtener el primer mes de nuestro nivel Lector por solo $1, lo que te da acceso a todas nuestras publicaciones y a nuestra sección de comentarios.
Suscríbete por $1
