Si está preocupado por la IA en relación con nuestra inminente ruina, no le gustará la noticia de que la tecnología ChatGPT impulsará enjambres de drones asesinos de Anduril. Anduril anunció el miércoles su asociación con la empresa de inteligencia artificial estadounidense más comentada.
Mucha gente notará inmediatamente el repentino giro de OpenAI hacia el lado oscuro. A principios de este año, una serie de salidas de la empresa nos hicieron cuestionar su compromiso con el desarrollo de una IA segura. OpenAI ha decidido abandonar sus creencias sin fines de lucro y buscar ganancias como la mayoría de las empresas de IA.
Asociarse con un contratista de defensa haría que cualquier escéptico de la IA se preocupara aún más por las alguna vez nobles intenciones de OpenAI con respecto al futuro de la IA.
Debo decir que comparto algunas de estas opiniones. No creo que la IA conduzca al fin del mundo en un futuro próximo, pero soy consciente de los diversos riesgos que las diferentes versiones de IA suponen para la sociedad. Dar acceso a la IA a cualquier tipo de arma es uno de esos escenarios. Las cosas pueden salir mal, especialmente con tecnologías incipientes como la inteligencia artificial.
Sin embargo, esto también produce una sensación de alivio. No se equivoque, algunas empresas de IA entrarán en el juego militar, ya sea OpenAI, Google, Anthropic o una entidad diferente. Y probablemente tendrá que suceder tarde o temprano. El beneficio de escuchar que las empresas de IA en el mundo occidental están haciendo esto es exactamente eso: nos enteramos de ello.
Estoy seguro de que las naciones menos democráticas que trabajan en sus propios ejércitos de robots impulsados por IA llevarán a cabo experimentos de IA similares si aún no lo están haciendo. Y no necesariamente descubriremos que está sucediendo antes del hecho. Sin mencionar que la guerra entre Rusia y Ucrania demostró cuán importante y letal puede ser la guerra con drones, y esto fue mucho antes de que ChatGPT se volviera viral.
La participación de la inteligencia artificial en la guerra es inevitable, por mucho que queramos fingir lo contrario. Probablemente ya haya una carrera para conseguir que la IA mejore varios aspectos del ejército antes de que los enemigos puedan tener sistemas similares.
Antes de empezar a preocuparnos por las guerras de IA del futuro, tendremos que esperar y ver qué compartirán Anduril y OpenAI, suponiendo que estén dispuestos a compartir cualquier cosa sobre su trabajo conjunto en drones de IA.
Por ahora, el anuncio utiliza exactamente el tipo de lenguaje que esperaríamos de dicha asociación. El fabricante de drones dice que la asociación estratégica con OpenAI le ayudará a “desarrollar e implementar de manera responsable soluciones avanzadas de inteligencia artificial (IA) para misiones de seguridad nacional”.
¿Cómo funcionará? Bueno, Anduril nos da una idea básica de lo que hará con la tecnología similar a ChatGPT de OpenAI:
La asociación estratégica entre Anduril y OpenAI se centrará en mejorar los sistemas aéreos no tripulados (CUAS) del país y su capacidad para detectar, evaluar y responder a amenazas aéreas potencialmente letales en tiempo real. Como parte de la nueva iniciativa, Anduril y OpenAI explorarán cómo aprovechar modelos de inteligencia artificial de vanguardia para sintetizar rápidamente datos urgentes, reducir la carga de los operadores humanos y mejorar la conciencia situacional. Estos modelos, que se entrenarán en la biblioteca de datos líder en la industria de Anduril sobre amenazas y operaciones CUAS, ayudarán a proteger al personal militar estadounidense y aliado y garantizarán el éxito de la misión.
Anduril también menciona la “carrera acelerada entre Estados Unidos y China por liderar el mundo en el avance de la inteligencia artificial” como motivo para buscar ayuda de organizaciones como OpenAI.
Sam Altman, director ejecutivo del creador de ChatGPT, ofreció una declaración llena de lenguaje tranquilizador sobre la tecnología OpenAI utilizada en el ejército:
OpenAI desarrolla inteligencia artificial para beneficiar a la mayor cantidad de personas posible y apoya los esfuerzos liderados por Estados Unidos para garantizar que la tecnología defienda los valores democráticos. Nuestra asociación con Anduril ayudará a garantizar que la tecnología OpenAI proteja al personal militar de EE. UU. y ayudará a la comunidad de seguridad nacional a comprender y utilizar responsablemente esta tecnología para mantener a nuestros ciudadanos seguros y libres.
Por otro lado, Altman es responsable de provocar que muchos ex desarrolladores de ChatGPT de alto rango encargados de controlar la IA abandonaran la empresa. Hay que tener esto en cuenta cada vez que habla de IA segura, especialmente IA segura para el ejército.
En cuanto a los robots asesinos que impulsarán los modelos de OpenAI, Gizmodo señala que la mayoría de ellos son drones defensivos desarrollados para proteger a los miembros del servicio y los vehículos estadounidenses.
Sin embargo, Anduril también ha fabricado un dron Kamikaze llamado Bolt-M (foto superior) que tiene «potencia de fuego de precisión letal» y es capaz de «efectos devastadores contra objetivos terrestres estáticos o en movimiento». Ese dron funciona con la inteligencia artificial de la empresa. En el futuro, la tecnología de inteligencia artificial de OpenAI también podría desempeñar un papel en este tipo de tecnología ofensiva de drones.
El siguiente vídeo muestra a Bolt-M en acción en varios roles, incluido el de alcanzar un objetivo: