Los propagandistas que buscan influir en las elecciones en todo el mundo han intentado utilizar ChatGPT en sus operaciones, según un informe publicado el miércoles por el creador de la tecnología, OpenAI.
Si bien ChatGPT generalmente se considera uno de los chatbots de inteligencia artificial líderes en el mercado, también modera en gran medida la forma en que las personas usan su producto. OpenAI es la única empresa de tecnología importante que publica repetidamente informes públicos sobre cómo los malos actores han intentado abusar de su producto Large Language Model, o LLM, lo que proporciona una idea de cómo los propagandistas y piratas informáticos criminales o respaldados por el estado han intentado utilizar la tecnología y Puede usarlo con otros modelos de IA.
OpenAI dijo en su informe que este año detuvo a las personas que intentaron usar ChatGPT para generar contenido sobre elecciones en los Estados Unidos, Ruanda, India y la Unión Europea. No está claro si alguno fue visto ampliamente.
En un caso, la compañía describió una operación de propaganda iraní de sitios web de noticias falsos en inglés que pretendían reflejar diferentes posiciones políticas estadounidenses, aunque no está claro si dichos sitios alguna vez obtuvieron una participación sustancial de personas reales. Según el informe, también utilizaron ChatGPT para crear publicaciones en las redes sociales en apoyo de dichos sitios.
En una llamada a los medios de comunicación el mes pasado, funcionarios de inteligencia estadounidenses dijeron que todos los propagandistas que trabajan para Irán, así como para Rusia y China, han incorporado inteligencia artificial en sus operaciones de propaganda en curso dirigidas a los votantes estadounidenses, pero ninguno parece haber tenido mucho éxito.
El mes pasado, Estados Unidos acusó a tres piratas informáticos iraníes que creía eran responsables de una operación en curso para piratear y divulgar documentos de la campaña presidencial de Donald Trump.
Otra operación que OpenAI dice que está vinculada a personas en Ruanda se utilizó para crear publicaciones partidistas en Formaban parte de una campaña más amplia que repetidamente enviaba spam a publicaciones a favor del partido en X, una campaña de propaganda documentada que publicaba mensajes (a menudo los mismos pocos mensajes) más de 650.000 veces.
La compañía también bloqueó dos campañas este año: una creó comentarios en las redes sociales sobre las elecciones parlamentarias europeas y otra creó contenido sobre las elecciones generales de la India, muy poco después de que comenzaran. Ninguno de los dos tuvo ninguna interacción sustancial, dijo OpenAI, pero tampoco está claro si las personas detrás de las campañas simplemente pasaron a otros modelos de IA creados por diferentes empresas.
OpenAI también describió cómo un grupo de piratas informáticos iraní en particular que atacaba plantas de tratamiento de agua y aguas residuales intentó repetidamente utilizar ChatGPT en múltiples etapas de sus operaciones.
Un portavoz de la misión de Irán ante las Naciones Unidas no respondió a un correo electrónico en busca de comentarios sobre la campaña de piratería de la planta de agua o la operación de propaganda.
El grupo, llamado CyberAv3ngers, parece haber permanecido inactivo o disuelto después de que el Departamento del Tesoro lo autorizara en febrero. Antes de eso, era conocido por piratear plantas de tratamiento de agua y aguas residuales en Estados Unidos e Israel que utilizan un programa de software israelí llamado Unitronics. No hay indicios de que los piratas informáticos hayan dañado alguna vez los sistemas de agua estadounidenses, pero sí han violado varias instalaciones estadounidenses que utilizaban Unitronics.
Las autoridades federales dijeron el año pasado que los piratas informáticos a menudo podían ingresar a los sistemas de Unitronics utilizando nombres de usuario y contraseñas predeterminados. Según el informe de OpenAI, también intentaron convencer a ChatGPT para que les proporcionara credenciales de inicio de sesión predeterminadas para otras empresas que proporcionan software de sistemas de control industrial.
También le pidieron a ChatGPT varias otras cosas en esa operación, incluida información sobre qué enrutadores de Internet se usan más comúnmente en Jordania y cómo encontrar vulnerabilidades que un pirata informático podría explotar, y ayuda con múltiples preguntas de codificación.
OpenAI también informó sobre algo que los expertos en ciberseguridad y los expertos chinos sospechaban desde hace mucho tiempo, pero que no se hizo público explícitamente. Los piratas informáticos que trabajan para China -país al que Estados Unidos acusa habitualmente de realizar ciberespionaje en beneficio de sus propias industrias y que ha priorizado la inteligencia artificial- han emprendido una campaña para intentar piratear cuentas de correo electrónico con datos personales y corporativos de empleados de OpenAI.
La campaña de phishing no tuvo éxito, según el informe. Un portavoz de la embajada china en Washington no respondió de inmediato a una solicitud de comentarios.
Un tema recurrente en el uso de la IA por parte de los malos actores es que a menudo intentan automatizar diferentes partes de su trabajo, pero hasta ahora la tecnología no ha llevado a avances importantes en la piratería o la creación de propaganda efectiva, dijo Ben Nimmo, investigador principal de OpenAI para inteligencia e investigaciones.
«Parece que los actores de amenazas todavía están experimentando con diferentes enfoques de IA, pero no hemos visto evidencia de que esto conduzca a un progreso significativo en su capacidad para construir audiencias virales», dijo Nimmo.