OpenAI ha tomado recientemente medidas contra los ciberdelincuentes que explotan su plataforma ChatGPT para facilitar los ciberataques.
La compañía anunció que detuvo tres esfuerzos coordinados de piratería de Rusia, Corea del Norte y China, que utilizaban el chatbot con fines maliciosos, incluida la creación de malware y campañas de phishing.
«Estas cuentas parecen estar afiliadas a grupos criminales de habla rusa, ya que las observamos publicando evidencia de sus actividades en un canal de Telegram dedicado a dichos actores», dijo OpenAI en su actualización de octubre de 2025.
El lado oscuro de la inteligencia artificial generativa
Este hallazgo resalta el riesgo del uso dual de grandes modelos de lenguaje (LLM) como ChatGPT y otros como herramientas poderosas que pueden explotarse tanto para ganancias legítimas de productividad como para delitos cibernéticos.
El uso indebido de la IA generativa para el desarrollo de malware, campañas de ingeniería social y robo de información es una preocupación creciente para los equipos de seguridad y los responsables políticos.
El primer grupo interrumpido fue un actor de habla rusa que desarrollaba un troyano de acceso remoto (RAT) y un ladrón de credenciales.
Aunque ChatGPT se negó a generar código explícitamente malicioso, el autor lo utilizó para crear fragmentos de código modulares, como scripts de ofuscación y rutinas de filtración de datos, que luego se combinaron en malware funcional.
Un clúster norcoreano, supuestamente vinculado a una campaña identificada por Trellix en agosto de 2025, utilizó ChatGPT para admitir malware y una infraestructura de comando y control (C2).
Estos actores han experimentado con configuraciones de Windows y macOS, patrones de phishing y técnicas de enlace de API para apuntar a entidades diplomáticas y gubernamentales.
El tercer grupo, asociado con el grupo chino UNK_DropPitch, aprovechó ChatGPT para crear contenido de phishing multilingüe y desarrollar puertas traseras dirigidas a la industria de semiconductores taiwanesa. Según OpenAI, este grupo era «técnicamente competente pero poco sofisticado».
La inteligencia artificial mejora las viejas tácticas de ataque
Cada actor buscó utilizar ChatGPT para acelerar los flujos de trabajo de ataque existentes en lugar de inventar nuevas capacidades ofensivas.
Los operadores rusos iteraron su código en múltiples sesiones de ChatGPT para perfeccionar la funcionalidad RAT. Los piratas informáticos norcoreanos utilizaron inteligencia artificial para simular señuelos de phishing y automatizar scripts de distribución de malware.
Mientras tanto, cuentas vinculadas a China generaron mensajes de phishing en inglés, chino y japonés y buscaron formas de automatizar la ejecución remota a través de canales HTTPS.
Fuera de estos tres grupos principales, OpenAI también identificó redes más pequeñas de Camboya, Myanmar y Nigeria que intentaban utilizar ChatGPT para estafas en línea y campañas de influencia.
Según se informa, algunas cuentas vinculadas a operaciones relacionadas con el Estado chino buscaban analizar datos de las redes sociales y generar material de propaganda sobre minorías étnicas y cuestiones geopolíticas.
Mitigar el riesgo de uso indebido de la IA
Las acciones de OpenAI incluyeron prohibir cuentas infractoras, fortalecer los sistemas de monitoreo y compartir hallazgos con socios de seguridad.
La compañía reiteró que sus LLM están construidos con protecciones en capas para bloquear solicitudes maliciosas, aunque los actores persistentes a veces intentan eludir estas restricciones mediante la generación de fragmentos de código.
Para reducir la exposición a amenazas impulsadas por la IA y fortalecer la postura general de seguridad, las organizaciones deben implementar las siguientes medidas:
- Monitorear y detectar amenazas: Supervise los ataques impulsados por IOC, RAT y AI utilizando herramientas EDR y SIEM.
- Aplicar controles de acceso: Aplique privilegios mínimos, MFA y segmentación de red para limitar el movimiento lateral.
- Fortalecer los sistemas– Protege los entornos de desarrollo y de punto final, las aplicaciones incluidas en la lista blanca y las dependencias de actualización.
- Gobernando el uso de la IA: Defina políticas de IA, supervise la actividad y registre solicitudes de responsabilidad.
- Capacitar a los empleados: Capacite al personal para detectar mensajes de phishing sospechosos.
- Colabora y prueba: Comparta inteligencia sobre amenazas y ejecute ejercicios de respuesta a incidentes y equipos rojos centrados en la IA.
El informe de OpenAI destaca cómo los malos actores están «pegando la IA a viejos patrones» para avanzar más rápido, no necesariamente para innovar.
A medida que las capacidades generativas de IA se extienden entre las industrias, los defensores deben asumir que los adversarios utilizarán herramientas similares para reconocimiento, asistencia de codificación y manipulación psicológica.
Dado que los atacantes recurren cada vez más a la IA para engañar y manipular, herramientas de detección de deepfakes se han convertido en una línea de defensa clave.
