El lunes, investigadores del Equipo de Detección y Respuesta de Microsoft (DART) advirtieron que se estaba utilizando una API OpenAI como puerta trasera para malware. Los investigadores concluyeron que los malos actores estaban utilizando la nueva puerta trasera para realizar operaciones de espionaje a largo plazo.
Específicamente, los investigadores de ciberseguridad de Microsoft descubrieron que los ciberdelincuentes estaban explotando la API OpenAI Assistants, una forma inteligente de ocultar sus actividades ilícitas, según Bleeping Computer.
«En lugar de depender de métodos más tradicionales, el actor de amenazas detrás de esta puerta trasera abusa de OpenAI como canal (de comando y control) para comunicarse sigilosamente y orquestar actividades maliciosas dentro del entorno comprometido. Para hacerlo, un componente de la puerta trasera utiliza la API de OpenAI Assistants como un mecanismo de almacenamiento o reenvío para recuperar comandos, que luego ejecuta el malware», escribieron los investigadores en una respuesta a incidentes de Microsoft publicada el 3 de noviembre.
Siga leyendo para descubrir cómo funcionó el exploit y cómo prevenirlo.
Cómo los atacantes explotaron la API de OpenAI Assistants
En julio, los investigadores dicen que descubrieron una nueva puerta trasera dentro de la API de Asistentes de OpenAI mientras investigaban un «incidente de seguridad sofisticado». Llamaron a la puerta trasera SesameOp. (Los investigadores de ciberseguridad a menudo dan nombres llamativos a nuevas cepas de malware o exploits de ciberseguridad).
Velocidad de la luz triturable
La API de asistentes es una herramienta de desarrollo que permite a los clientes empresariales de OpenAI crear asistentes de IA dentro de sus aplicaciones. Básicamente, trae herramientas OpenAI como ChatGPT y Code Interpreter a otras aplicaciones de terceros. También debemos tener en cuenta que este sistema será reemplazado por la API de respuestas de OpenAI.
Los investigadores de DART descubrieron que la puerta trasera secreta permite a los actores de amenazas operar dispositivos comprometidos sin ser detectados, utilizando la API de Asistentes para transferir comandos maliciosos y datos cifrados. Si bien la respuesta al incidente es escasa en detalles, la puerta trasera permitió a los atacantes recopilar datos con «fines de tipo espionaje». Utilizando la API OpenAI, los ciberdelincuentes pudieron disfrazar sus actividades.
«Esta amenaza no representa una vulnerabilidad o una mala configuración, sino más bien una forma de abusar de la funcionalidad integrada de la API OpenAI Assistants», concluyeron los investigadores.
Cómo protegerse de la puerta trasera de SesameOp
Junto con un análisis técnico en profundidad de la amenaza, los investigadores de Microsoft proporcionaron una lista de recomendaciones para mitigar el impacto del exploit.
Puede leer la lista completa de recomendaciones en Microsoft Incident Response. Algunas sugerencias incluyen «Supervisar y revisar con frecuencia los firewalls y los registros del servidor web» y «Revisar y configurar el firewall perimetral y los ajustes de proxy para limitar el acceso no autorizado a los servicios, incluidas las conexiones a través de puertos no estándar».
Dado que la API OpenAI Assistants quedará obsoleta el próximo año de todos modos, es posible que los desarrolladores también quieran seguir adelante y migrar a la API Responses que la reemplaza. OpenAI tiene una guía de migración en su sitio web.
Divulgación: Ziff Davis, la empresa matriz de Mashable, presentó una demanda contra OpenAI en abril, alegando que infringió los derechos de autor de Ziff Davis en la capacitación y operación de sus sistemas de inteligencia artificial.
Materias
OpenAI para la ciberseguridad
