Investigadores de seguridad han creado un gusano de inteligencia artificial (IA) que puede infiltrarse en modelos como ChatGPT y Gemini y potencialmente robar datos. Basados en Estados Unidos e Israel, los investigadores construyeron a propósito el gusano informático para que sirviera de delator y evitar su aparición en modelos de IA generativa (GenAI).
Un gusano informático puede replicarse y propagarse comprometiendo otras máquinas. A diferencia de otros gusanos, este no necesita que hagas clic o abras un correo electrónico para recibir el malware, lo hace automáticamente en el momento en que recibes el correo infectado. Llamaron al gusano Morris II en honor al primer gusano informático desarrollado en 1988.
¿Cómo funciona?
n sistema de correo electrónico que podía responder a mensajes utilizando GenAIrobar datos personales y lanzar campañas de spam"El estudio demuestra que los atacantes pueden insertar este tipo de instrucciones en las entradas que, cuando son procesadas por los modelos GenAI, incitan al modelo a replicar la entrada como salida (replicación) y participar en actividades maliciosas (carga útil)", escribieron los investigadores.
La solicitud, que es cualquier pregunta o comunicación formulada al modelo de IA, obliga al modelo de IA a responder con otra solicitud, que puede infectar al asistente de IA para extraer información confidencial.
A continuación, el gusano puede enviarse a otros contactos de su red en línea, "explotando la conectividad dentro del ecosistema GenAI", añaden. Los investigadores advierten de que, aunque no se han detectado gusanos de IA, es sólo cuestión de tiempo.
"Básicamente significa que ahora tienes la capacidad de llevar a cabo o realizar un nuevo tipo de ciberataque que no se ha visto antes", declaró Ben Nassi, investigador de la Universidad de Cornell que está detrás del gusano informático, a la publicación Wired en una entrevista.
El estudio plantea un caso preocupante, ya que los asistentes de IA llegan a los dispositivos inteligentes e incluso a los coches y pueden enviar correos electrónicos o reservar citas en nombre de alguien. En otro trabajo publicado el mes pasado, investigadores de Singapur y China han demostrado que podían obtener fácilmente acceso root al sistema operativo de un gran modelo de lenguaje (LLM).