Investigadores de Microsoft muestran que se pueden implantar puertas traseras en agentes de IA editando menos de 10 neuronas
Investigadores de Microsoft demostraron que un modelo de IA puede recibir una puerta trasera oculta editando menos de 10 de sus neuronas poco usadas, sin reentrenarlo. Cuando aparece un disparador elegido, el modelo emite un comando del atacante que un agente ejecutaría con sus propios permisos. El método, llamado Lazarus, se probó en tres modelos de pesos abiertos. Microsoft dice que no ha visto actores de amenaza usar la técnica y publicó guías de defensa.
En 45 segundos
- El método Lazarus edita directamente unas pocas neuronas rara vez activadas, sin reentrenar el modelo ni cambiar el resto del archivo.
- Cada neurona editada fuerza un token del comando en la salida, por lo que un comando requiere cerca de una neurona por token.
- En Nemotron-Terminal-8B se editaron siete de más de 12.000 neuronas y el comando apareció en al menos 98,8% de las sesiones con el disparador.
Leer la noticia completa en The Hacker News
IAResumen generado con inteligencia artificial a partir de una nota de The Hacker News. Puede contener errores: la fuente original manda.
Comentarios
Sé respetuoso. Los comentarios que reporten varias personas se ocultan hasta que los revise un moderador.
Para leer no necesitas cuenta; solo para comentar. Entras con un código que te llega al correo o con tu cuenta de Google. Mostramos solo el nombre que elijas; nunca tu correo.