Robo de datos mediante destilación de modelos de IA
Las agencias de inteligencia y ciberseguridad de EE. UU. han emitido una importante advertencia sobre la extracción sistemática de tecnología propietaria de los modelos de IA de vanguardia estadounidenses. Se acusa a seis empresas chinas de IA de llevar a cabo ataques de destilación a escala industrial contra plataformas como OpenAI, Anthropic, Google Gemini y Grok desde finales de 2024.
Qué significa esto para las empresas:
- Riesgo de propiedad intelectual: La destilación permite a los adversarios capturar procesos de razonamiento y patrones de salida para entrenar sus propios modelos competidores a una fracción del costo de desarrollo.
- Escalada de amenazas de IA: Google y otros expertos advierten que la IA ahora otorga a atacantes con menos recursos capacidades de nivel de estado-nación, permitiendo la automatización de ciberataques complejos.
- Secuestro de credenciales: Los delincuentes utilizan cada vez más infostealers (robadores de información) para extraer tokens de IA reproducibles, que pueden eludir la autenticación multifactor (MFA) para acceder a cuentas corporativas de IA y datos sensibles de los modelos.
A medida que crece la integración de la IA, las empresas deben priorizar la seguridad de sus flujos de trabajo de IA y sus procesos de recuperación de cuentas, que actualmente se están convirtiendo en objetivo como el "eslabón más débil" de la seguridad empresarial.