Vol de données par distillation de modèles d'IA
Les agences américaines de renseignement et de cybersécurité ont émis un avertissement majeur concernant l'extraction systématique de technologies propriétaires à partir des modèles d'IA de pointe américains. Six entreprises chinoises d'IA sont accusées de mener des attaques de distillation à l'échelle industrielle contre des plateformes comme OpenAI, Anthropic, Google Gemini et Grok depuis la fin 2024.
Ce que cela signifie pour les entreprises :
- Risque de propriété intellectuelle : La distillation permet aux adversaires de capturer les processus de raisonnement et les schémas de sortie pour entraîner leurs propres modèles concurrents à une fraction du coût de développement.
- Menaces IA en escalade : Google et d'autres experts avertissent que l'IA confère désormais aux attaquants disposant de peu de ressources des capacités de niveau étatique, permettant l'automatisation de cyberattaques complexes.
- Détournement d'identifiants : Les criminels utilisent de plus en plus des voleurs d'informations (infostealers) pour récolter des jetons d'IA rejouables, qui peuvent contourner l'authentification multifacteur (MFA) afin d'accéder aux comptes d'IA des entreprises et à des données de modèles sensibles.
À mesure que l'intégration de l'IA se développe, les entreprises doivent donner la priorité à la sécurisation de leurs flux de travail d'IA et de leurs processus de récupération de compte, actuellement ciblés comme le « maillon faible » de la sécurité en entreprise.