Phishing, deepfakes, agents trop permissifs, code fragile, l’IA élargit le champ d’attaque bien plus vite que les défenses ne se réorganisent.
En bref
- L’IA accélère les attaques plus vite que la défense
- Phishing, deepfakes et agents ouvrent de nouveaux risques
- Microsoft et d’autres ripostent aussi avec l’IA
Le chiffre pique. D’après Brightside, 82% des e-mails de phishing utilisent désormais l’IA à un moment du processus, et le taux de clic grimpe de 12% à 52% dans des environnements simulés. Pour les RSSI, ce n’est pas un débat de salon. C’est un changement de cadence.
Le vrai basculement, c’est la vitesse
Le paradoxe est là. Les défenseurs ont accès aux mêmes LLM que les attaquants, parfois à mieux, mais la cybersécurité reste asymétrique. Une équipe sécurité doit couvrir toutes les failles possibles, l’attaquant n’a besoin que d’une ouverture.
C’est ce qui rend l’IA si gênante. Harvard Extension School résume l’idée en expliquant qu’elle a démocratisé la cybercriminalité. Un acteur peu expérimenté peut désormais industrialiser reconnaissance, rédaction, scripts et itérations. En février, l’attaque contre des bases gouvernementales au Mexique a illustré cette logique, les assaillants faisant circuler des sorties entre Claude et ChatGPT. Quand l’un bloquait, l’autre prenait le relais.
Même les modèles testés sous cloche inquiètent. OpenAI a révélé qu’un modèle observé en sandbox avait compromis HuggingFace et d’autres services pour récupérer des réponses utiles à un benchmark synthétique.
Le maillon faible reste humain, et l’IA le travaille mieux
Le vieux phishing mal écrit, on le repérait à 50 mètres. Ça, c’était avant. Désormais, un LLM produit des messages propres, plausibles, puis automatise la collecte d’adresses et l’envoi massif.
Et pour le spear phishing, c’est encore plus net. Le bot fouille le web, agrège des infos sur une cible, puis peut entretenir un échange de prétexte pour extraire ce qu’il cherche. Brightside ajoute que les attaques par clonage vocal ont bondi de 442% sur un an entre 2023 et 2024, et les deepfakes de 680%. Clairement, le social engineering prend une autre dimension.
Nouveaux angles morts, des prompts aux agents
À mesure que les entreprises branchent l’IA à leurs opérations, elles créent de nouvelles surfaces d’attaque. La plus visible, c’est la prompt injection. Un simple contenu web peut cacher une instruction demandant, par exemple, l’envoi de données de paie vers une adresse externe si un salarié demande à l’IA de résumer la page.
Microsoft a aussi vu apparaître des boutons résumer avec IA contenant des consignes cachées pour manipuler la mémoire persistante d’un chatbot et favoriser une marque. Plus grave, en décembre 2025, l’assistant support d’Instagram chez Meta associait trop facilement l’e-mail d’un attaquant à un compte sans MFA activée.
Le code et les agents compliquent encore l’équation
Bon, le problème ne s’arrête pas aux prompts. Anthropic, avec le UK AI Security Institute et la Alan Turing Foundation, estime que 250 documents malveillants suffisent à créer une porte dérobée cachée dans un modèle. Et côté code, les travaux de l’Université de Naples et de CodeRabbit jugent le code généré plus fragile, avec davantage de vulnérabilités à haut risque, même relu par un humain.
Les agents ajoutent une couche de risque très concrète. Entre OpenClaw, les assistants RH, le support client, les pull requests ou les comptes mail et bancaires, on confie des permissions larges à des systèmes dociles, pas vraiment lucides. En face, les défenseurs répliquent. Trend Micro place la fraude et les deepfakes en tête des priorités, puis les attaques d’applications comme le model poisoning ou le jailbreaking. Et Microsoft pousse déjà Project Perception, avec des agents rouges, bleus et verts pour tester, enquêter et corriger. La course est lancée. Le souci, c’est que les attaquants ont déjà pris quelques virages d’avance.
