IA et cybersécurité : les 3 erreurs qui exposent votre entreprise

L’intelligence artificielle n’est pas sans danger. Deepfakes, fuites, biais : la DGSI alerte sur les dérives déjà constatées en entreprise. Formation, encadrement et souveraineté numérique deviennent des enjeux critiques de sécurité.

L’essor de l’intelligence artificielle, entre opportunités et risques majeurs

L’irruption massive de l’intelligence artificielle dans les pratiques professionnelles bouleverse les équilibres. Qu’il s’agisse de gains de productivité spectaculaires ou d’un renouveau de l’automatisation, les promesses ne manquent pas. Pourtant, si la fascination pour ces technologies prédomine, le revers se révèle tout aussi saisissant : en arrière-plan, des inquiétudes grandissent quant à la confidentialité des données, la prise de décision automatisée ou encore la capacité à distinguer le vrai du faux.

À ce titre, le récent « Flash Ingérence 2025 » diffusé par la DGSI, met en garde contre une réalité déjà palpable sur le terrain. Plusieurs entreprises françaises ont vu leurs dispositifs de sécurité ébranlés par un usage non maîtrisé des IA génératives.

Vulnérabilités concrètes et incidents révélateurs

Les incidents recensés par la DGSI illustrent cette nouvelle donne. Ainsi, dans une société stratégique hexagonale, certains collaborateurs ont utilisé un outil d’IA générative grand public, développé à l’étranger,  pour traduire des documents sensibles sans validation hiérarchique. Conséquence : ces données confidentielles se sont retrouvées stockées hors du territoire national, soumises à d’autres juridictions et exposées au risque d’exploitation malveillante.

Un autre exemple dévoile une confiance excessive accordée à un algorithme lors de l’évaluation des partenaires commerciaux. En s’en remettant aveuglément au rapport délivré par cet outil étranger sans vérification humaine complémentaire, la société s’est exposée à des biais, voire à des décisions inéquitables ou discriminatoires.

Le cas le plus frappant reste peut-être celui d’une tentative d’escroquerie par hypertrucage. Un responsable industriel français a été contacté en visioconférence par un individu imitant parfaitement, grâce à l’IA l’apparence et la voix du dirigeant du groupe. Sur le point d’exécuter un transfert de fonds frauduleux, il a heureusement mis fin à l’appel in extremis.

Mécanismes d’ingérence et sophistication croissante des attaques

La sophistication offerte par l’IA générative n’échappe pas aux acteurs malveillants. Outre la création automatisée de contenus frauduleux (phishing ou faux sites), les cybercriminels exploitent désormais :

• L’analyse fine des données publiques pour personnaliser les arnaques (spear phishing).
• La conception de deepfakes visant à manipuler ou extorquer.
• L’altération subtile des données pour tromper les algorithmes (« attaques adversariales »).
• L’empoisonnement volontaire des jeux de données pour biaiser un système.

Face à ces défis multiformes, chaque entreprise doit repenser sa culture numérique.

Pistes préventives et recommandations concrètes

En réaction, la DGSI formule plusieurs préconisations phares : encadrer strictement l’usage interne des outils d’IA générative, privilégier les solutions hébergées localement ou développées en France — afin d’assurer souveraineté et respect du RGPD  et sensibiliser régulièrement les équipes aux subtilités techniques ainsi qu’aux dangers éthiques liés à ces technologies. Rappelons que toute suspicion liée à une utilisation abusive ou détournée doit être signalée sans délai aux autorités compétentes via [email protected].

Au fond, si l’intégration raisonnée de l’IA promet beaucoup, elle appelle aussi prudence et discernement : formation continue, contrôle humain et sécurisation renforcée demeurent plus que jamais indispensables pour protéger notre tissu économique face aux risques émergents.