Cybersécurité et IA : une nouvelle frontière à sécuriser

il y a 2 heures

8 min de lecture

L'IA n'invente pas une nouvelle cybersécurité : elle accélère tout, l'attaque comme la défense, et c'est l'humain qui doit garder la main.

C'est la thèse qui se dégageait de l'afterwork organisé le 22 septembre par l'EFREI Bordeaux et le CEFCYS Nouvelle-Aquitaine, avec deux conférences et une table ronde sur les talents cyber de demain. Mais elle mérite d'être poussée plus loin. L'IA n'est plus seulement un outil de plus dans la boîte : elle modifie en même temps les capacités offensives, les capacités défensives et le fonctionnement même des systèmes d'information.

Et « garder la main » ne veut pas dire tout faire soi-même. Contrôler, superviser, valider et exécuter sont quatre choses différentes. C'est précisément là que le débat devient intéressant, loin du confortable « l'IA ne remplacera jamais l'humain ».

La vraie question est plus exigeante : si l'IA peut exécuter une part croissante du travail cyber, qu'est-ce qui doit absolument rester sous contrôle humain, et pourquoi ?

1. L'IA accélère la cybersécurité, dans les deux camps

Le mot qui résume le mieux l'effet de l'IA sur la cyber, c'est amplificateur. Elle ne change pas les règles du jeu, elle change sa vitesse.

Côté attaque, les chiffres de l'ENISA cités pendant la soirée sont vertigineux : une quinzaine de minutes entre la divulgation d'une faille et son exploitation, 72 minutes entre l'accès initial et l'exfiltration des données. La fenêtre qui se comptait autrefois en mois, voire en années, se compte désormais en minutes. Un exemple concret l'illustre : face à une faille de réinitialisation de mot de passe dans un outil open source de gestion des identités, un agent IA a produit une preuve d'exploitation en une trentaine de minutes, à partir d'une seule instruction. Ce qui demandait hier de lire le correctif, comparer le code et écrire l'exploit à la main tient aujourd'hui dans une pause café.

Ce qui est vrai pour une équipe défensive encadrée l'est encore plus pour un attaquant, qui n'a ni conformité, ni validation, ni éthique à respecter, et qui utilise des modèles sans garde-fous. L'asymétrie historique entre attaque et défense ne disparaît pas : elle s'accentue.

Côté défense, l'IA apporte des gains réels. Elle détecte plus vite, calibre mieux la criticité des alertes d'un SOC, et le coût moyen d'une violation a baissé de 9 % en 2025 grâce aux défenses pilotées par l'IA, avant de remonter en 2026 sous l'effet des attaques pilotées par l'IA. Les deux camps accélèrent en même temps.

Mais cette accélération crée un nouveau problème : le volume. On passerait d'environ une CVE par jour à quelque 500 pour une organisation équipée d'outils de détection IA de pointe. Toutes ne sont pas critiques, et certaines sont des hallucinations. Le goulot d'étranglement se déplace : il ne s'agit plus de trouver les failles, mais de les trier, de les prioriser selon le contexte de chaque organisation, et de tester en continu plutôt qu'une fois par an.

2. Quand l'IA devient un acteur du système d'information

Jusqu'ici, l'IA était un outil qu'on consultait. Avec les agents, elle devient un acteur : elle lit des fichiers, appelle des API, exécute du code, envoie des requêtes. Elle a des identifiants, des droits, un périmètre. En somme, une identité non humaine qui agit dans le SI.

Une question posée dans la salle le montre très bien. On demande à un agent si un fichier est malveillant, et rien de plus. Pour répondre, il décode une charge en base64, suit l'URL qu'elle contient, télécharge la ressource et la lance dans un bac à sable. Même quand on lui demande seulement d'informer, il agit dans le monde réel. La frontière entre éclairer une décision et la prendre devient très mince.

Les connecteurs ajoutent une autre dimension. Un CRM, un outil de facturation et une plateforme marketing ne se parlaient pas : chacun avait son accès, son cloisonnement. Un assistant IA connecté aux trois crée un pont entre eux. Ce qui était isolé devient accessible depuis un même point, et donc exfiltrable depuis un même point. Ajoutez le shadow AI, ces comptes ChatGPT ou Gemini personnels où l'on colle des données sensibles, et la surface d'attaque change de nature.

Or, pour l'instant, la réponse la plus fréquente est… de tout ouvrir. Comme on ne sait pas encore très bien ce qu'on veut faire des agents, on leur donne tous les droits. C'est l'inverse de ce que la cyber a appris en quinze ans de gestion des identités : moindre privilège, segmentation, séparation des rôles (un agent qui lit, un autre qui écrit).

D'où la vraie question de cette partie : que sommes-nous prêts à laisser faire à une IA, et avec quels droits ? Ce n'est plus une question technique, c'est une décision de gouvernance.

3. Sécuriser l'IA ne consiste pas seulement à sécuriser le modèle

Quand on parle de sécurité de l'IA, on pense d'abord au modèle : peut-on le faire dérailler, lui faire révéler ses instructions ? C'est un vrai sujet. Plusieurs années après les premières démonstrations, l'injection de prompt n'a toujours pas de parade définitive. Les modèles résistent mieux qu'avant, mais chaque nouvelle version finit par être contournée.

Mais le modèle n'est qu'une couche. Un système d'IA, c'est un modèle, des données, des outils, des connexions et des gens qui l'utilisent. Chaque couche a ses risques, et la plupart sont déjà observés :

Couche	Risque	Exemple	Réponse
Modèle	Injection de prompt, contournement des garde-fous	Extraction des instructions système	Tests adverses, validation des sorties
Données	Fuite, empoisonnement	Données de semi-conducteurs divulguées via un chatbot chez Samsung (2023) ; environ 250 documents suffiraient à empoisonner un modèle	Classification des données, contrôle de ce qui entre et sort
Chaîne d'approvisionnement	Paquets et modèles piégés	Slopsquatting : des attaquants enregistrent les noms de paquets que l'IA « hallucine »	Vérification des dépendances et des modèles importés
Architecture et droits	Agents trop privilégiés, connecteurs qui décloisonnent	Un assistant relié au CRM et à la facturation	Moindre privilège, segmentation, validation humaine
Usages et gouvernance	Shadow AI, absence de politique	Comptes IA personnels utilisés au travail	Politique d'usage, outils validés, sensibilisation

La couche la plus fragile n'est d'ailleurs pas technique. 96 % des RSSI et DSI jugent l'IA très utile pour leur défense, mais seulement 37 % des organisations ont une politique encadrant son usage sécurisé, un chiffre en baisse. On déploie l'IA plus vite qu'on ne la sécurise.

Le cadre réglementaire, lui, avance. L'AI Act s'applique par étapes jusqu'aux exigences complètes pour les systèmes à haut risque en août 2027. Mais attendre d'y être soumis pour écrire ses règles serait une erreur : une politique de sécurité de l'IA n'est pas un document pour faire joli, c'est là qu'on écrit ce que l'IA a le droit de faire sans demander.

4. L'humain ne disparaît pas : son rôle se déplace

« L'IA est un assistant, jamais un remplaçant » : la formule a fait consensus pendant la soirée. Dans un SOC, l'IA perçoit, alerte et recommande, et l'humain décide. Sur le terrain, 70 % des RSSI et DSI gardent un humain dans la boucle pour les décisions critiques, mais 14 % laissent déjà l'IA agir seule.

La formule est juste, mais elle reste floue. « Garder la main » peut recouvrir des rôles très différents :

Rôle humain	Ce que fait l'IA	Ce que fait l'humain	Exemple
Exécution	Assiste	Fait le travail	Écrire soi-même un exploit avec l'aide d'un chatbot
Validation	Propose et prépare	Approuve chaque action avant qu'elle ait lieu	Un agent demande l'autorisation avant de télécharger un fichier suspect
Supervision	Agit seule dans un périmètre	Surveille, peut interrompre, revoit après coup	Triage automatique des alertes de niveau 1
Contrôle	Agit dans le cadre fixé	Définit les règles, les droits, les limites, et en répond	La politique qui dit ce que les agents peuvent faire sans demander

L'erreur serait de croire que l'humain doit rester au niveau de l'exécution pour garder la main. C'est déjà faux : personne ne revalide à la main les 500 CVE du jour. Et exiger une validation humaine à chaque action finit par produire l'effet inverse : des humains qui cliquent « oui » sans lire.

Ce qui doit rester humain, c'est plutôt :

• le cadre : définir ce que l'IA a le droit de faire, avec quels droits et sur quel périmètre ;

• le contexte : savoir ce qui compte vraiment pour cette organisation, ce qui est critique et ce qui ne l'est pas ;

• les décisions irréversibles ou à fort impact : supprimer, couper, publier, exposer ;

• la responsabilité : une IA ne répond pas de ses actes, quelqu'un doit le faire à sa place.

Un rapport de l'ANSSI cité pendant la soirée va dans ce sens : des modèles courants, pilotés par des experts compétents, valent des modèles de pointe sans garde-fous. La valeur n'est pas dans la puissance du modèle, elle est dans la qualité du pilotage.

5. Les métiers cyber vont-ils disparaître ou se transformer ?

Si l'exécution s'automatise, que deviennent ceux dont c'était le métier ? La table ronde n'a pas donné de réponse unique, et c'est tant mieux : les désaccords étaient plus instructifs qu'un consensus.

Le pentest change de rythme. Un test d'intrusion par an n'a plus beaucoup de sens quand une faille s'exploite en quinze minutes. Le métier se déplace vers le test continu, l'automatisation d'une partie du savoir-faire, et le tri de ce que les outils remontent.

Le junior perd ses tâches d'apprentissage. C'est le point le plus délicat. Les petites tâches qu'on confiait aux débutants sont celles que l'IA automatise le mieux. Certaines entreprises recrutent donc moins de juniors pour des projets ponctuels, et davantage pour faire grandir une équipe sur la durée. Le risque est réel : si l'on ne forme plus de juniors, d'où viendront les experts de demain ? Une piste évoquée : les petites structures sans équipe cyber (associations, hôpitaux, cabinets d'avocats), qui recherchent des alternants et où ils construisent tout de zéro.

L'expertise change de forme. Faut-il encore être expert ? Pour certains, l'IA porte désormais une partie de l'expertise, et la valeur est dans la capacité à naviguer entre les sujets, prendre du recul, se remettre en question. Pour d'autres, il faut moins d'experts qu'il y a cinq ans, mais il en faut toujours : face à un rendu de l'IA, seule une personne compétente peut dire s'il est juste et s'il s'applique à la situation. Sans expertise, on accepte plus facilement un résultat faux. Les deux positions se rejoignent sur un point : on a besoin de moins d'exécutants et d'autant plus de jugement.

De nouveaux métiers apparaissent : sécurité des intégrations IA, red teaming de modèles, gouvernance de l'IA, gestion des identités des agents.

Le socle, lui, ne bouge pas. Les fondamentaux (réseau, système, développement) restent indispensables pour comprendre ce qu'on sécurise. L'IA ne s'apprend pas à part : c'est un outil de plus, comme les maths pour un financier. Et elle n'est pas le seul chantier, le post-quantique arrive aussi. La compétence qui traverse tout, c'est l'adaptabilité.

6. Une nouvelle équation : capacité × contrôle × responsabilité

On peut résumer ce qui précède en une équation simple. La valeur que l'IA apporte à la cybersécurité dépend de trois facteurs :

• la capacité : ce que l'IA sait faire, et elle en fait chaque mois davantage ;

• le contrôle : le cadre dans lequel elle agit, avec ses droits, ses limites et ses points de validation ;

• la responsabilité : la personne qui répond de ce que l'IA fait.

C'est un produit, pas une somme. Si l'un des trois tend vers zéro, le résultat aussi, voire devient négatif. Une IA très capable sans contrôle, c'est un agent qui a tous les droits et qui décloisonne vos données. Une IA contrôlée sans responsable, c'est une politique que personne n'applique. Et un contrôle trop lourd qui étouffe la capacité laisse l'avantage aux attaquants, qui, eux, n'attendent pas.

Aujourd'hui, la capacité progresse bien plus vite que les deux autres facteurs. C'est tout l'enjeu des prochaines années : faire grandir le contrôle et la responsabilité au même rythme que la capacité. Comme l'a dit l'une des intervenantes, la question n'est pas de choisir entre l'IA et la cybersécurité, mais de les faire grandir ensemble.

Reste la question qui a clôturé la deuxième conférence, et qui mérite d'être posée dans chaque organisation dès maintenant :

Dans votre organisation, qui protège vraiment votre IA ?

Article inspiré de l'afterwork cybersécurité EFREI Bordeaux × CEFCYS Nouvelle-Aquitaine du 22 septembre, avec les interventions de Tarik Ziari (InariSec), Julia Banderier (Themis Cyber), Fériel Bouakkaz, Mouna Andaloussi Stergiou, Manon Souchon-Garrigue et Léo Dupouy, animées par Aurélie Pougin.