SMART TECH - IA : comment suivre la vitesse de la menace

Smart

Tech s'arrête aujourd'hui sur une alerte cyber.

L

'intelligence artificielle fait courir les menaces peut-être plus vite que les protections. En tout cas, on se pose cette question aujourd'hui avec deux experts, Olivier Savornin, vice-président Europe chez Coesity, et Bernard Montel, directeur technique IMIH chez Tenable. Je voulais vous lancer d'abord, messieurs, sur une actualité relativement récente, puisque c'est une dépêche de Reuters du 15 septembre, qui révèle que l'autorité espagnole de protection des données a affirmé pour la première fois qu'une intelligence artificielle agentique était la cause d'une fuite de données.

Est-ce que, selon vous, c'est véritablement une première de reconnaître, en fait, que l'IA agentique est la cause d'une fuite de données, ou est-ce que c

'est

la première fois juste qu'on communique officiellement dessus de la part d'une autorité

? Déjà,

première question. Qui veut répondre

?

Je pense que le sujet qui a sensibilisé tout le monde, c'est le côté autonome de l'attaque. C'est-à-dire que l'IA a toute seule orchestré et réussi son attaque sans être guidée par une intervention humaine.

Et

c'est ce sujet-là qui a défrayé la chronique. Ce n

'est

pas une première, puisque lors de ces tests OpenAI, Google Gemini et Anthropic Mythos ont toutes dévoilé des fuites bien involontaires de données avec des IA qui sont capables d'échapper de leur bac à sable pour pouvoir être autonome dans les attaques. Mais en tout cas, ce qu'il y

a

de certain, c'est que c'est un signal très très fort sur ce qui nous attend dans le futur immédiat.

Et

donc, ces agents IA, cet IA agentique, c'est une menace incontrôlable aujourd'hui pour une entreprise

? Alors,

incontrôlable, je ne pense pas. Je pense qu'on a aujourd'hui déjà identifié les risques. C'est déjà le plus important lorsqu'on a identifié les risques de menaces pour les entreprises et les organisations. On a fait déjà 50% du chemin. Mais oui, on voit apparaître de plus en plus d'attaquants qui utilisent des agents IA pour orchestrer, automatiser et surtout aller plus vite dans leur capacité d'exploiter des vulnérabilités et donc de cibler des entreprises.

Parce

que je dis incontrôlable en référence justement à l'affaire de l'attaque contre GINFA, ce qui n'était pas volontaire de la part d'OpenAI et de ses agents. Donc, vous nous dites, bon, là, sans doute, on est dans des cas très spécifiques, mais en tout cas, ça représente aujourd'hui une nouvelle surface d'attaque.

Ça

représente une nouvelle surface d'attaque et ça représente également une nouvelle population d'attaquants. Et c'est deux choses qui sont différentes. Lorsqu'on déploie des agents IA au sein d'une organisation, évidemment, on augmente sa surface d'attaque, comme quand on a déployé du cloud par rapport à des infrastructures traditionnelles. Mais ce que l'on voit apparaître également, c'est cette capacité des agents

à

opérer

eux

-mêmes des attaques. Et donc là, ils deviennent,

en

fait, quelquefois sans le vouloir, lorsque ce sont des agents qui sont déployés en interne, des attaquants. On pourrait presque parler d'insiders, c'est-à

-dire des attaquants internes. D'être attaqué par son

propre agent, en fait. C'est ça, un des nouveaux risques.

C'est un des nouveaux risques. On parlait tout à l'heure d'attaques externes. Il faut aussi imaginer qu'un agent qu'on puisse déployer en interne a les mêmes capacités et donc

a

la possibilité, éventuellement, de commencer à contourner, utiliser des vulnérabilités ou contourner des droits d'accès.

Bon,

parce que c'est comme si on n'en avait pas assez, j'ai envie de dire, déjà. La quantité d'attaques, aujourd'hui, informatiques, est phénoménale. Pour les entreprises, ça demande des organisations de plus en plus importantes et donc de plus en plus aussi de dépenses, de coûts. Comment est-ce que vous voyez cette course entre la menace et la défense évoluer ? Est-ce que, selon vous, on va réussir à courir à la même vitesse ?

Alors, je pense que c'est compliqué. Coesity publie chaque année un rapport qui mesure l'écart entre le niveau de confiance et les attaques réelles. Et le dernier rapport, d'il y a quelques semaines, indique qu'en 2025, 85% des entreprises françaises ont été attaquées avec succès. C'est 9 points de plus que l'année précédente. Donc, on voit effectivement que l'attaque continue d'augmenter. Finalement, le type d'attaque évolue parce que les IA sont de plus en plus puissantes.

Le

facteur le plus important, c'est celui du temps. Et aujourd'hui, on voit les IA utiliser ce qu'on appelle des failles D0, c

'est

-à

-dire

des failles à la fois immédiatement détectées et exploitées dans la foulée, ce qui n'était pas le cas précédemment, en tout cas avec pas la même échelle de temps. Et c'est ça qui rend l'exercice extrêmement compliqué. C'est que les failles de sécurité sont détectées beaucoup, beaucoup plus vite que les patchs qui vont permettre la correction de ces failles sont rendues disponibles.

Elles sont détectées plus vite et on en détecte donc plus ? Plus,

beaucoup

plus

vite,

plus en volume. Et encore une fois, il faut du temps pour corriger. Et c'est ça qui crée un écart aujourd'hui qui est un peu embêtant. Pour répondre à la question, les attaquants sont en position de force.

Et Olivier, c'est un nouveau type de menace, véritablement

?

Ce n

'est

pas un

nouveau type de menace. C'est simplement

que c'est une menace beaucoup plus automatisée. C'est une menace traditionnelle mais qui vient

différemment, c

'est

ça ?

Oui, qui

est automatisée, donc beaucoup plus rapide. Et c'est le facteur de temps qui est le facteur le plus important en termes de changement.

Vous

êtes d'accord avec ça ? On est sur le même type de menace, donc a priori, il faut s'organiser de la même façon avec les mêmes protections ?

Alors, il faut quand même accélérer les protections. Je rejoins entièrement ce qu

'a

dit Olivier. On a une problématique à deux niveaux, le volume et la vitesse. Donc on va se retrouver devant un volume beaucoup plus important de vulnérabilité et en même temps, des attaquants qui exploitent de manière beaucoup plus rapide. Pour répondre à cette problématique-là, il faut comprendre deux éléments. Le premier, c'est que les agents IA ont des compétences. Comme aujourd'hui, on voit que les attaquants ont besoin de compétences, les agents ont ces compétences, on leur donne automatiquement des compétences.

Ils

ont aussi des accès, et ça c'est sur ce deuxième élément. Téléble a également sorti une étude sur le niveau des identités non humaines. Lorsqu'on parle d'identité, vous savez, ce sont les accès qu'on a tous pour accéder à des systèmes d'information. Les agents également, on doit leur donner des identités, on leur donne également des accès.

Les agents internes, on parle déjà

de nos

agents IA dans l'entreprise.

Exactement, parce qu'ils représentent cette surface d'attaque-là. Et donc du coup, les droits d'accès non humains, c'est à peu près 52%. Aujourd'hui, on a plus de droits d'accès non humains.

Déjà aujourd'hui ?

Déjà aujourd'hui, on a plus de droits d'accès non humains qui en plus ont des privilèges excessifs.

Et

18% des organisations ont déployé des agents IA avec des privilèges beaucoup plus élevés que ce qu'ils devraient avoir.

Parce

qu'ils en ont besoin.

Parce qu'ils en ont besoin. Pour

agir

de manière autonome,

on est obligé de

leur donner des privilèges.

Exactement, on doit leur donner des accès. Si on veut qu'un agent, par exemple, automatise une tâche, il doit accéder à des systèmes. Mais souvent, on donne des droits très élevés. Et donc ça, c'est aussi très important. Vous parliez de surface d'attaque tout à l'heure. Là, on est vraiment sur une problématique. Le comportement d'un agent IA est très difficile à prédire. Un agent IA, on lui donne un objectif. On ne lui dit pas comment. Alors, ce qui, pour une conscience humaine, va guider la façon dont on va atteindre l'objectif, l'IA n'a pas de conscience humaine. Et je pense que ça, c'est le point qui est difficile à gérer.

Je donne un objectif, l'IA va chercher l'objectif, quel que soit le moyen. Et c'est là que le sujet est un peu compliqué, même en interne.

Alors, quelles sont vos recommandations ? Parce que là, on se dit, ok, donc on ne peut pas y arriver. Parce que nos propres agents peuvent nous attaquer. On doit leur donner des accès importants parce qu'il faut qu'ils puissent agir de manière autonome. Sinon, ça ne sert à rien de monter toute une armée d'agents IA. Donc, qu'est-ce qu'on peut faire ? Comment on s'organise ?

Le point le plus important, c'est d'accepter qu'on va être attaqué. Et donc, il faut faire évoluer l'état d'esprit pour se dire, une fois que je suis attaqué, je fais quoi

? Et

finalement, la seule réponse qui va intéresser tout le monde, c'est à quelle vitesse je peux reconstruire le système d'information ? Il y a des concepts qui

sont... On revient

toujours sur l'objectif de la résilience.

C'est la résilience. C'est la seule façon de faire. Encore une fois, l'écart entre l'attaque et la défense ne fait que s'accroître. La seule réponse qui puisse avoir un sens, c'est d'accepter qu'on va être attaqué et de se dire, à partir de là, il faut que je puisse reconstruire très vite. C'est aujourd'hui la seule réponse qui paraît saine.

Est

-ce qu'on peut mettre en place quand même des protections spécifiques en matière de cybersécurité

? Alors,

il y a deux choses. Tout à fait d'accord sur le fait qu'il faut changer complètement le mindset. Détecter, détecter, détecter, c'est déjà trop tard. Et surtout, ça va trop vite. Donc, il faut avoir une approche préventive, résiliente, apporter plus de vitesse également. Donc, en fait, on va commencer à introduire de l'IA à côté défense pour, lorsqu'on parlait de ce volume de vulnérabilité qui augmente, on ne peut pas tout patcher, il faut automatiser. L'automatisation doit aussi passer par le déploiement d'outils d'IA qui permettent de faire ça, afin de réduire le bruit et de s'occuper finalement de l'essentiel. Donc

là, ce serait de l'IA automatisé pour la détection ?

Non, plutôt pour l'orchestration de ce qu'il faut faire en termes de tâches pour rémédier, par exemple, patcher des vulnérabilités le plus vite possible. D'accord. Vraiment, dans la phase de prévention et pas que dans la phase de détection. D'accord. Réduire le risque de cette manière-là, avoir une approche par les risques,

c

'est-à-dire regarder ce qui est essentiel, ce qui peut être exposé, et évidemment, donc, réduire cette partie-là en ne se focalisant que sur l'essentiel, donc réduire le risque

de ce

qu'il y

a.

Et ça demande aussi d'avoir une excellente connaissance, en fait, du nombre d'agents IA qu'on a déjà, nous, en interne dans l'entreprise, de leur droit d'accès, de leur identité, si elles sont, justement, corrompues ou non. Enfin, ça demande d'avoir une cartographie encore plus fine, finalement, des assets de l'entreprise.

Mais

la cartographie, elle est nécessaire, elle n'est pas facile, puisque les agents IA poussent comme des champignons en ce moment, donc c'est très, très compliqué à contrôler. Néanmoins, aussi, pour des histoires d'audit, il faut être capable de tracer l'activité d'un agent IA. Éventuellement, il faut être capable de restaurer l'activité d'un agent IA si son activité avait été effacée par une attaque, quelle qu'elle soit. Mais donc, dans tous les cas, il faut faire attention de pouvoir sauvegarder l'intégralité des activités qui sont, en ce moment, réalisées, qu'elles soient réalisées par un agent humain ou par un agent IA, peu importe.

Il faut avoir cette approche qui soit vraiment exhaustive vis-à-vis de la problématique de l'entreprise. Et la cartographie, elle est essentielle. Il faut, évidemment, cartographier les données sensibles, celles qui sont sensibles à la régulation RGPD, par exemple, celles qui vont être sensibles aussi aux services minimums ou aux services vitaux d'une entreprise pour pouvoir identifier très vite quand je dois reconstruire, où est-ce que je dois le faire. En priorité. Et ça demande beaucoup de travail.

Il

y a un outil spécifique, aujourd'hui, qui est vraiment adapté à cette menace agentique

en

matière de cyber ? Ou vraiment, vous nous dites, là, il faut reprendre les bonnes recettes traditionnelles avec la prévention, la détection, la remédiation ?

Je

ne pense pas qu'aujourd'hui, il y

ait

un outil qui soit efficace. Malheureusement, ça se saurait. Et en plus de ça, on est sur un monde extrêmement mouvant. Oui. Et vous

dites, ça va vite, l'IA agentique, mais est-ce que peut-être qu

'il

faudrait ralentir, ne déployer des agents que dans certaines conditions

?

Est-ce qu'il

y a

aussi peut-être des bonnes pratiques à mettre en place de cybersécurité au moment du déploiement des

agents ? Moi, je

dirais qu'on commence à avoir des outils. Ce qui est très important, c'est déjà de prendre conscience du risque et de pouvoir le réduire. Et lorsqu'on revient à l'utilisation d'IA dans des outils, par exemple, de réduction d'exposition, globalement, sur l'ensemble, avoir la cartographie de l'ensemble des assets permet également de réduire ce risque-là. Et introduire de l'IA dans ces outils déjà existants permet tout simplement d'aller plus vite.

Oui, donc utiliser les agents contre les agents. Ou

les agents contre les agents, ou tout simplement permettre à ceux qui défendent d'avoir les mêmes capacités que ceux qui attaquent.

Il

y a quand même une bonne nouvelle dans cette situation,

dans cet horizon.

On termine sur la bonne nouvelle.

C'est que l'IA, les modèles frontières d'IA, aujourd'hui font des ravages en termes de détection et d'exploitation des vulnérabilités. Et une fois que toutes ces vulnérabilités, en tout cas les principales, auront été identifiées et corrigées, la défense va rattraper une partie de son retard. Et donc on va finir par réduire un peu l'écart qu'on vit aujourd'hui.

Merci beaucoup Olivier Savornin de Quazity et Bernard Montel de Ténébol. Merci à vous de nous suivre.

C

'était Smartech, votre émission quotidienne sur la tech et le numérique que vous regardez sur la chaîne Bismarck. Très bonne journée à tous.