SMART TECH - Emission du lundi 5 octobre

Bonjour

à tous, intelligence artificielle et cybersécurité font-elles bon ménage ? Comment les entreprises vont pouvoir suivre le rythme ?

C

'est notre sujet aujourd'hui à la une de Smartech. Smartech s'arrête aujourd'hui sur une alerte cyber. L'intelligence artificielle fait courir les menaces peut-être plus vite que les protections. En tout cas, on se pose cette question aujourd'hui avec deux experts, Olivier Savornin, vice-président Europe chez Coesity, et Bernard Montel, directeur technique IMIH chez Tenable. Je voulais vous lancer d'abord, messieurs, sur une actualité relativement récente puisque c'est une dépêche de Reuters du 15 septembre qui révèle que l'autorité espagnole de protection des données a affirmé pour la première fois qu'une intelligence artificielle agentique était la cause d'une fuite de données.

Est-ce que selon vous c'est véritablement une première de reconnaître en fait que l'IA agentique est la cause d'une fuite de données ou est-ce que c'est la première fois juste qu'on communique officiellement dessus de la part d'une autorité

? Déjà,

première question, qui veut répondre

?

Je pense que le sujet qui a sensibilisé tout le monde, c'est le côté autonome de l'attaque. C'est-à-dire que l'IA a toute seule orchestré et réussi son attaque sans être guidée par une intervention humaine.

Et

c'est ce sujet-là qui a défrayé la chronique. Ce n

'est

pas une première puisque lors de ces tests OpenAI, Google Gemini et Anthropic Mythos ont toutes dévoilé des fuites bien involontaires de données avec des IA qui sont capables d'échapper de leur bac à sable pour pouvoir être autonome dans les attaques. Mais en tout cas, ce qu'il y

a

de certain, c'est que c'est un signal très très fort sur ce qui nous attend dans le futur immédiat.

Et

donc, ces agents IA, cet IA agentique, c'est une menace incontrôlable aujourd'hui pour une entreprise

?

Incontrôlable, je ne pense pas. Je pense qu'on a aujourd'hui déjà identifié les risques. C'est déjà le plus important lorsqu'on a identifié les risques de menaces pour les entreprises et les organisations. On a fait déjà 50% du chemin. Mais oui, on voit apparaître de plus en plus d'attaquants qui utilisent des agents IA pour orchestrer, automatiser et surtout aller plus vite dans leur capacité d'exploiter des vulnérabilités et donc de cibler des entreprises.

Parce que je dis incontrôlable en référence justement à l'affaire de l'attaque contre GINFA, ce qui n'était pas volontaire de la part d'OpenAI et de ses agents. Donc vous nous dites, bon, là sans doute on est dans des cas très spécifiques, mais en tout cas, ça représente aujourd'hui une nouvelle surface d'attaque

?

Ça représente une nouvelle surface d'attaque et ça représente également une nouvelle population d'attaquants. Et c'est deux choses qui sont différentes. Lorsqu'on déploie des agents IA au sein d'une organisation, évidemment, on augmente sa surface d'attaque, comme quand on a déployé du cloud par rapport à des infrastructures traditionnelles. Mais ce que l'on voit apparaître également, c'est cette capacité des agents

à

opérer

eux

-mêmes des attaques. Et donc là, ils deviennent en fait, quelquefois sans le vouloir lorsque ce sont des agents qui sont déployés en interne, des attaquants. On pourrait presque parler d'insiders,

c

'est

-à-dire des attaquants internes. Ils sont les

propres agents en fait, c'est ça un des nouveaux risques.

C'est un des nouveaux risques. On parlait tout à l'heure d'attaques externes. Il faut aussi imaginer qu'un agent qu'on puisse déployer en interne a les mêmes capacités et donc

a

la possibilité éventuellement de commencer à contourner, utiliser des vulnérabilités ou contourner des droits d'accès.

Bon, parce que c'est comme si on n'en avait pas assez, j'ai envie de dire déjà. La quantité d'attaques aujourd'hui informatiques est phénoménale. Pour les entreprises, ça demande des organisations de plus en plus importantes et donc de plus en plus aussi de dépenses, de

coûts.

Comment est-ce que vous voyez cette course entre la menace et la défense évoluer ? Est-ce que selon vous, on va réussir à courir à la même vitesse ?

Alors je pense que c'est compliqué. Coesity publie chaque année un rapport qui mesure l'écart entre le niveau de confiance et les attaques réelles. Et le dernier rapport d'il y a quelques semaines indique qu'en 2025, 85% des entreprises françaises ont été attaquées avec succès. C'est 9 points de plus que l'année précédente. Donc on voit effectivement que l'attaque continue d'augmenter. Finalement, le type d'attaque évolue parce que les IA sont de plus en plus puissantes.

Le

facteur le plus important, c'est celui du temps. Et aujourd'hui, on voit les IA utiliser ce qu'on appelle des failles dès zéro, c'est-à

-dire

des failles à la fois immédiatement détectées et exploitées dans la foulée, ce qui n'était pas le cas précédemment, en tout cas avec pas la même échelle de temps. Et c'est ça qui rend l'exercice extrêmement compliqué, c'est que les failles de sécurité sont détectées beaucoup, beaucoup plus vite que les patchs qui vont permettre la correction de ces failles sont rendues disponibles.

Elles

sont détectées plus vite et on en détecte donc plus, beaucoup plus en volume.

Beaucoup

plus vite, plus en volume. Et encore une fois, il faut du temps pour corriger. Et c'est ça qui crée un écart aujourd'hui qui est un peu embêtant. Pour répondre à la question, les attaquants sont en position de force.

Et Olivier, c'est un nouveau type de menace véritablement ? Ce n

'est

pas un

nouveau type de menace, c'est simplement

que c'est une menace beaucoup plus automatisée. C'est une menace traditionnelle mais qui vient

différemment, c'est

ça ?

Oui, qui

est automatisée, donc beaucoup plus rapide. Et c'est le facteur de temps qui est le facteur le plus important en termes de changement.

Vous

êtes d'accord avec ça ? On est sur le même type de menace, donc a priori, il faut s'organiser de la même façon avec les mêmes protections ?

Alors, il faut quand même accélérer les protections. Je rejoins entièrement ce qu

'a

dit Olivier. On a une problématique à deux niveaux, le volume et la vitesse. Donc, on va se retrouver devant un volume beaucoup plus important de vulnérabilité et en même temps, des attaquants qui exploitent de manière beaucoup plus rapide. Pour répondre à cette problématique-là, il faut comprendre deux éléments. Le premier, c'est les agents IA ont des compétences. Comme aujourd'hui, on voit que les attaquants ont besoin de compétences, les agents les ont ces compétences. On leur donne automatiquement des compétences.

Ils

ont aussi des accès. Et ça, c'est sur ce deuxième élément. Téléble a également sorti une étude sur le niveau des identités non humaines. Lorsqu'on parle d'identité, vous savez, ce sont les accès qu'on a tous pour accéder à des systèmes d'information. Les agents, également, on doit leur donner des identités. On leur donne également des accès.

Les agents internes, là. On parle déjà

de nous,

nos agents IA dans l'entreprise.

Exactement, parce qu'ils représentent cette surface d'attaque-là. Et donc, du coup, les droits d'accès non humains, c'est à peu près 52%. Aujourd'hui, on a plus de droits d'accès non humains.

Déjà aujourd'hui ?

Déjà aujourd'hui, on a plus de droits d'accès non humains qui, en plus, ont des privilèges excessifs. Et 18% des organisations ont déployé des agents IA avec des privilèges beaucoup plus élevés que ce qu'ils devraient avoir.

Parce

qu'ils en ont besoin

? Parce

qu'ils en ont besoin. Pour

agir de manière autonome.

On est obligé de

leur donner des privilèges.

Exactement, on doit leur donner des accès. Si on veut qu'un agent, par exemple, automatise une tâche, il doit accéder à des systèmes. Mais souvent, on donne des droits très élevés. Et donc ça, c'est aussi très important. Vous parliez de surface d'attaque tout à l'heure. Là, on est vraiment sur une problématique. Le comportement d'un agent IA est très difficile à prédire. Un agent IA, on lui donne un objectif. On ne lui dit pas comment. Alors, ce qui, pour une conscience humaine, va guider la façon dont on va atteindre l'objectif, l'IA n'a pas de conscience humaine. Et je pense que ça,

c

'est le point qui est difficile à gérer. Je donne un objectif. L'IA va chercher l'objectif, quel que soit le moyen. Et c'est là que le sujet est un peu compliqué, même en interne.

Alors, quelles sont vos recommandations ? Parce que là, on se dit, ok, donc on ne va pas y arriver. Parce que nos propres agents peuvent nous attaquer. On doit leur donner des accès importants. Parce qu'il faut qu'ils puissent agir de manière autonome. Sinon, ça ne sert à rien de monter toute une armée d'agents IA. Donc, qu

'est

-ce qu'on peut faire ? Comment on s'organise ?

Le point le plus important, c'est d'accepter qu'on va être attaqué. Et donc, il faut faire évoluer l'état d'esprit pour se dire, une fois que je suis attaqué, je fais quoi

?

Et finalement, la seule réponse qui va intéresser tout le monde, c'est à quelle vitesse je peux reconstruire le système d'information ? On revient

toujours sur l'objectif de la résilience.

C'est la résilience. C'est la seule façon de faire. Encore une fois, l'écart entre l'attaque et la défense ne fait que s'accroître. La seule réponse qui puisse avoir un sens, c'est d'accepter qu'on va être attaqué. Et de se dire,

à

partir de là, il faut que je puisse reconstruire très vite. C'est aujourd'hui la seule réponse qui paraît saine.

Est

-ce qu'on peut mettre en place quand même des protections spécifiques en matière de cybersécurité

? Alors,

il y a deux choses. Tout à fait d'accord sur le fait qu'il faut changer complètement le mindset. Détecter, détecter, détecter, c'est déjà trop tard. Et surtout, ça va trop vite. Donc, il faut avoir une approche préventive, résiliente, apporter plus de vitesse également. Donc, en fait, on va commencer à introduire de l'IA côté défense. Pour, lorsqu'on parlait de ce volume de vulnérabilité qui augmente, on ne peut pas tout patcher. Il faut automatiser. L'automatisation doit aussi passer par le déploiement d'outils d'IA qui permettent de faire ça, afin de réduire le bruit et de s'occuper finalement de l'essentiel. Donc

là, ce serait de l'IA automatisé pour la détection ?

Non, plutôt pour l'orchestration de ce qu'il faut faire en termes de tâches pour rémédier, par exemple, patcher des vulnérabilités le plus vite possible. Vraiment dans la phase de prévention et pas que dans la phase de détection. Donc, réduire le risque de cette manière-là, avoir une approche par les risques,

c

'est-à-dire regarder ce qui est essentiel, ce qui peut être exposé, et évidemment réduire cette partie-là en ne se focalisant que sur l'essentiel, donc réduire le risque de

ce

côté-là. Et ça demande aussi d'avoir une excellente connaissance, en fait, du nombre d'agents IA qu'on a déjà, nous, en interne dans l'entreprise, de leur droit d'accès, de leur identité, si elles sont justement corrompues ou non. Enfin, ça demande d'avoir une cartographie encore plus fine, finalement, des assets de l'entreprise.

La cartographie, elle est nécessaire, elle n'est pas facile, puisque les agents IA poussent comme des champignons en ce moment. Donc, c'est très, très compliqué à contrôler. Néanmoins, aussi pour des histoires d'audit, il faut être capable de tracer l'activité d'un agent IA. Éventuellement, il faut être capable de restaurer l'activité d'un agent IA si son activité avait été effacée par une attaque, quelle qu'elle soit. Mais donc, dans tous les cas, il faut faire attention de pouvoir sauvegarder l'intégralité des activités qui sont, en ce moment, réalisées, qu'elles soient réalisées par un agent humain ou par un agent IA, peu importe.

Il faut avoir cette approche qui soit vraiment exhaustive vis-à-vis de la problématique de l'entreprise. Et la cartographie, elle est essentielle. Il faut évidemment cartographier les données sensibles, celles qui sont sensibles à la régulation RGPD, par exemple. Celles qui vont être sensibles aussi aux services minimums ou aux services vitaux d'une entreprise pour pouvoir identifier très vite quand je dois reconstruire, où est-ce que je dois le faire en priorité. Et ça demande beaucoup de travail.

Il

y a un outil spécifique aujourd'hui qui est vraiment adapté à cette menace agentique

en matière

de cyber

où

vraiment, vous nous dites, il faut reprendre les bonnes recettes traditionnelles avec la prévention, la détection, la remédiation.

Je

ne pense pas qu'aujourd'hui, il y

ait

un outil qui soit efficace. Malheureusement, ça se saurait. Et en plus de ça, on est sur un monde extrêmement mouvant.

Vous

dites que

ça

va vite lié à agentique, mais est-ce que peut-être qu

'il

faudrait ralentir, ne déployer des agents que dans certaines conditions ? Est-ce qu'il

y a

aussi peut-être des bonnes pratiques à mettre en place de cybersécurité au moment du déploiement des

agents ? Moi,

je dirais qu'on commence à avoir des outils. Ce qui est très important, c'est déjà de prendre conscience du risque et de pouvoir le réduire. Et lorsqu'on revient à l'utilisation d'IA dans des outils, par exemple, de réduction d'exposition, globalement, sur l'ensemble, avoir la cartographie de l'ensemble des assets permet également de réduire ce risque-là. Et introduire de l'IA dans ces outils déjà existants permet tout simplement d'aller plus vite.

Oui, donc utiliser les agents contre les agents.

Les

agents contre les agents, ou tout simplement permettre à ceux qui défendent d'avoir les mêmes capacités que ceux qui attaquent.

Il

y

a

quand même une bonne nouvelle dans cette situation,

dans cet horizon.

On termine sur la bonne nouvelle.

C

'est que l'IA, les modèles frontières d'IA, aujourd'hui, font des ravages en termes de détection et d'exploitation des vulnérabilités. Une fois que toutes ces vulnérabilités, en tout cas les principales, auront été identifiées et corrigées, la défense va rattraper une partie de son retard. Et donc on va finir par réduire un peu l'écart qu'on vit aujourd'hui.

Merci beaucoup Olivier Savornin de Quasity et Bernard Montel de Ténébol. Merci à vous de nous suivre.

C

'était Smartech, votre émission quotidienne sur la tech et le numérique que vous regardez sur la chaîne Bsmart. Très bonne journée à tous.

Sous-titrage Société Radio-Canada