L’IA au service du crime : la fusion qui inquiète - Le numérique pour tous

Sud Radio le numérique pour tous Vanessa Perez bonjour et bienvenue dans le numérique pour tous l'émission dédiée au numérique à l'innovation et à la tech responsable et aujourd'hui on va parler de cybercriminalité et d'intelligence artificielle vous avez sans doute dû voir ou même subir quelques attaques récentes sur votre téléphone ou sur les réseaux sociaux les cyberattaques sont de plus en plus fréquentes vous le savez et etlaboré nous allons donc comprendre avec nos invités l'utilisation de l'intelligence artificielle par les cybercriminels l'impact de cette IA sur la société et la démocratie avec la désinformation et enfin la réponse et l'anticipation face à ces menaces cybernétique le numérique pour tous spécial cybercriminalité eiaa c'est parti et c'est sur Sud Radio Sud Radio le numérique pour tous valessa Perez et pour commencer cette émission nous avons le plaisir d'accueillir le lieutenant colonel Sophie Lambert bonjour lieutenant colonel vous êtes donc adjointe à la division de la connaissance de l'anticipation et de la gestion de crise ainsi qu'au commandement du ministère de l'Intérieur dans le cyberespace je n'ai rien oublié rien oublié bonjour à toutes et à tous alors tout d'abord on aimerait comprendre comment les cybercriminels utilisent lia aujourd'hui est-ce que vous pourriez nous donner quelques exemples marquants et récents alors c'est sûr qu'aujourd'hui lia elle a elle est omniprésente dans notre quotidien elle a révolutionné même notre quotidien et certains secteurs en particulier disons que entre de bonnees mains ila est une source de progrès une véritable innovation mais entre des mains malheureusement dans dans de mauvaises mains elle peut être une arme extrêmement redoutable et aujourd'hui les cybercriminels se sont appropriés cette nouvelle technologie et ils peuvent réaliser grâce à cette nouvelle technologie des crimes relativement graves et surtout lia participe à le rendre le plus le plus difficilement détectable possible je m'explique aujourd'hui malheureusement avec lia on va la retrouver notamment dans le domaine de la pédopornographie on va le retrouver dans la manipulation de l'information et de l'opinion comme vous l'avez dit en introduction ça va être aussi la réalisation de campagnes de fishing de fishing part particulièrement bien ciblé et puis ça va aussi être vous allez voir une attaque adverse c'est-à-dire que liya va attaquer liya alors dites-nous concrètement vous parliez de de de pédocriminalité concrètement comment il est possible justement d'utiliser liia dans ce type de crime alors il y a un rapport de de l'Internet watch Foundation qui a en septembre 2023 constaté sur un forum de cybercriminel sur le Dark web que lia avait généré en un mois en seulement un mois 20000 images pédopornographiqu euh donc CTA des fausses images le problème c'est que c'est ces fausses images certes ce ne sont pas de réelles victimes mais ell elles créent euh elle en rend pas moins dangereuse dans la mesure où ça va détourner les efforts des enquêteurs en créant un volume massif de contenu généré artificiellement elle complique l'identification des vraies victimes donc aujourd'hui le rôle des forces de l'ordre ben c'est c'est d'essayer de discriminer ce qui est faut du vrai pour sortir les vraies victimes de ces réseaux c'est aussi encourager les passages à l'acte euh l'Office des mineurs estime que dans 40 % des affaires de pédocriminalité les suspects qui avaient consommé du contenu pé pornographique étaient passé à l'acte et l'utilisation on note de plus en plus l'utilisation des photos que vous pouvez mettre de vos enfants sur les réseaux sociaux qui pour vous paraissent totalement anodine de mettre vos enfants au bord de l'eau avec leur maillot et qui malheureusement sont détournés par par les cybercriminels et encore plus au-delà c'est-à-dire que parfois même ils utilisent l'image d'une personne lambda pour le faire passer pour un pédophile et malheureusement si on n' pas les moyens de détecter ces faux euh c'est ces di fake et ben on va aller chercher cette personne à 6h du matin alors qu'il aura rien avoir alors on ne dira jamais assez effectivement attention aux enfants sur Instagram parce que ces images sont réexploitées c'est vraiment important comme vous le dites de le rappeler alors on l'a vu également il est possible d'imiter des voix et des visages à la perfection mais là on Nimagine même pas le drame presque politique que ça peut engendrer vous avez quelques exemples à nous partager sur sur ce thème-là alors les diff vous allez les retrouver notamment dans les escqueres financières parce que aujourd'hui le defec est particulièrement utilisé pour la fraude au Président on l'a vu l'année dernière avec la fameuse affaire à Hong Kong de ce de de ce fauxse employé financier qui s'est fait avoir par une vision conférence extrêmement bien faite avec le vrai PDG enfin il avait l'impression d'être en conférence avec le vrai PDG et puis l'ensemble de ses collaborateurs et tout simplement en fait cette ce defect a pu être réalisé parce que ce sont des gens euh qui sont souvent sur les réseaux sociaux qui participent à des conférences sur Youtube et pour lequel l'intelligence artificielle est aller chercher à la fois l'image et le son et réaliser cette visionférence pour mettre cet employé en confiance et réaliser plusieurs faux viements plusieurs viements pour le coup qui étaent vrai et qui ont entraîné 20 millions de dollars de perte financière pour ce grand groupe et c'est le vraiment grand cas qu'on a en ce moment alors on dit pas que ça n'existe pas en France le problème c'est qu'on sait qu'il y a des deep fake en cours et qui sont auprès de nos entreprises françaises et malheureusement on a du mal à obtenir de des chefs d'entreprise notamment un dépôt de plainre parce que souvent benah ils ont honte de s'être refire avoir parfois ils l'ont même détecté mais ils sont passés à autre chose mais on voit que ça arrive en tout cas le D fake sur la frude au faux présidents est en train de prendre l'ampleur et en particulier en 2025 ce sera un point d'attention pour nous donc des enjeux géopolitiques considérable quoi absolument et le di il est aussi utilisé justement dans la manie manulation de l'information il est aussi utilisé dans dans la manipulation de l'opinion vous en avez parlé pour pour les élections il y a eu des des vidéos truquées de candidat disant des propositions qui n'ont jamais tenu il y a eu des campagnes de fake news créées en masse par l'IA pour influencer l'opinion publique dans une élection ça a été le cas aux États-Unis ça a été le cas en Roumanie où on a annulé la le deè tour des élections locales donc c'est c'est vraiment quelque chose aujourd'hui où il y a même des certains candidats qui font leur campagne grâce à lia sur je prends l'exemple en Amérique il y a eu un appel vocal de Joe Biden dans le New cher pour essayer d'inciter les gens à ne pas aller voter alors que Joe Biden a essayé d'intervenir assez rapidement pour dire que c'était un fake mais quelque part le mal était déjà fait alors colonel dans dans ce contexte alors vous êtes dans la dans l'anticipation de de de ce type de risque mais il y a pas un peu un dépassement entre la vitesse de la et la créativité et la viralisation on va dire de ces informations et votre activité au quotidien comment vous arrivez à à juguler ou ou anticiper à la même vitesse alors justement dans dans cette dualité de de comment on s'approprie l' a nous notre rôle c'est vraiment d'aller dans l'anticipation et pour ça on collabore beaucoup avec le monde de la recherche avec le monde académique on a une équipe de RED team donc c'està-dire qu'on se met à la place du cybercriminel pour à horizon 5 10 30 ans comment il peut utiliser ces nouvelles technologies pour se préparer à tous les scénarios possibles c'est ce qu'on a fait d'ailleurs pour les Jeux Olympiques où vraiment notre objectif c'est de se dire OK dans quelques années comment il s'approprier l'outil qu'est-ce qu'ils vont en faire et comment on va pouvoir les contrer ça reste du scénario ça reste du fictif c'est presque minority repor mais nous on est prêt et et on on fait on fait en sorte de se préparer de se faire presque des des des scénariotypes pour anticiper et être pris au moment où ça va arriver vous évoquez qu'il commence à y avoir une sorte de porosité entre cette vie criminelle on va dire sur les réseaux sociaux et la vie criminelle en vrai concrètement qu'est-ce qu'il faut mettre comme image en fait sous cette sous ce constat alors c'est vrai qu'on autrefois on avait l'impression qu'il y avait vraiment le monde physique et le monde numérique virtuel qui était relativement séparé aujourd'hui on constate que la frontière a quasiment disparu et avec des conséquences si je vous prends par exemple le numérique le numérique alimente le CRIM physique comment bah par exemple les cryptoonnaaies aujourd'hui les criminels classiques physique utilisent une monnaie virtuelle tout simplement pour dissimuler leurs transactions et contourner les régulations bancaires aujourd'hui font plus d'évirements parut ils utilisent les cryptonnaaies le Bitcoin ou tout autre type de de monnaie virtuel euh sur le Dark web aujourd'hui les cyber criminels peuvent t'acheter des armes des faux papiers euh prendre des identités volées et puis aussi sur le numérique vous pouvez aller faire du cyberespionnage c'est aller chercher des informations sur une entreprise qui vous intéresse pour tout simplement l'exploiter dans le monde réel ça c'est le numérique qui profite à la criminalité classique et dans l'inverse le crime physique qui s'étend au numérique vous avez par exemple trafic dont on entend beaucoup parler et Ben qui vient trouver un prolongement dans les réseaux sociaux ils vont recruter des mules sur les réseaux sociaux il va y avoir aussi on l'a vu notamment avec l'affaire Ledger mais pas que vous avez on rappelle à ce président qui a été pris en otage justement d'une société de de dans les cryptos les les braquages aujourd'hui ou les cambriolages sont préparés grâce aux informations qu'on trouve en ligne on va vous localiser en temps réel parce que beaucoup de personnes laissent la localisation en temps réel sur Instagram notamment on va connaître votre emploi du temps grâce à linkcening par exemple et puis les criminels vont exploiter toutes vos données et si vous vous rappelez il y a beaucoup de youtubeurs beaucoup de personnalités publiques qui se font cambriolet grâce à ce genre d'information qui donneent sur les réseaux sociaux et vous parlez effectivement oui l'un et l'autre se nourrissent vous parlez aussi de mouvements sociaux qui peuvent effectivement ou voir de guerre civil qui peuvent être provoqué justement par le numérique et prendre forme après de manière physique alors effectivement on a on peut constater hein que les fake new la manipulation de l'information elle a des conséquences sur le monde réel on l'a vu pour les influences sur les élections mais elle peut aussi amplifier les tensions sociales et on l'a vu notamment euh avec les émeutes suite à l'affaire tragique de naë où on a bien vu que ça c'était pas cantonné à nanter et ça a pris une proportion nationale avec une coordination grâce au au au réseaux sociaux mais aussi une des des des des fausses informations des fake news des des def qui ont été réalisés par exemple en prenant des vidéos qui s'étaient passé dans des pays étrangers ou chez nous mais à une autre période tout ça pour alimenter finalement euh et amplifier les crises amplifier la radicalisation de certains groupes et surtout ça ça a créé malheureusement une une défiance une perte de confiance dans les institutions ça a incité pour pour beaucoup à la violence et on a vu il y a quand même eu 2700 contenus qui ont été signalés à Faros où les gens en fait donnaient des éléments pour positionner des des des armes enfin des ou des des des boules de pétanque dans des caches pour attendre endre les forces de l'ordre pour les guetter à un certains endroits donc il y a eu beaucoup de signalements il y a eu beaucoup de de vidéos qui ont été prises notamment quand il y a eu les pillages de certains magasins donc vraiment on s'est aperçu que les réseaux sociaux avaient eu avaient eu une conséquence vraiment d'amplification et puis surtout il y a pas eu une modération et c'est là qu'on s'est aperçu que les réseaux sociaux n'avaient pas forcément un très bon impact quand il y a ce genre de de tension sociale mais j'ai envie de vous demander vous collaborez j avec les plateformes des réseaux sociaux pour générer pour avoir une modération qui empêche cette viralisation exponentiel il y a il y a des discussions on le fait et puis vous avez vu avec l'affaire de de téégram et l'arrestation de Pavel duove quand vraiment on veut obtenir quelque chose notamment de ces plateformes on va jusqu'au bout et je sais que le parquet le parquet anti cybercriminalité euh fait tout pour que que les les relations soient soient parfaites avec les forces de l'ordre justement colonel rester anonyme c'est de plus en plus difficile avec tout ce que vous avez cité que ce soit sur Instagram sur LinkedIn et cetera tous ces réseaux nous tracent donc soit on vit dans une grotte et on enlève la la la 5G ou le wifi de son téléphone comment avoir un équilibre et une hygiène on va dire pour se se prémunir alors moi je je peux que inviter vos vos auditeurs à en dire le moins possible évidemment on a pris l'habitude de partager une partie de notre vie en ligne on y passe beaucoup de temps et c'est comme ça qu'on fait savoir à nos proches ce qu'on fait parce qu'aujourd'hui on nvoit plus les cartes postales on nvoit plus de photos tout se passe par les réseaux sociaux par Instagram par voilà le problème c'est que ça a un effet pervers c'est que c'est exploité contre nous ça va permettre au cybercriminels de vous cibler en particulier de mieux vous connaître et du coup de réaliser une cyberataque vraiment pertinente à votre égard parce que en fait ils vont prendre le temps de vraiment vous mettre en confiance pour pour arriver à leur fin et et encore une fois on en revient au fait c'est que si plus vous donnez d'information plus vous allez permettre la réalisation par exemple de la Froude au faux président un potentiel cambriolage un enlèvement vraiment lia elle est là pour aussi permettre à ces cybercriminels d'injecter toutes les données qui vous concernent par exemple vous savez qu'il y a beaucoup de suite de données mais pour pour avoir accès aussi à votre compte mail et à ce moment-là vous mettez l'ensemble des mails dans une i générative qui vous dit exactement quel quel mail on peut vous adresser pour que vous fassiez finalement tout simplement avoir donc vraiment moi je ne peux que conseiller de mettre un minimum d'information sur les réseaux sociaux en tout cas en ce qui vous concerne vous devez protéger votre identité au même titre que vous protégez votre maison c'est pareil merci lieutenant colonel je rappelle que vous êtes adjointe à la division de la connaissance de l'anticipation et de la gestion de crise qu'au commandement du ministère de l'Intérieur dans le cyberespace restez avec nous on marque une courte pause avant de comprendre avec notre prochain invité comment les entreprises de cybersécurité agissent contre les mauvais usages de l'intelligence artificielle le numérique pour tous spécial cyberciminalité ça continue dans quelques instants et c'est sur Sud Radio Sud Radio le numérique pour tous Vanessa Perez et pour continuer cette émission spécial intelligence artificielle et cybercriminalité nous avons le plaisir de recevoir Bertrand Trastour Bertrand bonjour vous êtes directeur général de la filiale française de Kaspersky une société internationale dans le domaine de la cybersécurité alors pour commencer euh vu de votre prisme Bertrand euh on en a parlé avec Sophie mais j'aimerais le le prisme aussi de du protecteur c'est quoi les cybermenaces les plus préoccupantes aujourd'hui est-ce que j'ai le droit de faire monter la paranoïa de vos auditeurs un peu plus que ce qu' a déjà été fait je vous autorise la radio s'appelle parlons vrai donc allez-y Bertrand bon ce qu'il faut ce qu'il faut bien voir et ça a déjà été dit en préambule tout le monde est concerné par les cybermenaces que l'on parle du particulier de la TPE de du grand groupe aujourd'hui tout le monde est concerné par la cybersécurité dans le cyberespace nous nous sommes une société privée nous avons nous protégeons à peu près 1 milliard d'objets dans le monde entier donc on a une vision assez globale de la menace à travers le monde et pour vous donner une idée il y a 27 ans quand la société a été créé on voyait un virus on parlait de virus à l'époque par jour aujourd'hui on voit 467000 objets malveillant par jour unique c'est-à-dire des virus des Rand somom noir des URL malveillantes et cetera ce qui veut dire que la menace elle est devenue très polymorphe elle est extrêmement préoccupante et qu'aujourd'hui on est face à cette enjeu là de protéger tout le monde face à ce type de menace pour vous donner une idée l'an der dernier en 2024 on a détecté à peu près 300000 de nos clients qui ont eu une attaque sur avec des Ransom noir et cetera et cetera Bert on dit souvent que le facteur humain est le maillon faible vous êtes d'accord avec cette assertion non je suis pas d'accord je suis pas d'accord parce que pour moi justement le facteur humain devrait être le maillon fort pourquoi parce que on peut mettre en place beaucoup de technologie avant tout je dirais que nous en tant qu'humain on a aussi une capacité de réaction à partir du moment où l'on comprend ce que l'on fait sur un objet connecté mais de potentiellement d'une menace qui peut arriver donc il faut qu'on arrive à monter en puissance la connaissance de nos concitoyens en matière de cyber hygiène ça c'est quelque chose de fondamental et entre autres nous acteurs privés on fait un certain nombre d'actions mais il y a au niveau du gouvernement la mise en place d'un organisme qui s'appelle cybermalveillance.gou.fr que j'engage tout à chacun d'aller voir parce que c'est une plateforme globale plutôt destinée au grand public aux petites entreprises et qui leur permet de mieux appréhender les menaces et la cyberhygiène dans le cyberespace donc on a été victime d'une menace ou d'une attaque il faut absolument aller sur ce site pour porter plainte ça c'est fondamental alors et c'est la continuité de cyber malveillance c'est en effet le 17 cyber donc c'est au même titre que vous allez faire le 17 sur votre téléphone pour appeler les forces de l'ordre là vous allez avoir la possibilité justement d'engager un premier niveau de de réaction face à un incident de cybersécurité que vous auriez eu à votre domicile ou au niveau de votre entreprise Bertrand c'est quoi les cas les plus alarmants que vous avez réussi à désamorcer ou à détecter ces derniers mois on va dire alors on en a vu beaucoup en 27 ans d'existence vous imaginez on pourrait citer par exemple on collabore au sein d'interpool et d'afripool donc afripool et un peu l'interpole de l'Afrique on a des des des collaborations comme certains de nos confrères avec ces entités transgouvernementales et par exemple on a travailler avec eux sur une opération qu'on appelle serengti qui a eu lieu en Afrique et ça a visé à a arrêté plus de 1000 personnes soupçonné justement sur de faire des opérations de romsonware et donc de capter des des flux financiers euh on ça c'est une des actions que nous avons fait on a également on travaille sur un certain nombre d'attaques qui ont lieu en dans le monde du jeu vidéo ça on le sait pas forcément mais par exemple sur roblox donc qui est un jeu vidéo très prisé des enfants au niveau mondial on a détecté plus d'un 1,6 million de cyberattaques donc ça ce sont directement des utilisateurs qui sont visés par différents types de manipulation mais il n a eu plein de plateformes de jeux qui ont été impacté on peut parler de twitch on peut parler d'Electronic Arts de Sony et cetera au fil des au fil des des des des années c'est pas leur jeter la pierre mais c'est simplement on est face à une manne financière qui est disponible de manipulation et aujourd'hui ces populations sont extrêmement prisé des cyberattaquants en même temps un enfant qui joue sur roblox vous avez un cybercriminel qui s'infiltre dans dans le jeu c'est très difficile de désamorcer ou d'avoir un esprit critique par rapport à ce qu'il est en train de se passer c'est en effet extrêmement difficile mais le tout c'est justement au moins et c'est la la vertu de ce type d'émission c'est de pouvoir vulgariser la connaissance de pouvoir dire au à nos concitoyens faites attention vos enfants manipulent aussi des outils numériques de façon innée presque he aujourd'hui comment aujourd'hui navigue-t-il sur le net quel type de protection vous allez mettre et surtout quel dialogue on va restauré au niveau de la cellule familiale pour pouvoir justement mettre en place les bons comportements au sein de la cellule familiale entre parents et enfants Bertrand le lieutenant colonel rappelé quelques conseils de bon sens on va dire par rapport à à la mise de nos données sur sur sur les réseaux sociaux vous de votre côté si vous en aviez trois à rappeler vraiment de manière très concrète alors je suis totalement dans la ligée de ma vie privée doit rester privée au maximum on a trop d'exemples en effet de gens qui vont publier sur un réseau social leur billet d'avion en disant je pars de tel jour à tel jour à l'autre bout du monde c'est une erreur fondamentale qu'il faut corriger donc ma vie privée doit rester absolument privée pour justement limiter tout ce qui a été décrit précédemment en terme d'effet néfaste je dirais que la deuxième point important de mon point de vue on est de plus en plus connecté on est de plus en plus sur des sites web à titre personnel j'ai plus de 200 sites Web ou applications que j'utilise plus ou moins régulièrement j'ai un mot de passe différent par application et par site web alors oui c'est compliqué parce que gérer 200 mot de passe on ne peut pas le faire surtout quand le mot de passe doit être à minimum de 25 caractères votre conseil alors de manière très concrète comment on les génère ces mot de passe comment on s'en souvient comment hygiène Mo il y a de moyens soit il y a des moyens mémoechniques avec des des des phrases que l'on va créer et qui sont assez compliqué pour un pour un attaquant de deviner parce que ça peut être quelque chose de très personnel où on va changer ensuite des caractères par des par des chiffres et cetera donc ça c'est une méthodologie ou d'utiliser il y en a plein sur le marché des logiciels des containers de de mot de passe qui vont générer des mot de passes aléatoire en fonction des sites Web ou des applications que vous utilisez et qui permettent de mieux sécuriser votre vie numérique le troisième point alors c'est un petit peu technique c'est d'utiliser un VPN quand vous n''esttes pas à votre domicile ou quand vous utilisez un un un wifi par exemple public vous sortez vous êtes dans un aéroport vous êtes dans un restaurant un hôtel et cetera bon vous avez avoir une temp tendance à vouloir vous connecter à garder le lien le problème c'est que ces wifi publics sont potentiellement infiltrés par des attaquants par exemple au jeux olympiqu pendant les Jeux Olympiques on avait travaillé sur une étude sur des hot spot wifi dans Paris où on s'est rendu compte qu'un certain nombre soit n'avait pas les bonne mise à jour soit avait des failles de sécurité donc on attend on est à l'aéroport on attend d'être sur son propre ordinateur peut-être avec du wifi et de mettre un VPN de mettre un VPN qui permet de sécuriser la connexion et de pouvoir naviguer en toute sécurité Bertrand on parle de plus en plus de balc isation du cyberespace concrètement qu'entendez-vous derrière ce ce mot alors je dirais tout à l'heure on parlait d'Interpol de coopération internationale je pense que ça c'est un point important il n'y a pas de bonne cybersécurité dans le monde sans une coopération qui dépasse nos frontières et le problème que l'on a aujourd'hui dans l'environnement géopolitique trouble que nous connaissons à l'heure actuelle avec l'affrontement de très grands bloc géopolitique vient fragiliser cette cette la cybersécurité et donc cette balcanisation du cyberespace malheureusement elle est en train de se produire et elle est un risque justement pour la cohésion et de la lutte contre les acteurs malveillants qui justement vont de plus en plus vite et cherchent à capter de plus en plus de ressources merci beaucoup Bertrand je rappelle que vous êtes président de Kaspersky France le numérique pour tous c'est fini pour aujourd'hui je tiens à remercier nos fidèles auditeurs car nous sommes presque à quelques secondes de franchir le million d'abonnés sur Youtube puisque vous êtes de plus en plus fidèles à nous suivre donc un grand merci je rappelle que vous pouvez retrouver toutes nos émissions en podcast sur l'application Sud Radio et sur vos réseaux sociaux préférés il est temps pour moi de vous souhaiter une excellente fin de weekend et de vous dire à la semaine prochaine