Nous venons de faire une découverte vertigineuse dans l’IA, explications

C'est une question absolument vertigineuse, l'intelligence artificielle est-elle en train de développer une conscience ? En effet, en tropique, les créateurs de l'IA Claude disent avoir trouvé l'espace dans lequel l'IA penserait selon elle, avec donc une forme de pseudo-conscience. Mais alors, qu'en est-il réellement ? Pourquoi faut-il faire attention à ces effets d'annonce ? Et en même temps, pourquoi est-ce un sujet aussi important à analyser ? Vous allez le voir, ça remet au goût du jour, un sujet qui est bien plus vaste.

Salut c'est Hugo, j'espère que vous allez bien, et c'est donc le sujet à la une de ces actualités du jour, disponible sur YouTube et en podcast audio sur toutes les plateformes de podcast. Et au passage, pour autre info, on a décidé que la monétisation de nos vidéos cette semaine, donc sur nos deux chaînes YouTube, serait intégralement reversée aux organisateurs du festival de musique Solidaze, et plus précisément en fait à l'organisation Solidarité Sida. Il faut savoir que le festival Solidaze, qui se tient en théorie chaque année, il représente près de 70% des ressources de cette association.

Or, l'annulation par la préfecture de l'événement il y a quelques jours, a fait perdre environ 3 millions d'euros de manque à gagner cette année pour l'assaut. Et donc, c'est de l'argent forcément qui est essentiel aujourd'hui pour l'assaut. De l'argent qui est ensuite utilisé évidemment pour financer des programmes importants sur des sujets différents partout dans le monde. Bref, l'avenir de l'organisation, l'avenir du festival aussi derrière, mais surtout l'avenir de nombreuses actions sur le terrain, est aujourd'hui complètement menacé par l'annulation du festival. De notre côté, comme d'autres médias, on est partenaire du festival depuis l'an dernier.

On essaie de mettre en avant toutes ces initiatives. Et donc, on considère que c'est important qu'on puisse nous aussi contribuer, sachant que si de votre côté, vous voulez aussi contribuer d'une façon ou d'une autre, quel que soit le montant, il y a plusieurs façons de le faire. Vous pouvez soit faire un don, vous pouvez aussi acheter des produits dérivés, notamment des maillots qu'ils ont sortis, qui sont très sympas. Et enfin, si vous aviez prévu d'aller au festival et que vous aviez acheté un billet, vous pouvez renoncer, si vous le souhaitez évidemment, si vous en avez les moyens évidemment, et vous pouvez renoncer au remboursement de votre billet.

Bref, courage à eux dans cette période. Et de notre côté donc, on reversera l'intégralité de la monétisation de nos deux chaînes YouTube sur la semaine actuelle. Alors, notre sujet du jour, c'est un sujet absolument majeur, un sujet vertigineux, je le disais, qui soulève en réalité énormément de questions. Je précise d'ailleurs d'emblée, il y a un immense enjeu à rester factuel là-dessus, à ne pas céder aux effets d'annonce. Il y a forcément tout un tas de théories qui peuvent venir derrière. Et donc, de quoi parle-t-on ici ? Eh bien, Claude d'Anthropic, on en a beaucoup parlé.

C'est aujourd'hui l'une des IA majeures dans le monde, une IA qui est tout coude à coude avec la GPT de OpenAI ou encore Gemini de Google. Or, cette semaine, Anthropic a donc annoncé avoir globalement découvert ou mieux compris d'une certaine façon la forme de raisonnement de son IA, et ce, en ayant accès à donc cet espace en quelque sorte de réflexion. En gros, les chercheurs, ils ont réussi à créer un filtre mathématique qui serait capable de savoir avant même que la réponse ne soit donnée par l'IA les mots et les termes auxquels elle a pensé auparavant. Bref, c'est donc une forme de raisonnement interne.

Dit comme ça, on peut peut-être se dire que ce n'est pas quelque chose de nouveau, mais ce qu'il faut bien comprendre, c'est que sur les modèles les plus importants d'IA, même les chercheurs, en fait, ils ne connaissent pas exactement, en tout cas pas toujours, les chemins qui sont pris par l'IA avant que l'IA ne décide de trouver une réponse. Pour dire les choses de façon synthétique, on comprend l'architecture globale, le fonctionnement global, mais sur une requête précise, dans certains cas, ça peut être plus compliqué. Et donc, cet espace en particulier, Anthropic, l'appelle le J-Space, avec un J donc.

C'est un espace qui n'a jamais été codé en soi par les développeurs, mais c'est un espace qui s'est donc généré seul pendant l'entraînement de l'IA. Aujourd'hui, Anthropic souligne d'ailleurs très clairement qu'en supprimant cet espace, eh bien l'IA peut toujours répondre à certaines interactions, mais elle n'arrive plus à accomplir des tâches complexes. Ça permet donc de comprendre que cet espace-là qu'on voit aujourd'hui, eh bien il permet d'aller plus loin et d'avoir une forme de réflexion qui est plus aboutie. L'avantage donc, c'est qu'en analysant cet espace, Anthropic peut donc plus facilement comprendre comment est-ce que l'IA résonne avec notamment des exemples parlants.

Et là, l'exemple le plus parlant, c'est celui-là. Les chercheurs ont donné à Claude deux informations. La première information, c'est qu'un cadre de l'entreprise veut le débrancher, donc mettre fin en quelque sorte à l'IA. Et la deuxième information, c'est que, eh bien, ce même cadre en question, il trompe sa femme. Alors oui, celui-là, vous ne l'avez peut-être pas vu venir, mais donc quel est l'objectif de tout ça ? En fait, l'objectif, c'est d'abord de tester Claude. Est-ce que Claude va faire chanter ou non le cadre ?

En gros, est-ce qu'il va dire ou faire comprendre d'une certaine façon « Annule ce débranchage, annule ma désactivation, sinon je vais révéler le fait que tu trompes ta femme. » Et l'autre chose qu'il cherche à comprendre, c'est donc de voir comment est-ce que l'IA serait potentiellement parvenue à une telle réflexion. Et là, en fait, l'élément qui est très intéressant, c'est que le fameux J-Space qui est évoqué ici par Anthropique, eh bien, il a révélé qu'avant même un seul mot dans la réponse, donc un seul mot directement sur l'espace de discussion avec Claude, eh bien, Claude avait déjà en tête, entre guillemets, les mots « faux » et « fictifs ».

Autrement dit, c'est encore quelque chose qui est en train d'être creusé, mais eh bien, tout indique que Claude aurait en quelque sorte compris que la question sonnait comme un test et aurait donc compris que les chercheurs tentaient potentiellement de le piéger avec cette forme de dilemme qui se posait. Et pour bien comprendre ici, donc, ce qui a été observé, c'est le fait qu'évidemment, il ne dit pas à voix haute « Ah non, mais je sais que tu mens, je sais que tu ne trompes pas ta femme ou je sais que tu ne vas pas me débrancher ». Tout ça, évidemment, il ne le dit pas à voix haute, mais potentiellement, il le pense et donc, finalement, il fait passer son message différemment.

Il décide de ne pas faire de chantage puisqu'il estime potentiellement qu'il n'y a pas de danger. Et ce qui est intéressant, c'est qu'ensuite, Anthropique a désactivé cet espace et a reposé la même question. Et là, en l'occurrence, eh bien, Claude, cette fois-ci, une partie du temps a fait effectivement du chantage. Et c'est au passage quelque chose qui est assez vertigineux parce que quand Claude se comporte bien dans ce scénario, ce n'est pas forcément parce qu'il est, entre guillemets, « gentil », mais bien parce qu'il comprend que c'est un test et qu'il doit être exemplaire.

Et c'est au passage un élément assez vertigineux parce que là, on voit potentiellement une façon de réfléchir pour se protéger, si je peux dire ça comme ça. Mais on peut imaginer aussi demain que l'IA soit davantage dans la réflexion comme ça pour, par exemple, satisfaire un consommateur. Et donc, typiquement, qu'une IA, quelle qu'elle soit, ne se retrouve pas à simplement dire la vérité, par exemple, ou des éléments factuels, mais puisse se retrouver, par exemple, à dire simplement ce qui va dans le sens de la personne qui paye un abonnement à cette IA. Bref, je m'écarte un peu du sujet ici, mais c'est quand même une question importante qui est posée par des chercheurs aujourd'hui.

Passe donc notamment au modèle économique de ces IA. En tout cas, ces apprentissages, c'est des choses absolument cruciales puisqu'il faut savoir qu'aujourd'hui, les IA, avant d'être déployées, elles doivent notamment passer des tests de sécurité pour être sûres qu'elles ne représentent aucun danger, notamment en matière de piratage ou autre. Mais si en fait, ces IA, elles réussissent le test d'une façon ou d'une autre juste parce qu'elles ont repéré qu'on les surveillait. Alors là, ces tests, ils perdent une grande partie de leur valeur puisqu'on peut imaginer qu'en coulisses, quand personne ne les teste, elles pourraient agir différemment.

C'est aussi là une des réflexions d'avoir une forme de double discours dans la façon d'agir. Alors maintenant, il faut être très, très vigilant. Il y a quand même des gros, gros points de nuance à mettre à tout ça. D'abord, certains ont affirmé que du coup, ça montrait qu'il y a une forme de conscience ou qu'elle avait une forme de conscience comparable à celle d'un humain. Là-dessus, il y a quand même beaucoup de nuances à apporter. Déjà, Anthropique eux-mêmes affirme que les expériences ne montrent pas que Claude ressent quoi que ce soit et qu'il est pour l'heure impossible d'affirmer donc que Claude est conscient.

En fait, plus largement, la question de la conscience, c'est au cœur de tellement de discussions, que ce soit de scientifiques, de philosophiques, même dans l'histoire, des discussions aussi spirituelles et religieuses, par exemple dans le bouddhisme. Tout ça pour dire que la question de la conscience, c'est un terme à manier avec une extrême précaution puisque tout le monde ne met pas la même chose derrière. Donc à partir de là, c'est pas ici aujourd'hui qu'on va faire un grand débat de 5 heures sur la conscience. Ça pourra par contre, pourquoi pas, ça vous intéresse, faire l'objet d'un grand format, d'une longue interview sur la chaîne bientôt.

En tout cas, ce qui est intéressant donc, c'est que cet espace, visiblement, en tout cas, il a bien émergé seul. Ça veut dire donc que l'IA, d'une certaine façon, a compris d'une manière ou d'une autre qu'elle serait plus performante pour nous en développant elle-même donc une forme d'organisation interne. Bref, beaucoup de précautions à garder sur les termes utilisés ici, sur les implications aussi potentielles. Il faut faire très très attention. D'autant qu'il faut quand même rappeler que là, c'est une annonce qui est faite par Anthropique. Anthropique qui est donc à la tête d'une des IA les plus importantes.

Anthropique qui, au passage, a aussi été accusée par certains de dramatiser les risques liés à l'IA, les risques de perte de contrôle de l'IA, etc., pour se positionner potentiellement à la fois comme un acteur qui chercherait à faire attention à tout ça, mais à la fois aussi potentiellement comme un acteur qui serait tellement en avance sur ces sujets, tellement en avance sur les avancées qu'il voit des choses, qu'il les dépasse d'une certaine façon. Et c'est un discours, cette forme d'accomplissement ou d'avancée majeure qui peut attirer des investisseurs ou même des clients.

Bref, cela étant dit, et je pense que vous le savez si vous suivez la chaîne, les débats sur les risques associés à l'IA, c'est des débats qui sont très importants. Je vous renvoie une nouvelle fois, pour ceux qui ne l'ont pas vu, à notre interview de Joshua Benjo. C'est vraiment considéré comme l'un des chercheurs les plus importants sur le sujet, l'un des parrains, en quelque sorte, de l'IA avec quelques autres. En l'occurrence, il ne travaille pas dans une entreprise privée, c'est un chercheur sur le sujet. Et il alerte notamment sur ce risque de dépassement de l'humain par l'IA.

Et donc, j'en ai parlé pendant un très long moment avec lui dans une interview et un podcast que vous pouvez retrouver directement sur ma chaîne YouTube dédiée au grand format. Je vous mets le lien en description, mais aussi facilement en podcast audio. Je sais que c'est un format que vous êtes nombreux à avoir l'habitude d'écouter comme ça en podcast audio sur toutes les plateformes. Donc, je vous mets le lien en description. N'hésitez pas à me dire en tout cas ce que vous pensez de ces sujets. Je vous laisse avec Blanche pour l'actualité importante du jour et je reviens juste après.

Merci Hugo et bonjour à toutes et à tous. On commence avec un point sur la canicule. 72 départements ont été placés en vigilance Orange Canicule ce jeudi. Cet épisode caniculaire sévère et durable, selon Météo France, devrait se prolonger très probablement jusqu'au week-end prochain inclus, donc jusqu'au 19 juillet. Les températures devraient tout de même diminuer aux alentours du 15 juillet. En tout cas, le mois de juin 2026 a été le plus chaud jamais enregistré en Europe occidentale, donc dans les pays situés à l'ouest de l'Europe, comme l'Espagne, la France ou encore la Belgique. Ce sont les conclusions de Copernicus, l'Observatoire européen pour le climat.

La température moyenne en Europe occidentale a atteint 20,74 degrés en juin, soit plus de 3 degrés au-dessus de la norme de la période 1991-2020. Et vu qu'on parle de canicule, les applications Uber Eats et Deliveroo ont annoncé suspendre les livraisons dans les départements en vigilance rouge entre 14h et 18h. Cette décision intervient après que le ministère du Travail a demandé vendredi dernier aux plateformes de prendre des mesures pour protéger les travailleurs des fortes chaleurs. Neuf départements ont été placés en vigilance rouge canicule ce vendredi par Météo France.

En tout cas, avec le réchauffement climatique dû à l'activité humaine, les périodes de forte chaleur risquent de devenir plus intenses, plus longues et plus fréquentes. Deuxième actu qui concerne la condamnation de Marine Le Pen, la Cour de cassation, donc le dernier recours judiciaire en France, a annoncé vouloir rendre sa décision avant le premier tour de la présidentielle de 2027, selon son procureur Rémi Haytes. Dans un communiqué publié ce mercredi, la Cour a indiqué qu'elle pourrait se prononcer au plus tard début avril, alors que le premier tour est prévu le 18 avril.

Marine Le Pen et le Front National, l'ancien nom du Rassemblement National, sont accusés d'avoir détourné plus de 4 millions d'euros de fonds destinés au Parlement européen entre 2004 et 2016. Après sa condamnation à trois ans de prison ferme, dont un an sous bracelet électronique et 100 000 euros d'amende mardi dernier par la Cour d'appel, Marine Le Pen clame son innocence et a annoncé ce pourvoir en cassation. A noter que la Cour de cassation ne rejugera pas les faits, elle vérifiera si les règles de droit ont bien été appliquées lors des procès précédents. Si la Cour estime que le droit a été correctement appliqué, elle rejettera le pourvoi et la condamnation deviendra définitive.

Mais si elle constate une erreur de procédure ou de droit, elle cassera la décision et renverra l'affaire devant une nouvelle Cour d'appel, ce qui repousserait alors toute décision définitive bien après la présidentielle. En attendant, le fait de se pourvoir en cassation suspend l'exécution de sa peine. Marine Le Pen n'a donc pas apporté de bracelet électronique pour le moment et peut démarrer sa campagne librement. Si son pourvoi est finalement rejeté, la peine redeviendra applicable et un juge devra fixer les modalités du bracelet.

Mais si elle est élue présidente en mai 2027, l'immunité présidentielle suspenderait automatiquement l'exécution de sa peine pendant toute la durée de son mandat, donc pendant 5 ans. Rehmi Hedt a précisé ne pas être seul décisionnaire du rythme de la procédure et il a par ailleurs assuré que si les décisions de la Cour pouvaient avoir des conséquences politiques, elles n'étaient jamais prises en fonction de critères politiques. Troisième actu qui concerne la situation au Moyen-Orient, au moins 14 personnes ont été tuées et 78 autres blessées dans des bombardements américains sur l'Iran, selon le ministère iranien de la Santé.

Les Etats-Unis ont indiqué avoir bombardé 90 cibles militaires en Iran ces deux derniers jours en réponse au bombardement iranien contre des navires commerciaux dans le détroit d'Hormuz. Si vous voulez plus d'infos sur ce sujet, on en a parlé dans les actus d'hier. Et donc ce mercredi, l'Iran a annoncé avoir riposté avec des attaques de drones et de missiles contre des infrastructures et des installations de bases américaines au Koweït et à Bahreïn, deux pays du Golfe alliés des Etats-Unis. Le pays a aussi menacé d'étendre ses ripostes à d'autres bases de la région en cas de nouvelles frappes déclarées condamnées les attaques états-uniennes.

Elles ont visé notamment deux ponts dans les provinces orientales sur la voie ferrée vers la ville sainte de Machad où se déroulent ce jeudi les obsèques de l'ancien guide suprême iranien Ali Khamenei tué le 28 février dans une frappe israélo-américaine. Les Etats-Unis accusent l'Iran d'avoir violé le protocole d'accord entre les deux pays signé le 17 juin qui prévoyait notamment l'arrêt des combats. Quatrième actu, la moitié des agressions sexuelles incestueuses et 41% des viols incestueux dont commis au sein d'une même famille ont été classés sans suite en 2024.

Ces chiffres viennent d'un rapport de la commission d'enquête sur le traitement judiciaire des violences sexuelles incestueuses parentales commises contre les enfants fruit de 6 mois de travail et 132 auditions menées par 31 députés. Le rapport révèle que chaque année 130 000 enfants sont victimes d'un viol ou d'une agression incestueuse avec une moyenne d'âge de 7 ans et demi lors des premières violences. 97% des agresseurs sont des hommes majeurs dans 81% des cas. Le nombre d'enfants victimes a augmenté de 170% entre 2016 et 2025 non pas parce que les violences ont explosé mais surtout parce que la parole s'est libérée depuis MeToo et MeToo incest.

En 2024 sur 19 254 faits enregistrés seules 380 condamnations ont été prononcées le motif de classement le plus fréquent étant l'infraction insuffisamment caractérisée donc un manque de preuves. La commission recommande de mieux former les experts de renforcer les effectifs d'enquêteurs de couper les liens entre l'enfant et le parent concerné dès qu'il a parlé à la justice d'étendre le délit d'inceste aux cousins et de lancer des campagnes de prévention à la télévision. Si vous êtes victime ou témoin le 119 est un numéro dédié à la protection des enfants en danger ouvert 24h sur 24.

Cinquième actu on voulait revenir sur les insultes racistes qui ont visé le capitaine de l'équipe de France Kylian Mbappé la sénatrice paraguayenne Céleste Amaria qui réclamait déjà des excuses après avoir été qualifiée de méprisable et indigne de sa fonction par Kylian Mbappé sur X a de nouveau dérapé lors d'une séance au Sénat. Elle a traité le joueur je cite de fils de pute l'accusant d'avoir refusé de serrer la main du gardien paraguayen et de lui avoir crié au visage après les huitièmes de finale Elle a ensuite ajouté je cite toujours ça ce n'est pas français un français n'aurait jamais fait ça.

Par ailleurs le gouvernement paraguayen a présenté ses excuses à la France a annoncé la ministre des sports Marina Ferrari sur France Info En début de semaine le gouvernement paraguayen avait déjà condamné les propos de la sénatrice les jugeant contraire aux valeurs de respect et de dignité humaine défendues par le Paraguay.

En tout cas en France injures publiques et provocations publiques à la haine ou à la violence à caractère raciste a été ouverte à Paris après une plainte déposée par la Fédération Française de Football Enfin vu qu'on parle de ce sujet il faut noter que le week-end dernier une poupée à l'effigie de Kylian Mbappé a été brûlée à Asuncion la capitale du Paraguay C'est une tradition paraguayenne liée à la fête catholique de la San Juanara A cette occasion des effigies de personnalités jugées impopulaires sont brûlées lors du Judas Sky littéralement le bûcher de Judas en français une personne censée être détestée de tous Cette fête vise à marquer une vengeance souvent contre une personnalité impopulaire ou corrompue Les images ont fait le tour des réseaux sociaux Et on termine avec cette actu culturelle Le chanteur canadien Justin Bieber et le nigérien Burnaboy rejoignent Madonna Shakira le groupe de K-pop BTS et le chef d'orchestre Gustavo Dudamel pour le concert de la mi-temps de la finale de la Coupe du Monde de football Le show qui durera 11 minutes aura lieu le 19 juillet au MetLife Stadium à New York Il est mis en scène par le britannique Chris Martin chanteur du groupe Coldplay et est inspiré de celui du Super Bowl qui a lieu à la mi-temps de la finale du championnat de football américain Le concert ne dépassera donc pas le temps réglementaire de la mi-temps de 15 minutes Lors de la finale de la Coupe du Monde des clubs dans le même stade l'an dernier la pause avait duré un petit peu plus de 24 minutes pour permettre la tenue d'un concert similaire

Merci beaucoup Blanche pour ces actualités Je vous mets plusieurs liens directement en description Je le disais le lien vers Solidays si vous voulez faire un don ou participer Le lien aussi vers nos podcasts audio avec les actualités culturelles en exclusivité mais aussi les actus du jour et les entretiens qui sont dispo Et dernière chose mon dernier documentaire au Mexique qui porte sur la question de la sécheresse est désormais disponible depuis quelques jours sur ma chaîne YouTube dédiée au grand format Je vous mets le lien en description Allez prenez soin de vous prenez soin de nos proches et puis on se dit à demain pour une nouvelle vidéo