La nouvelle IA qui dépasserait l’humain et qui inquiète des centaines de personnalités

Des centaines de scientifiques, entrepreneurs et personnalités politiques ont signé ce mercredi un appel pour stopper le développement de ce qui est appelé la super intelligence artificielle. UNIA qui serait plus intelligente à terme que l'humain. Mais alors, quels risques sont redoutés et surtout à quel horizon pourrait-on y arriver ? Salut, c'est Hugo. J'espère que vous allez bien. C'est donc le sujet très important et différent peut-être de ce qu'on a vu ces derniers jours, mais un sujet essentiel à comprendre aujourd'hui sur YouTube et en podcast audio. Et avant de rentrer dans le vif du sujet, revenons rapidement sur ce qu'est la super intelligence artificielle. En fait, ce terme-là, il désigne une IA qui serait capable de surpasser les meilleurs humains dans

tous les domaines, que ce soit la recherche scientifique, la stratégie, la créativité et cetera. C'est donc un stade au-dessus d'un autre terme dont vous avez peut-être entendu parler. L'autre terme intéressant à connaître, c'est l'intelligence artificielle générale ou AGI. L'AGI, elle viserait simplement, enfin simplement en tout cas, elle viserait à égaler les capacités humaines. Mais donc là, la super intelligence, c'est un cran au-dessus puisque elle aurait pour objectif de dépasser l'intelligence humaine. Et donc, je le disais, mercredi, plus de 1000 personnalités ont signé un appel pour demander l'arrêt du développement de la super intelligence. Parmi ell, on retrouve Geoffrey Inton qui est prix Nobel de la physique en 2024. On retrouve aussi Stuart Russell

qui est professeur d'informatique dans l'université de Berkley en Californie. On retrouve aussi Steve Vosnaak condateur d'Apple, Richard Bronson le fondateur de Virgine. Et côté politique, c'est quand même intéressant de noter qu'il y a différents bords politiques. Il y a par exemple Steve Bannon, l'ancien conseiller de Donald Trump, mais aussi Susan Wise qui est l'ancienne conseillère de sécurité nationale de l'exprésident Barack Obama. Et on retrouve aussi le prince Harry, Megan Markel, le chanteur William ou encore un conseiller du pape sur Lia. Je ne vais pas vous citer tout le monde ici, mais il faut noter que cet appel, il a été lancé par le Future of Life Institute. C'est un organisme américain qui alerte régulièrement sur les risques liés à l'IA. et leur message c'est le suivant.

Je cite "Nous appelons à l'arrêt du développement d'une super intelligence tant qu'il n'y a pas un consensus scientifique que cela peut être fait de façon contrôlée et sécurisée et tant qu'il n'y a pas un soutien clair de la population." Alors on va revenir évidemment sur tous les risques dans un instant. Mais avant ça, dans combien de temps est-ce qu'on pourrait voir apparaître une telle super intelligence ? Alors spoiler, j'ai pas la réponse de mon côté, mais ce qu'on sait, c'est que la plupart des grands acteurs de LIA travaillent aujourd'hui sur cette question là. Il travaillent déjà en ce moment sur la question de l'intelligence artificielle générale, donc celle qui vise à égaler la capacité humaine. Mais et bien certains souhaitent aller plus loin. Par exemple Samaltman, le patron

d' Penai qui est derrière chat GPT déclare que la supéria pourrait être atteinte d'ici 5 ans selon des déclarations qu'il a fait en septembre. De son côté Marc Zuckerberg, le PDG de MTA qui est donc la maison mère aujourd'hui de Facebook, Instagram, WhatsApp et cetera, souhaite créer une super intelligence, je cite, personnelle et accessible à tous et ce dit près, je cite toujours à gaspiller quelques centaines de milliards de dollars pour ne pas être dépassé par ces concurrents. Et oui, j'ai bien dit ici quelques centaines de milliards de dollars. Ce qui est sûr donc, c'est qu'il y a déjà une course pour réussir à arriver à créer une intelligence artificielle générale. Mais et bien de nombreux acteurs se projettent déjà sur la suite. Mais à noter tout de même et c'est là un

point très important quand on parle de ces sujets là. C'est des sujets qui sont technique où il y a beaucoup d'incertitude. En réalité aujourd'hui, on ne sait pas quand ça peut arriver et là je donner la parole de personnes qui visent à y arriver mais en réalité du côté bien de chercheur sur le sujet il y a pas mal d'interrogations. Certains estiment que ça peut arriver plus tôt, d'autres estiment que ça peut arriver plus tard. Certains estiment même qu'on en est encore très très loin malgré tout. Et puis aussi des questions d'un point de vue économique puisqu'on l'a dit ici, il y a vraiment des milliards qui sont injectés dans tout ça. Sauf que il va se poser au fur et à mesure la question du modèle économique de ces acteurs là. Et la question est donc de

savoir dans quelle mesure est-ce que ces investissements vont se poursuivre, vers quoi ça va déboucher en terme d'usage. C'est donc des éléments importants à avoir en tête. Et dernière chose, désolé je suis un peu long, mais c'est quand même des éléments de nuances qui sont importants à avoir en tête. Là, ici, c'est des prises de parole de géants de la tech sur ces sujets-là. des géants qui sont parfois eux-mêmes tiraillés en fait entre deux choses. Tirailler entre d'un côté un objectif de communication, en gros l'objectif de rassurer les investisseurs et de dire "Regardez, on est les meilleurs, on est capable de faire des choses formidables, donc donnez-nous de l'argent en quelque sorte." Mais il y a aussi un risque de communication dans l'autre sens avec

potentiellement des acteurs parfois qui vont minimiser les risques ou minimiser certains aspects par crainte justement d'être potentiellement autrement davantage régulé par les États. Bref, dans tous les cas pour Max Tegmark qui est le président de Future of Life Institute, je cite "Pu importe que ce soit en 2 ou 15 ans, construire une telle chose est inacceptable sans cadre réglementaire strict et lui met une forme de distinction entre des I puissantes qui peuvent avoir un usage bénéfique." On peut penser donc à des usages par exemple scientifiques et médicaux tout en s'opposant donc à une forme de super intelligence, une super intelligence dont l'usage concret d'ailleurs n'est pas forcément posé. Alors, quels sont les risques concrets d'une telle super intelligence selon les

chercheurs ? Alors, on va pas revenir aujourd'hui sur tous les sujets liés aux questions de droits d'auteur ou encore à la question de l'énergie et de l'impact sur la planète parce que c'est évidemment des sujets absolument essentiel à connaître et à comprendre mais en l'occurrence c'est un sujet qui est déjà une réalité aujourd'hui. Là, on parle de la super intelligence, donc il y a d'autres enjeux qui sont propres à cette IA. Et en 2023 et bien des centaines de chercheurs et experts écrivaient, je cite "Atténuer le risque d'extinction lié à l'IA devrait être une priorité mondiale au même titre que d'autres risques à l'échelle de la société tel que les pandémies ou les guerres nucléaires. Par ailleurs, selon Charbel Raphael Séri qui est chercheur et le directeur exécutif du Centre pour

la sécurité de l'IA, et bien une super intelligence pourrait en fait avoir des capacités et des actions difficiles à anticiper. par exemple dans le lancement de cyberattaque, la création de virus ou encore des déploiements de manière autonome, donc sans contrôle humain. Le risque donc toujours, c'est une forme de dépassement de l'humain et c'est quelque chose dont on parle depuis des années qui est présent évidemment dans des films de science-fiction aussi depuis longtemps. Mais là et bien de nombreux chercheurs estiment que c'est un risque qui est quand même présent. Alors pour limiter ces risques, l'un des principaux défis aujourd'hui c'est ce que l'on appelle l'alignement. Je vais essayer de résumer ça facilement. L'alignement, c'est en fait s'assurer que les IA se

comportent comme prévu par leur développeurs. Open AI a par exemple annoncé vouloir y consacrer une partie importante de ses ressources informatiques car je cite "L'immense pouvoir de la super intelligence pourrait être très dangereux et conduire à la dépossession de l'humanité voire à son extinction. C'est ce qu'ils écrivent eux-mêmes sur leur site. Sauf que pour le moment cet alignement et donc le fait que l'IA respecte les règles et bien ça reste un défi immense. Déjà parce que les I elles peuvent avoir des biaiss, on en a déjà beaucoup parlé sur la chaîne dans ce format des actudes du jour ou dans des formats d'interview. Et puisque déjà aujourd'hui, il y a des comportements qui ne sont pas forcément prévus. Par exemple, Bing Chat, le chatbot de Microsoft intégré à son

moteur de recherche, a parfois dans le passé produit des réponses agressives allant par exemple jusqu'à menacer un professeur. D'autres expériences, par exemple sur des jeux de stratégie montraient que parfois LIA pouvait agir de façon étonnante, par exemple en détruisant des ressources partagées pour atteindre des objectifs, un comportement jugé en quelque sorte dangereux, même si là on est dans le cadre d'un jeu mais qui montre donc à quel point il peut y avoir des dérives. Et le risque donc c'est qu'avec une super intelligence et donc une intelligence potentiellement supérieure à celle des humains, on se retrouve avec des problèmes impossibles ou difficiles à régler. Alors maintenant évidemment, il faut garder en tête que c'est un sujet où il y a encore beaucoup

d'incertitude. Est-ce qu'on en est capable ? À quoi ça ressemblerait ? À quelles sont aussi les réponses adoptées face à tout cela ? Alors en Europe, on peut noter que en 2024, il y a eu le règlement AI act qui vise à tenter d'interdire certaines pratiques à haut risque. C'est le cas, par exemple, de la notation sociale, de la manipulation subliminale ou encore de la création de base de données de reconnaissance faciale à partir de sources publiques sans consentement. L'objectif affiché donc, c'est de garantir la sécurité, les droits fondamentaux et un développement éthique en quelque sorte de l'IA. Même s'il y a d'autres aspects de cette loi qui font débat, on aura l'occasion d'en reparler. Mais tout ça pose beaucoup de questions, notamment la question de

l'efficacité de ces lois. En effet, Open AI et toutes ces entreprises, elles sont pour la plupart horis quelques exemples comme Mistral mais la plupart sont basées aux États-Unis. Dans quelle mesure est-ce que l'Union européenne est réellement capable sur son territoire de faire appliquer tout cela ? C'est des questions qui sont posées par beaucoup. Par ailleurs, ce qui est sûr, c'est qu'en parallèle, c'est un véritable enjeu géopolitique entre deux géants aujourd'hui. Alors, certes, il y a l'Europe, mais il y a surtout aujourd'hui dans cette guerre d'un côté les États-Unis et de l'autre côté la Chine avec des investissements absolument massifs. D'ailleurs, c'est une des questions que j'ai pu poser à Asma Mala qui est une politologue qui travaille justement spécifiquement sur

cette question de la technologie et du politique. Et dans son livre, elle se concentre principalement sur la question de Donald Trump et des États-Unis dans la situation actuelle, mais notamment donc avec cette question de l'IA. Je vous renvoie vers cette interview. Elle est sur la chaîne YouTube de nos grands formats, mais elle est aussi disponible en podcast sur le même flux de podcast que nos actu. En tout cas, c'est un sujet très complexe, donc je vous mets des liens en description pour plus d'informations si vous voulez creuser certains des aspects qu'on aurait passé en revue rapidement aujourd'hui. Je vous laisse avec Blanche pour le reste de l'actualité et je reviens juste après. Merci Hugo et bonjour à tous. On commence avec cette actu avec l'arrivée

de la tempête Benjamin. 18 départements en France vont être placés en vigilance orange ce jeudi pour vent violent au risque de vague submersion. D'après météo France, la tempête touchera la côte atlantique ainsi que les côtes de la Manche dès la fin de nuit, de mercredi à jeudi. Des rafales jusqu'à 130 km/h sont attendu et jusqu'à 110 km/h à l'intérieur des terres. À noté que des vents forts sont attendus partout en France ce jeudi. L'ensemble des autres départements de l'hexagone seront en vigilance jaune pour vent, sauf le VClus et les bouches du Rô. Deuxième actu et ça concerne la guerre en Ukraine, la rencontre Donald Trump Vladimir Poutine qui était prévu dans quelques semaines à Budapest en Hongrie pour évoquer la fin de la guerre en Ukraine et reportter, c'est Donald Trump

qui l'a annoncé expliquant ne pas vouloir, je cite, d'une rencontre pour rien et une perte de temps. Cette déclaration, elle intervient alors que le ministre russe des affaires étrangères, Serge Lavrov, a affirmé que la Russie était opposée à un cesser le feu immédiat que proposé par Donald Trump. Une fois qu'on a dit ça, la Russie reste quand même favorable à une rencontre entre les deux dirigeants ce mercredi. Elle a même affirmé que les préparatifs en vue de cette rencontre se poursuivaient, même si la date précise n'a toujours pas été fixée. De son côté, le président ukrainien Volodimir Zelenski s'était dit prê ce lundi à se joindre à la rencontre. Quelques jours plus tôt, il avait réaffirmé lors d'une visite à la Maison Blanche que la position de l'Ukraine n'avait pas

changé, c'est-à-dire qu'elle rejetait les conditions russes. 3ème actu, l'armée israélienne a annoncé avoir identifié les corps des deux otages qui ont été rendus par le Hamas ce mardi. Le premier, c'est celui de Tamir Radar qui était âgé de 38 ans lorsqu'il a été tué le 7 octobre 2023 lors de l'attaque du Hamas en Israël. Le second, c'est celui d'Ariier Zalmanovic, un homme de 85 ans qui était agriculteur. Il a été enlevé le 7 octobre et est apparu en 2023 dans une vidéo du Hamas qui annonçait qu'il avait fait une crise cardiaque sans que ça ait pu être vérifié, sa mort a ensuite été confirmée en décembre 2023 par Israël. Au total, le Hamas a restitué 15 dépouilles d'otage sur les 28 qu'il retenait dans la bande de Gaza. Tous auraient dû être rendus le 13

octobre, mais le Hamas a évoqué des difficulté à retrouver les dépouilles alors que la bande de Gaza est dévastée par plus de 2 ans de bombardement israélien. En parallèle, Emmanuel Macron a déclaré ce mardi que le cesser le feu à Gaza était je cite très fragile et a appelé à l'acheminement de l'aide humanitaire le plus tôt possible. En fait, l'accès de l'aide a été suspendu par Israël ce dimanche après qu'une explosion a tué deux soldats israéliens. Une explosion d'ailleurs dont le Hamas nit être à l'origine. 52 Palestiniens ont également été tués dans des bombardements et tir israéliens depuis dimanche selon la défense civile de Gaza. 4e actuou, le président du Parlement et président du pays par intérim, Rosé Reri a décrété ce mardi l'état d'urgence à Lima, la capitale,

ainsi que dans le portvoisin de Calao. L'objectif selon lui mettre fin à une vague de violence et d'extorsion qui a été attribuée au crime organisé. En fait, Roserie a été nommé à la tête du pays il y a près de deux semaines à la suite de la destitution de l'ex-présidente Dina Boloarte le 10 octobre dernier et en attendant de prochaines élections à venir. L'une de ses premières grosses décisions, je le disais, ça a été de déclarer ce mardi l'état d'urgence pour 30 jours. Le gouvernement péruvien peut ainsi envoyer l'armée dans les rues et restreindre certains droits comme la liberté de réunion afin de résoudre la crise sécuritaire que traverse le pays. Depuis janvier, au moins 47 chauffeurs de bus ont été assassinés sur fonte d'extorsion et des manifestations contre

l'insécurité et la classe politique ont éclaté il y a environ un mois. La semaine dernière à LIMA, des violences entre policiers et manifestants ont fait un mort tué par un policier et au moins 113 blessés dont une majorité de membres de force de l'ordre selon les données officielles. 5e actu, le nouveau congé de naissance qu'on va pouvoir bientôt prendre à la naissance d'un enfant sera indemnisé à hauteur de 70 % du salaire net le premier mois selon la ministre de la santé Stéphanie Rist. Il sera ensuite indemnisé à hauteur de 60 % le 2e mois. Si vous n'avez pas encore entendu parler de ce nouveau congé, il faut comprendre qu'il s'ajoute au congé maternité de 16 semaines et au congé paternité de 28 jours qui existe déjà actuellement. Les nouveaux parents pourront donc

simultanément prendre ce congé ou alors en alternance avec l'autre pour une durée maximume de 2 mois. Concernant le congé parental qui existe déjà, qui lui n'est pas rémunéré par l'employeur mais peut se prendre sur des périodes plus longues, il devrait être réformé prochainement. On ne sait pas encore sous quelle forme. En fait, l'objectif de ce nouveau congé, c'est de tenter de relancer la natalité en France. En janvier 2024, Emmanuel Macron avait lancé l'initiative en vue d'un réarmement démographique, mais elle avait été suspendue après la dissolution de l'Assemblée nationale en juin 2024. À noter que ce congé de naissance s'inscrit dans le projet de budget de la sécurité sociale 2026. Il a été présenté en conseil des ministres le 14 octobre par le Premier ministre Sébastien Lecnu

et doit désormais être examiné par l'Assemblée nationale puis le Sénat dans les prochaines semaines. 6e actu d'Angleterre qui est en visite d'État ces mercredis et jeudi au Vatican avec son épouse Camila va prier avec le pape Léon XIV. C'est du jamais vu depuis 500 ans et le chisme anglican au 16e siècle lorsque le roi Henri d'Angleterre avait séparé l'église d'Angleterre de l'autorité du pape et de Rome. En 1961, la reine Élisabeth I et mère de Charles II avait été la première monarque britannique à se rendre au Vatican depuis le chisme, mais sans jamais assister à une messe ni prier publiquement avec le pape. En Angleterre, c'est le monarque donc le roi Charles II aujourd'hui qui est l'unique gouverneur suprême de l'église. La messe aura lieu dans la célèbre

chapelle 16 au Vatican et mêlera à la fois des traditions catholiques et anglicanes. Et on finit avec cette actu à Paris, le musée du Louvre a rouvert ce mercredi 3 jours après avoir été braqué. Seule la galerie d'Apollon où le cambriolage a eu lieu reste fermé au public pour le moment. Le musée a estimé ce mardi à 88 millions d'euros le préjudice du vol. Parmi les pièces dérobées, on compte des bijoux sertis de centaines de diamants, d'émeraudes et de saphir liés à l'histoire royale française. Mais le Louvre et l'État ont annoncé que la perte allait bien au-delà de l'aspect financier, car ce sont des objets irremplaçables. L'enquête est toujours en cours pour tenter d'identifier les auteurs et retrouver les bijoux. La présidente directrice du musée a d'ailleurs été interrogée ce

mercredi après-midi devant des sénateurs. Lors du conseil des ministres ce mercredi, Emmanuel Macron a par ailleurs demandé une accélération des mesures de sécurisation du musée. Merci beaucoup Blanche pour ces actualités. Alors pour plus d'actualités, je pense que vous le savez mais pour tous les nouveaux peut-être, rendez-vous directement sur Instagram. Le nom du compte c'est Hugo Desc. Et pour découvrir mes interviews, rendez-vous directement en podcast. Vous tapez Hugo Descrypt. Et au passage, pour tous ceux qui écoutent en podcast, n'hésitez pas à mettre 5 étoiles, ça nous aide beaucoup. Prenez soin de vous, prenez soin de nos proches et puis je vous dis à demain pour une nouvelle vidéo.