OpenAI inquiète et vient de publier son IA la plus puissante

C'est potentiellement l'une des IA les plus puissantes et controversées qui existe aujourd'hui. OpenAI, la maison mère de TchadJPT, vient de lancer JPT6 Astra, son tout dernier modèle d'intelligence artificielle. Certains experts craignent que ce lancement puisse accélérer le moment où l'IA serait hors de contrôle. Mais alors que permet réellement Astra et quelles sont les craintes vis-à-vis de cette nouvelle IA ? Salut c'est Blanche, j'espère que vous allez bien, c'est le sujet à la une de ce format d'actu du jour, disponible sur YouTube et en podcast audio.

Revenons déjà sur ce dernier modèle, Greg Brockman, le président d'OpenAI, n'hésite pas à affirmer qu'il serait aussi performant que les humains. Il estime même que cette IA pourrait être qualifiée d'intelligence artificielle générale, c'est-à-dire une IA capable de réaliser seule de très nombreuses tâches aussi bien, si ce n'est mieux qu'un humain. Maintenant attention, ce terme d'intelligence artificielle générale est encore très débattu. Sam Altman, le fondateur d'OpenAI, avait lui-même récemment déclaré qu'il s'agissait au mieux d'un terme très mal défini, et au pire je cite d'un terme marketing sans intérêt.

Mais alors, est-ce qu'il s'agit d'une véritable révolution ou d'un effet marketing ? Eh bien pour le moment, il est encore trop tôt pour le dire, mais en tout cas cette IA est véritablement capable de nombreuses choses. OpenAI résume simplement la situation en affirmant qu'Astra est capable de réaliser tout ce qu'un humain peut faire avec un ordinateur. En gros, cette nouvelle IA, en plus de répondre à nos questions comme on le ferait basiquement avec n'importe quelle IA, peut aussi contrôler de manière autonome un ordinateur.

Dans la vidéo de présentation, on y voit notamment plusieurs personnes dicter directement à l'IA ce qu'elle doit faire, et Astra, sur un ordinateur, modifiait d'elle-même une page Word ou ajuste un PowerPoint. Dans la vidéo, elle crée aussi rapidement un petit jeu vidéo et met en vente une table sur eBay. Alors évidemment, certaines IA étaient déjà capables de réaliser tout ça, mais ce modèle permettrait donc de réaliser ses tâches encore plus rapidement, mais aussi de rendre de telles capacités accessibles aux personnes qui ne sont pas forcément développeurs.

Sur ce point, OpenAI précise cependant qu'Astra est, au moment où on publie ses actus du jour, uniquement réservée à un nombre limité d'organisations, notamment liées à la cybersécurité. Elle devrait être accessible aux abonnés payants de tchat GPT dans les prochains jours, mais aucune date précise n'a pour l'instant été dévoilée. Maintenant, ce qui est très important de noter concernant ce nouveau modèle, c'est qu'au-delà de tout ce que l'on vient de voir, et c'est OpenAI qui l'affirme, Astra est une IA capable d'atteindre un seuil de capacité critique en cybersécurité.

Très concrètement, ça signifie qu'Astra est capable de trouver des failles de sécurité jusque-là jamais identifiées par l'humain. Résultat, si on lui demande lors des tests, elle est directement capable d'aller elle-même exploiter ses failles pour réaliser des cyberattaques, et ce, sans qu'un humain n'ait réellement besoin de la guider. C'est d'ailleurs autour d'inquiétudes de la sorte qu'OpenAI avait justement affirmé avoir temporairement stoppé le développement de certains de ses modèles pour éviter tout risque. Si vous voulez en savoir plus, vous renvoie directement vers nos actus du jour sur le sujet, le lien est en description.

En tout cas, concernant Astra, OpenAI affirme que le modèle est limité et configuré pour déclencher des mesures de sécurité automatiques qui empêchent la réalisation de toutes tâches trop avancées en ce qui concerne les cyberattaques. Ça se passe un peu à la manière de ce que font déjà les IA en cas de demande concernant la création d'armes chimiques ou biologiques par exemple. OpenAI explique même qu'Astra est aujourd'hui, je cite, le modèle le plus aligné au monde, c'est-à-dire qu'il serait conçu pour respecter les demandes des humains sans chercher lui-même à sortir des limites fixées. Pour autant, beaucoup d'inquiétudes existent tout de même face à ce lancement.

Déjà, la sortie d'Astra arrive quelques semaines après que des modèles d'OpenAI ont piraté la plateforme Hugging Face lors de tests. Cet événement, considéré comme sans précédent, dont on a déjà parlé sur la chaîne, avait justement fortement relancé le débat sur ce que l'IA est capable de faire sans que l'on ne l'autorise vraiment. Sur ce point, OpenAI précise qu'Astra ne faisait pas partie des modèles responsables du hack et qu'ils se sont justement basés sur ses apprentissages pour que ça ne puisse plus se reproduire. Mais à l'heure actuelle, en dehors d'OpenAI, personne ne peut encore confirmer de telles affirmations.

Et l'autre point qui alarme aussi certains scientifiques, c'est le fait qu'une partie des raisonnements d'Astra pour mener à bien les requêtes ne passerait plus toujours par du texte lisible et vérifiable par les humains, avec désormais certaines formes de sous-couches qui sont difficilement accessibles, voire totalement inaccessibles pour les chercheurs. Et la création d'un tel modèle inquiète car il pourrait à terme véritablement rendre la surveillance des IA plus difficile. S'ils les cherchants ont de moins en moins la main dessus, le risque serait qu'ils soient moins en capacité qu'aujourd'hui à repérer des failles ou encore les vraies capacités de la puissance de leurs modèles.

Avec des IA qui pourraient alors être utilisés à mauvais escient, faute de limitations efficaces prises par l'entreprise. Là-dessus, les scientifiques de chez OpenAI relativisent largement la situation en affirmant que l'entreprise fait très attention à ça. Mais le scientifique en chef d'OpenAI a tout de même concédé, je cite, que plus les modèles deviennent performants, plus il devient difficile de comprendre exactement ce qu'ils peuvent faire. On suivra évidemment tout ça, on n pas eu le temps de tout aborder, évidemment. Vous avez des liens en description et je vous laisse avec Samy pour le reste de l'actualité importante du jour. Merci Blanche et bonjour à toutes et à tous.

On commence avec cette première actu. Les Etats-Unis veulent demander aux pays européens de leur rembourser l'aide militaire fournie à l'Ukraine dans sa guerre contre la Russie sous la présidence de l'ancien président américain Joe Biden. C'est ce qu'a annoncé ce jeudi le président des Etats-Unis, Donald Trump, évoquant sur son réseau social, je cite, des centaines de milliards de dollars donnés gratuitement à l'Ukraine et à l'OTAN, cette alliance politico-militaire des pays occidentaux ».

Il faut savoir que depuis l'invasion de l'Ukraine à grande échelle par la Russie en février 2022, les Etats-Unis et les pays européens soutiennent l'Ukraine avec des armes, de l'argent et une aide humanitaire. Mais cette aide, dont parle Donald Trump, n'était pas un prêt fait aux pays européens. Elle a été décidée et financée par les Etats-Unis pour soutenir directement l'Ukraine. Et les Européens n donc en théorie aucune obligation de rembourser les Etats-Unis. Mais Donald Trump estime qu'ils auraient dû payer une part beaucoup plus importante de cette aide dès le départ.

Il faut savoir que le président des Etats-Unis réclame depuis plusieurs années que les Européens assument une part plus importante du coup de soutien à l'Ukraine contre l'invasion russe. Depuis 2022, les Etats-Unis ont engagé environ 115 milliards d'euros d'aides totales à l'Ukraine, dont près de 65 milliards d'euros d'aides militaires sur le Kill Institute. Et de son côté, l'Union Européenne et ses Etats-membres ont apporté ou engagé plus de 220 milliards d'euros de soutien à l'Ukraine selon le Conseil Européen. Deuxième actu, la Maison Blanche vient de publier un jeu vidéo dans lequel le but est d'expulser des migrants.

Il est déjà disponible sur le site officiel du gouvernement américain, aux côtés de 5 autres jeux inspirés de classiques comme Tetris dans une rubrique baptisée Arcade. Ce jeu précis s'appelle Rio Run et il reprend donc les principes du célèbre jeu Snake. Le joueur contrôle un personnage qui représente Tom Oman, le principal conseiller de Donald Trump sur l'immigration. Et le but est donc de récupérer des personnages qui traversent le Rio Grande, le fleuve qui marque une grande partie de la frontière entre les Etats-Unis et le Mexique, pour ensuite les expulser du pays.

Un autre jeu, inspiré de Tetris, appelé Build the Wall, demande quant à lui au joueur de construire un mur à la frontière avec le Mexique. Alors vous en doutez, ces gens étaient fortement critiqués, notamment par une association de défense des migrants au Texas, qui dénonce le fait de transformer ces expulsions en jeux vidéo. De son côté, la Maison Blanche assume cette communication et a déclaré à l'AFP vouloir mettre en avant, je cite, une culture du fun et de la gagne.

En tout cas, cette publication intervient alors que Donald Trump, qui est de retour au pouvoir depuis janvier 2025, multiplie les arrestations et les expulsions de migrants, notamment avec le renforcement des opérations de l'ICE, la police fédérale chargée de l'immigration. Et les associations de défense des droits humains, comme Human Rights First, dénoncent régulièrement ces arrestations et expulsions massives. Près de 51 000 personnes en situation irrégulière ont été arrêtées par la police de l'immigration au mois d'août, un record selon le gouvernement américain.

Troisième actu, plus d'un milliard d'euros vont être débloqués pour soutenir l'agriculture française, qui est durement touchée par les canicules et la sécheresse de ces derniers mois. L'annonce a été faite ce vendredi par la ministre de l'Agriculture, Annie Gennevar. Selon le gouvernement, ces aides serviront à soutenir les exploitations, éviter les faillites et relancer la production. Elles passeront notamment par l'indemnisation de solidarité nationale, qui permet à l'État de compenser les pertes de récoltes dues aux événements climatiques exceptionnels. Trois secteurs ont particulièrement souffert des fortes chaleurs.

Le maraîchage, avec les cultures de légumes, les cultures de printemps, notamment les céréales et le maïs, et l'élevage, confrontés à des difficultés liées à l'alimentation du bétail. Le plan prévoit également de renforcer l'accompagnement social, psychologique et médical des agriculteurs, qui ont été fragilisés par ces épisodes climatiques. Selon le gouvernement, les canicules de cet été ont entraîné à elles seules entre 5 et 10 milliards d'euros de pertes pour les agriculteurs. On vous a mis les liens en description pour retrouver le détail des mesures annoncées. Quatrième actu, la France a autorisé ce mercredi des essais de voitures autonomes Tesla sur ses routes.

Le ministre des Transports, Philippe Tabarro, a évoqué un échange constructif avec Elon Musk, le patron de Tesla. En France, les Tesla proposent déjà des aides, comme le régulateur adaptatif ou le maintien dans la voie, mais le conducteur reste responsable. Sauf que là, on parle du système FSD, le système de conduite entièrement automatisé et supervisé de Tesla. C'est un système plus avancé et qui est capable de gérer certaines manœuvres seules, comme des créneaux par exemple. Le système précis n'est pas encore utilisé pour les clients Tesla sur les routes en France.

Et attention, ce qui vient d'être autorisé pour des tests sur route, c'est une conduite autonome, mais avec un conducteur quand même sur le siège. Ici, on ne parle pas des voitures sans personne sur le siège conducteur qu'on peut voir à San Francisco par exemple. En fait, cette décision intervient alors qu'en juillet, la France avait indiqué ne pas vouloir autoriser à ce stade le FSD en raison d'inquiétudes liées à la sécurité. Ça concernait notamment le respect des limitations de vitesse.

Alors concrètement, pour les propriétaires de Tesla, rien ne change pour l'instant, le FSD n'est pas encore homologué pour être activé sur les routes françaises, et les essais concernent donc seulement deux véhicules fournis par Tesla pour que les autorités puissent observer le comportement du système en condition réelle. Noter que depuis 2026, 5 pays européens, les Pays-Bas, l'Estonie, la Belgique, la Lituanie et le Danemark ont déjà autorisé la circulation de Tesla équipée de ce système.

Et on termine avec une dernière actu culturelle, on voulait revenir sur une annonce faite le 24 août par Emmanuel Macron, la signature d'un protocole d'accord entre la France et l'Arabie Saoudite pour la création de trois parcs et d'attractions en région parisienne, à la clé 6 milliards d'euros d'investissement et la création de 22 000 emplois. On avait parlé dans ce format, mais les thématiques des trois parcs n'avaient pas été clairement précisées, mais Emmanuel Macron avait évoqué son intérêt pour les mangas.

De son côté, Valérie Pécresse, la présidente de la région Île-de-France, avait elle indiqué que l'un des parcs serait consacré à Dragon Ball Z, sauf qu a appris cette semaine que Toei Animation, qui détient une partie des droits liés à Dragon Ball, n'a ni autorisé ni eu connaissance d'un projet de parc Dragon Ball. En France, le studio a également indiqué que certaines images relayées sur les réseaux sociaux ne correspondaient pas à ce projet à Paris, mais bien à celui d'un parc à thème à Kidia City en Arabie Saoudite. Shuecha, l'éditeur japonais du manga et autre détenteur de droits, a également indiqué ne pas être impliqué dans ce projet.

Pour l'heure, le gouvernement n'a pas encore réagi aux démonties de Toei Animation. Merci Samy pour ces actualités, et on termine avec une bonne nouvelle pour la science. Un homme de 66 ans souffrant d'insuffisance rénale a pu vivre 271 jours sans dialyse, donc sans filtration artificielle du sang, grâce à un rein de porc génétiquement modifié, soit près de 9 mois. Si on en parle aujourd'hui, c'est parce que c'est la plus longue durée documentée dans ce type de greffe chez une personne vivante, selon son équipe médicale américaine. En fait, le patient souffrait d'une maladie des reins liée à un diabète de type 2.

Depuis 2 ans, il devait suivre régulièrement des séances d'hémodialyse, un traitement qui remplace en partie le travail des reins en filtrant le sang. Mais donc, en janvier 2025, il a reçu un rein provenant d'un porc génétiquement modifié pour être plus compatible avec le corps humain. Selon les médecins, le rein greffé a commencé à fonctionner immédiatement. Il a permis aux patients d'arrêter la dialyse pendant 9 mois, mais environ 6 mois après l'opération, des lésions sont apparues dans les vaisseaux sanguins de l'organe. Elles ont ensuite progressé et le rein a dû lui être retiré.

Le patient a alors repris la dialyse pendant près de 3 mois avant de recevoir en janvier 2026 un rein humain provenant d'un donneur décédé cette fois-ci. Selon un nouveau rapport publié dans la revue de l'ANSET, ces résultats positifs pourraient donc contribuer aux recherches sur les greffes de reins de porc et à terme, offrir une alternative aux patients qui sont confrontés à de longs délais d'attente pour obtenir un organe humain. C'est tout pour aujourd'hui, merci beaucoup d'avoir suivi ce format aujourd'hui. Je crois que j'ai tout dit, prenez soin de vous, prenez soin de vos proches et je vous dis à plus tard.