Pourquoi l’intelligence artificielle a besoin d’éthique

grâce à l'intelligence artificielle on peut produire des images très très bizarre en un temps record il peut aussi transformer ses dessins méchant chef-d'oeuvre ou encore incrustée sa tête en 3d dans des gifs très très rigolo en gros l'intelligence artificielle c'est un super logiciel qui a appris à apprendre pour réaliser des tâches complexes à la place des humains sauf que pour des centaines de chercheurs dont lui lui ou elle il est vraiment urgent de mettre de l'éthique dans tout ça c'est particulièrement important dans deux situations premièrement quand l'intelligence artificielle résonne de manière trop simpliste imaginons d'abord une voiture autonome qui décrypte et analyse ce qui se déroule sur l'autoroute devant elle une remorque traîne un frigo décorer avec un poster de nirvana et une carte postale de pingouins la technologie d'analysé de la voiture va falloir un pingouin un bébé nageur un frigo ou juste une remorque qui traînent des trucs la réalité elle est complexe pleine d'imprévus et ce à la machine elle a encore beaucoup de mal à faire avec en 2017 une équipe de chercheurs américains a posé sur des panneaux stop ces petits stickers noir et blanc résultat 84% des voitures autonomes testés ont pris ses stops pour des panneaux 50 km/heure et un jour ces voitures devront aussi gérer des piétons imprévisible des cyclistes peu identifiables ou des dilemmes moraux et pinault comme donné un coup de volant et choisir de sacrifier ses piétons plutôt que de tuer les passagers de la voiture en fonçant dans un lieu mais du coup est ce que ça veut dire que l'intelligence artificielle les problématiques que quand elle est imprécise non quand l'intelligence artificielle apprend vite et qu'elle obéit à toutes les règles qu'on lui a fixés ben là finalement ça pose encore d'autres soucis en 2010 et des chercheurs de l'université américaine de stanford ont par exemple affirmé avoir appris à une intelligence artificielle à déchiffrer l'orientation sexuelle de personnes est ce juste ans canon les traits de leur visage sur des photos flippant ou du coup ces deux chercheurs ont subi un énorme bad buzz et ils vont tenter d'éteindre l'incendié en disant que leur étude était une provocation pour montrer que la technologie finalement belle allée beaucoup trop loin autre exemple angoissant en 2016 terry un robot de discussion intelligente de microsoft a dû être désactivés en catastrophe cette intelligence artificielle était censé apprendre à devenir humaine en discutant avec d'autres internautes sauf que certains lui ont montré comment détester l'humanité et même devenir nazis c'est la preuve qu'on peut aussi apprendre la pire bêtise crasse à une machine en moins de 24 heures au delà même de toutes les utilisations douteuses de cette technologie c'est au coeur même du fonctionnement de l'intelligence artificielle que se posent certaines limites éthiques une intelligence artificielle finalement elle est aussi intelligente que toutes les données qu'elles dévorent pour réfléchir petit exemple une entreprise fait appel à l'intelligence artificielle pour analyser des candidatures à un poste le profil du candidat idéal est calculé à partir des profils des salariés de l'entreprise or si 70% des employés de cette firme sont des hommes blancs passer par les meilleures universités alors le logiciel va en conclure que les cv de femmes de minorités ou de personnes aux parcours universitaire plus sinueux seront moins intéressant du coup ça automatise aussi la discrimination à l'embauché c'est ce qui s'est passé avec un algorithme de recrutement intelligent chez amazon en 2014 en gros tout base de données biaisées et discriminante permettra de calculer un résultat tout aussi biaisés et discriminant et quand on sait que ces logiciels réfléchissent de manière complètement opaque pas ça complique encore les choses oui on connaît les données traitées les algorithmes en jeu mais il est quasi impossible de retracer la totalité des opérations de calcul fait par la machine alors voilà trois pistes pour se remonter le moral est injecté un peu d'éthique dans l'intelligence artificielle la première solution finalement ça peut être d'en finir avec ces boîtes noires créer des technologies plus lisible et traçable permettra de démêler les bugs ou les résultats discriminant une chance existe déjà pour déconstruire les raisonnements de la machine et elle a beaucoup d'avenir ça s'appelle la rétro ingénierie une deuxième solution pourrait être de faire travailler plus de sociologues d'anthropologues ou de philosophes sur des projets scientifiques mais aussi de former les futurs ingénieurs et mathématicien aux questions d'éthique directement à l'université c'est le cas depuis 2014 à l'université américaine de stanford plus récemment on mars 2019 stanford a ouvert un centre de recherche spécialement dédiée à l'intelligence artificielle men et humaniste ça va dans le même sens que des dizaines d'autres initiatives d'université ou d'entreprises troisième solution plancher sur un cadre légal pour encadrer les pratiques que ce soit à l'échelle de l'entreprise d'un pays ou même d'un continent un panel de 52 experts travaillent en ce moment à la commission européenne sur un guide des tic en intelligence artificielle l'ambition faire des acteurs européens des leaders en intelligence artificielle et 6 et transparentes l'enjeu est devenu géopolitique alors que la chine prévoit d'investir 150 milliards d'euros d'ici 2030 pour détrôné un autre champion les états unis