IA, MANIPULATION ET SCIENCE
L’Intelligence Artificielle générative, la désinformation et la science sont les thèmes traités lors de cette revue de web printanière.
De la technologie à la mésinformation
L’Intelligence Artificielle (IA) générative et la mésinformation a été le sujet de webconférences. Le premier webinaire était organisé par l’Académie des technologies. Les académiciens, Nicolas Curien et Joëlle Toledano sont intervenus dans cette troisième édition du webinaire de la tech consacrée à l’IA générative et mésinformation, avec Manoelle Lepoutre, vice-présidente de l’Académie des technologies à l’occasion du rapport de l’Académie des technologies. L’IA générative a généré alors le buzz dans plusieurs secteurs d’activité dont l’éducation et les médias. Si des nouvelles perspectives se profilent à l’horizon, l’IA générative représente aussi un enjeu sociétal inédit, avec l’essor de Fake news et de la manipulation des opinions. Des outils « d’IA curative » contribuent à combattre cette mésinformation. L’éducation à l’IA peut également jouer un rôle pour lutter contre ces fake news. Enfin, des initiatives européennes permettent de participer à la régulation numérique.
L’intégrité de l’information à l’heure de l’IA générative est également le thème d’une conférence de l’institut Français Des Relations Internationales (IFRI) animée par Laure de Roucy-Rochegonde, directrice du Centre géopolitique des technologies de l’Ifri et Amélie Férey, chercheuse au Centre des études de sécurité et responsable du Laboratoire de recherche sur la défense (LRD) de l’Ifri. Anne-Sophie Dhiver, directrice adjointe de VIGINUM, Lucas Dixon, principal research scientist, People & AI Research chez Google, Aude Maio-Coliche, directrice communication stratégique et prospective du service européen d’action extérieure (SEAE), Guillaume Poupard, envoyé thématique « IA de confiance » à l’AI Action Summit, ont échangé avec Stéphane Taillat, chercheur de l’Institut français de géopolitique et enseignant-chercheur de l’Académie Militaire de Saint-Cyr Coëtquidan.
L’ IA générative bouleverse les règles de l’environnement informationnel global. Si cette technologie de rupture présente des opportunités inédites, elle entraine aussi des graves dérives : deepfakes indétectables, ingérences numériques étrangères, désinformation au service d’intérêts politiques ou économiques. Si l’IA générative et les Large Language Model (LLM) peuvent être utilisées avec des objectifs de manipulation de l’information, des solutions techniques, juridiques et politiques comme l’éducation aux médias, peuvent être envisagées devant ce développement de la production automatique de contenus pouvant participer à des campagnes d’influences étrangères et des stratégies de dénigrement d’entreprises privées.
La manipulation, la santé et la science
Les manipulations se sont aussi développées lors de la pandémie de Covid-19. Différentes théories du complot autour du virus, ont proliféré : le Covid-19 n’existe pas, la pandémie est planifiée ou Big Pharma est au cœur de la manipulation… Dans l’émission Complorama de France Info, le Directeur de Conspiracy Watch, L’Observatoire du conspirationnisme, Rudy Reichstadt, Tristan Mendès France, maître de conférences associé à l’université Paris-Cité, spécialiste des cultures numériques et la journaliste Pauline Pennanec’h analysent l’activité de la complosphère lors de cette crise sanitaire.
La manipulation est au cœur des sujets abordés lors de la journée « Journalistes et scientifiques : qui contrôle qui ? « organisée par l’Association des Journalistes Scientifiques de la Presse d’Information (AJSPI) à la Bibliothèque nationale de France (BnF). Cet évènement filmé a été réalisé avec la collaboration de la Société Chimique de France (SCF), la Société Française de Physique (SFP), la Société Française de Statistique (SFdS), la Société Informatique de France (SIF), la Société de Mathématiques Appliquées et Industrielles (SMAI) et la Société Mathématique de France (SMF). La science et le journalisme partagent un même respect de la vérité et se doivent une vigilance mutuelle. Si les journalistes enquêtent sur les dérives scientifiques, les chercheurs étudient les biais et les manipulations médiatiques. Ce dialogue critique permet d’assurer la rigueur et la crédibilité de la recherche et de l’information. Mais actuellement, les sciences et les médias sont très remises en cause aux États-Unis. Le gouvernement de Trump a décidé, en effet, des coupes budgétaires importantes dans la recherche, de censurer des études sur le climat et la santé, de contrôler l’information par des entrepreneurs proches du pouvoir. Devant ces politiques, les scientifiques et les journalistes cherchent des solutions afin de défendre les libertés de recherche et d’expression. Ainsi, par exemple, Boris Barbour, chercheur en neurosciences au CNRS, co-administre PubPeer, le site internet permettant d’émettre des commentaires sur des articles scientifiques en post-publication et de signaler des soupçons de manquements à l’éthique scientifique. La journaliste Christel Leca, membre du conseil de déontologie journalistique et de médiation, expose, quant à elle, les actions de cette instance de médiation comme la publication de recommandations sur le traitement des questions scientifiques et les bonnes pratiques du journalisme et l’intelligence artificielle. Par ailleurs, David Chavalarias, mathématicien au CNRS, responsable du projet OpenPortability et co-initiateur de la campagne HelloQuitteX, conseille des solutions pour les réseaux sociaux. Enfin, Victor Garcia, journaliste de L’Express raconte comment il a contribué à la remise en cause de l’IHU (Institut hospitalo-universitaire en maladies infectieuses) Méditerranée Infection en s’alliant avec des scientifiques et des lanceurs d’alerte.