« Nous allons nous débarrasser des fact-checkers ». Cette déclaration du patron de Meta, Mark Zuckerberg, ce mardi 7 janvier, a suscité beaucoup d’inquiétude chez les spécialistes de la lutte contre la désinformation. Pendant que certains veulent faire disparaître le fact-checking sur les réseaux, d’autres essayent au contraire de faciliter l’accès à des informations vérifiées. C’est le cas de l'ONG La Réponse Tech qui a récemment lancé, Vera, un bot conversationnel de vérification.

Utiliser l’intelligence artificielle pour permettre à tout un chacun de vérifier une information en temps réel. C’est la mission que s’est lancée le collectif citoyen La Réponse Tech en développant Vera, un agent conversationnel numérique, accessible 24 heures sur 24, 7 jours sur 7. Concrètement, il suffit d’appeler le numéro de téléphone de Vera, 09 47 99 12 95 ou bien de lui envoyer un message sur WhatsApp, en lui demandant si telle information est vraie ou fausse.

Pour cet exemple, nous avons volontairement posé une question sur une infox vérifiée par la cellule Info Vérif de RFI. Mais cette intelligence artificielle se base sur le travail de plusieurs centaines de sources fiables, sélectionnées par un comité d’experts et librement consultables.

« À partir de la question posée par l’utilisateur, Vera va d’abord chercher si des rédactions de fact-checking ont traité le sujet. Si ce n’est pas le cas, elle va chercher la réponse auprès de 300 sites de médias reconnus comme fiables, avant d’en faire une synthèse et de la proposer en temps réel », explique son fondateur, Florian Gauthier. Techniquement parlant, Vera se base sur le modèle de langage GPT-4, développé par la société américaine Open AI.

Aujourd’hui, Vera est utilisée par environ 700 utilisateurs uniques chaque semaine.

Comme tout outil basé sur l’intelligence artificielle, Vera n’est pas infaillible. Le risque d’erreur ou de réponse incomplète existe. Mais contrairement à des chatbots comme ChatGPT, Perplexity ou Claude, Vera n’a pas été pensée pour répondre coûte que coûte à la question posée. « Vera a l’interdiction totale, d’imaginer quoi que ce soit. Dès qu’elle va formuler une réponse, c’est que cette réponse a été donnée par une source fiable qui est toujours citée. Si Vera ne trouve pas la réponse dans sa base de données, ce qui arrive par moment, elle ne va pas chercher à inventer. Elle se contentera alors de préciser qu’elle n’a pas trouvé la réponse à cette question », détaille Florian Gauthier.

Autre limite, la base de données ne peut pas être exhaustive. Il est donc possible que Vera vous réponde qu’elle ne sait pas même si le sujet a déjà été vérifié. Mais d’après nos essais, Vera est aujourd’hui le bot conversationnel le plus efficace pour vérifier une information en temps réel. À l’avenir, ses créateurs envisagent de rendre Vera multilingue, et de proposer gratuitement le service sur d’autres plateformes et réseaux sociaux.

Au-delà de permettre ce processus de vérification en temps réel, ce genre d’agent conversationnel pourrait également permettre de limiter, chez certains utilisateurs, l'adhésion aux théories complotistes. C’est ce que montre une étude récente publiée dans la revue scientifique Nature. « De nombreuses personnes qui croient fermement à des théories du complot apparemment infondées peuvent changer d’avis lorsqu’on leur présente des preuves convaincantes. (...) Les dialogues avec l’IA réduisent durablement les croyances complotistes, même parmi les plus fervents croyants », concluent les chercheurs.

Pour Florian Gauthier, « l’intelligence artificielle est un super outil pour propager des fausses informations. Mais l’IA peut aussi être, au contraire, une véritable piste de réponse pour combattre la désinformation ».

En Égypte, de fausses rumeurs de soulèvement populaire sont devenues virales sur les réseaux sociaux. Après la chute du dictateur syrien Bachar el-Assad, certains affirment, à tort, que le peuple égyptien serait en train de renverser Abdel Fattah al-Sissi. En réalité, aucune manifestation anti-régime n’a eu lieu ces derniers jours en Égypte. Les images partagées sont sorties de leur contexte.

La vidéo la plus populaire a été vue plusieurs millions de fois ces dernières heures. On y voit des manifestants réunis de nuit, dans une rue commerçante. Certains tentent de bloquer la circulation, d’autres scandent : « le peuple veut faire tomber le système », un slogan emblématique des révolutions arabes de 2011. Les comptes qui partagent ces images parlent de « manifestations en cours au Caire pour demander le renversement du régime d'Abdel Fattah al-Sissi ».

Vérification faîte, ces images sont datées. Grâce à une recherche par image inversée (voir ici comment faire), nous avons retrouvé un reportage de la chaîne de télévision arabe, Al Araby, publié sur Facebook en 2019. On y retrouve plusieurs extraits de manifestations filmés dans toute l’Égypte, dont ces images présentées, à tort, comme étant récentes.

Cette vidéo remonte donc au mouvement de contestation anti-régime qui avait éclaté dans le pays en septembre 2019. À l’époque, l'homme d’affaires exilé en Espagne Mohamed Aly avait appelé à manifester, accusant Abdel Fattah al-Sissi de corruption. Ces derniers jours, aucune manifestation anti-régime n’a eu lieu en Égypte.

Une autre vidéo virale montre des manifestants en train de déchirer un portrait d’Abdel Fattah al-Sissi, en pleine rue. La légende évoque « des manifestations antigouvernementales au Caire, en Égypte ». Mais contrairement à ce que veut faire croire l’auteur de ce tweet, ces images vues des centaines de milliers de fois ne sont pas récentes.

En faisant une recherche par mots clés, nous les avons retrouvées dans un article publié cette fois par Al Jazeera, le 21 septembre 2019. Le média évoque des manifestations dans les villes de Damiette et de Mansoura.

On retrouve donc le même mode opératoire. Des utilisateurs rediffusent des vidéos datées de cette période de contestation en septembre 2019 et les publient telles quelles, avec une légende mensongère ou volontairement imprécise. Au total, la cellule Info Vérif de RFI a repéré près d’une dizaine de vidéos ainsi sorties de leur contexte.

Si on ne sait pas précisément qui est derrière cette campagne de désinformation, l’analyse des comptes à l’origine de ces infox met en lumière des profils variés. Nous avons identifié des comptes égyptiens opposés au régime en place, des comptes pro-russes habitués à désinformer au Moyen-Orient, ainsi que des comptes pro-palestiniens. Quand on regarde les chiffres, on peut dire que cette campagne est relativement efficace puisque ces fausses informations ont cumulé des millions de vues en seulement quelques jours sur X, Facebook et TikTok.

Ces comptes cherchent à raviver artificiellement la flamme de la contestation en Égypte. Une chose est sûre, leurs infox parviennent au moins à semer le trouble, comme le montrent les commentaires d’internautes qui tombent dans le piège.

En Syrie, la coalition conduite par le groupe islamiste radical, Hayat Tahrir Al-Sham, poursuit son offensive contre l’armée de Bachar el-Assad. Après leur prise d’Alep, les rebelles ont capturé la ville d’Hama. Dans ce contexte, tout et son contraire circule sur les réseaux sociaux. Certains affirment notamment, à tort, que le chef du mouvement islamiste HTS, Abou Mohammed al-Jolani, aurait été tué dans un bombardement russe.

La photo a fait le tour des réseaux sociaux ces derniers jours. On y voit le cadavre d’un homme barbu, vêtu d’une chemise de camouflage, les yeux et la bouche entrouverts. Son corps est mis en scène sur un canapé, devant un mur criblé d’impacts. En légende, les internautes parlent d'une « frappe aérienne russe contre le quartier général opérationnel dans lequel le chef du groupe HTS, Abu Muhammad al-Julani, se trouvait et aurait été tué ». D’autres évoquent aussi, sans preuve, la présence « de hauts responsables des services de renseignements ukrainiens et turcs ».

Vérification faite, cette photo n’a rien à voir avec les combats en cours en Syrie. En faisant une recherche par image inversée, on retrouve ce même cliché dans un article publié sur un site d’information libanais, le 5 septembre 2015. Le média évoque, en arabe, la mort du terroriste jordanien, membre de l’état islamique, Abu Al-Qaqa, en Syrie, lors d’un bombardement en 2015.

Cette version est confirmée par une publication Facebook de la 105ᵉ brigade électronique de la Garde républicaine syrienne, également datée du 5 septembre 2015.

Une comparaison minutieuse entre cette photo de 2015 et celle qui circule ces derniers jours, montre que l’image a été manipulée. Sur le cliché de 2015, l’homme ne ressemble pas à Abou Mohammed al-Jolani. Il a du sang sur le nez et sur les lèvres. Son regard est vide.

Au contraire, sur l’image partagée ces derniers jours, l’homme ressemble fortement au leader de Hayat Tahrir Al-Sham. Il n’a pas le même nez, ni les mêmes yeux. Quelqu’un a donc pris une vieille photo d’un terroriste tué en 2015, et a visiblement modifié son visage pour le faire passer, à tort, pour Abou Mohammed al-Jolani.

Contrairement à ce qu’affirme cette infox, Abou Mohammed al-Jolani est apparu vivant ce mercredi 4 décembre 2024. Le chef du groupe islamiste a été vu, déambulant dans la citadelle d’Alep. Plusieurs vidéos amateurs le montrent en chemise et pantalon kaki, entouré par des dizaines de personnes.

Si on ne sait pas précisément qui est à l’origine de cette infox, on sait qu’elle a notamment été poussée par des influenceurs pro-Bachar el-Assad ainsi que par des comptes pro-russes désireux de glorifier l’action de leur armée en Syrie. Des agences de presse en Afghanistan et au Yémen ont aussi relayé cette fausse information.

Résultat, cette image manipulée et sortie de son contexte cumule actuellement plusieurs millions de vues sur les réseaux sociaux. Des dizaines d’infox de ce genre circulent présentement. Ce bruit de fond sème le trouble sur le véritable déroulement de ce conflit en cours en Syrie.

Une semaine après le tir par la Russie d’un missile capable d’emporter des charges atomiques sur Dnipro en Ukraine, le chantage nucléaire brandi par le Kremlin n’a jamais semblé aussi fort. En déplacement au Kazakhstan, Vladimir Poutine a menacé ce jeudi 28 novembre de frapper Kiev avec ce nouveau missile. Dans ce contexte, certains diffusent sur les réseaux le récit d’une guerre nucléaire imminente entre la Russie et l’Otan. Ce narratif est poussé à coups d'infox, pour terroriser les Occidentaux.

Cette petite musique alarmiste d’une guerre nucléaire imminente entre la Russie et l’Otan est omniprésente sur les réseaux sociaux. Le dernier exemple en date est une vidéo censée montrer « une nouvelle bombe nucléaire russe en cours de fabrication ». On y voit une énorme machine noire, haute comme un immeuble de dix étages, de forme cylindrique, transportée sur un plateau roulant long de plusieurs dizaines de mètres. Des ouvriers en tenue de chantier filment la scène. Côté son, l’ambiance est volontairement plutôt inquiétante. L’internaute à l’origine de cette publication parle de « rapports alarmants suggérant que la Russie intensifie ses préparatifs et son arsenal nucléaire ».

Vérification faîte, ces images ne montrent pas une bombe nucléaire, ni une quelconque arme russe. Grâce à une recherche par image inversée, on retrouve plusieurs photos de cette même machine dans un article publié sur le site internet de l’entreprise Mammoet.

Cette société néerlandaise est spécialisée dans le levage et le transport d'objets lourds. On y apprend qu’il s’agit en réalité d’une gigantesque colonne de régénération qui sert au traitement des produits issus du raffinage. L’appareil pèse plus de 3 000 tonnes et a été transporté vers la raffinerie de pétrole de Dangote, au Nigeria, en 2021. À ce jour, il s’agit de l'élément le plus lourd jamais transporté sur une voie publique en Afrique.

Toujours pour alimenter les peurs, d’autres vidéos sorties de leur contexte simulent même le début d’une guerre nucléaire. C’est le cas d’une publication TikTok consultée des centaines de milliers de fois ces dernières heures. On y voit le symbole nucléaire jaune et noir, apposé sur des images de Paris.

Ces visuels sont accompagnés d’un prétendu message d’alerte nucléaire du gouvernement français.

Ce message, angoissant, semble réel. La charte graphique, le logo bleu-blanc-rouge, l’intonation de la voix, tout paraît correspondre avec les alertes officielles diffusées sur d’autres sujets par la République française. Sauf qu’en réalité, ce message a été fabriqué et diffusé sur YouTube par un vidéaste, en avril 2023. Il précise bien que c’est un « contenu fictif ». Malgré ça, sa vidéo est aujourd’hui réutilisée à des fins de désinformation.

L’analyse de la propagation de ces infox alarmistes montre qu’elles sont, en partie, diffusées et amplifiées par des comptes habitués à relayer quotidiennement la propagande russe sur les réseaux sociaux. Leur but est d’installer ce bruit de fond d’une guerre nucléaire imminente entre la Russie et l’Otan, pour créer un sentiment de panique chez les Occidentaux. Cette peur pourrait engendrer une volonté de ne plus soutenir l’effort de guerre ukrainien. Cette stratégie informationnelle a été mise en place par le Kremlin depuis le lancement de son invasion de l’Ukraine.

La France envisage-t-elle d’abaisser la limitation de vitesse sur les autoroutes, passant de 130 à 90 km/h ? L’infox a fait le tour des réseaux sociaux ces derniers jours. Cette fausse rumeur s’appuie sur une vidéo manipulée du Premier ministre, Michel Barnier, en déplacement à Angers la semaine dernière pour les Assises des départements de France. En réalité, il s’agit d’un nouveau deepfake du Premier ministre français.

La vidéo dure précisément trente-trois secondes. On y voit Michel Barnier tenir un discours derrière un pupitre, sur lequel est inscrit « Assises des départements de France ». Plusieurs bandeaux textuels, communément appelés des synthés, sont apposés sur ces images. On y retrouve notamment le logo de la chaîne de télévision française BFM TV. Côté son, on entend le Premier ministre annoncer, qu’à partir de 2025, « la vitesse sur autoroute sera limitée à 90 km/h pour les véhicules thermiques, afin de réduire les émissions de dioxyde de carbone et d’améliorer la sécurité routière. En revanche, les véhicules électriques conserveront la limitation actuelle de 130 km/h. Cette distinction vise à encourager la transition vers des technologies plus propres et à soutenir notre engagement envers l’écologie et l’innovation. Nous comptons sur votre compréhension et votre soutien dans cette démarche essentielle pour l’avenir ».

Face à cette prétendue déclaration, des internautes s’agacent. L’un deux commente : « Ce sont des fous ! Ils sont payés pour détruire la France en faisant semblant de combattre une menace qui n’existe pas. Pendant combien de temps allez-vous les laisser vous enlever tout ? Ce sont vos pires ennemis ». En réalité, Michel Barnier n’a jamais prononcé ces mots.

Vérification faîte, cette vidéo est un deepfake, un hypertrucage généré par l’intelligence artificielle. Autrement dit, la voix du Premier ministre et le mouvement de ses lèvres ont été modifiés pour lui faire dire n’importe quoi. Si la synchronisation labiale n’est pas parfaite, la voix de Michel Barnier est plutôt bien reproduite.

La manipulation est vraiment convaincante, ce qui explique que de nombreux internautes tombent dans le panneau.

Pour vérifier ces images, nous avons commencé par remonter à la source. Nous avons donc revisionné la prise de parole de Michel Barnier, diffusée sur BFM TV le 15 novembre dernier. On y retrouve bien, les mêmes gestes, le même pupitre, mais à aucun moment, Michel Barnier ne parle de la limitation de vitesse sur les autoroutes.

À partir de là, on sait qu’il y a eu manipulation. Pour savoir de quel ordre, nous avons passé la vidéo au crible de plusieurs détecteurs d’intelligence artificielle. Les résultats sont sans appel, c’est un deepfake. Des recherches par image inversée montrent que ce deepfake a été fabriqué par un compte parodique sur TikTok.

Parmi ceux qui partagent cette fausse information, on retrouve des comptes complotistes ou d’autres simplement opposés au gouvernement et au président Emmanuel Macron. Ce qui est intéressant, c’est que certains d’entre-eux avaient déjà diffusé un autre deepfake de Michel Barnier en septembre dernier. Là aussi, la voix du Premier ministre avait été manipulée pour lui attribuer, à tort, des mesures chocs, comme l’augmentation du carburant ou du temps de travail. Ces infox sont souvent accompagnées d’appels à la mobilisation.