McKENZIE SADEGHI sait repérer un faux. Elle a passé au crible d'innombrables articles, à la recherche de signes révélateurs selon lesquels l'auteur n'était pas un écrivain en chair et en os mais un programme d'intelligence artificielle.
Sadeghi travaille chez NewsGuard, une organisation de surveillance qui surveille l'état de la désinformation en ligne. Au cours de l’année écoulée, elle et ses collègues ont observé une tendance inquiétante : une augmentation constante du nombre de sites d’information gérés avec peu ou pas de surveillance humaine.
Lorsque NewsGuard a signalé la situation pour la première fois au printemps dernier, il avait identifié 49 sites d’informations générés par l’IA. Maintenant, ce nombre est de 750 et ça continue.
Les sites se présentent comme des organes d'information légitimes, utilisant des noms inoffensifs comme Biz Breaking News et Daily Business Post et couvrant tout, de l'actualité des célébrités à la politique en passant par la santé. Mais ils cachent des informations cruciales sur les sources, la surveillance et le financement, et leur croissance laisse de plus en plus les lecteurs en ligne vulnérables à des contenus inexacts ou manipulateurs.
L'enquête de NewsGuard a découvert des sites comme Harmonyhustle.com, qui publient du contenu technologique et d'auto-assistance sous de faux profils d'auteur comme « Alex » et « Tom ». (Un titre récent : « Embracing Uncertainty: The Key to Personal Growth. ») Ou countrylocalnews.com, un site rinky-dink qui a accidentellement publié un article de 2023 intitulé : « Death News : Désolé, je ne peux pas répondre à cette invite car elle va à l'encontre principes éthiques et moraux.
La plupart de ces sites Web sont enregistrés de manière anonyme par des personnes recherchant « de l’argent et des clics », a déclaré Sadeghi. Ils récoltent généralement du contenu authentique auprès d’organisations médiatiques crédibles et utilisent l’IA pour le réécrire afin de le publier sur des pages remplies de publicités dans le but de générer des revenus.
À l’ère d’Internet, avec tant de sources d’informations en ligne, il faut déjà faire preuve de diligence pour que les lecteurs distinguent les faits de la fiction. Mais Mike Webb, du News Literacy Project à but non lucratif, a déclaré que c'était devenu plus difficile depuis le déploiement en novembre 2022 de ChatGPT, un puissant chatbot IA.
Le Clickbait n’est pas nouveau, mais l’IA a permis d’en produire d’énormes quantités à des vitesses record, a noté Webb. Un risque majeur de désinformation lié au contenu généré par l’IA est « l’hallucination », lorsque les chatbots inventent par inadvertance des choses qui ne sont pas vraies.
Cela a déjà conduit à au moins un procès en diffamation contre OpenAI. Un résident de Géorgie a poursuivi le créateur de ChatGPT après que le chatbot l'aurait faussement identifié comme faisant l'objet d'une affaire de fraude et de détournement de fonds.
Les sites Web apparemment écrits par l’IA prolifèrent en ligne et apparaissent facilement dans une recherche Google. Ordo Ab Chao en a identifié un de manière indépendante, The Washington Independent, et l'a envoyé à Sadeghi pour examen. Le domaine ne figurait pas encore sur la liste de NewsGuard, mais Sadeghi a déclaré qu'il répondait aux critères d'un site Web géré par l'IA.
Jusqu'en 2014 au moins, l'URL washingtonindependent.com hébergeait un site d'information géré par l'ancien American Independent News Network, mais des pages Web archivées montrent que le site de ce groupe a finalement été fermé. Aujourd’hui, un nouveau Washington Independent accueille les visiteurs avec un éventail aléatoire de contenus sous des titres bizarres comme « Célébrités avec des sous-piqûres – Embrasser l’unicité » et « Qu’est-ce que l’évasion fiscale – Naviguer sur la ligne fine entre la légalité et l’éthique ». (« Le respect des règles et réglementations fiscales en vigueur est essentiel pour la légitimité de l’évasion fiscale », déclare l’article dans une prose maladroite.)
Lorsque j'ai contacté l'adresse e-mail indiquée par le Washington Independent pour demander si le site utilisait la technologie de l'IA, je n'ai reçu qu'une réponse standard répertoriant les services publicitaires et promotionnels de l'entreprise.
Sadeghi a souligné que certains articles du Washington Independent incluaient des messages d'erreur de chatbot suggérant qu'une grande partie du contenu du site est généré par l'IA. Dans ce cas, l’erreur de l’IA « à ma connaissance, date limite en septembre 2021 » est apparue dans au moins trois articles différents.
Lorsque Sadeghi et ses collègues découvrent un site douteux, ils tentent de savoir qui se cache derrière et demandent des commentaires. Mais les opérateurs sont généralement insaisissables : ils fournissent souvent des adresses e-mail invalides ou ne répondent pas aux demandes de renseignements.
Un écrivain principal pour Filaire Le magazine Kate Knibbs en a rattrapé un. Dans un article récent, elle a interviewé le « roi du clickbait » serbe Nebojša Vujinović Vujo, un ancien DJ qui prétend gérer plus de 2 000 sites Web avec l’aide de ChatGPT. Vujo a déclaré à Knibbs qu'il était « juste un gars ordinaire » qui essaie de gagner sa vie dans une économie délabrée.
Alors que de nombreux exploitants de sites tentent simplement de réaliser des bénéfices, Sadeghi a déclaré que certains ont des objectifs plus néfastes. NewsGuard a identifié deux sites « pro-russes » au cours des derniers mois, a-t-elle indiqué. Et le 7 mars Le New York Times a fait état de cinq sites soutenus par la Russie diffusant de fausses nouvelles.
Mike Webb a déclaré que les lecteurs peuvent éviter de se laisser tromper en vérifiant si les articles citent plusieurs sources et en les recoupant avec les informations provenant de sites d'information réputés.
Pendant ce temps, le nombre de sites d'information douteux figurant sur le système de suivi de NewsGuard continue de croître. Sadeghi a déclaré que son groupe avait l’intention de « trouver ces sites et de fournir aux lecteurs un contexte approprié et précis à leur sujet ».
