L'IA et les « faux » journalistes africains
L'IA s’en prend à ceux qui font l’information en se faisant passer pour des journalistes afin de rendre crédibles de faux récits.
Il n'y a pas si longtemps, les journalistes avaient besoin d’un cahier, d’une machine à écrire et de quelques pièces de monnaie pour téléphoner à leur rédaction. Puis, les ordinateurs, le courrier électronique et les téléphones portables ont apporté la rapidité et la connexion. L'amélioration des technologies de communication offrent aussi aux médias la possibilité d'exiger une plus grande responsabilité des dirigeants du monde.
Après l’incident du Black Hawk Down en 1993 en Somalie, qui a été diffusé dans le monde entier et influencé les nouvelles opérations de lutte contre le terrorisme, la guerre en Irak en 2002 a marqué une nouvelle ère de la diffusion des informations, 24 heures sur 24 et 7 jours sur 7.
La couverture ininterrompue de l’actualité mondiale a permis aux salles de rédaction de fournir l’information en temps réel. Le système satellite Broadband Global Area Network relayait des images et des informations audio de qualité à grande vitesse. Il a été remplacé par des systèmes tels que LiveU, une norme industrielle qui utilise de multiples connexions de téléphones portables pour diffuser des informations.
Chaque nouvelle itération de la technologie a laissé intacts les principes de base du journalisme d'information. La clé de la profession est de pouvoir demander des comptes au pouvoir, dans le cadre du droit à la liberté de la presse garanti par la constitution.
Cependant, on constate avec inquiétude l'emploi abusif des technologies émergentes pour polluer l'environnement de l'information. Cela peut se traduire par la déformation de ce que nous voyons ou lisons, la manipulation de la diffusion de l'information ou l’usurpation d'identité. Il s'agit d'imiter les journalistes, qui sont traditionnellement considérés comme une source crédible d'informations.
Des avatars IA se font passer pour des journalistes et diffusent des récits à grande échelle
Un récent rapport de la Fondation Konrad Adenauer décrit la tendance à faire passer des avatars pilotés par l'IA pour des journalistes d'investigation dans toute l'Afrique.
« La démocratie repose sur le pluralisme, c'est-à-dire sur la multiplicité des opinions qui conduisent aux décisions sociétales et politiques, explique Hendrik Sittig, directeur du Media Programme Sub-Saharan Africa. Toutefois, les informations à partir lesquelles nous nous forgeons une opinion doivent être [...] fondées sur des faits et être véridiques [...] tout le reste pourrait avoir des conséquences tragiques et dévastatrices ».
Outre les attaques contre les journalistes et les influenceurs par des infox vidéo générées grâce à l’apprentissage profond de l'IA, le rapport explique comment des avatars IA sont créés pour se faire passer pour des journalistes et diffuser des informations à grande échelle et à grande vitesse. Cela fait partie des opérations d'information ou de la manipulation et de l’interférence étrangères de l’information (FIMI) qui sont utilisées comme outils d'influence géopolitique.
Une enquête de l'Observatoire africain de la démocratie numérique a montré que la société israélienne de cybersécurité Percepto International avait ainsi créé une fausse journaliste d'investigation franco-ghanéenne, avec un profil personnel sur les médias sociaux et un site internet. Elle a été utilisée pour insérer du matériel dans les médias de masse en Afrique, et conçue pour « salir les politiciens locaux et les organisations internationales en Afrique en révélant des informations fabriquées ».
La création d'un faux journaliste d'investigation donne de la crédibilité à un article tout en foulant aux pieds le code de déontologie de la profession. L'enquête a recensé de nombreux exemples de ces avatars de journalistes.
La création de faux journalistes d'investigation crédibilise l’information
Cette stratégie ressemble à celle de l'utilisation de faux personnages dans des campagnes publicitaires politiques de premier plan au Burkina Faso, dans lesquelles de véritables acteurs internationaux semblaient apporter leur soutien aux meneurs du coup d’État de septembre 2022. L'entreprise Graphika a observé l’emploi d’une technique similaire pour diffuser de la propagande pro-Parti communiste chinois via de faux sites internet remplis d'avatars.
Alors que la création d'avatars par l'IA vise principalement la formation et le marketing, des acteurs malveillants l'utilisent pour saper la confiance du public. Ce n'est pas la technologie qui est en tort, mais l'absence de garde-fous dans son utilisation.
Tout récemment, une enquête d’Al Jazeera a révélé que des « reporters fantômes » faisait de la propagande pro-russe en Afrique de l’Ouest et en Afrique centrale, en utilisant l'identité de personnes décédées et en se faisant passer pour des journalistes d'investigation. Le contenu est publié sur des sites d'information à travers le continent. Des articles publiés dans au moins 12 pays africains établissent un lien entre cette pratique et ce que l'équipe d'Al Jazeera a appelé une « campagne d'influence pro-russe » coordonnée.
L'utilisation des nouvelles technologies pour polluer l'environnement de l'information ou semer le doute sur des faits établis constitue une menace pour les démocraties. Dans les démocraties fragiles, comme c'est souvent le cas en Afrique, l'absence de médias professionnels solides pour contrer cette désinformation est préoccupante pour ceux qui se soucient de l'intégrité de l'information.
Alors que les dirigeants africains adoptent les avantages de la technologie numérique et de l'IA générative, par exemple dans le cadre de la stratégie continentale d'intelligence artificielle de l'Union africaine, le sentiment d'urgence dans la compréhension des risques semble manquer.
Il est difficile de mesurer les risques de l’utilisation de l’IA en Afrique
L'érosion des médias professionnels classiques, à la fois en termes de financement et de personnel est aussi un danger. Une rédactrice en chef a déclaré aux chercheurs de l'Institut d'études de sécurité (ISS) que lors des élections sud-africaines de mai 2024, certains membres de sa jeune équipe de journalistes avaient du mal à comprendre leur rôle dans le processus démocratique.
Malgré ces inquiétudes, une autre étude de l'ISS a révélé que le journalisme professionnel avait servi de rempart contre les campagnes de désinformation lors de ces élections.
Des efforts sont déployés pour sensibiliser le public aux dangers d'un environnement d'information biaisé. La Fondation Konrad Adenauer a récemment publié une bande dessinée de style Marvel, écrite et illustrée par une équipe sud-africaine, qui raconte « la quête de justice d'un journaliste à l'ère de l'IA ». Cette bande dessinée ainsi que les initiatives d'organisations telles que Media Monitoring Africa constituent des exceptions notables dans la promotion de la culture numérique et pourraient en inspirer d’autres.
Il est peu probable que les débats en Afrique du Sud qui se concentrent actuellement sur les médias sociaux et la réglementation du contenu en ligne — en particulier dans le contexte des récents récits suprémacistes blancs — mettent un frein aux imitateurs de journalistes qui utilisent l'IA générative.
Une loi sur l'intelligence artificielle comme celle introduite récemment en Europe ne peut pas, et ne devrait sans doute pas, s’appliquer en Afrique en raison de ce que beaucoup considèrent comme un manque de données, de capacités et d'inégalités d'accès.
Des organisations basées en Afrique du Sud, comme Research ICT Africa, affirment qu'il sera difficile de mesurer les risques et d'élaborer des mesures de résilience si les entreprises technologiques n'accordent pas aux organisations de recherche et de surveillance l'accès aux données en ligne, comme c'est le cas dans les pays du Nord.
Intégrer la sensibilisation à l'IA dans la formation à l’utilisation des outils des salles de rédaction peut également être une solution pratique à envisager du côté de l'offre. Du côté de la demande, il faut diffuser des campagnes de communication pour présenter le journalisme professionnel comme un bien public et souligner le danger de sa mise à mal par des contrefaçons, comme c’est le cas avec l’imitation des marques.
Les droits exclusifs de re-publication des articles ISS Today ont été accordés au Daily Maverick en Afrique du Sud et au Premium Times au Nigéria. Les médias basés en dehors de l'Afrique du Sud et du Nigéria qui souhaitent republier des articles ou faire une demande concernant notre politique de publication sont invités à nous écrire.
