Réglementer l’IA en Afrique du Sud : un enjeu de sécurité humaine
Le prochain G20 offre aux dirigeants l’occasion de traiter de transparence, de responsabilité et de contrôle humain de l’IA.
Publié le 16 décembre 2024 dans
ISS Today
Par
Quelques mois après l’entrée en vigueur de la loi européenne historique sur l’intelligence artificielle (IA) en juillet 2024, l’Afrique du Sud a dévoilé en octobre sa feuille de route pour tirer parti des opportunités offertes par cette technologie. Le public est invité à participer aux consultations.
Dans ce contexte, une réglementation locale est cruciale pour encadrer l’utilisation de l’IA de manière réaliste.
En 2020, le président Cyril Ramaphosa a annoncé la création d’une commission présidentielle sur la quatrième révolution industrielle, incluant les technologies de l’IA. Il avait prédit qu’en 2030, l’Afrique du Sud aurait « pleinement exploité le potentiel de l’innovation technologique pour développer notre économie et élever notre peuple ».
Deuxième économie du continent, l’Afrique du Sud pourrait logiquement être en tête de cette révolution. Pourtant, le Nigeria, l’île Maurice et le Rwanda avancent déjà sur leurs propres politiques en matière d’IA. Le cadre stratégique national sud-africain en matière d’IA esquisse les ambitions politiques pour utiliser cette technologie au service de la prospérité sociale et économique.
À l’échelle du continent, l’Afrique devrait générer 1,2 billion de dollars US grâce à l’innovation en IA d’ici 2030, soit une hausse de 5,6 % du PIB du continent.
L’Afrique du Sud doit adopter des réglementations réalistes sur l’IA pour lutter contre les inégalités
Pour l’Afrique du Sud, tout dépendra de la bonne gouvernance. À ce jour, les technologies d’IA jugées peu fiables n’ont pas fait l’objet d’interdiction. Des organisations locales de défense des droits craignent que des groupes minoritaires soient ciblés par des technologies souvent importées.
Dès février 2025, l’Union européenne interdira certaines pratiques liées à l’IA, comme les évaluations prédictives des risques criminels et l’identification biométrique dans les lieux publics.
Les avancées de l’IA dans les secteurs public et privé suscitent des préoccupations sur la vie privée, partiellement abordées par la loi sud-africaine sur la protection des informations personnelles. Des enjeux de souveraineté émergent également, notamment sur la propriété des données souvent stockées hors d’Afrique.
L’Afrique est également au centre d’une concurrence géopolitique pour l’accès à ses données, désormais considérées comme un « marché inexploité ». Des garde-fous sont essentiels pour garantir que les politiques des grandes puissances ne supplantent pas les intérêts des citoyens africains.
Afin de garantir la souveraineté des données, le Rwanda a désigné une grande partie de ses données ouvertes, notamment les dossiers publics, financiers, et de sécurité sociale, comme bien national dans le cadre de sa stratégie Vision 2025.
Les outils d’IA menacent la démocratie en manipulant les récits nationaux et en diffusant des mensonges
Les données sont considérées comme « essentielles pour stimuler le progrès numérique et atteindre les objectifs sociaux et économiques du pays » et les objectifs de développement durable des Nations unies. Toutefois, leur stockage local reste un défi.
Au-delà de la propriété, l’impact de l’IA sur la sécurité humaine soulève des préoccupations : renforcera-t-elle les inégalités sociales ou raciales ? Comment atténuer les préjugés intégrés dans des technologies souvent développées à l’étranger ? Et comment garantir la transparence des applications d’IA ?
|
L'Afrique dans le top 10 de l'indice de préparation à l'lA du FMI
 Source : FMI |
Lorsque un gouvernement collecte les données, il doit absolument clarifier les processus, la quantité et les finalités pour limiter les abus exécutifs. L’exemple du Myanmar, où Amnesty International a accusé les algorithmes de Facebook « d’avoir facilité les atrocités contre les Rohingyas », devrait tirer la sonnette d’alarme pour les décideurs africains.
Les défenseurs des données expriment leurs inquiétudes face à l’utilisation potentielle de l’IA comme outil de répression contre les plus vulnérables ou de déstabilisation des démocraties dans les États fragiles.
L’Afrique du Sud gagnerait à développer une expertise locale et à renforcer la recherche pour mesurer l’impact de l’IA afin que la technologie aide à réduire les fractures sociales et économiques. Un livre blanc sud-africain sur la planification de l’IA met en avant le déficit de recherche sur le continent et insiste sur la nécessité d’une meilleure compréhension.
Le tableau ci-dessous présente le degré de préparation des États africains en infrastructures, capital humain, innovation technologique et cadres juridiques.
L’Afrique fait face à un défi majeur : l’accès aux données, affirme Guy Berger, expert sud-africain en médias et politique de l’internet. Selon lui, l’absence de données sur les plateformes de médias sociaux est particulièrement problématique. Berger rappelle que la Commission africaine des droits de l’homme et des peuples a récemment adopté une résolution sur l’Alliance africaine pour l’accès aux données, visant à mieux comprendre le fonctionnement de ces plateformes.
L’Afrique doit favoriser l’accès aux données et à l’innovation pour développer des solutions d’IA appropriées
« En Afrique et en Afrique du Sud, nous serions naïfs de considérer l’IA comme une technologie à part entière sans tenir compte de son origine, sachant qu’une grande partie de cette technologie provient des États-Unis », déclare Berger. « Présumer la neutralité des outils d’IA serait une erreur. Leurs modèles et applications intègrent des biais linguistiques, algorithmiques et culturels ancrés dans leur conception ».
La technologie de l’IA nécessite l’accès à de vastes quantités de données d’entraînement. Ces données de formation doivent refléter la géographie et le contexte dans lequel la technologie est utilisée. C’est pourquoi les gouvernements, les universités, etc., devraient faciliter ce processus en favorisant l’accès aux données et en soutenant l’innovation locale afin de permettre le développement d’une IA pertinente.
Certaines applications de l’IA soulèvent des préoccupations démocratiques, notamment leur rôle dans les opérations d’information. Amani Africa a récemment alerté sur l’usage de « deepfakes » pour imiter des personnalités politiques et diffuser de fausses informations, ce qui pose des risques pour les États fragiles.
Au Soudan par exemple, des enregistrements vocaux générés par l’IA prétendument d’un chef militaire ordonnant des meurtres de civils, ont été vus par des centaines de milliers sur les réseaux sociaux, risquant d’engendrer des répercussions réelles.
Lors des élections sud-africaines de mai 2024, un deepfake de Donald Trump a prétendument soutenu le parti MK nouvellement créé. Bien qu’il s’agisse d’un faux, l’utilisation de l’IA pour déformer la réalité ou « contrôler les récits » pourrait représenter un danger pour les démocraties et la souveraineté des États en faussant le débat public sur des enjeux cruciaux.
L’utilisation d’outils d’IA pour diffuser massivement des documents, certains factuels, d’autres mensongers, à une échelle et une vitesse telles que leur réfutation devient complexe, mine l’environnement de l’information.
Au Rwanda, des outils d’IA sont utilisés non seulement pour générer rapidement des images, vidéos et textes contre les opposants, mais aussi pour manipuler ou « inonder » les systèmes de classement des plateformes de médias sociaux (basés sur les « J’aime », partages, rediffusions, etc.).
Tout cela souligne l’urgence d’établir des règles strictes pour l’utilisation de l’IA et la nécessité d’une collaboration renforcée avec les entreprises spécialisées dans l’IA et les plateformes de messagerie afin de comprendre le contexte d’utilisation et les risques associés.
L’Afrique du Sud pourrait soulever ces préoccupations lors du sommet du G20 en 2025. Le Brésil a déjà pris les devants en soulignant les dangers de l’IA lors de la réunion de cette année à Rio de Janeiro.
La transparence, la responsabilité et la surveillance humaine figurent en tête de liste de ses priorités. Il appartient maintenant à l’Afrique du Sud de poursuivre sur cette lancée.
Les droits exclusifs de re-publication des articles ISS Today ont été accordés au Daily Maverick en Afrique du Sud et au Premium Times au Nigéria. Les médias basés en dehors de l'Afrique du Sud et du Nigéria qui souhaitent republier des articles ou faire une demande concernant notre politique de publication sont invités à nous écrire.
