Alors que l'intelligence artificielle (IA) s'impose de plus en plus dans les industries et secteurs mondiaux, la question du contrôle devient impossible à ignorer. Qui décide de l'évolution de l'IA ? Quels intérêts sont privilégiés ? Alors que les entreprises et les gouvernements dominent largement la conversation, la société civile reste une voix essentielle mais souvent marginalisée dans la prise de décision sur l'IA. Ce déséquilibre - reflet d'héritages historiques et risquant de perpétuer un « colonialisme numérique » - a été au cœur des discussions d'un récent webinaire sur l'IA et le Sud global, où des experts et des organisations de la société civile ont plaidé pour une gouvernance de l'IA plus inclusive - ou risquant d'accentuer les inégalités existantes. Le webinaire a permis d’approfondir une étude récente menée par CARE International et Accenture, qui met en lumière les témoignages de 12 pays d'Afrique, d'Asie, du Moyen-Orient et d'Amérique du Sud. Le rapport, AI and the Global South: Exploring the Role of Civil Society in AI Decision-Making, met en avant les principaux enjeux liés aux risques, opportunités et lacunes de la gouvernance de l’IA.

Une course sans règles ?

« L'IA évolue rapidement, mais nous devons nous demander : qui la façonne et qui en bénéficie le plus ? » a lancé Mika Välitalo de Fingo au début de la discussion, posant ainsi les bases d’un débat soulignant comment le développement actuel de l'IA est principalement dicté par le Nord global. L’événement, organisé avec la participation de  Fingo, CARE International, Accenture, la coalition régionale d'Afrique centrale Repongac, le réseau Forus et diverses organisations de la société civile (OSC), a dressé un constat inquiétant : les voix des communautés locales sont largement absentes de la gouvernance de l’IA, et les conséquences de cette exclusion sont profondes.

John Carruthers d'Accenture a reconnu le potentiel transformateur de l'IA, mais a averti que sans une prise en compte des expériences locales, ce potentiel serait largement gaspillé. « Si le développement de l'IA n'est pas guidé par des expériences locales, son impact social restera superficiel au mieux et nuisible au pire », a-t-il averti. Ses préoccupations ont été partagées par plusieurs intervenants, qui ont insisté sur le fait que l’IA doit refléter des réalités culturelles et économiques diverses pour être véritablement transformative.

Quatre voies pour une gouvernance inclusive de l'IA par la société civile

La discussion a mis en évidence quatre voies que les OSC peuvent emprunter pour promouvoir une gouvernance de l’IA plus inclusive, qui ont été abordées dans des discussions de groupe et des outils de collaboration. Comme l’a déclaré un participant de l’OSC dans l’étude : « Chaque communauté et chaque pays a ses propres difficultés évidentes, et à cause de cela, nous avons certains types de programmes intersectionnels personnalisés. » Néanmoins, l’évaluation des parcours en tenant compte des points de vue divers des intervenants aide à découvrir les points communs et à générer des considérations prospectives pour éclairer les mesures à prendre. 

1. Littératie en IA et partage de connaissances intersectorielles – "De nombreuses communautés interagissent avec l’IA sans bien comprendre ses risques et ses opportunités", a souligné Suzy Madigan de CARE International. L’absence de ressources multilingues et d’une éducation accessible sur les risques liés à l’IA élargit le fossé des connaissances, limitant la capacité des communautés à défendre leurs besoins. L’amélioration de la littératie en matière d’IA au sein des communautés et des OSC est essentielle à la prise de décisions éclairées, que les individus utilisent des outils d’IA ou soient touchés par des décisions dictées par l’IA. Dans le même temps, les technologues doivent mieux comprendre les contextes et les expériences vécues des communautés du Sud pour concevoir des modèles d’IA qui tiennent compte de leurs impacts réels, en particulier dans les contextes humanitaires et de développement. « Il y a une manipulation de la vulnérabilité... ils (les communautés) sont engagés dans des choses qu’ils ne connaissent pas ou dont ils ne sont pas pleinement informés », a expliqué un participant CSO à l’étude en Afrique du Sud. 

2️. Augmentation de la prise de décisions et de la représentation locales tout au long du cycle de vie de l’IA – La gouvernance de l’IA tend à être centralisée, ignorant les compétences locales. "L’idée de localisation est bien comprise dans le travail de développement, mais elle fait défaut dans la gouvernance de l’IA", a observé Fergus Gleeson du Human Sciences Studio d’Accenture. Cette déconnexion laisse les communautés sans voix dans les technologies qui façonnent leur vie quotidienne. Les applications de l’IA se développent rapidement, mais le rôle de la société civile dans la prise de décision reste limité. Les OSC, avec leurs liens communautaires profonds, peuvent aider à identifier les défis locaux et favoriser l’engagement. Cependant, pour que la participation soit efficace, il faut aborder des questions comme la confiance, l’identification des problèmes et les stratégies pratiques d’engagement. 

3️. Renforcer les activités de plaidoyer sur les impacts contextualisés et les résultats souhaités de l’IA – De nombreuses OSC n’ont pas le financement et la capacité de recherche nécessaires pour participer efficacement aux discussions sur les politiques en matière d’IA. Des projets tels que les Civil Society Alliances for Digital Empowerment (CADE) - un consortium de neuf organisations financé par l’UE - travaillent actuellement à renforcer la gouvernance de l’internet pour les organisations de la société civile. Le projet promeut la participation inclusive, en particulier des pays du Sud, et plaide pour un Internet ouvert, libre et sécurisé en soutenant la neutralité du net, la vie privée et la liberté d’expression.  

4️. Amélioration de l’infrastructure numérique et gouvernance équitable des données – les modèles d’IA reposent souvent sur des données qui ne représentent pas la réalité du Sud, ce qui donne lieu à des résultats biaisés. Ahmed Al-Khatib, du Mwatana for Human Rights basé au Yémen, a averti que "si l’IA est formée sur des données non représentatives, elle informera de manière erronée et perpétuera les biais." Le besoin d’une meilleure connectivité rurale et d’une infrastructure numérique était un thème récurrent. Améliorer l’impact de l’IA sur la société nécessite une infrastructure numérique solide et des données de qualité. Il est crucial de s’attaquer aux données et aux clivages numériques dans le Sud, en veillant à ce que les communautés aient autorité sur leurs données, pas seulement comme sources ou utilisateurs. 

La société civile peut-elle collaborer avec les grandes entreprises technologiques ?

Un point clé du débat concernait la relation entre les OSC et les entreprises technologiques multinationales. Un représentant d'une multinationale technologique a reconnu les préoccupations éthiques : « Nous voulons travailler avec les OSC pour développer des idées ensemble, mais nous avons du mal avec la perception selon laquelle nous sommes extractifs. »

Suzy Madigan a proposé une approche pragmatique : « Beaucoup de personnes au sein de ces entreprises veulent que l’IA soit éthique, mais elles ont besoin d’une pression externe pour provoquer le changement en interne. »

Opportunités et défis de l’IA en Afrique – Repongac

Repongac, coalition régionale de Forus en Afrique centrale, a présenté ses perspectives sur l’importance de l’implication de la société civile dans la gouvernance de l’IA. Si plusieurs pays africains ont mis en place des initiatives pour renforcer les capacités locales et promouvoir l’innovation, leur mise en œuvre varie en raison des différences de ressources et d’infrastructures.

L’IA offre d’importantes opportunités en Afrique, notamment l’amélioration des services publics, l’innovation locale, l’autonomisation des communautés et une participation accrue à l’économie mondiale. 

 Dans des secteurs tels que la santé, l’éducation, l’agriculture et l’administration publique, les solutions axées sur l’IA peuvent fournir des interventions adaptées localement. Par exemple, la start-up E-Farm a mis au point des capteurs pour mesurer l’aridité du sol, répondant ainsi à un défi unique à l’agriculture africaine. L’IA encourage également l’esprit d’entreprise, en particulier chez les jeunes, et permet aux communautés locales de gérer les ressources, de prévenir les catastrophes et de renforcer la participation civique. 

Plusieurs obstacles entravent l’adoption de l’IA en Afrique, tels que le manque de cadres réglementaires, la participation locale limitée à la gouvernance de l’IA et le manque de compétences dans les domaines liés à l’IA. En outre, les inégalités dans l’accès numérique et l’absence de données pertinentes localement compliquent davantage la mise en œuvre généralisée de l’IA, empêchant de nombreuses communautés africaines de profiter pleinement de son potentiel. 

Stratégies pour la gouvernance de l’IA en Afrique centrale 

Pour renforcer la gouvernance de l’IA et l’inclusion numérique, Repongac se concentre sur le renforcement des capacités locales par l’éducation et la formation, la promotion de la coopération internationale et des partenariats équitables, et la création de coalitions pour amplifier la voix de la société civile. Elle promeut également la transparence et la responsabilisation dans les politiques d’IA, plaide pour des cadres réglementaires qui protègent les droits des citoyens et travaille à sensibiliser le public aux avantages et aux risques de l’IA. 

Les campagnes de sensibilisation du public sont au cœur de la stratégie de Repongac. Il produit du contenu éducatif, organise des dialogues publics et fait pression sur les organisations internationales et les entreprises technologiques pour inclure plus de représentants africains dans les forums décisionnels de l’IA. 

L’IA et l’Avenir du Plaidoyer

Une chose est sûre : la société civile ne peut plus se permettre d’être un observateur passif dans la gouvernance de l’IA. Les enjeux sont trop élevés. L’IA peut être un outil d’autonomisation, mais sans intervention proactive, elle ne fera que renforcer les inégalités existantes. 

 "La littératie en IA ne consiste pas seulement à comprendre la technologie; il s’agit de veiller à ce que les communautés disposent d’un pouvoir dans leur vie numérique", a conclu Gleeson. L’avenir de l’IA est en train d’être écrit maintenant, et la société civile doit exiger une place à la table avant qu’il ne soit trop tard. 

Le rapport complet,  AI and the Global South: Exploring the Role of Civil Society in AI Decision Making, est disponible en ligne et sert de feuille de route pour les décideurs politiques, les technologues et les dirigeants de la société civile engagés dans un avenir plus juste de l’IA. 

En savoir plus sur le travail de Forus sur la gouvernance numérique