Dans l'est de la République démocratique du Congo, où un conflit prolongé a déplacé des millions de personnes et mis à rude épreuve des institutions déjà fragiles, l'accès à l'aide humanitaire dépend souvent de systèmes que les communautés n'ont guère le pouvoir de remettre en question. Dans des provinces telles que le Nord-Kivu, les femmes confrontées au déplacement, à la pauvreté et à l'insécurité se heurtent fréquemment à des obstacles administratifs et technologiques qui déterminent si elles recevront ou non une aide, qu'il s'agisse des procédures d'enregistrement ou des processus de vérification d'identité.

Selon l'organisation membre de Forus CNONGD en RDC, lorsque ces systèmes échouent, il est rare que les recours passent par les voies de contrôle officielles. Au lieu de cela, les survivants et les communautés déplacées se tournent souvent vers les organisations locales de la société civile qui fournissent des conseils juridiques, consignent les plaintes et plaident en faveur de la responsabilité. Ces organisations sont devenues des intermédiaires essentiels, traduisant les droits en pratique dans des contextes où la capacité de contrôle de l'État est limitée.

Alors que les interventions humanitaires intègrent de plus en plus les outils numériques, l'expérience des femmes dans l'est de la RDC illustre une réalité mondiale plus large : l'efficacité de la gouvernance ne se définit pas seulement par les technologies déployées ou les politiques écrites, mais aussi par la capacité des personnes marginalisées à contester les erreurs, à demander réparation et à se faire entendre. Leurs récits révèlent que, dans la pratique, la responsabilité est souvent construite à partir de la base, par le biais de réseaux communautaires plutôt que d'institutions officielles.

Les gouvernements du monde entier adoptent des réglementations sur l'IA. Mais une réglementation sans application n'est qu'une façade. La véritable question, celle qui déterminera si la gouvernance de l'IA protège réellement quelqu'un, est de savoir qui intervient lorsque l'État ne peut ou ne veut pas le faire.

C'est là la question centrale lorsqu'on examine la mise en œuvre de la gouvernance de l'IA en Afrique et au-delà. Les conclusions de cette recherche sont à la fois sobres et instructives : le fossé entre la loi telle qu'elle est écrite et la loi telle qu'elle est vécue est vaste, il se creuse, et dans les pays du Sud en particulier, les organisations de la société civile (OSC) inventent les infrastructures nécessaires pour le combler, infrastructures que le reste du monde doit étudier de toute urgence.

Le fossé entre la mise en œuvre et la réalité n'est pas le problème de l'Afrique. C'est le problème de tout le monde.

Les gouvernements du monde entier se précipitent pour adopter des lois sur l'IA, annonçant des cadres qui promettent sécurité, transparence et responsabilité. Pourtant, la législation seule ne garantit pas la protection. Les règles sans institutions pour les faire respecter risquent de devenir symboliques, une performance de gouvernance plutôt qu'une pratique. La question décisive n'est pas simplement ce qui est écrit dans la loi, mais qui intervient lorsque des dommages surviennent et que la surveillance officielle ne peut pas ou ne veut pas réagir.

Lorsque l'Union européenne a officiellement adopté sa loi sur l'IA en 2024, elle a établi une référence mondiale en matière de surveillance fondée sur les droits . La loi définit les catégories de risques, les obligations de transparence et les structures d'application. Ce qu'elle ne peut pas prescrire entièrement, c'est la manière dont ces obligations seront mises en œuvre dans des contextes quotidiens : comment le personnel de première ligne identifiera les systèmes à haut risque, comment les plaintes seront reçues de la part de personnes qui ne connaissent pas leurs droits, ou comment les régulateurs disposant d'une expertise technique limitée contrôleront des modèles complexes.

Une situation similaire se présente aux États-Unis, où un ensemble disparate de lois sur l'IA au niveau des États coexiste avec des capacités d'application inégales. En 2023, la Commission fédérale du commerce a pris des mesures contre Rite Aid pour des pratiques illégales de reconnaissance faciale qui portaient un préjudice disproportionné aux clients noirs, asiatiques, latino-américains et aux femmes. Cette affaire démontre que la responsabilisation est possible, mais aussi à quel point de telles interventions restent rares et nécessitent d'importantes ressources. Pour chaque affaire portée devant un organisme de réglementation, de nombreux autres préjudices restent non documentés.

Les données de l'enquête mondiale PwC auprès des PDG soulignent encore davantage le déficit de gouvernance. Si l'enthousiasme pour l'adoption de l'IA est élevé sur les marchés africains, la confiance dans la capacité à la mettre en œuvre de manière responsable reste nettement plus faible. La pénurie de talents et les contraintes en matière de ressources aggravent le défi, laissant les cadres de gouvernance sans la profondeur institutionnelle nécessaire pour fonctionner comme prévu.

Ces problèmes sont souvent présentés comme des problèmes d'investissement ou de capacité, mais ils sont avant tout des problèmes de gouvernance. Sans application, les droits n'existent que de manière conditionnelle, en fonction des connaissances, des ressources ou du soutien dont dispose une personne pour les invoquer. La véritable mesure de la responsabilité n'est donc pas la sophistication d'un texte juridique, mais la mesure dans laquelle les gens peuvent s'y fier dans la pratique.

Vu sous cet angle, l'Afrique n'est pas un cas particulier, mais une étude de cas révélatrice. De nombreux pays du continent développent des cadres de gouvernance de l'IA avant que son adoption généralisée ne soit pleinement établie, ce qui offre une occasion rare d'observer l'évolution simultanée de la réglementation et de la mise en œuvre dans des conditions réelles. Dans ces contextes, où l'État ne peut pas toujours agir de manière cohérente ou à grande échelle, la société civile est intervenue, non pas pour se substituer à la gouvernance, mais pour en devenir l'un des moteurs les plus actifs.

L'infrastructure derrière l'aspiration : Google, le Ghana et la fondation numérique

Aucune de ces initiatives de la société civile n'existe dans le vide. Elles s'inscrivent dans le cadre d'une infrastructure technologique en rapide évolution, dont elles dépendent.

L'expansion de Google dans le domaine de la recherche sur l'IA en Afrique, notamment avec son centre de recherche à Accra, au Ghana, représente un engagement significatif. L'initiative de prévision des inondations basée sur l'IA de l'entreprise, désormais opérationnelle dans plus de 40 pays africains, offre un exemple concret de l'IA apportant une valeur vitale à grande échelle. Les modèles prédictifs fournissent des alertes avancées en cas d'inondations dans les régions où les infrastructures météorologiques traditionnelles sont limitées.

Dans le domaine des soins de santé, les outils de diagnostic assistés par l'IA soutiennent de plus en plus les systèmes surchargés dans certaines régions du continent, élargissant ainsi la portée clinique dans les zones reculées. Cependant, investir dans les capacités de l'IA sans investir dans sa responsabilité crée des risques. Les recherches continuent de montrer un biais accentuel dans les systèmes de reconnaissance vocale automatisés, avec des taux d'erreur nettement plus élevés pour les locuteurs non natifs et ceux parlant des dialectes minoritaires. Dans des contextes à haut risque, de telles défaillances peuvent faire la différence entre l'accès ou le refus de services essentiels.

De même, le déploiement de technologies de reconnaissance des émotions dans des applications destinées au grand public a suscité de vives critiques de la part de chercheurs et de groupes de défense des droits humains, qui s'inquiètent de leur validité, du consentement et de la confidentialité.

En d'autres termes, les infrastructures ne sont pas neutres. L'expansion du cloud computing et la création de nouveaux centres de données à travers l'Afrique renforcent les capacités techniques. Mais la question de savoir pour quoi faire et qui les gère est extrêmement importante. Les mêmes systèmes qui élargissent l'accès peuvent renforcer l'exclusion si leur conception et leur supervision n'impliquent pas de manière significative les communautés concernées.

C'est là que les modèles des OSC deviennent des infrastructures à part entière, non pas physiques, mais institutionnelles. Les réseaux de surveillance distribués, les programmes d'alphabétisation communautaire et les processus de co-conception législative forment la couche de gouvernance sans laquelle l'infrastructure technique ne peut être tenue responsable.

Une feuille de route pour y parvenir

Les preuves étayent des recommandations concrètes, tant pour les gouvernements que pour les entreprises technologiques et les organisations de la société civile.

Pour les gouvernements, l'ambition législative doit s'accompagner d'une capacité d'application. Les investissements dans les infrastructures publiques numériques doivent s'accompagner de la mise en place d'organismes de contrôle indépendants dotés d'une expertise technique. La collecte de données ventilées (par sexe, handicap, région et origine ethnique) devrait être obligatoire afin de garantir que les impacts disparates soient visibles et exploitables.

Pour les entreprises technologiques, la responsabilité communautaire doit aller au-delà des canaux de retour d'information des utilisateurs. L'entrée sur les marchés de régions dont la capacité réglementaire est limitée devrait s'accompagner d'investissements structurés dans le renforcement des capacités de la société civile, non pas au titre de la responsabilité sociale des entreprises, mais en tant qu'infrastructure de gouvernance.

L'affaire Rite Aid montre ce qui se passe lorsque les préjudices sont visibles mais ne sont pas liés institutionnellement à des structures de responsabilité. Les schémas de préjugés raciaux n'étaient pas invisibles ; ils n'étaient tout simplement pas traités jusqu'à l'intervention d'un régulateur. Des structures de surveillance communautaire auraient pu mettre en évidence ces préjudices bien plus tôt.

Pour les OSC, l'impératif est la formalisation. Leur rôle en matière de gouvernance n'est pas complémentaire — dans de nombreux contextes, il est primordial.

Cela signifie qu'il faut militer pour une reconnaissance juridique, des sièges de co-conception dans l'élaboration de la réglementation et des réseaux de connaissances transfrontaliers capables de suivre le rythme de la diffusion technologique.

Conclusion : l'illusion et la réalité

Il existe une version de la gouvernance de l'IA qui se trouve dans les communiqués de presse, les textes législatifs et les documents de stratégie mondiale. Elle parle de cadres fondés sur les droits, de transparence et de responsabilité. En 2023, plus de 80 pays avaient élaboré des stratégies nationales en matière d'IA .

Sur le papier, l'architecture de surveillance semble solide.

Et puis il y a la réalité : une femme déplacée du Nord-Kivu signalée comme inéligible par un système qui ne peut pas lire son visage. Une erreur liée à l'accent qui empêche quelqu'un d'accéder à un service public. Un déploiement de la reconnaissance faciale qui nuit aux clients marginalisés pendant des années avant qu'une intervention n'ait lieu.

L'écart entre ces deux réalités n'est pas un problème technique. C'est un problème de gouvernance. Et il ne sera pas résolu par la seule législation. Il est traité, petit à petit, par des organisations de la société civile qui comprennent quelque chose que le débat mondial sur la gouvernance technologique commence seulement à saisir : la responsabilité n'est pas un document. C'est une pratique.

L'Afrique n'est pas un exemple à ne pas suivre. C'est l'un des laboratoires les plus instructifs au monde en matière d'innovation dans la gouvernance de l'IA. La question pour le reste du monde n'est pas de savoir s'il faut y prêter attention. Il s'agit plutôt de savoir si nous y prêtons la bonne attention.

Cet article a été rédigé dans le cadre du programme de bourses de journalisme Forus. Pour en savoir plus, cliquez ici.