2026-07-14
Pouvoir, droits et IA : ce que la Geneva Digital Week a révélé sur l'avenir de la gouvernance
La semaine dernière, le réseau Forus a atterri en Genève pour la Semaine Numérique, où plusieurs espaces de discussion ont émergé simultanément : le Dialogue mondial des Nations Unies sur la gouvernance de l'intelligence artificielle, le « futuriste » Sommet IA for Good, et le Sommet mondial sur la société de l'information. Tout cela pendant que le Forum politique de haut niveau de l'ONU a débuté à New York avec des discussions complémentaires sur la numérisation, la coopération mondiale, l'avenir au-delà de 2030 et la participation civique significative, mettant en lumière l'importance de la technologie dans les débats sur le développement.
En surface, les discussions portaient sur l'intelligence artificielle, les données et les technologies émergentes. En réalité, il s'agissait de qui détient le pouvoir à l'ère numérique, qui façonne les règles, qui bénéficie du changement technologique et de savoir si la société civile aura l'espace nécessaire pour aider à gouverner l'IA.
« La technologie n'est jamais neutre »
Tout au long de la semaine, le débat mondial autour de l'IA a sans cesse oscillé entre des promesses ambitieuses – presque utopiques – et une attention insuffisante aux préjudices et aux peurs cachés derrière le « rideau du battage médiatique sur l'IA ».
Nous avons entendu parler des avancées dans les domaines de la santé, de l'éducation, des services publics et de la productivité. Mais ces promesses côtoient la désinformation, la surveillance, la discrimination algorithmique, le remplacement d'emplois, la violence en ligne, les coûts environnementaux des infrastructures technologiques et l'utilisation croissante de l'IA dans des contextes militaires.
Comme l'a souligné Andrew Findell-Aghnatios de l'Initiative de réforme arabe lors de discussions la semaine dernière, « la technologie n'est jamais neutre ». Chaque décision intégrée dans un système d'IA, des données qu'il utilise et des langages qu'elle priorise aux usages pour lesquels elle est déployée, est une décision humaine. Elle reflète les structures de pouvoir, les incitations économiques, les choix politiques, les scénarios géopolitiques et les valeurs sociales.
Une préoccupation soulevée à plusieurs reprises durant la semaine était la tendance croissante à anthropomorphiser les systèmes d'IA : à en parler comme s'ils étaient des acteurs indépendants plutôt que des produits de choix humains. Au-delà de la création d'attentes irréalistes, cette tendance peut brouiller la responsabilité. Si un algorithme prend une décision nuisible, la responsabilité ne disparaît pas car quelqu'un a conçu le système, l'a acquis, déployé et décidé de son utilisation.
Pour la société civile, maintenir cette chaîne de responsabilité est essentiel et si la technologie n'est jamais neutre, la gouvernance de l'IA ne peut pas non plus l'être politiquement.
Les droits de l'homme doivent être le point de départ
Un message clair est apparu des organisations de la société civile œuvrant sur les droits numériques, notamment Data Privacy Brasil, Derechos Digitales, Paradigm Initiative, Global Partners Digital et Tech Global Institute : les droits humains doivent être la base de la gouvernance de l'IA, et non simplement une considération politique parmi d'autres.
La logique doit être inversée. Au lieu de se demander comment les droits humains peuvent être intégrés dans la gouvernance de l'IA après le développement des systèmes, les politiques, les marchés publics, le déploiement et la réglementation devraient être évalués dès le départ selon les obligations existantes en matière de droits humains.
Le droit international des droits de l'homme fournit déjà un cadre normatif solide. Les organismes de l'ONU et les mécanismes internationaux des droits de l'homme ont élaboré des normes permettant d'identifier les usages inacceptables de l'IA et de définir des « lignes rouges » claires. La société civile a également développé des approches pratiques pour traduire ces principes en politiques et en supervision. Les gouvernements devraient être clairement interrogés : à quoi s'engengrent-ils pour protéger les droits de l'homme dans le développement, l'acquisition et le déploiement de l'IA ?
Répondre à cette question est particulièrement urgent alors que les autorités publiques collaborent de plus en plus avec les plateformes privées et les fournisseurs de technologies. De tels partenariats peuvent offrir innovation et capacité, mais ils soulèvent également des préoccupations concernant la responsabilité, la souveraineté, la transparence et la protection de l'intérêt public.
La gouvernance de l'IA a besoin de capacités, pas seulement de principes
De nombreux gouvernements, régulateurs et organisations de la société civile sont censés s'engager dans des débats de gouvernance de l'IA de plus en plus complexes sans disposer des expertises, ressources ou pouvoir de négociation nécessaires.
Cela est particulièrement visible au niveau national et dans les régions où les gouvernements dépendent fortement de fournisseurs de technologies étrangères, d'infrastructures et de plateformes.
Cette semaine, des partenaires comme Paradigm Initiative ont averti que les marchés publics de systèmes d'IA reproduisent des formes de dépendance technologique ou de « colonialisme de l'IA », en particulier lorsque les gouvernements n'ont pas la capacité d'évaluer les systèmes de manière autonome, de négocier des garanties appropriées ou de comprendre les implications à long terme de la dépendance des fournisseurs.
Le renforcement des capacités doit donc aller au-delà des compétences numériques générales, qui nécessitent un investissement soutenu.
Dans ce contexte, gouvernement et régulateurs
-
Exiger la transparence et la traçabilité obligatoires pour les systèmes d'IA à fort impact
-
Imposer des évaluations des risques avant le déploiement (y compris les biais, la cybersécurité et la sécurité opérationnelle)
-
Établir une surveillance et un audit indépendants, avec des obligations de rapports régulières
-
Exiger une surveillance post-déploiement (incidents, performance et conformité) ainsi que des plans d'atténuation
Société civile
-
Demandez la documentation du système et examinez attentivement les achats/contrats pour des exigences claires et applicables en matière de sécurité et de responsabilité.
-
Surveillez et signalez des préjudices tels que les préjugés, la discrimination, la surveillance et la désinformation.
-
Renforcer la littératie et l'éducation en IA, en particulier pour les communautés vulnérables.
-
Participer efficacement aux processus de gouvernance nationaux et internationaux et collaborer avec le milieu universitaire et les groupes techniques pour des tests et vérifications indépendants.
Entreprises
-
Mettez en place un système de gestion des risques par IA (gouvernance, contrôles, tests et revue).
-
Prioriser la qualité des données et la confidentialité dès la conception (minimisation, documentation, contrôles de biais).
-
Construisez pour la surveillance et la réponse aux incidents (métriques, journalisation, retour en arrière, communications).
-
Veillez à une supervision humaine appropriée et à une formation interne.
L'écart numérique entre les genres concerne le pouvoir, la sécurité et le leadership
Les discussions sur la transformation numérique inclusive ont également mis en lumière les obstacles persistants auxquels sont confrontées les femmes et les filles, avec des appels à inclure l'égalité des sexes dans les politiques d'IA ainsi que dans la conception, la régulation et l'évaluation des systèmes numériques.
Lors d'une table ronde sur les femmes à la tête de l'avenir numérique, la professeure Salma Abbasi a partagé la nécessité de dépasser les questions d'accès et de confronter les barrières sociales, culturelles et structurelles plus profondes qui continuent d'exclure les femmes des espaces technologiques.
Le défi concerne à la fois la capacité des femmes et des filles à accéder aux outils numériques et à leur capacité à les façonner, à diriger des processus de gouvernance, à pénétrer en toute sécurité dans les secteurs technologiques et à exercer une véritable autonomie dans des environnements numériques.
Cela signifie : aborder les stéréotypes et l'exclusion structurelle ; l'expansion de la littératie numérique et de l'IA ; le renforcement du leadership féminin dans les processus de gouvernance ; la lutte contre la violence basée sur le genre en ligne ; créer des voies vers les STEM et l'entrepreneuriat et concevoir des technologies qui réduisent plutôt que ne reproduisent les biais.
Il est tout aussi important de traiter les préjudices liés au genre comme une question centrale de gouvernance de l'IA.
Les deepfakes sexuels et les abus basés sur l'image sont une préoccupation majeure et croissante, les femmes étant ciblées de manière disproportionnée, comme le partage Derechos Digitales.
Les systèmes et architectures de plateformes d'IA doivent inclure des mesures de protection renforcées contre les abus basés sur le genre, la violence sexuelle basée sur l'image et le harcèlement en ligne, ainsi que des mesures, indicateurs et engagements sensibles au genre, liés à l'IA.
L'IA militaire reste l'éléphant dans la pièce
Les usages militaires de l'IA ont été exclus du Dialogue mondial, bien qu'ils soient parmi les dimensions les plus sérieuses de la gouvernance émergente de l'IA.
Cette absence est particulièrement significative car le Dialogue mondial lui-même ne devrait pas produire des résultats contraignants.
L'IA militaire reste très sensible en raison de la concurrence géopolitique et du désir des États puissants de conserver la liberté de développer, tester et déployer de nouveaux systèmes. Les discussions en vertu de la Convention relative à certaines armes conventionnelles n'ont pas encore permis de trouver un consensus sur des règles juridiquement contraignantes.
La Recommandation de l'UNESCO sur l' éthique de l'IA inclut le principe d'une utilisation pacifique de l'IA et affirme que les décisions de vie ou de mort ne doivent pas être déléguées aux systèmes d'IA.
Les futures négociations intergouvernementales doivent aller plus loin.
Les applications militaires nuisibles, les armes autonomes et la délégation de décisions létales aux machines nécessitent un examen international rigoureux et, si nécessaire, une réglementation juridiquement contraignante.
L'exclusion de l'IA militaire des grands dialogues politiques ne peut pas signifier qu'elle disparaît de l'agenda de la gouvernance.
L'IA pour le bien — mais pour qui ?
Ces préoccupations ont résonné dans les discussions menées par CADE – Civil Society Alliances for Digital Empowerment, projet cofinancé par l'Union européenne dont Forus est partenaire — où les participants ont examiné une question trompeusement simple : l'IA pour le bien — mais pour qui ?
Beaucoup des chaînes de valeur actuelles de l'IA dépendent de vastes quantités de données, de main-d'œuvre, d'énergie, d'eau et d'infrastructures provenant de pays et de communautés qui ont peu d'influence sur la conception ou la gouvernance des technologies résultantes.
Les bénéfices sont souvent concentrés, tandis que les risques et coûts sont largement répartis.
Une approche fondée sur les droits nous oblige à regarder au-delà de l'automatisation apparente et à reconnaître les travailleurs, les communautés et les infrastructures derrière les systèmes d'IA. Cela signifie aussi affronter des pratiques de travail exploitantes, un accès inégal aux ressources et la concentration du pouvoir décisionnel.
Utiliser des scénarios réels aide à rendre ces dynamiques visibles. Elle permet aux décideurs politiques et à la société civile d'identifier où le préjudice survient, qui en assume le coût et où la responsabilité fait défaut.
Ces questions reflètent cependant des débats de longue date en matière de développement international.
Depuis des décennies, la société civile remet en question les approches qui traitent les communautés comme des utilisateurs finaux et des bénéficiaires passifs plutôt que comme des décideurs. Le même principe s'applique à la transformation numérique : les communautés ne doivent pas simplement recevoir des technologies conçues ailleurs ; Ils doivent avoir le pouvoir de façonner les systèmes qui affectent leur vie.
C'est aussi pourquoi les dimensions globale et locale de la gouvernance de l'IA ne peuvent être séparées, comme le montre le Manifeste de la société civile pour l'IA éthique.
Pour renforcer la transformation menée par la société civile, à travers son Programme d'échange de droits numériques, Forus soutient les partenariats Nord global - Sud global afin de relever conjointement les défis de gouvernance numérique partagée, renforcer l'apprentissage interrégional et développer des stratégies concrètes de plaidoyer conjointes liées aux processus politiques nationaux, régionaux et mondiaux.
De la consultation à la participation significative
Rassembler gouvernements, entreprises, experts techniques et société civile est précieux, mais la participation multipartite n'est pas automatiquement significative.
Tout au long de la Semaine numérique de Genève, des représentants de la société civile ont exprimé leur inquiétude face au manque de clarté concernant le suivi du Dialogue mondial des Nations Unies sur la gouvernance de l'IA. En particulier, beaucoup ont remis en question la manière dont les discussions allaient évoluer entre Genève et les discussions de suivi prévues par l'ONU à New York en 2027, quelle architecture de gouvernance émergerait, et comment – et qui, de la société civile – pourrait participer de manière significative tout au long du processus.
Le rapport de synthèse des coprésidents sur le Dialogue mondial des Nations Unies sur la gouvernance de l'IA doit refléter les préoccupations de la société civile, notamment les droits humains, la responsabilité, l'égalité des sexes, les déséquilibres de pouvoir entre les parties prenantes, les garanties d'intérêt public, la transparence et une participation significative de la société civile.
L'architecture future de gouvernance devrait garantir une participation significative de la société civile, et non seulement une consultation symbolique, comme cela est également encouragé dans d'autres forums par les Forus et les partenaires de la société civile via l' initiative #UNmute. Les modèles possibles à venir incluent le Forum sur la gouvernance de l'Internet et un panel consultatif multipartite, mais les déséquilibres de pouvoir entre les parties prenantes doivent être abordés avant tout.
La composition du panel scientifique, par exemple, sera cruciale, notamment quelles preuves sont considérées comme éligibles, quelle expertise est mise en avant et comment les perspectives de la société civile sont intégrées.
Alors que le rôle et la diversité de l'inclusion de la société civile et des communautés concernées deviennent de plus en plus importants à mesure que la gouvernance numérique monte dans l'agenda multilatéral, les questions suivantes doivent être posées :
-
Quelles preuves seront considérées comme légitimes ?
-
Quelle expertise sera reconnue ?
-
L'expérience vécue et la connaissance communautaire seront-elles valorisées ?
-
Comment la société civile du Sud global/Majorité participera-t-elle ?
-
Qui aura une réelle influence sur les décisions ?
La gouvernance numérique devient un enjeu de démocratie
L'importance d'une gouvernance numérique inclusive va au-delà de la politique de l'IA.
S'exprimant depuis le Forum politique de haut niveau de l'ONU à New York, la présidente du Forus, Justina Kaluinaite, a souligné comment la numérisation devient de plus en plus centrale dans les discussions sur le développement durable et la coopération internationale. À travers plusieurs revues nationales volontaires, les gouvernements mettent en avant la transformation numérique comme un moteur clé des résultats de développement.
Pourtant, l'enthousiasme pour les solutions numériques s'accompagne souvent de questions difficiles.
Comment protéger l'espace civique dans les environnements numériques ? Comment les systèmes numériques influencent-ils la participation, la responsabilité et l'accès équitable aux services publics ? Comment prévenir la surveillance, la discrimination et l'exclusion ? Comment la coopération internationale devrait-elle évoluer alors que la numérisation devient centrale dans la politique de développement ?
Pourquoi cela compte pour Forus
Le rôle de Forus est de connecter les débats mondiaux sur la gouvernance numérique avec la société civile organisée aux niveaux national et régional. Grâce à un réseau mondial de plateformes nationales d'ONG et de coalitions régionales, Forus peut contribuer à garantir que les politiques soient informées par les réalités locales et que la société civile ait la capacité de s'engager là où la mise en œuvre a lieu réellement.
À mesure que la gouvernance de l'IA évolue, les écarts s'élargissent à de nombreux niveaux et ce pont devient de plus en plus important. En tant que réseau, nous apportons une infrastructure de société civile de confiance, un pouvoir de rassemblement, une portée nationale et la capacité de connecter les processus mondiaux à un plaidoyer ancré.
Cela crée des opportunités de collaboration autour de :
-
la participation de la société civile aux stratégies nationales d'IA et numériques ;
-
la sécurité numérique et la résilience pour les organisations de la société civile ;
-
la littératie IA et l'utilisation responsable de l'IA ;
-
surveiller les effets de l'IA et de la politique numérique sur l'espace civique ;
-
renforcer la participation du Sud global aux processus de gouvernance internationale ;
-
et la construction de coalitions qui relient l'expertise technique à la société civile organisée.
Que devrait-il se passer ensuite ?
Genève a démontré que la gouvernance de l'IA entre dans une « nouvelle phase ». Forus voit cinq priorités pour la voie à venir et soutient ses partenaires et membres dans leur travail.
1. Les droits humains doivent rester la base de la gouvernance de l'IA. Les obligations existantes en matière de droits humains devraient guider le développement, l'approvisionnement, la réglementation et le déploiement de l'IA dès le départ.
2. La société civile doit participer dès le départ. Une participation significative exige que la société civile aide à définir les priorités, concevoir des cadres, fournir des preuves et surveiller la mise en œuvre, et non simplement répondre aux décisions prises ailleurs.
3. Le Sud global a besoin d'investissements soutenus, pas seulement d'invitations. Les organisations de la société civile ont besoin d'un soutien à long terme pour la littératie en IA, la sécurité numérique, l'expertise politique, la recherche et la participation aux processus nationaux et mondiaux.
4. Les engagements mondiaux doivent être en lien avec les réalités nationales. La gouvernance de l'IA sera finalement mise en œuvre à travers des lois, politiques, institutions et services publics nationaux. Les plateformes nationales d'ONG jouent un rôle essentiel dans la traduction des engagements mondiaux en actions nationales responsables.
5. La gouvernance numérique doit protéger la démocratie et l'espace civique. L'IA, la gouvernance des données et l'infrastructure publique numérique transforment la manière dont les gens accèdent aux services, participent à la vie publique et exercent leurs droits. La responsabilité démocratique et la participation civique doivent donc rester centrales dans la coopération numérique.
Les questions de gouvernance continueront d'occuper une place importante dans les mois à venir.
En décembre, le Forum mondial sur la gouvernance de l'Internet se tiendra à Nairobi, créant une nouvelle opportunité importante pour les organisations de la société civile d'influencer les débats sur l'avenir d'Internet et de la gouvernance numérique. Les membres de Forus seront présents, apportant des perspectives ancrées dans les communautés, les droits et la participation démocratique, en particulier en considérant les Évaluations Périodiques Universelles (UPR) comme un outil d'action.
En regardant plus loin, l'attention se porte déjà sur les discussions de l'ONU prévues en mai prochain à New York lors du deuxième Dialogue mondial sur la gouvernance de l'IA, où les parties prenantes continueront d'examiner la mise en œuvre des engagements de coopération numérique mondiale et les cadres de gouvernance émergents autour de l'intelligence artificielle.
Les événements politiques de haut niveau restant souvent ambitieux et déclaratifs ; Les dialogues futurs devraient évoluer vers des engagements concrets, des processus transparents, une responsabilité et des ressources politiques et financières adéquates.
Genève offrait également une raison d'être optimiste.
Tout au long de la semaine, la reconnaissance croissante a été faite que la gouvernance de l'IA doit être construite avec une participation plus forte de la société civile, une plus grande diversité d'expertises et des liens plus étroits entre la politique mondiale et les réalités nationales sont de plus en plus considérés comme essentiels. Pour Forus, c'est une opportunité de contribuer à ce que la société civile organisée contribue à la façonner.
Pour les partenariats et collaborations, veuillez contacter Ángela Alarcón, Coordinatrice de projet pour la gouvernance numérique chez Forus : [email protected]
Marie L’Hostis, Directrice du plaidoyer et des programmes, Forus
Spécialiste du plaidoyer et de la création de coalitions, forte d’une vaste expérience dans la conduite de campagnes, de partenariats et de réseaux mondiaux de la société civile afin de promouvoir le développement durable, l’espace civique et des politiques publiques centrées sur les personnes.
Bibbi Abruzzini, Coordinatrice des communications et des campagnes, Forus
Professionnelle de la communication et du récit multimédia, dotée d’une solide expérience dans la conception de campagnes et la production de contenus à fort impact pour renforcer l’engagement citoyen, la justice sociale et les initiatives de développement international.
Ángela Alarcón, Coordinatrice de projet, Gouvernance numérique, Forus
Professionnelle chevronnée en stratégie, plaidoyer et mobilisation, avec 15 ans d’expérience dans le renforcement de l’impact des projets, notamment dans les domaines de la justice sociale et de la théorie du changement.
