En avril 2021, la Commission européenne a présenté les "premières règles sur l'IA", proposant le cadre réglementaire initial de l'UE pour l'IA. En 2023, le Parlement européen a adopté sa position de négociation sur la loi sur l'IA. Cependant, de nombreux pays et régions dans le monde n'ont toujours pas de réglementation concernant l'IA et l'utilisation de technologies innovantes.  

Les questions relatives à l'IA sont plus nombreuses que les réponses : Comment garantir que les systèmes d'IA sont sûrs, transparents, traçables, non discriminatoires et respectueux de l'environnement ?

En tant qu'organisations de la société civile, agissant en tant qu'intermédiaires entre les gouvernements et les communautés, nous ressentons déjà les effets profonds de l'IA. De Hong Kong à la Biélorussie, nous avons été les premiers témoins de l'existence et de la manifestation des technologies d'IA dans le monde réel. Des activistes et des défenseurs de première ligne ont été victimes d'abus dus aux technologies d'IA, allant de la reconnaissance faciale à d'autres formes de collecte de données et de préjugés.  

Simultanément, divers modèles d'apprentissage automatique aident à détecter les risques pour l'espace civique, et de nombreux militants et experts en technologie investissent dans l'IA "éthique" ou "responsable" afin d'atténuer les risques associés et de soutenir le travail des organisations de la société civile.  

S'inspirant d'initiatives telles que le Manyfesto sur l'IA décoloniale et la loi européenne sur l'intelligence artificielle pour les droits fondamentaux, ce Manifeste de la société civile pour l'IA représente un effort de collaboration visant à conseiller les décideurs politiques sur les risques et les opportunités de l'IA spécifiquement pour les organisations de la société civile et sur son impact sur leur travail.   

Il rassemble des voix diverses, notamment celles des peuples autochtones, des jeunes, des femmes et des défenseurs des droits humains. Le manifeste reconnaît les divers impacts de l'IA sur les communautés et propose des recommandations sur la construction d'une IA décoloniale, juste et accessible qui puisse étendre l'espace civique dans le monde entier au lieu de le restreindre.

Le manifeste, élaboré par un groupe de plus de 40 organisations de plus de 30 pays, sera présenté et ses messages feront l'objet d'un suivi aux niveaux national, régional et international. Cet effort collectif vise à s'engager dans des activités de plaidoyer et de renforcement des capacités afin de garantir l'impact du document.  

Nous partons de l'hypothèse des chercheurs et des activistes, qui soutiennent que l'IA est un produit de données historiques représentant des inégalités et des injustices. Si nous utilisons les systèmes d'IA actuels comme base de décision pour l'avenir, nous ne ferons que perpétuer les inégalités existantes.  

Nous reconnaissons également que le discours entourant l'IA, tout comme la technologie elle-même, a été principalement façonné par "l'Occident, la blancheur et la richesse". Notre objectif est non seulement d'explorer, de remettre en question, de perturber et de réimaginer les hypothèses sous-jacentes à ce discours, mais aussi d'élargir la discussion pour incorporer des communautés au-delà des "experts" traditionnels.  

Nous reconnaissons que la vie, le travail et l'avenir de divers groupes, tels que les jeunes, les personnes touchées par les conséquences environnementales de l'IA et les individus affectés par ses préjugés raciaux et sexistes, seront considérablement influencés. Dans les pages qui suivent, ils présenteront leur point de vue unique sur l'IA, offrant leurs propres interprétations et compréhensions du concept, des politiques et des pratiques.  

Nous nous trouvons actuellement à un moment critique où la plupart des pays ne disposent pas d'une politique ou d'un cadre réglementaire complet en matière d'IA. Toutefois, plusieurs initiatives ont été lancées pour promouvoir une adoption plus sûre de l'IA et traiter les risques potentiels associés à la technologie.  

La dépendance soudaine à l'égard de l'IA et d'autres technologies numériques en raison de la pandémie de COVID-19 a introduit de nouvelles vulnérabilités, permettant la commercialisation des données des citoyens, voire leur militarisation. Par conséquent, des questions telles que les biais algorithmiques, les atteintes à la vie privée, le manque de transparence et la complexité globale de la compréhension des interactions de l'IA doivent être prises en compte dans les politiques. Il est essentiel d'élaborer des politiques en matière d'IA qui abordent de manière critique le degré de dépendance à l'égard des systèmes d'IA, en particulier dans les secteurs publics.   

En fin de compte, en raison de son rôle stratégique et de ses responsabilités, la société civile a le potentiel d'orienter l'IA dans une direction positive. En encourageant la responsabilité et en faisant entendre la voix des communautés historiquement marginalisées, nous pensons que ce manifeste collectif contribuera à la réalisation de ces objectifs.  

Comment le Manifeste de la société civile pour l'IA a-t-il vu le jour et qui y participe ?  

Le processus d'élaboration du Manifeste de la société civile pour l'IA a débuté lors de l'Assemblée Digital Rights Asia-Pacific 2023 (DRAPAC), qui s'est tenue à Chiang Mai en mai 2023. Cet effort de collaboration a été initié par une table ronde organisée par Forus, un réseau mondial de la société civile, en collaboration avec l'Asia Development Alliance, ECNL, le Asia Pacific Forum on Women, Law and Development (APWLD), l'Asia Indigenous Peoples Pact (AIPP) et l'Asia Center. Plus de 50 organisations de la société civile se sont réunies en ligne et hors ligne pour explorer les risques et les opportunités associés à l'IA et à ses applications.  

Par la suite, un atelier virtuel mondial a été organisé pour approfondir ces sujets avec divers témoignages d'organisations de la société civile, dont Paradigm Initiative, le Uganda National NGO Forum, Red Unitas de Bolivie, l'Asia Indigenous Peoples Pact (AIPP) et des initiatives telles que le projet Machine Learning for Peace de l'Université de Pennsylvanie. L'atelier visait à favoriser les discussions collectives et à partager les expériences personnelles concernant l'impact de l'IA sur les opérations et l'environnement de travail des organisations de la société civile. L'atelier a été suivi d'une session interactive dans le cadre de la réunion du groupe consultatif de "Tech for Democracy". 

Les organisations et les militants impliqués dans ces initiatives forment l'organe constitutif chargé d'élaborer le Manifeste de la société civile pour l'IA, un processus de rédaction collaboratif qui s'est étalé sur trois mois.