Nous, une coalition mondiale de plus de 50 organisations de la société civile et de défense des droits de l'homme de plus de 30 pays, avons élaboré conjointement le "Manifeste de la société civile pour une IA éthique", une initiative novatrice visant à orienter les politiques en matière d'IA vers la sauvegarde des droits et la décolonisation du discours sur l'IA. Nous nous interrogeons, et nous ne sommes pas les seuls : quelles sont les voix, les idées et les valeurs qui comptent dans l'IA ?

"Si la Silicon Valley était un pays, elle serait probablement la plus riche du monde. Dans quelle mesure la Big Tech et l'IA sont-elles réellement engagées dans le financement et la promotion des droits de l'homme au détriment des profits ? La vérité est que si la démocratie était rentable, les avocats et les défenseurs des droits de l'homme, y compris les techtivistes des organisations de la société civile, ne seraient pas assis autour de tables d'engagement multipartites pour exiger des Big Tech et de l'IA qu'ils rendent des comptes. Dans quelle mesure s'investissent-ils dans un impact social réel centré sur les droits, malgré les preuves flagrantes du contraire ?", demande Nina Sangma, de l'Asia Indigenous Peoples Pact, une organisation régionale fondée en 1992 par des mouvements de peuples autochtones et qui compte plus de 40 membres dans 14 pays de la région Asie-Pacifique.  

Nous nous trouvons actuellement à un moment critique où la plupart des pays ne disposent pas d'une politique ou d'un cadre réglementaire global en matière d'IA. La dépendance soudaine à l'égard de l'IA et d'autres technologies numériques a introduit de nouvelles vulnérabilités, souvent "invisibles", et nous venons juste de voir la partie émergée de l'iceberg, qui fond littéralement sous l'effet du changement climatique.  

Il y a cependant des choses que nous avons déjà vues : L'IA est toujours un produit de données historiques représentant des inégalités et des injustices. Une étude analysant plus de 100 images générées par l'IA à l'aide des modèles de diffusion de Midjourney a révélé des biais constants, notamment la représentation d'hommes plus âgés dans des emplois spécialisés, des représentations binaires des sexes, des environnements urbains indépendamment du lieu, et la génération d'images renforçant principalement "l'âgisme, le sexisme et le classisme", avec un biais en faveur d'une perspective occidentale.  

Les sources de données continuent d'être "toxiques". Les outils d'IA apprennent à partir de vastes quantités de données d'entraînement, souvent constituées de milliards d'entrées récupérées sur l'internet. Ces données risquent de perpétuer des stéréotypes néfastes et contiennent souvent des contenus toxiques tels que la pornographie, la misogynie, la violence et le sectarisme. En outre, les chercheurs ont découvert des préjugés dans 38,6 % des "faits" utilisés par l'IA.  

Malgré une prise de conscience accrue, le discours entourant l'IA, tout comme la technologie elle-même, a été principalement façonné par "l'Occident, la blancheur et la richesse". La discrimination que nous observons aujourd'hui est le résultat d'un cocktail de "choses qui ont mal tourné", allant des pratiques d'embauche discriminatoires fondées sur le sexe et la race à la prévalence des biais algorithmiques.  

"Les biais ne sont pas une coïncidence. L'intelligence artificielle est une machine qui tire des conclusions à partir de données basées sur des modèles statistiques. Et dans la sphère sociale, cela signifie ne pas donner de visibilité aux marges", déclare Judith Membrives i Llorens, responsable des politiques numériques chez Lafede.cat - Organitzacions per la Justícia Global.  

"Le développement de l'IA n'est pas la seule préoccupation. Le vrai problème vient du fait que les citoyens sont tenus dans l'ignorance, que les libertés civiques sont restreintes et que la polarisation et les préjugés prévalent dans plusieurs dimensions de nos sociétés. Il en résulte une inégalité d'accès, une discrimination généralisée et un manque de transparence dans les processus technologiques et au-delà. Bien que le potentiel et le pouvoir de ces technologies soient reconnus, il est clair que de nombreuses personnes sont encore exclues et laissées en marge en raison de défauts systémiques. Si l'on ne s'attaque pas à ce problème, le développement mondial de l'IA et d'autres technologies émergentes ne sera pas inclusif. Si l'on n'agit pas maintenant et si l'on ne crée pas d'espaces de discussion pour faire émerger de nouvelles visions, ces technologies continueront à refléter et à exacerber ces disparités", déclare Mavalow Christelle Kalhoule, leader de la société civile au Burkina Faso et dans toute la région du Sahel, et présidente du réseau mondial de la société civile Forus.  

Le Manifeste de la société civile pour une IA éthique pose la question suivante : quels sont les pièges potentiels de l'utilisation des systèmes d'IA actuels pour éclairer les décisions futures, en particulier en termes de renforcement des disparités existantes ?   

Aujourd'hui, alors que les décideurs européens sont censés conclure un accord politique sur la loi relative à l'IA, nous posons la question suivante : les normes internationales de réglementation de l'apprentissage automatique tiennent-elles compte de la voix des citoyens ? Avec le Manifeste, nous explorons, remettons en question, perturbons et réimaginons les hypothèses sous-jacentes à ce discours, mais aussi nous élargissons la discussion pour incorporer des communautés au-delà des "experts" traditionnels. Rien sur nous, sans nous.  

"Nous voulons que l'intelligence artificielle soit créée par et pour tout le monde, et pas seulement pour quelques-uns", ajoute Judith Membrives i Llorens.  

De l'"Internet des vaches" à l'impact de l'IA sur les droits des travailleurs et sur l'espace civique, élaboré par plus de 50 organisations de la société civile, le Manifeste comprend 17 études de cas sur leurs expériences, leurs visions et leurs histoires autour de l'IA. Avec chaque histoire, nous voulons tisser un chemin différent pour construire de nouvelles visions sur les systèmes d'IA qui étendent plutôt que de restreindre les libertés dans le monde entier. 

"Le développement actuel de l'IA n'est en aucun cas inévitable. Il est façonné par les grandes entreprises technologiques parce que nous les laissons faire. Il est temps que la société civile défende ses droits en matière de données", déclare Camilla Lohenoja, de SASK, l'organisation de défense des droits des travailleurs des syndicats de Finlande.  

"Se concentrer sur une technologie éthique et transparente signifie également accorder la même attention à l'équité et à l'inclusivité de ses processus de conception et de prise de décision. L'intégrité de l'IA est façonnée autant par son développement que par son application", déclare Hanna Pishchyk du groupe de jeunes Digital Grassroots.   

En fin de compte, le manifeste vise à déclencher un dialogue mondial - et pas seulement sectoriel et dominé par l'Occident - sur le développement et l'application de l'IA.   

La société civile n'est pas seulement présente en tant que simple acteur dans les espaces multipartites, nous apportons ce que d'autres ignorent souvent et nous participons activement, dans le monde entier, à l'élaboration d'un avenir technologique qui englobe l'inclusion, la responsabilité et les avancées éthiques.