La société civile et les militants du monde entier sont de plus en plus préoccupés par l'impact de l'IA sur les droits collectifs et l'espace civique. Les technologies de l'IA peuvent avoir un impact sur les droits et libertés fondamentaux, tels que la liberté d'expression, d'association et de réunion. L'utilisation de l'IA à des fins de surveillance et de contrôle peut porter atteinte au droit à la vie privée et restreindre l'espace de liberté de la société civile. Les algorithmes et les systèmes alimentés par l'IA peuvent influencer le discours public et façonner le flux d'informations, ce qui a un impact sur les droits collectifs. La possibilité pour l'IA de manipuler ou de filtrer le contenu soulève des questions quant à l'équité et à l'ouverture des espaces civiques. La désinformation et la diffusion de faux récits par le biais de contenus générés par l'IA compliquent encore la situation, en sapant la confiance et en entravant les processus démocratiques.

L'impact de l'IA sur les populations autochtones et les femmes a suscité des inquiétudes quant aux risques de discrimination et d'exclusion. Les systèmes d'IA peuvent perpétuer les préjugés existants et amplifier les inégalités, affectant les groupes historiquement marginalisés. Pour les populations autochtones, l'IA peut menacer leur patrimoine culturel et leurs connaissances traditionnelles, car elle peut ne pas comprendre ou représenter de manière adéquate leurs perspectives, valeurs et langues uniques. De même, l'IA peut renforcer les stéréotypes de genre et la discrimination à l'égard des femmes, tant dans le monde du travail que dans les processus décisionnels algorithmiques. Il est nécessaire de mettre en place des garanties et des approches inclusives pour s'assurer que les technologies de l'IA n'excluent pas davantage les communautés. 

Nous avons également constaté que l'impact de l'IA sur les droits humains est une considération cruciale. Les "deep fakes" posent des risques importants, notamment en ce qui concerne la protection des femmes. Ces médias manipulés peuvent être utilisés pour diffuser de la désinformation, diffamer des personnes ou faciliter le harcèlement et l'exploitation. L'absence d'outils efficaces pour détecter les contenus générés par l'IA ne fait qu'exacerber le problème. En outre, l'influence de l'IA sur la liberté d'expression est une préoccupation croissante. Une stratégie d'IA fondée sur les droits devrait viser à créer un espace participatif et significatif, impliquant les organisations de la société civile et les mouvements sociaux.

La collaboration entre les développeurs et les organisations de la société civile peut permettre de relever les défis en matière d'éducation et de garantir que l'écosystème est prêt pour une utilisation responsable de l'IA. En outre, l'impact de l'IA sur les élections en Asie nécessite de lutter contre la désinformation afin de préserver l'intégrité du processus démocratique. Dans les contextes nationaux, l'impact de l'IA sur l'espace civique a des répercussions sur la surveillance et la restriction des libertés. L'utilisation de l'IA pour "retourner l'omelette" peut être envisagée pour soutenir et élargir - plutôt que restreindre - l'espace civique. Toutefois, il convient de clarifier le processus de vérification des informations, car le public accepte facilement les nouvelles comme étant factuelles sans disposer d'outils permettant de distinguer les informations vraies des fausses. Pour l'instant, on pourrait envisager de filigraner les images générées par l'IA. 

Pour s'assurer que l'IA sert les intérêts de la population, il est essentiel de se demander si l'IA profite à tous les individus ou seulement à quelques uns d'entre eux. Si l'industrie internationale de l'IA est confrontée à des défis, ces défis deviennent encore plus complexes au niveau national. Il est essentiel d'évaluer et de relever les défis à plusieurs niveaux pour s'assurer que l'IA profite à la société dans son ensemble. 

Quelles sont les prochaines étapes ? 

Collectivement, nous aimerions continuer à discuter, tout en partageant les demandes et les besoins de la société civile, en ce qui concerne l'IA. Nous vous invitons à vous joindre à notre table ronde mondiale virtuelle pour une exploration stimulante des stratégies et des outils de pointe permettant de naviguer avec succès sur ce terrain en constante évolution. 

L'événement aura lieu le jeudi 8 juin (13-14:30 GMT, vérifiez votre fuseau horaire ici) et sera l'occasion de recueillir des expériences et des ressources pour une boîte à outils et un manifeste participatif de la société civile sur l'IA.

Comme toujours, apportez vos idées, ensemble nous pouvons créer une ressource pour nous aider les uns les autres dans ce parcour.

• En attendant, vous trouverez ici une liste participative des ressources de la société civile sur l'IA. Ajoutez vos contributions avant la session du 8 juin.

Le contenu sera créé conjointement et les messages de plaidoyer seront partagés lors des événements suivants : le FGI, le Forum politique de haut niveau et la RightsCon. Une campagne de médias sociaux sur les droits numériques avec un accent particulier sur l'impact de l'IA sera développée dans les semaines suivant l'atelier dans le cadre de la campagne #Let's Talk Digital. 

• Une interprétation simultanée en anglais, français et espagnol sera disponible.
• L'ordre du jour avec les intervenants suivra.
• Plus d'informations sur l'atelier ici.
• Inscrivez-vous ici. Jeudi 8 juin - 13 - 14:30 GMT - Vérifiez votre fuseau horaire ici.
• N'hésitez pas à nous contacter à [email protected] ou [email protected]