En abril de 2021, la Comisión Europea presentó las "primeras normas sobre IA" del mundo, proponiendo el marco regulador inicial de la UE para la IA. En 2023, el Parlamento Europeo adoptó su posición negociadora sobre la Ley de IA. Sin embargo, numerosos países y regiones de todo el mundo carecen aún de cualquier forma de regulación relativa a la IA y a la utilización de tecnología innovadora.  

Las preguntas que rodean a la IA superan en número a las respuestas: ¿Cómo podemos garantizar que los sistemas de IA sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente?  

Como organizaciones de la sociedad civil, que actuamos como intermediarios entre los gobiernos y las comunidades, ya estamos experimentando los profundos efectos de la IA. Desde Hong Kong hasta Bielorrusia, hemos sido testigos directos de la existencia y manifestación de las tecnologías de IA en el mundo real. Activistas y defensores de primera línea han sufrido abusos como consecuencia de las tecnologías de IA, desde el reconocimiento facial hasta otras formas de recopilación de datos y sesgos.  

Al mismo tiempo, varios modelos de aprendizaje automático están ayudando a detectar riesgos para el espacio cívico, y numerosos activistas y expertos en tecnología están invirtiendo en IA "ética" o "responsable" para mitigar los riesgos asociados y apoyar el trabajo de las organizaciones de la sociedad civil.  

Basándose en iniciativas como el Manyfesto Decolonial AI y la Ley de la UE sobre Inteligencia Artificial para los Derechos Fundamentales, este Manifiesto de la Sociedad Civil para la IA representa un esfuerzo de colaboración para asesorar a los responsables políticos sobre los riesgos y oportunidades de la IA específicamente para las organizaciones de la sociedad civil y su impacto en su trabajo.   

Reúne diversas voces, incluidas las de los pueblos indígenas, los jóvenes, las mujeres y los defensores de los derechos humanos. El manifiesto reconoce las diversas repercusiones que la IA está teniendo en las comunidades y ofrece recomendaciones para construir una IA descolonial, justa y accesible que pueda ampliar, en lugar de restringir, el espacio cívico en todo el mundo.  

El manifiesto, elaborado por un grupo de más de 40 organizaciones de más de 30 países, será presentado y sus mensajes serán objeto de seguimiento a escala nacional, regional e internacional. Este esfuerzo colectivo pretende emprender actividades de promoción y fortalecimiento de capacidades para garantizar la repercusión del documento.  

Partimos del supuesto de investigadores y activistas, que sostienen que la IA es un producto de datos históricos que representan desigualdades e inequidades. Si utilizamos los sistemas actuales de IA como base para la toma de decisiones de cara al futuro, no haremos sino perpetuar las desigualdades existentes.  

También reconocemos que el discurso en torno a la IA, al igual que la propia tecnología, ha sido predominantemente moldeado por "occidente, la blancura y la riqueza". Nuestro objetivo no es sólo explorar, cuestionar, alterar y reimaginar los supuestos subyacentes en este discurso, sino también ampliar el debate para incorporar a comunidades más allá de los "expertos" tradicionales.   

Reconocemos que las vidas, el trabajo y el futuro de diversos grupos, como los jóvenes, los afectados por las consecuencias medioambientales de la IA y las personas afectadas por sus prejuicios raciales y de género, se verán significativamente influidos. En las páginas siguientes, presentarán sus perspectivas únicas sobre la IA, ofreciendo sus propias interpretaciones y comprensiones del concepto, las políticas y las prácticas.  

Actualmente nos encontramos en una coyuntura crítica en la que la mayoría de los países carecen de una política o un marco normativo exhaustivo en materia de IA. Sin embargo, se han emprendido varias iniciativas para promover una adopción más segura de la IA y abordar los riesgos potenciales asociados a la tecnología.  

La repentina dependencia de la IA y otras tecnologías digitales debido a la pandemia de COVID-19 ha introducido nuevas vulnerabilidades, permitiendo que los datos de los ciudadanos se comercialicen e incluso se conviertan en armas. En consecuencia, cuestiones como el sesgo algorítmico, las violaciones de la privacidad, la falta de transparencia y la complejidad general de comprender las interacciones de la IA requieren consideraciones políticas. Es crucial elaborar políticas de IA que aborden de forma crítica el grado de dependencia de los sistemas de IA, especialmente en los sectores públicos.   

En última instancia, debido a su papel estratégico y a sus responsabilidades, la sociedad civil posee el potencial para dirigir la IA en una dirección positiva. Al promover la rendición de cuentas y elevar las voces de las comunidades históricamente marginadas que han sido pasadas por alto, creemos que este manifiesto colectivo contribuirá a alcanzar estos objetivos.  

Cómo surgió el Manifiesto de la Sociedad Civil por la AI y quién participa?

El proceso de elaboración del Manifiesto de la Sociedad Civil por la AI comenzó en la Asamblea de Derechos Digitales Asia-Pacífico 2023 (DRAPAC), celebrada en Chiang Mai en mayo de 2023. Este esfuerzo de colaboración se inició a través de una mesa redonda organizada por Forus, una red mundial de la sociedad civil, en colaboración con la Asia Development Alliance, ECNL, el Asia Pacific Forum on Women, Law and Development (APWLD), el Asia Indigenous Peoples Pact (AIPP), y el Asia Center. Más de 50 organizaciones de la sociedad civil se reunieron online y offline para explorar los riesgos y oportunidades asociados a la IA y sus aplicaciones.  

Posteriormente, se celebró un taller mundial virtual para profundizar en estos temas con diversos testimonios de organizaciones de la sociedad civil, como Paradigm Initiative, el Uganda National NGO Forum, Red Unitas de Bolivia, el Asia Indigenous Peoples Pact (AIPP) e iniciativas como el proyecto Machine Learning for Peace de la Universidad de Pensilvania. El objetivo del taller era fomentar debates colectivos y compartir experiencias personales sobre el impacto de la IA en las operaciones y el entorno de trabajo de las organizaciones de la sociedad civil. Tras el taller se celebró una sesión interactiva en el marco de la reunión del Grupo Asesor de la iniciative Tech for Democracy. 

Las organizaciones y activistas que participan en estas iniciativas forman el órgano constituyente encargado de elaborar el Manifiesto de la Sociedad Civil por la AI, un proceso de redacción colaborativa que durará tres meses.