A medida que la inteligencia artificial (IA) acelera su dominio sobre industrias y sectores globales, la pregunta sobre el control se vuelve imposible de ignorar. ¿Quién decide cómo evoluciona la IA? ¿Cuyos intereses están siendo priorizados? Mientras que las corporaciones y los gobiernos impulsan gran parte del debate, la sociedad civil sigue siendo una voz crucial pero a menudo marginada en la toma de decisiones sobre la IA. Este desequilibrio, que refleja legados históricos y corre el riesgo de perpetuar el "colonialismo digital", fue el centro de las discusiones en un reciente seminario web sobre IA y el Sur Global. Expertos y organizaciones de la sociedad civil argumentaron que la gobernanza de la IA debe ser más inclusiva, o corre el riesgo de profundizar las desigualdades existentes. El seminario web fue un análisis profundo de un estudio de investigación reciente de CARE International y Accenture, amplificando voces de 12 países de África, Asia, Medio Oriente y Sudamérica. El informe, AI and the Global South: Exploring the Role of Civil Society in AI Decision-Making, destaca perspectivas clave sobre los riesgos, oportunidades y brechas en la gobernanza de la IA.

¿Una carrera sin reglas?

"La IA avanza rápidamente, pero debemos preguntar: ¿quién la está moldeando y quién se beneficia más?", planteó Mika Välitalo de Fingo al inicio del debate, estableciendo una discusión que subrayó cómo el desarrollo actual de la IA está mayormente dictado por el llamado Norte Global. El evento, que contó con contribuciones de Fingo, CARE International, Accenture, la coalición regional de Repongac en África Central, la red Forus y diversas organizaciones de la sociedad civil (OSC), presentó un panorama preocupante: las voces de las comunidades locales están mayormente ausentes en la gobernanza de la IA, y las consecuencias de esta exclusión son profundas.

John Carruthers de Accenture reconoció el potencial transformador de la IA pero advirtió que sin conocimientos localizados, gran parte de este potencial se perderá. "Si el desarrollo de la IA no se guía por experiencias locales, su impacto social será superficial en el mejor de los casos y dañino en el peor", alertó. Sus preocupaciones fueron respaldadas por múltiples ponentes, quienes argumentaron que la IA debe reflejar diversas realidades culturales y económicas para ser verdaderamente transformadora.

El Desafío de la Sociedad Civil: Cuatro Caminos Claves para una Gobernanza de IA Más Inclusiva

La discusión destacó cuatro vías clave en las que las OSC pueden impulsar una gobernanza de IA más inclusiva, las cuales se discutieron en grupos de trabajo y herramientas colaborativas. Como declaró un participante del estudio: "Cada comunidad y cada país tiene sus propias dificultades, y debido a ello, creamos programas interseccionales personalizados." Evaluar estrategias desde diversas perspectivas ayuda a identificar puntos en común y generar consideraciones prospectivas para informar la acción.

1. Alfabetización en IA y Compartir Conocimiento entre Sectores – "Muchas comunidades están interactuando con la IA sin comprender plenamente sus riesgos y oportunidades", señaló Suzy Madigan de CARE International. La falta de recursos multilingües y de educación accesible sobre los riesgos de la IA aumenta el déficit de conocimientos, lo que limita la capacidad de las comunidades para defender sus necesidades. Mejorar la alfabetización de IA entre las comunidades y las OSC es esencial para tomar decisiones informadas, ya sea que los individuos estén utilizando herramientas de IA o se vean afectados por decisiones impulsadas por IA. Al mismo tiempo, los tecnólogos deben comprender mejor los contextos y las experiencias vividas de las comunidades del Sur Global para diseñar modelos de IA que consideren sus impactos en el mundo real, especialmente en entornos humanitarios y de desarrollo. "Hay una manipulación de la vulnerabilidad... ellos (comunidades) están suscritos a cosas que no saben o sobre las cuales no están completamente informados", explicó un participante de CSO en el estudio en Sudáfrica.

2. Aumento de la toma de decisiones y representación local en todo el ciclo de vida de la IA - La gobernanza de la IA tiende a estar centralizada, ignorando los conocimientos locales. "La idea de la localización está bien entendida en el trabajo de desarrollo, pero falta en la gobernanza de la IA", observó Fergus Gleeson del Human Sciences Studio de Accenture. Esta desconexión deja a las comunidades sin voz en las tecnologías que moldean su vida cotidiana. Las aplicaciones de la IA están creciendo rápidamente, pero el papel de la sociedad civil en la toma de decisiones sigue siendo limitado. Las OSC, con sus profundos lazos comunitarios, pueden ayudar a identificar los desafíos locales y fomentar la participación. Sin embargo, la participación efectiva requiere abordar cuestiones como la confianza, la identificación de problemas y las estrategias prácticas de participación. 

3. Reforzar la promoción de los impactos contextualizados y los resultados deseados de la IA - Muchas OSC carecen de la capacidad de financiación e investigación para participar eficazmente en debates sobre políticas de IA. Proyectos como el Civil Society Alliances for Digital Empowerment (CADE) - un consorcio de nueve organizaciones financiado por la UE - están trabajando para fortalecer a las organizaciones de la sociedad civil en la gobernanza de Internet. El proyecto promueve la participación inclusiva, en particular del Sur Global, y aboga por un internet abierto, libre y seguro apoyando la neutralidad de la red, la privacidad y la libertad de expresión.  

4. Infraestructura digital mejorada y gobernanza de datos equitativa - los modelos de IA a menudo se basan en datos que no representan las realidades del Sur Global, lo que lleva a resultados sesgados. Ahmed Al-Khatib de la organización yemení Mwatana for Human Rights advirtió: "Si se entrena a la IA con datos no representativos, desinformará y perpetuará sesgos." La necesidad de mejorar la conectividad rural y la infraestructura digital fue un tema recurrente. Mejorar el impacto social de la IA requiere una sólida infraestructura digital y datos de calidad. Abordar los datos y las divisiones digitales en el Sur Global es crucial, asegurando que las comunidades tengan autoridad sobre sus datos, no solo como fuentes o usuarios. 

¿Pueden las OSC trabajar con las grandes tecnológicas?

Un punto de discusión fue la relación entre las OSC y las empresas tecnológicas multinacionales. Un representante de una compañía multinacional de tecnología en el estudio, reconoció las preocupaciones éticas: "Queremos trabajar con OSC para desarrollar ideas juntos, pero luchamos con la percepción de que estamos siendo extractivos." Esta tensión entre la cooperación y la resistencia sigue siendo un desafío central para las OSC que buscan influencia en el gobierno de la IA. 

Suzy Madigan ofreció una toma pragmática: "Muchos dentro de estas empresas quieren que la IA sea ética, pero necesitan presión externa para impulsar el cambio internamente." La implicación es clara: las OSC deben encontrar aliados dentro de la industria manteniendo una postura crítica. 

IA en África: Retos y Oportunidades – Repongac

Repongac, coalición regional de Forus en África Central presentó perspectivas sobre la necesidad de la participación de la sociedad civil en la toma de decisiones para asegurar que el desarrollo de la IA se ajuste a las necesidades locales. Si bien varios países africanos han introducido iniciativas para fortalecer la capacidad local y promover la innovación, su aplicación varía debido a las diferencias de recursos e infraestructura. 

La IA ofrece importantes oportunidades en África, entre las que se incluyen mejoras en los servicios públicos, la innovación local, el empoderamiento de las comunidades y la participación económica mundial. En sectores como la salud, la educación, la agricultura y la administración pública, las soluciones impulsadas por la IA pueden proporcionar intervenciones adaptadas localmente. Por ejemplo, la startup E-Farm ha desarrollado sensores para medir la aridez del suelo, abordando un desafío único de la agricultura africana. La IA también está fomentando el espíritu empresarial, en particular entre los jóvenes, y capacitando a las comunidades locales para que gestionen los recursos, prevengan los desastres y aumenten la participación cívica. 

La adopción de la IA en África se ve obstaculizada por varios obstáculos, como la falta de marcos reglamentarios, la participación local limitada en la gobernanza de la IA y la escasez de conocimientos especializados en ámbitos relacionados con la IA. Además, las desigualdades en el acceso digital y la ausencia de datos pertinentes a nivel local complican aún más la aplicación generalizada de la IA, impidiendo que muchas comunidades africanas se beneficien plenamente de su potencial. 

IA y el Futuro de la Incidencia Política

Una cosa es cierta: la sociedad civil ya no puede permitirse el lujo de ser un observador pasivo en la gobernanza de la IA. Los riesgos son demasiado altos. La IA puede ser una herramienta para el empoderamiento, pero sin una intervención proactiva, solo reforzará las desigualdades existentes. 

"La alfabetización de IA no se trata solo de comprender la tecnología; se trata de garantizar que las comunidades tengan agencia en sus vidas digitales", concluyó Gleeson. El futuro de la IA se está escribiendo ahora, y la sociedad civil debe reclamar un asiento en la mesa antes de que sea demasiado tarde. 

El informe completo, AI and the Global South: Exploring the Role of Civil Society in AI Decision Making, está disponible en línea y sirve como hoja de ruta para los responsables políticos, tecnólogos y líderes de la sociedad civil comprometidos con un futuro más justo de IA. 

Leer más sobre el trabajo de Forus en materia de gobernanza digital