En el este de la República Democrática del Congo, donde el prolongado conflicto ha desplazado a millones de personas y ha puesto a prueba unas instituciones ya de por sí frágiles, el acceso a la ayuda humanitaria depende a menudo de sistemas que las comunidades no tienen poder para cuestionar. En provincias como Kivu del Norte, las mujeres que se enfrentan al desplazamiento, la pobreza y la inseguridad se topan con frecuencia con barreras administrativas y tecnológicas que determinan si reciben ayuda, desde los trámites de registro hasta los procesos de verificación de identidad.

Según la organización miembro de Forus CNONGD en la República Democrática del Congo, cuando estos sistemas fallan, rara vez se recurre a los canales formales de supervisión. En cambio, las sobrevivientes y las comunidades desplazadas suelen acudir a organizaciones locales de la sociedad civil que proporcionan orientación jurídica, documentan las denuncias y abogan por la rendición de cuentas. Estas organizaciones se han convertido en intermediarias fundamentales, que traducen los derechos en la práctica en contextos en los que la capacidad de supervisión del Estado es limitada.

A medida que las respuestas humanitarias incorporan cada vez más herramientas digitales, las experiencias de las mujeres en el este de la República Democrática del Congo ilustran una realidad global más amplia: la eficacia de la gobernanza no viene definida únicamente por las tecnologías desplegadas o las políticas redactadas, sino por si las personas marginadas pueden cuestionar los errores, buscar reparación y ser escuchadas. Sus historias revelan cómo, en la práctica, la rendición de cuentas se construye a menudo desde la base, a través de redes comunitarias en lugar de instituciones formales.

Los gobiernos de todo el mundo están aprobando regulaciones sobre la IA. Pero la regulación sin aplicación es puro teatro. La verdadera pregunta, la que determinará si la gobernanza de la IA protege realmente a alguien, es quién interviene cuando el Estado no puede o no quiere hacerlo.

Esta es la pregunta central a la hora de examinar la aplicación de la gobernanza de la IA en África y fuera de ella. Lo que se desprende de esa investigación es a la vez aleccionador e instructivo: la brecha entre la ley escrita y la ley vivida es enorme, está creciendo y, en particular en el Sur Global, las organizaciones de la sociedad civil (OSC) están inventando la infraestructura para salvarla, una infraestructura que el resto del mundo necesita estudiar urgentemente.

La brecha de aplicación no es un problema de África. Es un problema de todos.

Los gobiernos de todo el mundo se apresuran a aprobar leyes sobre IA y anuncian marcos que prometen seguridad, transparencia y responsabilidad. Sin embargo, la legislación por sí sola no garantiza la protección. Las normas sin instituciones que las hagan cumplir corren el riesgo de convertirse en algo simbólico, una representación de la gobernanza más que su práctica. La cuestión decisiva no es simplemente lo que se establece en la ley, sino quién interviene cuando se produce un daño y la supervisión formal no puede —o no— responder.

Cuando la Unión Europea adoptó formalmente su Ley de IA en 2024, estableció un punto de referencia mundial para la supervisión basada en los derechos . La ley describe las categorías de riesgo, las obligaciones de transparencia y las estructuras de aplicación. Lo que no puede prescribir completamente es cómo se pondrán en práctica esas obligaciones en contextos cotidianos: cómo el personal de primera línea identificará los sistemas de alto riesgo, cómo se recibirán las quejas de personas que no están familiarizadas con sus derechos o cómo los reguladores con conocimientos técnicos limitados auditarán modelos complejos.

Un patrón similar se observa en los Estados Unidos, donde coexiste un creciente mosaico de leyes estatales sobre IA con una capacidad de aplicación desigual. En 2023, la Comisión Federal de Comercio tomó medidas contra Rite Aid por prácticas ilegales de reconocimiento facial que perjudicaban de manera desproporcionada a los clientes negros, asiáticos, latinos y mujeres. El caso demuestra que la rendición de cuentas es posible, pero también lo poco frecuentes y costosas que siguen siendo esas intervenciones. Por cada caso que llega a un regulador, hay muchos más daños que quedan sin documentar.

Los datos de la Encuesta Global a Directores Ejecutivos de PwC subrayan aún más la brecha de gobernanza. Si bien el entusiasmo por la adopción de la IA es alto en los mercados africanos, la confianza en la capacidad de implementación responsable sigue siendo significativamente menor. La escasez de talento y las limitaciones de recursos agravan el desafío, dejando a los marcos de gobernanza sin la profundidad institucional necesaria para funcionar según lo previsto.

A menudo se plantean como problemas de inversión o de capacidad, pero en el fondo son problemas de gobernanza. Sin aplicación, los derechos solo existen de forma condicional, dependiendo de si alguien tiene los conocimientos, los recursos o el apoyo para invocarlos. Por lo tanto, la verdadera medida de la rendición de cuentas no es la sofisticación de un texto legal, sino la medida en que las personas pueden confiar en él en la práctica.

Desde esta perspectiva, África no es un caso atípico, sino un revelador estudio de caso. Muchos países del continente están desarrollando marcos de gobernanza de la IA antes de que su adopción generalizada se haya consolidado por completo, lo que supone una oportunidad única para observar cómo la regulación y la implementación evolucionan simultáneamente bajo restricciones reales. En estos contextos, en los que el Estado no siempre puede actuar de forma coherente o a gran escala, la sociedad civil ha intervenido, no como sustituto de la gobernanza, sino como uno de sus motores más activos.

La infraestructura detrás de la aspiración: Google, Ghana y la Fundación Digital

Ninguna de estas iniciativas de la sociedad civil existe en el vacío. Operan dentro de una infraestructura tecnológica en rápida evolución y dependen de ella.

La expansión de Google de su investigación en IA en África, incluido su centro de investigación en Accra (Ghana), representa un compromiso significativo. La iniciativa de predicción de inundaciones basada en IA de la empresa, que ya funciona en más de 40 países africanos, ofrece un ejemplo concreto del valor de la IA para salvar vidas a gran escala. Los modelos predictivos proporcionan alertas tempranas de inundaciones en regiones donde la infraestructura meteorológica tradicional es limitada.

En el ámbito de la salud, las herramientas de diagnóstico asistidas por IA prestan cada vez más apoyo a los sistemas sobrecargados en algunas partes del continente, ampliando el alcance clínico en entornos remotos. Sin embargo, la inversión en capacidad de IA sin inversión en responsabilidad de la IA crea sus propios riesgos. Las investigaciones siguen mostrando un sesgo acentual en los sistemas de reconocimiento automático del habla, con tasas de error significativamente más altas para los hablantes de dialectos no nativos y minoritarios. En contextos de alto riesgo, estos fallos podrían suponer la diferencia entre que alguien reciba o se le denieguen servicios esenciales.

Del mismo modo, el despliegue de tecnologías de reconocimiento de emociones en aplicaciones de cara al público ha suscitado serias críticas por parte de investigadores y grupos de derechos humanos por cuestiones relacionadas con la validez, el consentimiento y la privacidad.

En otras palabras, la infraestructura no es neutral. La expansión de la computación en la nube y los nuevos centros de datos en toda África crean capacidad técnica. Pero la capacidad para qué —y quién la gobierna— es muy importante. Los mismos sistemas que amplían el acceso pueden afianzar la exclusión si su diseño y supervisión no incluyen de manera significativa a las comunidades afectadas.

Aquí es donde los modelos de las OSC se convierten en infraestructura por derecho propio, no física, sino institucional. Las redes de supervisión distribuidas, los programas de alfabetización comunitaria y los procesos de codiseño legislativo forman la capa de gobernanza sin la cual la infraestructura técnica no puede rendir cuentas.

Una hoja de ruta para hacerlo bien

Las pruebas respaldan recomendaciones concretas, tanto para los gobiernos como para las empresas tecnológicas y las organizaciones de la sociedad civil.

En el caso de los gobiernos, la ambición legislativa debe ir acompañada de la capacidad de aplicación. Las inversiones en infraestructura pública digital deben ir acompañadas de organismos de supervisión independientes dotados de conocimientos técnicos. La recopilación de datos desglosados —por género, discapacidad, región y origen étnico— debería ser obligatoria para garantizar que los impactos dispares sean visibles y susceptibles de acción.

En el caso de las empresas tecnológicas, la rendición de cuentas ante la comunidad debe ir más allá de los canales de retroalimentación de los usuarios. La entrada en mercados de regiones con capacidad reguladora limitada debería incluir una inversión estructurada en el desarrollo de la capacidad de la sociedad civil, no como responsabilidad social corporativa, sino como infraestructura de gobernanza.

El caso de Rite Aid demuestra lo que ocurre cuando el daño es visible pero no está vinculado institucionalmente a las estructuras de rendición de cuentas. Los patrones de sesgo racial no eran invisibles, simplemente no se abordaban hasta que intervino un regulador. Las estructuras de supervisión de la comunidad podrían haber sacado a la luz esos daños mucho antes.

Para las OSC, lo imperativo es la formalización. Su función de gobernanza no es complementaria, sino que en muchos contextos es primaria. Eso significa impulsar el reconocimiento legal, puestos de diseño conjunto en el desarrollo normativo y redes de conocimiento transfronterizas capaces de igualar la velocidad de la difusión tecnológica.

Conclusión: la ilusión y la realidad

Existe una versión de la gobernanza de la IA que aparece en comunicados de prensa, textos legislativos y documentos de estrategia global. Habla de marcos basados en derechos, transparencia y rendición de cuentas. En 2023, más de 80 países habían desarrollado estrategias nacionales de IA . Sobre el papel, la arquitectura de supervisión parece sólida.

Y luego está la realidad: una mujer desplazada en Kivu del Norte marcada como no apta por un sistema que no puede leer su rostro. Un error relacionado con el acento que niega a alguien el acceso a un servicio público. Un despliegue de reconocimiento facial que perjudica a los clientes marginados durante años antes de la intervención.

La brecha entre estas dos realidades no es un problema técnico. Es un problema de gobernanza. Y no se resolverá solo con legislación. Se está abordando, poco a poco, por parte de organizaciones de la sociedad civil que entienden algo que el debate global sobre la gobernanza tecnológica apenas está empezando a comprender: la rendición de cuentas no es un documento. Es una práctica.

África no es una advertencia. Es uno de los laboratorios más instructivos de innovación en gobernanza de la IA en el mundo actual. La pregunta para el resto del mundo no es si debemos prestar atención. Es si estamos prestando la atención adecuada.

Este artículo se ha escrito como parte del programa de becas de periodismo Forus. Más información aquí.