2026-07-14
Poder, derechos e inteligencia artificial: lo que reveló la Semana Digital de Ginebra sobre el futuro de la gobernanza
La semana pasada, la red Forus aterrizó en Ginebra para la Semana Digital, donde surgieron simultáneamente varios espacios de discusión: el Diálogo Global de las Naciones Unidas sobre la Gobernanza de la Inteligencia Artificial, el "futurista" Cumbre de IA para el Bien, y la Cumbre Mundial sobre la Sociedad de la Información. Todo esto mientras el Foro Político de Alto Nivel de la ONU comenzó en Nueva York con debates complementarios sobre digitalización, cooperación global, el futuro más allá de 2030 y una participación cívica significativa, destacando cómo la tecnología es central en los debates sobre el desarrollo.
En apariencia, las conversaciones giraban en torno a inteligencia artificial, datos y tecnologías emergentes. En realidad, se trataba de quién ostenta el poder en la era digital, quién puede moldear las reglas, quién se beneficia del cambio tecnológico y si la sociedad civil tendrá el espacio necesario para ayudar a gobernar la IA.
"La tecnología nunca es neutral"
A lo largo de la semana, el debate global sobre la IA se movió repetidamente entre promesas ambiciosas —rozando lo utópica— y la falta de atención a los daños y miedos ocultos tras el "telón del bombo de la IA".
Escuchamos sobre avances en sanidad, educación, servicios públicos y productividad. Pero estas promesas se sitúan junto a la desinformación, la vigilancia, la discriminación algorítmica, el desplazamiento de empleos, la violencia en línea, los costes medioambientales de la infraestructura tecnológica y el creciente uso de la IA en contextos militares.
Como señaló Andrew Findell-Aghnatios, de la Iniciativa de Reforma Árabe, durante las discusiones de la semana pasada, "la tecnología nunca es neutral".
Cada decisión integrada en un sistema de IA, desde los datos que utiliza y los lenguajes que prioriza hasta los fines para los que se despliega, es una decisión humana. Refleja estructuras de poder, incentivos económicos, elecciones políticas, escenarios geopolíticos y valores sociales.
Una preocupación que se planteó repetidamente durante la semana fue la creciente tendencia a antropomorfizar los sistemas de IA: hablar de ellos como si fueran actores independientes y no productos de elecciones humanas. Más allá de crear expectativas poco realistas, esta tendencia puede difuminar la rendición de cuentas. Si un algoritmo toma una decisión perjudicial, la responsabilidad no desaparece porque alguien diseñó el sistema, lo adquirió, lo implementó y decidió cómo se utilizaría.
Para la sociedad civil, mantener esa cadena de responsabilidad es esencial y, si la tecnología nunca es neutral, la gobernanza de la IA tampoco puede ser políticamente neutral.
Los derechos humanos deben ser el punto de partida
Surgió un mensaje claro de organizaciones de la sociedad civil que trabajan en derechos digitales, incluyendo Data Privacy Brasil, Derechos Digitales, Paradigm Initiative, Global Partners Digital y Tech Global Institute: los derechos humanos deben ser la base de la gobernanza de la IA, no simplemente una consideración política entre muchas.
La lógica debe invertirse. En lugar de preguntarse cómo pueden incorporarse los derechos humanos a la gobernanza de la IA una vez desarrollados los sistemas, las políticas, la contratación pública, el despliegue y la regulación de IA deberían evaluarse desde el principio en función de las obligaciones existentes en materia de derechos humanos.
El derecho internacional de los derechos humanos ya proporciona un marco normativo sólido. Los organismos de la ONU y los mecanismos internacionales de derechos humanos han desarrollado normas que pueden ayudar a identificar usos inaceptables de la IA y definir claras "líneas rojas". La sociedad civil también ha desarrollado enfoques prácticos para traducir estos principios en políticas y supervisión. A los gobiernos se les debe preguntar claramente: ¿a qué se comprometen para proteger los derechos humanos en el desarrollo, adquisición y despliegue de la IA?
Responder a esta pregunta es especialmente urgente dado que las autoridades públicas colaboran cada vez más con plataformas privadas y proveedores tecnológicos. Estas asociaciones pueden ofrecer innovación y capacidad, pero también plantean preocupaciones sobre la rendición de cuentas, soberanía, transparencia y la protección del interés público.
La gobernanza de la IA necesita capacidad, no solo principios
Se espera que muchos gobiernos, reguladores y organizaciones de la sociedad civil participen en debates cada vez más complejos sobre la gobernanza de la IA sin contar con la experiencia, los recursos o el poder de negociación necesarios.
Esto es especialmente visible a nivel nacional y en regiones donde los gobiernos dependen en gran medida de proveedores tecnológicos extranjeros, infraestructuras y plataformas. Esta semana, socios como Paradigm Initiative advirtieron que la contratación pública de sistemas de IA reproduce formas de dependencia tecnológica o "colonialismo de IA", especialmente cuando los gobiernos carecen de la capacidad para evaluar sistemas de forma independiente, negociar salvaguardas adecuadas o comprender las implicaciones a largo plazo de la dependencia de los proveedores.
Por tanto, el fortalecimiento de capacidades debe ir más allá de las habilidades digitales generales, que requieren una inversión sostenida.
En este contexto, el gobierno y los reguladores
-
Exigir transparencia y trazabilidad obligatorias para sistemas de IA de alto impacto
-
Exigir evaluaciones de riesgos previas al despliegue (incluyendo sesgos, ciberseguridad y seguridad operativa)
-
Establecer supervisión y auditoría independientes, con obligaciones regulares de informes
-
Exigir planes de monitorización posterior al despliegue (incidentes, rendimiento y cumplimiento) y mitigación
Sociedad civil
-
Solicita documentación del sistema y revisa las contrataciones/adquisiciones para obtener requisitos claros y exigibles de seguridad y rendición de cuentas.
-
Supervisar e informar de daños como prejuicios, discriminación, vigilancia y desinformación.
-
Fortalecer la alfabetización y la educación en IA, especialmente para las comunidades vulnerables.
-
Participar eficazmente en los procesos de gobernanza nacionales e internacionales y asociarse con el ámbito académico y grupos técnicos para pruebas y verificaciones independientes.
Empresas
-
Implementa un sistema de gestión de riesgos con IA (gobernanza, controles, pruebas y revisión).
-
Prioriza la calidad de los datos y la privacidad desde el diseño (minimización, documentación, controles de sesgos).
-
Construye para monitorización y respuesta a incidentes (métricas, registros, rollback, comunicaciones).
-
Asegurar una supervisión humana adecuada y una formación interna.
La brecha digital de género tiene que ver con el poder, la seguridad y el liderazgo
Las discusiones sobre la transformación digital inclusiva también pusieron de manifiesto las persistentes barreras que enfrentan mujeres y niñas con los llamamientos a incluir la igualdad de género en la política de IA y en el diseño, regulación y evaluación de sistemas digitales.
Hablando durante un panel sobre la lideranza de las mujeres en el futuro digital, la profesora Salma Abbasi compartió la necesidad de superar las cuestiones de acceso y afrontar las barreras sociales, culturales y estructurales más profundas que siguen excluyendo a las mujeres de los espacios tecnológicos.
El reto consiste tanto en si mujeres como niñas pueden acceder a herramientas digitales y su capacidad para moldearlas, liderar procesos de gobernanza, entrar en sectores tecnológicos de forma segura y ejercer una agencia real en entornos digitales.
Esto significa: abordar estereotipos y exclusión estructural; la expansión de la alfabetización digital y de IA; fortalecer el liderazgo femenino en los procesos de gobernanza; la lucha contra la violencia de género en línea; creando vías hacia STEM y emprendimiento y diseñando tecnologías que reduzcan en lugar de reproducir los sesgos.
Igualmente importante es tratar los daños basados en el género como un tema central de gobernanza de la IA.
Los deepfakes sexuales y el abuso basado en imágenes son una preocupación importante y creciente, con las mujeres siendo desproporcionadamente atacadas, según Derechos Digitales. Los sistemas y arquitecturas de IA deben incluir salvaguardas más estrictas contra el abuso basado en el género, la violencia sexual basada en imágenes y el acoso en línea, así como mediciones, indicadores y compromisos sensibles al género relacionados con la IA.
La IA militar sigue siendo el elefante en la habitación
Los usos militares de la IA quedaron excluidos del Diálogo Global, a pesar de ser una de las dimensiones más serias de la gobernanza emergente de la IA.
Esta ausencia es especialmente significativa porque no se espera que el propio Diálogo Global produzca resultados vinculantes.
La IA militar sigue siendo muy sensible debido a la competencia geopolítica y al deseo de los estados poderosos de mantener la libertad de desarrollar, probar y desplegar nuevos sistemas. Las discusiones bajo la Convención sobre Ciertas Armas Convencionales aún no han producido consenso sobre normas jurídicamente vinculantes.
La Recomendación de la UNESCO sobre la Ética de la IA incluye el principio de uso pacífico de la IA y afirma que las decisiones de vida o muerte no deben delegarse a los sistemas de IA.
Las futuras negociaciones intergubernamentales deben ir más allá.
Las aplicaciones militares dañinas, las armas autónomas y la delegación de decisiones letales a las máquinas requieren un serio escrutinio internacional y, cuando es necesario, una regulación jurídicamente vinculante.
La exclusión de la IA militar de los grandes diálogos políticos no puede significar que desaparezca de la agenda de gobernanza.
IA para bien—¿pero para quién?
Estas preocupaciones se reflejaron en las discusiones lideradas por CADE – Alianzas de la Sociedad Civil para el Empoderamiento Digital, proyecto cofinanciado por la Unión Europea del cual Forus es socio — donde los participantes examinaron una cuestión engañosamente sencilla: la IA para el bien, pero ¿pero para quién?
Muchas de las cadenas de valor actuales de la IA dependen de enormes cantidades de datos, mano de obra, energía, agua e infraestructuras procedentes de países y comunidades que tienen poca influencia en cómo se diseñan o gobiernan las tecnologías resultantes.
Los beneficios suelen estar concentrados, mientras que los riesgos y costes se distribuyen ampliamente.
Un enfoque basado en los derechos requiere que miremos más allá de la aparente automatización y reconozcamos a los trabajadores, comunidades e infraestructuras que hay detrás de los sistemas de IA.
También implica enfrentarse a prácticas laborales explotadoras, el acceso desigual a los recursos y la concentración del poder de decisión.
Utilizar escenarios reales ayuda a hacer visibles estas dinámicas. Permite a los responsables políticos y a la sociedad civil identificar dónde ocurre el daño, quién asume el coste y dónde falta rendición de cuentas.
Sin embargo, estas preguntas reflejan debates de larga duración en el desarrollo internacional.
Durante décadas, la sociedad civil ha desafiado los enfoques que tratan a las comunidades como usuarios finales y receptores pasivos, en lugar de como tomadores de decisiones. El mismo principio se aplica a la transformación digital: las comunidades no deben simplemente recibir tecnologías diseñadas en otros lugares; Deben tener el poder de moldear los sistemas que afectan sus vidas.
Por eso también no se pueden separar las dimensiones globales y locales de la gobernanza de la IA, como se muestra en el Manifiesto de la Sociedad Civil para la IA Ética.
Para fortalecer la transformación liderada por la sociedad civil, a través de su Programa de Intercambio de Derechos Digitales, Forus apoya las asociaciones Norte Global - Sur Global para abordar conjuntamente los desafíos de gobernanza digital compartida, fortalecer el aprendizaje interregional y desarrollar estrategias concretas de defensa conjunta vinculadas a procesos políticos nacionales, regionales y globales.
De la consulta a la participación significativa
Reunir a gobiernos, empresas, expertos técnicos y sociedad civil es valioso, pero la participación de múltiples partes interesadas no es automáticamente significativa.
Durante la Semana Digital de Ginebra, representantes de la sociedad civil expresaron su preocupación por la falta de claridad respecto al seguimiento del Diálogo Global de la ONU sobre la Gobernanza de la IA. En particular, muchos cuestionaron cómo progresarían las discusiones entre Ginebra y las planificadas conversaciones de seguimiento de la ONU en Nueva York en 2027, qué arquitectura de gobernanza surgiría y cómo —y quiénes de ellos— la sociedad civil podrían participar de manera significativa durante todo el proceso.
El Informe Resumen de los Copresidentes sobre el Diálogo Global de la ONU sobre la Gobernanza de la IA debe reflejar las preocupaciones de la sociedad civil, incluyendo los derechos humanos, la rendición de cuentas, la igualdad de género, los desequilibrios de poder entre las partes interesadas, las salvaguardas de interés público, la transparencia y una participación significativa de la sociedad civil. La futura arquitectura de gobernanza debería garantizar una participación significativa de la sociedad civil, no solo una consulta simbólica, como también se impulsa en otros foros y socios de la sociedad civil a través de la iniciativa #UNmute. Los posibles modelos de futuro incluyen el Foro de Gobernanza de Internet y un panel asesor multiactor, pero los desequilibrios de poder entre los interesados deben abordarse ante todo.
La composición del panel científico, por ejemplo, será crucial, incluyendo qué evidencia se considera elegible, qué experiencia se expone y cómo se integran las perspectivas de la sociedad civil.
A medida que el papel y la diversa inclusión de la sociedad civil y las comunidades afectadas se están volviendo cada vez más importantes a medida que la gobernanza digital asciende en la agenda multilateral, deberían plantearse las siguientes preguntas:
-
¿Qué pruebas se considerarán legítimas?
-
¿De quién será reconocida la experiencia?
-
¿Se valorará la experiencia vivida y el conocimiento comunitario?
-
¿Cómo participará la sociedad civil del Sur Global/Mayoría?
-
¿Quién tendrá una influencia real sobre las decisiones?
La gobernanza digital se está convirtiendo en un tema democrático
La importancia de una gobernanza digital inclusiva va más allá de la política de IA.
Hablando desde el Foro Político de Alto Nivel de la ONU en Nueva York, la presidenta de Forus, Justina Kaluinaite, destacó cómo la digitalización se está volviendo cada vez más central en las discusiones sobre desarrollo sostenible y cooperación internacional. A lo largo de múltiples Revisiones Nacionales Voluntarias, los gobiernos están destacando la transformación digital como un motor clave de los resultados del desarrollo. Sin embargo, el entusiasmo por las soluciones digitales suele ir acompañado de preguntas difíciles. ¿Cómo protegemos el espacio cívico en entornos digitales? ¿Cómo afectan los sistemas digitales a la participación, la rendición de cuentas y el acceso justo a los servicios públicos? ¿Cómo prevenimos la vigilancia, la discriminación y la exclusión? ¿Cómo debería evolucionar la cooperación internacional cuando la digitalización se está convirtiendo en el centro de la política de desarrollo?
Por qué esto importa para Forus
El papel de Forus es conectar los debates globales sobre gobernanza digital con la sociedad civil organizada a nivel nacional y regional. A través de una red global de plataformas nacionales de ONG y coaliciones regionales, Forus puede ayudar a garantizar que las políticas estén informadas por las realidades locales y que la sociedad civil tenga la capacidad de participar donde realmente se implemente.
A medida que evoluciona la gobernanza de la IA, las brechas se están ampliando en muchos niveles y este puente se vuelve cada vez más importante. Como red, aportamos infraestructura de la sociedad civil de confianza, poder de reunión, alcance nacional y la capacidad de conectar procesos globales con una defensa fundamentada.
Esto crea oportunidades de colaboración en torno a:
-
la participación de la sociedad civil en estrategias nacionales de IA y digitales;
-
seguridad digital y resiliencia para las organizaciones de la sociedad civil;
-
alfabetización en IA y uso responsable de la IA;
-
monitorizar los efectos de la IA y la política digital en el espacio cívico;
-
fortalecer la participación del Sur Global en los procesos de gobernanza internacional;
-
y la construcción de coaliciones que conecten la experiencia técnica con la sociedad civil organizada.
¿Qué debería pasar ahora?
Ginebra demostró que la gobernanza de la IA está entrando en una "nueva fase". Forus ve cinco prioridades para el camino que viene y apoya a sus socios y miembros en su defensa de ellas.
1. Los derechos humanos deben seguir siendo la base de la gobernanza de la IA. Las obligaciones existentes en materia de derechos humanos deberían guiar el desarrollo, la adquisición, la regulación y el despliegue de la IA desde el principio.
2. La sociedad civil debe participar desde el principio. Una participación significativa requiere que la sociedad civil ayude a definir prioridades, diseñar marcos, aportar evidencia y supervisar la implementación, no simplemente responder a decisiones tomadas en otros lugares.
3. El Sur Global necesita inversión sostenida, no solo invitaciones. Las organizaciones de la sociedad civil necesitan apoyo a largo plazo para la alfabetización en IA, la seguridad digital, la experiencia en políticas, la investigación y la participación en procesos nacionales y globales.
4. Los compromisos globales deben conectar con las realidades nacionales. La gobernanza de la IA se implementará finalmente a través de leyes, políticas, instituciones y servicios públicos nacionales. Las plataformas nacionales de ONG desempeñan un papel esencial en la traducción de compromisos globales en acciones nacionales responsables.
5. La gobernanza digital debe proteger la democracia y el espacio cívico. La IA, la gobernanza de datos y la infraestructura pública digital están transformando la forma en que las personas acceden a los servicios, participan en la vida pública y ejercen sus derechos. Por tanto, la rendición de cuentas democrática y la participación cívica deben seguir siendo centrales para la cooperación digital.
Las cuestiones de gobernanza seguirán teniendo un papel destacado en los próximos meses.
En diciembre, el Foro Global de Gobernanza de Internet se celebrará en Nairobi, creando otra oportunidad importante para que las organizaciones de la sociedad civil influyan en los debates sobre el futuro de internet y la gobernanza digital. Los miembros de Forus estarán allí, aportando perspectivas basadas en las comunidades, los derechos y la participación democrática, en particular analizando las Revisiones Periódicas Universales (UPRs) como una herramienta de acción.
De cara al futuro, la atención ya se está centrando en las conversaciones de la ONU previstas para el próximo mayo en Nueva York, en el segundo Diálogo Global sobre Gobernanza de la IA, donde los actores implicados seguirán examinando la implementación de los compromisos de cooperación digital global y los marcos de gobernanza que surgen en torno a la inteligencia artificial.
Con los acontecimientos políticos de alto nivel que a menudo permanecen aspiracionales y declarativos; Los diálogos futuros deben avanzar hacia compromisos concretos, procesos transparentes, rendición de cuentas y recursos políticos y financieros adecuados. Ginebra también ofreció motivos para el optimismo. A lo largo de la semana, se reconoció cada vez más que la gobernanza de la IA debe construirse con una mayor participación de la sociedad civil, una mayor diversidad de expertos y vínculos más estrechos entre la política global y las realidades nacionales que son cada vez más reconocidos como esenciales. Para Forus, esta es una oportunidad para ayudar a garantizar que la sociedad civil organizada contribuya a su molde.
Para alianzas y colaboraciones, contacte con Ángela Alarcón, Coordinadora de Proyectos de Gobernanza Digital de Forus: [email protected]
Marie L’Hostis, Directora de Incidencia y Programas de Forus
Especialista en incidencia y construcción de alianzas, con amplia experiencia liderando campañas, asociaciones y redes globales de la sociedad civil para impulsar el desarrollo sostenible, el espacio cívico y políticas públicas centradas en las personas.
Bibbi Abruzzini, Coordinadora de Comunicación y Campañas de Forus
Profesional de la comunicación y la narrativa multimedia, con amplia experiencia en el diseño de campañas y la producción de contenidos de alto impacto para fortalecer la participación ciudadana, la justicia social y las iniciativas de desarrollo internacional.
Ángela Alarcón, Coordinadora de Proyectos, Gobernanza Digital de Forus
Profesional senior en estrategia, incidencia y participación, con 15 años de experiencia fortaleciendo el impacto de proyectos, con especial énfasis en la justicia social y la teoría del cambio.
