2026-07-14
Poder, direitos e IA: o que a Geneva Digital Week revelou sobre o futuro da governação
Na semana passada, a rede Forus chegou Genebra para a Semana Digital, onde vários espaços de discussão surgiram simultaneamente: o Diálogo Global das Nações Unidas sobre Governança da Inteligência Artificial, o "futurista" Summitate de IA for Good, e a Cúpula Mundial sobre a Sociedade da Informação. Tudo isso enquanto o Fórum Político de Alto Nível da ONU começou em Nova York com discussões complementares sobre digitalização, cooperação global, o futuro além de 2030 e participação cívica significativa, destacando como a tecnologia é central nos debates sobre desenvolvimento.
À primeira vista, as conversas eram sobre inteligência artificial, dados e tecnologias emergentes. Na realidade, tratavam-se de quem detém o poder na era digital, quem pode moldar as regras, quem se beneficia das mudanças tecnológicas e se a sociedade civil terá espaço para ajudar a governar a IA.
"A tecnologia nunca é neutra"
Ao longo da semana, o debate global sobre IA oscilou repetidamente entre promessas ambiciosas — quase utópicas — e atenção insuficiente aos danos e medos escondidos atrás da "cortina de hype da IA".
Ouvimos falar de avanços em saúde, educação, serviços públicos e produtividade.
Mas essas promessas se somam a desinformação, vigilância, discriminação algorítmica, deslocamento de empregos, violência online, os custos ambientais da infraestrutura tecnológica e o crescente uso da IA em contextos militares.
Como Andrew Findell-Aghnatios, da Iniciativa de Reforma Árabe , apontou durante discussões na semana passada, "a tecnologia nunca é neutra". Cada decisão incorporada a um sistema de IA, desde os dados que ele utiliza e as linguagens que prioriza até os propósitos para os quais é implantada, é uma decisão humana.
Ele reflete estruturas de poder, incentivos econômicos, escolhas políticas, cenários geopolíticos e valores sociais.
Uma preocupação levantada repetidamente durante a semana foi a crescente tendência de antropomorfizar sistemas de IA: falar deles como se fossem atores independentes, e não produtos de escolhas humanas. Além de criar expectativas irreais, essa tendência pode confundir a responsabilidade. Se um algoritmo toma uma decisão prejudicial, a responsabilidade não desaparece enquanto alguém projetou o sistema, o adquiriu, implementou e decidiu como ele seria usado.
Para a sociedade civil, manter essa cadeia de responsabilidade é essencial e, se a tecnologia nunca for neutra, a governança da IA também não pode ser politicamente neutra.
Os direitos humanos devem ser o ponto de partida
Uma mensagem clara surgiu de organizações da sociedade civil que atuam em direitos digitais, incluindo Data Privacy Brasil, Derechos Digitales, Paradigm Initiative, Global Partners Digital e Tech Global Institute: os direitos humanos devem ser a base da governança da IA, e não apenas uma consideração política entre muitas.
A lógica precisa ser invertida. Em vez de questionar como os direitos humanos podem ser incorporados à governança da IA após o desenvolvimento dos sistemas, políticas, contratação pública, implantação e regulamentação de IA deveriam ser avaliadas em relação às obrigações existentes em direitos humanos desde o início. O direito internacional dos direitos humanos já fornece uma estrutura normativa forte.
Órgãos da ONU e mecanismos internacionais de direitos humanos desenvolveram padrões que podem ajudar a identificar usos inaceitáveis da IA e definir claras "linhas vermelhas". A sociedade civil também desenvolveu abordagens práticas para traduzir esses princípios em políticas e supervisão. Os governos devem ser questionados claramente: a que estão se comprometendo para proteger os direitos humanos no desenvolvimento, aquisição e implantação de IA?
Responder a essa pergunta é particularmente urgente, já que as autoridades públicas colaboram cada vez mais com plataformas privadas e provedores de tecnologia.
Tais parcerias podem oferecer inovação e capacidade, mas também levantam preocupações sobre responsabilidade, soberania, transparência e proteção do interesse público.
A governança da IA precisa de capacidade, não apenas de princípios
Muitos governos, reguladores e organizações da sociedade civil são esperados a se envolver em debates cada vez mais complexos sobre governança da IA sem possuir a expertise, recursos ou poder de negociação necessários. Isso é especialmente visível em nível nacional e em regiões onde os governos dependem fortemente de provedores de tecnologia estrangeiros, infraestrutura e plataformas. Nesta semana, parceiros como a Paradigm Initiative alertaram que a aquisição pública de sistemas de IA reproduz formas de dependência tecnológica ou "colonialismo de IA", especialmente quando os governos não têm capacidade para avaliar sistemas de forma independente, negociar salvaguardas adequadas ou entender as implicações de longo prazo da dependência dos fornecedores. Portanto, o fortalecimento da capacidade deve ir além das habilidades digitais gerais, que exigem investimento sustentado.
Nesse contexto, governo e reguladores
-
Exigir transparência e rastreabilidade obrigatórias para sistemas de IA de alto impacto
-
Exigir avaliações de risco pré-implantação (incluindo viés, cibersegurança e segurança operacional)
-
Estabelecer supervisão e auditoria independentes, com obrigações regulares de reporte
-
Exigir monitoramento pós-implantação (incidentes, desempenho e conformidade) e planos de mitigação
Sociedade civil
-
Solicite documentação do sistema e analise as aquisições/contratos para requisitos claros e aplicáveis de segurança e responsabilidade.
-
Monitore e relate danos como preconceito, discriminação, vigilância e desinformação.
-
Fortaleça a alfabetização e a educação em IA, especialmente para comunidades vulneráveis.
-
Participar efetivamente dos processos de governança nacional e internacional e fazer parcerias com academias e grupos técnicos para testes e verificações independentes.
Empresas
-
Implemente um sistema de gestão de riscos em IA (governança, controles, testes e revisão).
-
Priorize a qualidade dos dados e a privacidade desde o design (minimização, documentação, verificação de viés).
-
Construir para monitoramento e resposta a incidentes (métricas, registros, rollback, comunicações).
-
Garantir supervisão humana adequada e treinamento interno.
A diferença digital de gênero é sobre poder, segurança e liderança
Discussões sobre transformação digital inclusiva também destacaram as barreiras persistentes enfrentadas por mulheres e meninas, com pedidos para incluir a igualdade de gênero nas políticas de IA e no design, regulamentação e avaliação de sistemas digitais.
Falando durante um painel sobre mulheres liderando o futuro digital, a Professora Salma Abbasi compartilhou a necessidade de ir além das questões de acesso e enfrentar as barreiras sociais, culturais e estruturais mais profundas que continuam excluindo as mulheres dos espaços tecnológicos. O desafio é tanto se mulheres e meninas podem acessar ferramentas digitais quanto sua capacidade de moldá-las, liderar processos de governança, entrar com segurança no setor tecnológico e exercer agência real em ambientes digitais. Isso significa: abordar estereótipos e exclusão estrutural; expandindo a alfabetização digital e em IA; fortalecer a liderança feminina nos processos de governança; combater a violência de gênero online; criando caminhos para STEM e empreendedorismo e projetando tecnologias que reduzam, em vez de reproduzirem, o viés. Igualmente importante é tratar os danos baseados no gênero como uma questão central de governança da IA.
Deepfakes sexuais e abusos baseados em imagens são uma preocupação grande e crescente, com mulheres sendo desproporcionalmente alvo, conforme compartilhado pela Derechos Digitales. Sistemas e arquiteturas de IA devem incluir salvaguardas mais fortes contra abuso de gênero, violência sexual baseada em imagens e assédio online, bem como medições, indicadores e compromissos sensíveis ao gênero relacionados à IA.
A IA militar continua sendo o elefante na sala
Os usos militares da IA foram excluídos do Diálogo Global, apesar de estarem entre as dimensões mais sérias da governança emergente da IA.
Essa ausência é particularmente significativa porque o próprio Diálogo Global não deve produzir resultados vinculativos.
A IA militar continua altamente sensível devido à competição geopolítica e ao desejo dos estados poderosos de manter a liberdade para desenvolver, testar e implantar novos sistemas. Discussões sob a Convenção sobre Certas Armas Convencionais ainda não produziram consenso sobre regras juridicamente vinculativas.
A Recomendação da UNESCO sobre a Ética da IA inclui o princípio do uso pacífico da IA e afirma que decisões de vida ou morte não devem ser delegadas a sistemas de IA.
As futuras negociações intergovernamentais precisam ir além.
Aplicações militares prejudiciais, armas autônomas e a delegação de decisões letais a máquinas exigem um rigoroso escrutínio internacional e, quando necessário, regulamentação legalmente vinculativa.
A exclusão da IA militar dos grandes diálogos políticos não pode significar que ela desapareça da agenda de governança.
IA para o bem — mas para quem?
Essas preocupações ecoaram em discussões lideradas pela CADE – Alianças da Sociedade Civil para o Empoderamento Digital, projeto cofinanciado pela União Europeia , da qual a Forus é parceira — onde os participantes examinaram uma questão aparentemente simples: IA para o bem — mas para quem?
Muitas das atuais cadeias de valor da IA dependem de grandes quantidades de dados, mão de obra, energia, água e infraestrutura provenientes de países e comunidades que têm pouca influência sobre como as tecnologias resultantes são projetadas ou governadas.
Os benefícios geralmente são concentrados, enquanto os riscos e custos são amplamente distribuídos.
Uma abordagem baseada em direitos exige que olhemos além da automação aparente e reconheçamos os trabalhadores, comunidades e infraestruturas por trás dos sistemas de IA. Também significa enfrentar práticas trabalhistas exploratórias, acesso desigual a recursos e a concentração do poder de decisão. Usar cenários da vida real ajuda a tornar essas dinâmicas visíveis. Permite que formuladores de políticas e a sociedade civil identifiquem onde ocorre o dano, quem suporta o custo e onde falta responsabilidade. Essas questões, no entanto, refletem debates antigos no desenvolvimento internacional.
Por décadas, a sociedade civil desafiou abordagens que tratam as comunidades como usuárias finais e receptoras passivas, em vez de tomadoras de decisão.
O mesmo princípio se aplica à transformação digital: as comunidades não devem apenas receber tecnologias projetadas em outros lugares; Eles devem ter o poder de moldar os sistemas que afetam suas vidas.
É também por isso que as dimensões globais e locais da governança da IA não podem ser separadas, como mostrado no Manifesto da Sociedade Civil para a IA Ética.
Para fortalecer a transformação liderada pela sociedade civil, por meio de seu Programa de Intercâmbio de Direitos Digitais, a Forus apoia parcerias Norte Global - Sul Global para enfrentar conjuntamente desafios compartilhados de governança digital, fortalecer o aprendizado inter-regional e desenvolver estratégias concretas de advocacy conjunta ligadas a processos de políticas nacionais, regionais e globais.
Da consultoria à participação significativa
Reunir governos, empresas, especialistas técnicos e sociedade civil é valioso, mas a participação de múltiplos interessados não é automaticamente significativa.
Durante toda a Semana Digital de Genebra, representantes da sociedade civil expressaram preocupação com a falta de clareza quanto ao acompanhamento do Diálogo Global da ONU sobre Governança da IA. Em particular, muitos questionaram como as discussões progrediriam entre Genebra e as planejadas discussões de acompanhamento da ONU em Nova York em 2027, qual arquitetura de governança surgiria e como – e quem, da sociedade civil – poderia participar de forma significativa durante todo o processo. O Relatório Resumo dos Co-Presidentes sobre o Diálogo Global da ONU sobre Governança da IA deve refletir preocupações da sociedade civil, incluindo direitos humanos, responsabilidade, igualdade de gênero, desequilíbrios de poder entre as partes interessadas, salvaguardas de interesse público, transparência e participação significativa da sociedade civil.
A futura arquitetura de governança deve garantir uma participação significativa da sociedade civil, não apenas uma consulta simbólica, como também é promovido em outros fóruns pelos Forus e parceiros da sociedade civil por meio da iniciativa #UNmute. Modelos possíveis para o futuro incluem o Fórum de Governança da Internet e um painel consultivo multispontorial, mas os desequilíbrios de poder entre as partes interessadas devem ser enfrentados antes de tudo.
A composição do painel científico, por exemplo, será crucial, incluindo quais evidências são consideradas elegíveis, cuja expertise é destacada e como as perspectivas da sociedade civil são integradas.
À medida que o papel e a inclusão diversa da sociedade civil e das comunidades afetadas estão se tornando cada vez mais importantes, à medida que a governança digital sobe na agenda multilateral, as seguintes perguntas devem ser feitas:
-
Quais evidências serão consideradas legítimas?
-
De quem será reconhecida a expertise?
-
A experiência vivida e o conhecimento comunitário serão valorizados?
-
Como a sociedade civil do Sul Global/Maioria participará?
-
Quem terá influência real sobre as decisões?
A governança digital está se tornando uma questão de democracia
A importância da governança digital inclusiva vai além das políticas de IA.
Falando do Fórum Político de Alto Nível da ONU em Nova York, a presidente do Forus, Justina Kaluinaite, destacou como a digitalização está se tornando cada vez mais central nas discussões sobre desenvolvimento sustentável e cooperação internacional. Ao longo de várias Revisões Nacionais Voluntárias, os governos estão destacando a transformação digital como um dos principais impulsionadores dos resultados do desenvolvimento. No entanto, o entusiasmo por soluções digitais muitas vezes vem acompanhado de perguntas difíceis. Como protegemos o espaço cívico em ambientes digitais? Como os sistemas digitais afetam a participação, a responsabilidade e o acesso justo aos serviços públicos? Como prevenimos vigilância, discriminação e exclusão? Como a cooperação internacional deve evoluir quando a digitalização está se tornando central para a política de desenvolvimento?
Por que isso importa para Forus
O papel da Forus é conectar os debates globais sobre governança digital com a sociedade civil organizada em níveis nacional e regional. Por meio de uma rede global de plataformas nacionais de ONGs e coalizões regionais, a Forus pode ajudar a garantir que as políticas sejam informadas pelas realidades locais e que a sociedade civil tenha capacidade de se engajar onde a implementação realmente ocorrer.
À medida que a governança da IA evolui, as lacunas estão se ampliando em muitos níveis e essa ponte se torna cada vez mais importante. Como rede, trazemos infraestrutura de sociedade civil confiável, poder de reunião, alcance nacional e a capacidade de conectar processos globais com advocacy fundamentado. Isso cria oportunidades de colaboração em torno de:
-
participação da sociedade civil em estratégias nacionais de IA e digitais;
-
segurança digital e resiliência para organizações da sociedade civil;
-
alfabetização em IA e uso responsável da IA;
-
monitorar os efeitos da IA e da política digital sobre o espaço cívico;
-
fortalecer a participação do Sul Global nos processos de governança internacional;
-
e a construção de coalizões que conectem expertise técnica à sociedade civil organizada.
O que deve acontecer a seguir?
Genebra demonstrou que a governança da IA está entrando em uma "nova fase". A Forus vê cinco prioridades para o caminho à frente e apoia seus parceiros e membros na defesa por eles.
1. Os direitos humanos devem permanecer a base da governança da IA. As obrigações existentes em direitos humanos devem orientar o desenvolvimento, a aquisição, a regulamentação e a implantação da IA desde o início.
2. A sociedade civil deve participar desde o início. A participação significativa exige que a sociedade civil ajude a definir prioridades, desenhar frameworks, contribuir com evidências e monitorar a implementaçã, e não apenas responder a decisões tomadas em outros lugares.
3. O Sul Global precisa de investimentos sustentados, não apenas de convites. Organizações da sociedade civil precisam de apoio de longo prazo para alfabetização em IA, segurança digital, expertise em políticas públicas, pesquisa e participação em processos nacionais e globais.
4. Os compromissos globais devem se conectar com as realidades nacionais. A governança da IA será, em última instância, implementada por meio de leis, políticas, instituições e serviços públicos nacionais. As plataformas nacionais de ONGs têm um papel essencial na tradução de compromissos globais em ações nacionais responsáveis.
5. A governança digital deve proteger a democracia e o espaço cívico. IA, governança de dados e infraestrutura pública digital estão transformando a forma como as pessoas acessam serviços, participam da vida pública e exercem seus direitos. A responsabilidade democrática e a participação cívica devem, portanto, permanecer centrais para a cooperação digital.
Transformando reconhecimento em ação
As questões de governança continuarão a ter destaque nos próximos meses.
Em dezembro, o Fórum Global de Governança da Internet será realizado em Nairóbi, criando mais uma importante oportunidade para organizações da sociedade civil influenciarem os debates sobre o futuro da internet e da governança digital. Os membros da Forus estarão presentes, trazendo perspectivas enraizadas em comunidades, direitos e participação democrática, especialmente olhando para as Revisões Periódicas Universais (UPRs) como uma ferramenta de ação.
Olhando para o futuro, a atenção já está se voltando para as discussões da ONU agendadas para maio do próximo ano em Nova York, no segundo Diálogo Global sobre Governança da IA, onde as partes interessadas continuarão examinando a implementação dos compromissos de cooperação digital global e os marcos de governança que estão surgindo em torno da inteligência artificial.
Com eventos políticos de alto nível frequentemente permanecendo aspiracionais e declarativos; Futuros diálogos devem avançar para compromissos concretos, processos transparentes, responsabilidade e recursos políticos e financeiros adequados. Genebra também ofereceu um motivo para otimismo.
Ao longo da semana, houve um reconhecimento crescente de que a governança da IA deve ser construída com uma participação mais forte da sociedade civil, maior diversidade de expertise e vínculos mais estreitos entre políticas globais e realidades nacionais que estão sendo cada vez mais reconhecidos como essenciais. Para a Forus, esta é uma oportunidade de ajudar a garantir que a sociedade civil organizada contribua para sua formação.
Para parcerias e colaborações, entre em contacto com Ángela Alarcón, Coordenadora de Projetos de Governança Digital da Forus: [email protected]
Marie L’Hostis, Diretora de Advocacy e Programas da Forus
Especialista em advocacy e construção de coalizões, com ampla experiência na liderança de campanhas, parcerias e redes globais da sociedade civil para promover o desenvolvimento sustentável, o espaço cívico e políticas públicas centradas nas pessoas.
Bibbi Abruzzini, Coordenadora de Comunicação e Campanhas da Forus
Profissional de comunicação e narrativa multimédia, com vasta experiência na conceção de campanhas e na produção de conteúdos de impacto para fortalecer o engajamento cívico, a justiça social e as iniciativas de desenvolvimento internacional.
Ángela Alarcón, Coordenadora de Projetos, Governança Digital da Forus
Profissional sénior de estratégia, advocacy e engajamento, com 15 anos de experiência no fortalecimento do impacto de projetos, com especial foco na justiça social e na teoria da mudança.
