Na região oriental da República Democrática do Congo, onde um conflito prolongado deslocou milhões de pessoas e sobrecarregou instituições já frágeis, o acesso à assistência humanitária depende frequentemente de sistemas que as comunidades têm pouca capacidade de questionar. Em províncias como Kivu do Norte, as mulheres que enfrentam deslocamento, pobreza e insegurança frequentemente encontram barreiras administrativas e tecnológicas que determinam se receberão apoio — desde procedimentos de registo até processos de verificação de identidade.

De acordo com a organização membro da Forus CNONGD na (RDC), quando estes sistemas falham, raramente se recorre a canais formais de supervisão. Em vez disso, as sobreviventes e as comunidades deslocadas recorrem frequentemente a organizações locais da sociedade civil que prestam orientação jurídica, documentam queixas e defendem a responsabilização. Estas organizações tornaram-se intermediárias essenciais, traduzindo os direitos em prática em contextos onde a capacidade de monitorização do Estado é limitada.

À medida que as respostas humanitárias incorporam cada vez mais ferramentas digitais, as experiências das mulheres no leste da RDC ilustram uma realidade global mais ampla: a eficácia da governança não é definida apenas pelas tecnologias implantadas ou pelas políticas escritas, mas pela capacidade das pessoas marginalizadas de contestar erros, buscar reparação e ser ouvidas. As suas histórias revelam como a responsabilização, na prática, é frequentemente construída a partir da base — por meio de redes comunitárias, em vez de instituições formais.

Governos em todo o mundo estão a aprovar regulamentações sobre IA. Mas a regulamentação sem fiscalização é teatro. A verdadeira questão — aquela que determinará se a governança da IA realmente protege alguém — é quem intervém quando o Estado não pode ou não quer fazê-lo.

Esta é a questão central ao examinar a implementação da governança da IA em África e além. O que emerge dessa pesquisa é ao mesmo tempo preocupante e instrutivo: a diferença entre a lei escrita e a lei vivida é enorme, está a crescer e, em todo o Sul Global em particular, as organizações da sociedade civil (OSC) estão a inventar a infraestrutura para colmatá-la — infraestrutura que o resto do mundo precisa urgentemente de estudar.

A lacuna de implementação não é um problema de África. É de todos.

Governos em todo o mundo estão correndo para aprovar leis de IA, anunciando estruturas que prometem segurança, transparência e responsabilidade. No entanto, a legislação por si só não garante proteção. Regras sem instituições para aplicá-las correm o risco de se tornar simbólicas — uma performance de governança, em vez de sua prática. A questão decisiva não é simplesmente o que está escrito na lei, mas quem intervém quando ocorre um dano e a supervisão formal não pode — ou não — responder.

Quando a União Europeia adotou formalmente a sua Lei de IA em 2024, estabeleceu uma referência global para a supervisão baseada em direitos. A lei descreve categorias de risco, deveres de transparência e estruturas de aplicação. O que ela não pode prescrever totalmente é como essas obrigações serão operacionalizadas em contextos cotidianos: como a equipe da linha de frente identificará sistemas de alto risco, como as reclamações serão recebidas de pessoas não familiarizadas com os seus direitos ou como reguladores com conhecimento técnico limitado auditarão modelos complexos.

Um padrão semelhante aparece nos Estados Unidos, onde um crescente mosaico de leis estaduais sobre IA coexiste com uma capacidade de aplicação desigual. Em 2023, a Comissão Federal de Comércio tomou medidas contra a Rite Aid por práticas ilegais de reconhecimento facial que prejudicavam desproporcionalmente clientes negros, asiáticos, latinos e mulheres. O caso demonstra que a responsabilização é possível, mas também como essas intervenções continuam sendo raras e exigem muitos recursos. Para cada caso que chega a um regulador, muitos outros danos permanecem sem documentação.

Os dados da PwC Global CEO Survey reforçam ainda mais a lacuna de governança. Embora o entusiasmo pela adoção da IA seja alto em todos os mercados africanos, a confiança na capacidade de implementação responsável continua significativamente menor. A escassez de talentos e as restrições de recursos agravam o desafio, deixando as estruturas de governança sem a profundidade institucional necessária para funcionar como pretendido.

Esses problemas são frequentemente enquadrados como problemas de investimento ou capacidade, mas, em sua essência, são problemas de governança. Sem fiscalização, os direitos existem apenas condicionalmente — dependendo de alguém ter o conhecimento, os recursos ou o apoio para invocá-los. A verdadeira medida da responsabilização não é, portanto, a sofisticação de um texto jurídico, mas a medida em que as pessoas podem confiar nele na prática.

Visto por esta perspetiva, África não é um caso isolado, mas um estudo de caso revelador. Muitos países do continente estão a desenvolver estruturas de governação da IA antes que a adoção generalizada se tenha consolidado totalmente — uma oportunidade rara para observar a evolução simultânea da regulamentação e da implementação sob restrições reais. Nestes contextos, em que o Estado nem sempre pode agir de forma consistente ou em grande escala, a sociedade civil interveio — não como substituto da governação, mas como um dos seus motores mais ativos.

A infraestrutura por trás da aspiração: Google, Gana e a Fundação Digital

Nenhum desses trabalhos da sociedade civil existe no vácuo. Eles operam dentro de — e dependem de — uma infraestrutura tecnológica em rápida evolução.

A expansão da presença da Google na investigação em IA em África, incluindo o seu centro de investigação em Acra, Gana, representa um compromisso significativo. A iniciativa de previsão de inundações da empresa, agora operacional em mais de 40 países africanos, oferece um exemplo concreto de como a IA proporciona valor que salva vidas em grande escala. Os modelos preditivos fornecem alertas antecipados de inundações em regiões onde a infraestrutura meteorológica tradicional é limitada.

Na área da saúde, as ferramentas de diagnóstico assistidas por IA estão cada vez mais a apoiar sistemas sobrecarregados em várias partes do continente, ampliando o alcance clínico em locais remotos. No entanto, o investimento em capacidade de IA sem investimento em responsabilidade de IA cria os seus próprios riscos. As pesquisas continuam a mostrar preconceito de sotaque em sistemas automatizados de reconhecimento de fala, com taxas de erro significativamente mais altas para falantes não nativos e de dialetos minoritários. Em contextos de alto risco, tais falhas podem significar a diferença entre alguém receber ou ser negado serviços essenciais.

Da mesma forma, a implantação de tecnologias de reconhecimento de emoções em aplicações voltadas para o público tem atraído críticas sérias de pesquisadores e grupos de direitos humanos devido a preocupações com validade, consentimento e privacidade.

Em outras palavras, a infraestrutura não é neutra. A expansão da computação em nuvem e os novos centros de dados em toda a África aumentam a capacidade técnica. Mas a capacidade para quê — e governada por quem — é extremamente importante. Os mesmos sistemas que ampliam o acesso podem reforçar a exclusão se o seu design e supervisão não incluírem de forma significativa as comunidades afetadas.

É aqui que os modelos das OSC se tornam infraestruturas por direito próprio — não físicas, mas institucionais. Redes de monitorização distribuídas, programas de alfabetização comunitária e processos de co-concepção legislativa formam a camada de governação sem a qual a infraestrutura técnica não pode ser responsabilizada.

Um roteiro para acertar

As evidências apoiam recomendações concretas — para governos, empresas de tecnologia e organizações da sociedade civil.

Para os governos, a ambição legislativa deve ser acompanhada pela capacidade de fiscalização. Os investimentos em infraestruturas públicas digitais devem ser acompanhados por órgãos de supervisão independentes, dotados de conhecimentos técnicos especializados. A recolha de dados desagregados — por género, deficiência, região e etnia — deve ser obrigatória para garantir que os impactos díspares sejam visíveis e passíveis de ação.

Para as empresas de tecnologia, a responsabilidade perante a comunidade deve ir além dos canais de feedback dos utilizadores. A entrada no mercado em regiões com capacidade regulatória limitada deve incluir investimentos estruturados no desenvolvimento de capacidades da sociedade civil — não como responsabilidade social corporativa, mas como infraestrutura de governança.

O caso Rite Aid demonstra o que acontece quando os danos são visíveis, mas não estão institucionalmente ligados a estruturas de responsabilização. Os padrões de preconceito racial não eram invisíveis; simplesmente não foram abordados até que um regulador interveio. As estruturas de monitorização comunitária poderiam ter revelado esses danos muito mais cedo.

Para as OSC, o imperativo é a formalização. O seu papel de governação não é suplementar — em muitos contextos, é primário. Isso significa pressionar por reconhecimento legal, assentos de co-design no desenvolvimento regulatório e redes de conhecimento transfronteiriças capazes de acompanhar a velocidade da difusão tecnológica.

Conclusão: a ilusão e a realidade

Existe uma versão da governança da IA que aparece em comunicados de imprensa, textos legislativos e documentos de estratégia global. Ela fala de estruturas baseadas em direitos, transparência e responsabilidade. Em 2023, mais de 80 países haviam desenvolvido estratégias nacionais de IA . No papel, a arquitetura de supervisão parece robusta.

E depois há a realidade: uma mulher deslocada em Kivu do Norte sinalizada como inelegível por um sistema que não consegue ler o seu rosto. Um erro relacionado com o sotaque que nega a alguém o acesso a um serviço público. Uma implementação de reconhecimento facial que prejudica clientes marginalizados durante anos antes da intervenção.

A diferença entre estas duas realidades não é um problema técnico. É um problema de governação. E não será resolvido apenas com legislação. Está a ser abordado — pouco a pouco — por organizações da sociedade civil que compreendem algo que o debate global sobre a governação da tecnologia está apenas a começar a compreender: a responsabilização não é um documento. É uma prática.

África não é um exemplo a evitar. É um dos laboratórios mais instrutivos de inovação em governança de IA no mundo atual. A questão para o resto do mundo não é se devemos prestar atenção. É se estamos a prestar a atenção certa.

Este artigo foi escrito como parte do programa de bolsas de jornalismo Forus. Saiba mais aqui