À medida que a inteligência artificial (IA) avança rapidamente nos setores e indústrias globais, a questão do controle torna-se impossível de ignorar. Quem decide como a IA evolui? Quais interesses estão sendo priorizados? Enquanto empresas e governos dominam grande parte da conversa, a sociedade civil continua sendo uma voz crucial, mas frequentemente marginalizada, na tomada de decisões sobre IA. Esse desequilíbrio — reflexo de legados históricos — corre o risco de perpetuar um "colonialismo digital". Essas questões foram o foco central de um recente webinar sobre IA e o Sul Global, onde especialistas e organizações da sociedade civil defenderam uma governança da IA mais inclusiva para evitar o agravamento das desigualdades existentes.

O webinar analisou em profundidade um estudo recente da CARE International e da Accenture, amplificando vozes de 12 países da África, Ásia, Oriente Médio e América do Sul. O relatório, AI and the Global South: Exploring the Role of Civil Society in AI Decision-Making, destaca perspectivas essenciais sobre os riscos, oportunidades e lacunas na governança da IA.

Uma Corrida Sem Regras?

"A IA está avançando rapidamente, mas precisamos perguntar: quem está moldando esse avanço e quem se beneficia mais com ele?" Mika Välitalo, da Fingo, lançou essa questão no início da discussão, destacando como o desenvolvimento atual da IA é amplamente ditado pelo chamado Norte Global. O evento, com contribuições daFingo, CARE International, Accenture, da coalizão regional da África Central Repongac, da rede Forus e de diversas organizações da sociedade civil (OSCs), traçou um quadro preocupante: as vozes das comunidades locais continuam amplamente ausentes na governança da IA, e as consequências dessa exclusão são profundas.

John Carruthers, da Accenture, reconheceu o potencial transformador da IA, mas alertou que, sem insights locais, muito desse potencial será desperdiçado. "Se o desenvolvimento da IA não for guiado por experiências locais, seu impacto social será superficial na melhor das hipóteses e prejudicial na pior," advertiu. Suas preocupações foram ecoadas por vários palestrantes, que argumentaram que a IA precisa refletir realidades culturais e econômicas diversas para ser verdadeiramente transformadora.

O Desafio da Sociedade Civil: Quatro Caminhos para uma Governança Mais Inclusiva da IA

A discussão destacou quatro caminhos fundamentais pelos quais as OSCs podem promover uma governança da IA mais inclusiva, discutidos em grupos de trabalho e ferramentas colaborativas. Como afirmou um participante do estudo: “Cada comunidade e cada país têm dificuldades próprias, e isso nos leva a criar programas interseccionais personalizados.” Avaliar esses caminhos sob diferentes perspectivas ajuda a identificar pontos em comum e desenvolver estratégias para ação.

1. Alfabetização em IA e Compartilhamento de Conhecimento -  "Muitas comunidades estão interagindo com a IA sem entender completamente seus riscos e oportunidades", observou Suzy Madigan da CARE International. A ausência de recursos multilingues e de educação acessível sobre os riscos da IA amplia o fosso do conhecimento, limitando a capacidade das comunidades de defenderem as suas necessidades. Melhorar a alfabetização de IA entre as comunidades e OSCs é essencial para a tomada de decisões informadas, quer os indivíduos estejam usando ferramentas de IA ou afetados por decisões impulsionadas pela IA. Ao mesmo tempo, os tecnólogos devem entender melhor os contextos e as experiências vividas das comunidades do Sul Global para projetar modelos de IA que considerem seus impactos no mundo real, especialmente em ambientes humanitários e de desenvolvimento. "Há uma manipulação da vulnerabilidade... eles (comunidades) são assinados para coisas que não sabem ou não estão totalmente informados sobre," explicou um participante do CSO no estudo na África do Sul. 

2. Aumento da tomada de decisão local e representação em todo o ciclo de vida da IA - a governança da IA tende a ser centralizada, ignorando a experiência local. "A ideia de localização é bem compreendida no trabalho de desenvolvimento, mas está faltando na governança da IA", observou Fergus Gleeson do Accenture’s Human Sciences Studio. Essa desconexão deixa as comunidades sem voz nas tecnologias que moldam suas vidas diárias. As aplicações da IA estão crescendo rapidamente, mas o papel da sociedade civil na tomada de decisões continua limitado. As OSCs, com seus profundos laços comunitários, podem ajudar a identificar desafios locais e promover o engajamento. No entanto, a participação efetiva requer abordar questões como confiança, identificação de problemas e estratégias práticas de engajamento. 

3. Reforçar a defesa dos impactos contextualizados e resultados desejados da IA - Muitas OSCs não têm o financiamento e a capacidade de pesquisa para se envolverem efetivamente em discussões sobre políticas de IA. Projetos como a Civil Society Alliances for Digital Empowerment (CADE) - um consórcio de nove organizações financiado pela UE - estão agora trabalhando para fortalecer as organizações da sociedade civil na governança da internet. O projeto promove a participação inclusiva, particularmente do Sul Global, e defende uma internet aberta, livre e segura, apoiando a neutralidade da rede, privacidade e liberdade de expressão.  

4. Melhoria da infraestrutura digital e governança de dados equitativa - modelos de IA muitas vezes dependem de dados que não representam as realidades do Sul Global, levando a resultados tendenciosos. Ahmed Al-Khatib, do Mwatana para os Direitos Humanos, com sede no Iêmen, alertou: "Se a IA for treinada em dados não representativos, ela vai desinformar e perpetuar preconceitos." A necessidade de melhor conectividade rural e infraestrutura digital foi um tema recorrente. Melhorar o impacto social da IA requer uma forte infraestrutura digital e dados de qualidade. Abordar os dados e as divisões digitais no Sul Global é crucial, garantindo que as comunidades tenham autoridade sobre seus dados, não apenas como fontes ou usuários. 

A Sociedade Civil Pode Trabalhar com as Big Techs?

Um ponto de discussão foi a relação entre OSCs e empresas multinacionais de tecnologia. Um representante de uma empresa multinacional de tecnologia no estudo, reconheceu as preocupações éticas: "Queremos trabalhar com OSCs para desenvolver ideias juntos, mas lutamos com a percepção de que estamos sendo extrativistas." Essa tensão entre cooperação e resistência continua sendo um desafio central para as OSCs que buscam influência na governança da IA. 

Suzy Madigan ofereceu uma visão pragmática: "Muitos dentro dessas empresas querem que a IA seja ética, mas eles precisam de pressão externa para pressionar pela mudança internamente." A implicação é clara: as OSCs devem encontrar aliados dentro da indústria, mantendo uma postura crítica. 

Oportunidades e Desafios da IA na África – Perspectivas da Repongac

Repongac, a coalizão regional de Forus na África Central apresentou perspectivas sobre a necessidade do envolvimento da sociedade civil no processo decisório para garantir que o desenvolvimento da IA se alinhe com as necessidades locais. Embora vários países africanos tenham introduzido iniciativas para reforçar as capacidades locais e promover a inovação, a sua implementação varia devido às diferenças de recursos e infra-estrutura. 

A IA apresenta oportunidades significativas em África, incluindo melhorias nos serviços públicos, inovação local, empoderamento da comunidade e participação econômica global. Em setores como saúde, educação, agricultura e administração pública, as soluções baseadas em IA podem fornecer intervenções adaptadas localmente. Por exemplo, a startup E-Farm desenvolveu sensores para medir a aridez do solo, abordando um desafio exclusivo da agricultura africana. A IA está também a promover o empreendedorismo, particularmente entre os jovens, e a permitir que as comunidades locais gerem recursos, prevenam desastres e melhorem a participação cívica. 

Vários obstáculos prejudicam a adoção da IA em África, tais como a falta de estruturas regulatórias, participação local limitada na governança da IA e uma escassez de habilidades em áreas relacionadas à IA. Além disso, as desigualdades no acesso digital e a ausência de dados relevantes localmente complicam ainda mais a implementação generalizada da IA, impedindo muitas comunidades africanas de se beneficiarem plenamente do seu potencial. 

IA e o Futuro da Advocacia

Uma coisa é certa: a sociedade civil não pode mais se dar ao luxo de ser um observador passivo na governança da IA. As apostas são muito altas. A IA pode ser uma ferramenta para o empoderamento, mas sem intervenção proativa, ela apenas reforçará as desigualdades existentes. 

"A alfabetização de IA não é apenas sobre a compreensão da tecnologia; é sobre garantir que as comunidades tenham agência em suas vidas digitais", concluiu Gleeson. O futuro da IA está sendo escrito agora, e a sociedade civil deve exigir um lugar na mesa antes que seja tarde demais. 

O relatório completo, AI and the Global South: Exploring the Role of Civil Society in AI Decision Making, está disponível on-line e serve como um roteiro para políticos, tecnólogos e líderes da sociedade civil comprometidos com um futuro mais justo de IA. 

Leia mais sobre o trabalho da Forus em governança digital