Mohamed El Mokhtar
A inteligência artificial não é neutra nem imaterial: ela absorve os nossos vieses, o nosso conhecimento, o nosso trabalho e os nossos recursos antes de concentrar esse poder em poucas mãos. Do reconhecimento facial a Gaza, do saque cognitivo à guerra algorítmica da consciência, revela menos o advento de uma máquina soberana do que o de uma nova arquitetura de poder.
Israel usa regularmente inteligência artificial para matar palestinos. (Design: Palestine Chronicle)
A inteligência artificial é frequentemente retratada como uma força quase imaterial, livre de fraquezas humanas — mais racional, rápida e, por definição, mais objetiva. Essa imagem deve mais ao mito do que à realidade. A IA está profundamente enraizada no mundo que a produziu: herda os seus preconceitos, baseia-se na sua herança intelectual e depende de infraestruturas industriais extremamente pesadas. Joy Buolamwini e Timnit Gebru colocaram esse problema logo no início, numa época em que o entusiasmo ainda prevalecia. Duas mulheres negras, de um mundo que a tecnologia dizia representar sem realmente ouvir, revelaram algumas das suas contradições mais profundas.
Buolamwini demonstrou isso com o reconhecimento facial. O seu trabalho com Gebru estabeleceu que os sistemas comerciais reconheciam muito melhor homens de pele clara do que mulheres de pele escura. Uma discrepância estatística torna-se uma injustiça concreta quando o software intervém em prisões, vigilância ou contratações. Robert Williams, preso injustamente em Detroit após uma identificação incorreta, é um exemplo. Mas a perceção crucial de Buolamwini tem maior alcance: até mesmo o reconhecimento facial perfeitamente preciso continuaria preocupante se permitisse que Estados ou multinacionais rastreassem qualquer pessoa, em qualquer lugar. A questão não é se o algoritmo funciona — é que tipo de sociedade a sua eficiência torna possível.
Gebru estende essa crítica à ideologia que impulsiona a corrida à IA. Essa crítica desafia o credo do Vale do Silício de que mais dados, parâmetros e poder computacional significam necessariamente mais inteligência e progresso. O tamanho do modelo não diz nada sobre a utilidade social. A pergunta menos favorita da indústria continua a ser: qual é o problema humano que estamos realmente a resolver? A alegação de que grandes modelos absorveram o "conhecimento humano" porque treinaram na Internet é uma ilusão. A Internet não é humanidade. Línguas dominantes, culturas digitalizadas e vozes editoriais poderosas ocupam um espaço desproporcional, enquanto as tradições orais, línguas minoritárias e conhecimentos menos documentados correm o risco de serem apagados. O que é abundantemente registado é confundido com o que é universal.
Nada disso condena a IA em si. Pode ajudar no diagnóstico médico, acelerar pesquisas, melhorar a modelagem climática ou ajudar a preservar línguas ameaçadas. Justamente porque as suas as possibilidades são imensas, não devemos deixar os seus propósitos para a lógica do mercado, do poder ou da guerra.
Isto leva a uma questão ainda mais inquietante: a apropriação do conhecimento . Grandes modelos de linguagem alimentam-se de grandes quantidades de livros, artigos, imagens, programas, traduções e conversas produzidos por outros. A lei ainda está a definir os limites do uso transformador, direitos autorais ou apropriação ilícita — mas a questão moral já está aqui.
A humanidade sempre pediu emprestado e transformou o que veio antes; nenhuma cultura surge do nada. O que muda com grandes modelos é a escala industrial de absorção, a sua velocidade e a assimetria sem precedentes entre a multidão que produz conhecimento e o punhado de atores que concentram, processam e capturam o seu valor.
Gerações de escritores, investigadores, jornalistas, fotógrafos e programadores produziram o material do qual esses modelos se alimentam; algumas empresas detêm o poder de computação para absorvê-lo, recombiná-lo e comercializá-lo. Chame-se captura cognitiva, apropriação digital ou outra coisa — o fenómeno é o mesmo. Após extrair os recursos da Terra e os nossos dados pessoais, o capitalismo digital descobre a própria cultura humana como uma nova matéria-prima.
Há um paradoxo amargo aqui. Um escritor pode gastar vinte anos numa obra, um investigador uma vida inteira numa intuição, um jornalista meses num facto; o modelo absorve essas produções aos milhões, e a empresa que detém os servidores reivindica o poder criativo resultante. Por trás dessa autonomia está um trabalho invisível: anotadores, moderadores, trabalhadores de dados, muitas vezes no Sul Global, que classificam, corrigem e limpam os materiais essenciais para o treino. Gebru e Buolamwini lembram-nos: quanto mais autónoma a máquina parece, mais apagamos os humanos que a tornam possível.
Essa economia do conhecimento baseia-se numa realidade muito física. A "nuvem" é uma ilusão conveniente. Os dados são armazenados em data centers de betão cheios de servidores, cabos, semicondutores e sistemas de arrefecimento. Os modelos mais potentes exigem cada vez mais eletricidade para treino e operação. Precisam de grandes quantidades de água para manter a infraestrutura fresca. A questão não é que a tecnologia consuma energia — todas consomem. É que parte dos nossos recursos coletivos dedicamos a esta corrida, e de acordo com que prioridades.
O problema agrava-se quando essas infraestruturas são colocadas em regiões já sob stress hídrico ou com redes frágeis. As populações são chamadas a reduzir o consumo, os agricultores a aceitar restrições, enquanto empresas que valem mais do que muitos Estados mobilizam enormes recursos para data centers, parte da produção francamente supérflua. Não se trata de opor de forma simplista hospitais a chatbots, mas de reintroduzir uma questão política: uma sociedade deve decidir onde aloca a sua água, energia e infraestruturas.
As críticas convergem. Viés racial, apropriação de conhecimento, trabalho invisível e consumo de recursos não são anomalias separadas. Todos refletem a mesma concentração: dados sociais tornam modelos, conhecimento torna-se matéria-prima-se, água e eletricidade alimentam infraestruturas, e um número extremamente pequeno de empresas controla tudo isso com poder financeiro, técnico e político sem precedentes.
Essa concentração assume uma dimensão muito mais grave quando essas tecnologias entram na guerra. Gaza hoje oferece um exemplo particularmente preocupante. Os sistemas de inteligência já não dependem apenas de humanos a ler mapas e analisar informações manualmente. Eles processam vastos dados, cruzam comunicações, movimentos, imagens e relacionamentos, acelerando a produção de informações numa escala sem precedentes.
O que acontece em Gaza não é apenas uma guerra travada com ferramentas algorítmicas — é uma guerra em que o algoritmo se tornou uma arma por si só.
O caso da Palantir é instrutivo. A empresa fez parcerias abertas com o Ministério da Defesa de Israel para missões relacionadas com a guerra. O seu CEO, Alex Karp, apoia Israel de forma aberta e fez disso quase um marcador de identidade para a sua empresa. Quando uma empresa especializada em espionagem, fusão de dados e suporte à decisão coloca voluntariamente o seu poder ao serviço de um exército envolvido numa campanha que uma comissão da ONU considerou envolver atos constituintes de genocídio - chamá-la contratante "neutro" torna-se insustentável. Uma tecnologia que organiza, correlaciona e torna informações militares imediatamente acionáveis não é externa à guerra simplesmente porque não dispara fisicamente a arma.
A Google e a Amazon, através do Projeto Nimbus, fornecem a Israel uma infraestrutura de nuvem significativa. A Microsoft forneceu ferramentas Azure e IA antes de suspender alguns serviços após revelações sobre o seu uso na vigilância sobre a Palestina. A Meta desempenha um papel diferente, mas igualmente sensível: controlo algorítmico sobre a circulação de informações, visibilidade de testemunhos e moderação da liberdade do discurso palestiniano. Essas empresas não estão todas igualmente implicadas — o envolvimento militar da Palantir é muito mais direto. Fornecer infraestruturas em nuvem não é moralmente equivalente a projetar sistemas de segmentação. Mas essa distinção não concede imunidade à infraestrutura quando o servidor sabe o que ele alimenta e continua a fornecê-lo.
Em Gaza, a fragmentação dos sistemas técnicos produz uma fragmentação conveniente da responsabilidade moral. Cada ator pode afirmar ter fornecido apenas uma peça: o engenheiro algum código, a empresa um serviço, o proprietário do terreno o armazenamento, o soldado uma decisão final. Mas para quem está no final dessa cadeia, a distinção pouco importa. Eles enfrentam o sistema como um todo.
O ser humano que recebe nunca deve desaparecer atrás da terminologia da inteligência. Para o palestiniano cujo movimento se torna um ponto de dados, cuja comunicação se torna um sinal, cujas relações se tornam um gráfico, cujo lar se torna uma coordenada — a sofisticação técnica não diminui a realidade do que ele suporta. Quanto mais a guerra digitaliza, mais crucial é restaurar um rosto àqueles que ela reduz a variáveis.
A guerra hoje não é travada apenas com mísseis. Também é travada com servidores, bancos de dados, algoritmos de recomendação e plataformas que controlam que imagens e narrativas chegam ao mundo. Além de fazer alvo dos corpos, o poder algorítmico agora estende-se à formação de mentes. Israel investiu noutra frente, mais discreta: usando modelos de linguagem, motores de recomendação e segmentação digital para influenciar perceções e remodelar um ambiente de informação profundamente deteriorado a partir de Gaza.
A microsegmentação geográfica — geofencing — isola audiências, comunidades e até mesmo frequentadores de locais específicos de culto, transmitindo mensagens manipuladoras. Nos Estados Unidos, onde o apoio a Israel diminuiu em vários segmentos da opinião pública desde o início da guerra de Gaza, essa batalha narrativa tornou-se uma forma de engenharia de persuasão. A continuidade é marcante: a mesma civilização digital que aprende a mapear corpos aprende a mapear mentes. Tendo aperfeiçoado a seleção algorítmica de alvos militares, agora aperfeiçoa a seleção algorítmica de alvos políticos. Gaza, e depois o Líbano, aparecem não apenas como teatros de conflito armado, mas como laboratórios de uma guerra mais ampla — onde o algoritmo pesa tanto sobre o que deve ser destruído como sobre aquilo em que se deve ser acreditar.
É por isso que a contribuição de Buolamwini e Gebru pertence ao centro desta história. Elas não denunciaram apenas o racismo algorítmico. Elas mostraram que uma tecnologia não pode ser compreendida separadamente do poder que a produz, do mundo social que a alimenta e dos interesses que serve. O facto de duas mulheres negras terem sido das primeiras a formular essa crítica com tanto rigor não é por acaso. Onde a indústria se gabava de universalidade, perguntavam quem tinha sido esquecido; onde proclamava autonomia, elas mostravam o trabalho humano; onde prometia neutralidade, elas expuseram relações de poder.
A questão séria não é se uma máquina, um dia, nos superará. A questão é outra. A escolha não é entre adorar a máquina e bani-la — mas entre abandoná-la a interesses privados e militares, e inseri-la numa ordem democrática capaz de determinar os seus usos, distribuir os seus benefícios e impor limites.
Quem é o dono desses sistemas? De onde vem o conhecimento que eles absorvem? Quais são as culturas que representam e quais as que negligenciam? Quem fornece a água e a eletricidade para a sua expansão? Quem decide os usos prioritários? Quem lucra com a riqueza criada e quem carrega com os erros, discriminação e abusos? E quando uma tecnologia entra na cadeia militar, até que ponto podemos separar o servidor do usuário?
O perigo mais imediato talvez não seja a inteligência artificial escapar à humanidade — mas que a humanidade entregue cada vez mais o seu conhecimento, recursos e poder àqueles que os possuem. A máquina não aboliu nenhum dos nossos preconceitos, paixões ou violência. Só lhes deu nova velocidade, potência e opacidade.
Fonte: Do Viés Algorítmico a Gaza: IA como uma Nova Arquitetura de Poder - Palestine Chronicle, publicado e acedido em 17.08.2026
Foto: https://www.palestinechronicle.com/wp-content/uploads/2024/05/AI_Ruffalo_PC.png
Tradução de TAM
