Big Techs e a Guerra Total

Decisões sobre vida e morte não deveriam ser entregues a algoritmos.

Apesar disso, cada vez mais plataformas de dados e aprendizado de máquina são utilizadas dentro de conflitos militares, incorporando a lógica moderna à gestão, conflito e desenvolvimento de guerra.

Sérgio Amadeu da Silveira, professor da UFABC, apresenta um argumento importante em seu novo livro:

Como seria possível as mesmas big techs que fazem a mediação das conversas entre adolescentes e distribuem conteúdos postados em suas redes sociais se colocarem como espaços neutros diante de contenciosos políticos, geopolíticos e militares? Como garantir que os dados dos usuários das redes sociais on-line de um país considerado adversário dos Estados Unidos não sejam utilizados pelas big techs para fins militares e de guerra psicológica, termo antigo e bem conhecido do cardápio militar?

As big techs e a guerra total

O conceito de Guerra Total, formulado por Erich Ludendorff, descreve um conflito que mobiliza todos os recursos da sociedade: governo, militar e população civil, para o esforço bélico. Na era contemporânea, essa mobilização total assumiu uma dimensão dataficada, onde a guerra não se limita mais ao campo de batalha físico, mas também ao domínio informacional e cibernético. A guerra total moderna caracteriza-se pela fusão entre o aparato militar tradicional e as capacidades de coleta, processamento e análise de dados das Big Techs.

O Solucionismo tecnológico, que já é tradicional nos dias de hoje, possuí uma dimensão obscura de coleta de dados e vigilância através de plataformas digitais. O argumento do professor é que a estrutura das big techs suporta e apoia a trindade da guerra total, através de oligarquias tecnológicas potencializadas pelo domínio da infraestrutura online. Dessa forma, elas são comprometidas com os interesses geopolítico-militares de seus países de origem, se tornando uma ameaça para democracia.

O Complexo Militar Industrial cada vez mais se torna dependente de plataformas de nuvem e de dados para realização de ações militares, e nesse processo, as Bigtechs são o motor que impulsiona a aquisição de alvos, mineração de dados e aprendizado de máquina para fins militares, criando o que ele chama de Complexo Industrial Militar Dataficado. Os experimentos de definição de alvos palestinos e libaneses com base em IA foram o primeiro experimento em larga escala do uso de aprendizado de máquina para ataque com mísseis e drones a partir de dados obtidos em redes sociais e outras fontes.

Através da análise de publicações dos próprio agentes militares, governos, organizações de empregados e a mídia, o livro traz uma visão necessária para o momento em que discutimos o alcance dessas plataformas e tecnologias.

Esse complexo militar-digital enxerga a guerra como um problema de processamento de dados, e não um problema político e ético. Tudo precisa ser quantificado, transformando a guerra em um sistema tecnocrático, em que plataformas de dados e aprendizado de máquina são tão importantes quanto armas. Redes sociais, informações de hábitos de uso de tecnologia, relacionamento individual de cidadãos do mundo se tornam campo de batalha, já que big techs são mediadoras sociais e culturais, e tudo pode ser usado para encontrar alvos militares.

A compreensão da inteligência artificial como software obscurece sua verdadeira natureza como mega-máquina que requer Estados inteiros, coleta massiva de dados e exploração do trabalho para viabilizar modelos que, embora caibam em um computador, são o resultado de um aparato neocolonialista.

A IA realmente existente não surge espontaneamente dos avanços científicos, mas é o produto de relações de poder específicas que incluem o controle sobre recursos computacionais, a apropriação de trabalho cognitivo em escala massiva, e a capacidade de transformar a experiência humana em dados processáveis. Essa mega-máquina opera através da promessa de democratização tecnológica enquanto simultaneamente concentra poder nas mãos de oligarquias tecnológicas sediadas em poucos países.

Como um livro rápido e direto, recomendo a leitura