A megamáquina de Mumford e a Inteligência Artificial

É difícil fugir da quase onipresença da tecnologia em nossas vidas, cada vez mais digitalizada em todos os seus aspectos do dia-a-dia. Saudosos são os dias em que você poderia percorrer sua vida sem precisar necessariamente acessar algum dispositivo digital para realizar suas funções. Seja trabalhando, conversando, passando o tempo livre ou resolvendo pendências da vida, em algum momento você estará em contato direto com algum sistema de processamento de dados, sendo utilizado para auxiliar nas decisões do mundo moderno.

Em nome da eficiência, ouvimos frequentemente que a tecnologia nos empodera. Ela nos conecta, automatiza trabalhos pesados, libera potencial. E sim, superficialmente, gadgets e aplicativos individuais parecem fazer isso.

Mas e se o efeito cumulativo da nossa civilização tecnológica impulsionada por uma filosofia subjacente específica estiver, na verdade, nos desempoderando? E se estiver moldando a sociedade, nossas instituições, até mesmo nossa vida interior em algo rígido, previsível e, em última análise, menos humano?

A corrida tecnológica moderna é travada em grandes datacenters, impulsionada por projetos de infraestrutura dantescos para aumentar a capacidade de processamento de dados, o seu armazenamento e sua influência global, em que nem todo o dinheiro do mundo seria suficiente para alavancar o futuro promissor da Inteligência Artificial: é preciso esgotar também todos os recursos naturais do mundo para resfriar computadores que se ocupam de treinar e processar cada vez mais informações sobre todos os nossos momentos em vida.

Sua qualidade do sono, seu período acordado, com quem você se relaciona, o que você assiste, o quanto e quando você consume: transformamos todos os aspectos da vida em potencial mecanismo de geração e coleta de informações para um sistema de informação cujo único objeto é nos manter engajados, conectados e contribuindo com os algoritmos que sabem mais sobre nós do que nós mesmos.

O que mudou nos últimos anos foi o potencial de impacto, e a capacidade que passamos a atribuir a sistemas tecnológicos que buscam simular nossa capacidade cognitiva, por vezes tomando decisões por nós através do conjunto de informações que são coletadas a todo momento: Seu celular sabe quais sites você acessa em qual frequência para poder apresentar propaganda quando estiver próximo das suas férias. Seu aplicativo de mapa conhece seu trajeto da casa para o trabalho para determinar em que momento do dia você está mais suscetível a receber uma notificação do último vídeo publicado por seu influenciador favorito. Sua empresa, através de um algorítimo de última geração, é capaz de fazer a alocação de férias automaticamente através das regras de escala definidas por sua chefe, a partir do resultado de vendas do último ano, e o histórico de performance individual da sua equipe.

Essa busca incessante de performance, esse desejo de engajamento e nossa aparente dependência de dispositivos eletrônicos não é nova, mas com certeza está ampliando. Essa angústia é aparente nas obras de Byung Chul Han, em a sociedade do cansaço.

Mas isso não é apenas ansiedade moderna. É o eco de um alerta dado décadas atrás por um escritor que viu uma estrutura de poder oculta emergindo, muito mais sutil e penetrante do que qualquer regime político através de uma análise crítica da sociedade tecnológica que nos tornamos. O argumento vem de Lewis Mumford em sua obra, O Mito da Máquina. Nesse livro, que estou apenas começando, ele estabelece um conceito importante que consegue representar muito do que estamos vendo em meio ao trabalho.

No livro ele relata a ascensão e triunfo do sistema de poder e tecnologia que atualmente engloba a todos nós, que ele denomina ‘a megamáquina’:

Todos percebemos que o último século testemunhou uma transformação radical em todo o ambiente humano, como resultado de um impacto profundo das ciências físicas e matemáticas sobre a tecnologia … Nunca antes, desde as Pirâmides, tantas mudanças foram consumadas em tão curto período. Todas essas mudanças, em troca, produziram alterações na personalidade dos homens, e muitos outras mudanças radicais se avizinham, caso esse processo continue irrefreado. (…)

Com essa nova ‘megatécnica’, a minoria dominante criará uma estrutura uniforme super-planetária que englobará tudo em designs operações automatizadas. Em vez de funcionar ativamente como uma personalidade autônoma, o homem se tornará passivo, sem propósito, um animal maquinalmente condicionado cujas funções serão, conforme a interpretação técnica do papel humano, alimentar a máquina ou beneficiar organizações coletivas dissociadas

O conceito refere-se a sistemas sociais organizados em torno de uma estrutura burocrática e tecnológica que subordinam seres humanos como peças funcionais de um mecanismo coletivo. Historicamente, Mumford identifica exemplos em grandes empreendimentos, como a construção das pirâmides egípcias, onde multidões eram dirigidas por uma elite de comando, justificadas por mitos de poder, ordem e divindade. Essa organização não se limita à soma dos artefatos tecnológicos; ela implica a integração dos indivíduos em funções repetitivas e integradas, disciplinando o trabalho e expandindo o poder e a energia disponível para o sistema, enquanto suprime a autonomia humana.

Pessoalmente neste blog, eu espero auxiliar o questionamento tanto das previsões quanto das suposições do progresso científico moderno na construção de tecnologias que se tornam fins em si mesmas, e que viabilizam um ambiente de exploração, especulação e imaginação próprios, como ferramentas de domínio. Se a Megamáquina ancestral era construída de pedras, músculos e templos, na modernidade ela é criada através dos dados, algoritmos e a pressão incansável pela eficiência. Menos aparente, muitas vezes invisível, operando não pelo chicote, mas pela conveniência operacional, vigilância onipresente e a promessa da otimização constante.

Inteligência artificial oferece um potencial tremendo, mas também é a expressão exemplar dos desejos da megamáquina: com sistemas que se adaptam, aprendem e tomam decisões, baseados apenas em dados e objetivos pré determinados para além da confusão emocional humana, ambiguidades éticas e imprevisibilidade criativa. Quando IA é utilizada para gerenciar trabalhadores, prever comportamento de consumo de clientes ou influenciar a percepção pública, é a própria megamáquina ampliando seu alcance. É o aperfeiçoamento do problema descrito em The Myth of the Machine, de que a sociedade é melhor gerenciada como um sistema mecânico, eliminando nossa subjetividade cultural, intuição e comunidade, em nome da eficiência, padronização e domínio.

Esses ímpetos de grandeza em todas direções, esse retroceder dos limites do esforço humano, a subordinação das faculdades e dos interesses do homem ao trabalho mecânico empreendido, essa multidão de subalternos uniformemente dedicados a um único objetivo, originário do poder divino exercido pelo rei, contribuíram respectivamente, em função do próprio êxito da empresa, a fortalecer esse poder. Devemos ressaltar que era o rei que, de inicio, dava as ordens, era o rei que exigia uma submissão absoluta e castigava toda desobediência com a tortura, a mutilação ou a morte; somente ele tinha o poder divino de transformar homens vivos em simples objetas mecânicos; enfim é o rei que reunia os elementos constituintes da máquina e que impunha a nova disciplina da organização mecânica, dotada da mesma regularidade que aquela que deslocava os corpos celestes ao longo de unia trajetória imutável.

Mumford foi historiador e um crítico da sociedade tecnológica. Olhando além da superfície brilhante das invenções para seu impacto cultural e psicológico mais profundo, ele argumentou que o verdadeiro ponto de virada na história humana não foi a invenção da roda ou da agricultura isoladamente, mas o surgimento de um novo tipo de organização social que imitava uma máquina, analisando as primeiras civilizações em larga escala, aquelas capazes de construir pirâmides, zigurates ou redes de irrigação.

Como eles alcançaram feitos tão incríveis de engenharia e coordenação? Muito antes das máquinas a vapor o da eletricidade? A resposta de Mumford: eles inventaram a mega máquina. Esta não era uma máquina física feita de engrenagens e alavancas. Era uma estrutura composta por seres humanos, organizados como peças de máquinas.

O rei ou faraó era o processador central. Os sacerdotes e escribas eram os programadores e gerenciadores de dados. E a vasta força de trabalho, os soldados, os operários eram os componentes intercambiáveis, como engrenagens de um mecanismo gigante. Suas vontades, necessidades e desejos individuais eram suprimidos ao funcionamento do sistema maior.

O propósito desta máquina era a glorificação do governante ou do Estado, alcançada por meio de projetos colossais, que demonstravam seu poder, independentemente da sua aplicabilidade sistêmica.

Este foi a aplicação inicial para a tecnologia como controle e organização em vez de mera ferramenta. Mumford descreve a megamáquina como também um sistema de crenças que prioriza o controle centralizado, a hierarquia rígida e o tratamento de humanos como unidades substituíveis para projetos de grande escala permaneceram adormecidos ou menos proeminentes por períodos, mas nunca desapareceram de fato. Te lembra alguma coisa?

Pro autor, a Megamáquina surgiu durante a Revolução Industrial, onde o sistema fabril aperfeiçoou a arte de transformar seres humanos em máquinas de apoio. Seus movimentos eram ditados pelo ritmo da linha de montagem, suas habilidades reduzidas a tarefas repetitivas que uma máquina poderia eventualmente executar melhor. O objetivo mudou da construção de monumentos para a maximização da produção e do lucro. Mas o princípio subjacente permaneceu o mesmo: subordinar o elemento humano imprevisível e ineficiente ao sistema previsível e otimizável. O corpo do trabalhador, o tempo do trabalhador, a própria atenção do trabalhador tornaram-se recursos a serem gerenciados pela máquina tecnológica e organizacional.

Essa mentalidade, esse mito da máquina, a ideia de que o poder tecnológico e organizacional é a força suprema, inerentemente boa e que exige nosso serviço inquestionável, tornou-se o sistema operacional dominante da sociedade moderna. Não se trata apenas de usar a tecnologia, é viver de acordo com sua lógica, que tem se tornado cada vez mais enraizada.

Se a megamáquina antiga era construída de pedra e músculos humanos, a moderna é construída de dados, algoritmos e da pressão implacável da eficiência. Ela é mais sutil, muitas vezes invisível, operando não sob o chicote, mas por meio de conveniência, vigilância generalizada e a promessa de otimização. Mumford previu isso chegando. Ele entendeu que o método científico, embora poderoso, poderia ser transformado em uma ferramenta de controle quando aplicado de forma rígida e exclusiva a assuntos humanos, exigindo resultados previsíveis e quantificáveis ​​acima de tudo.

Pense nisso. Nossos trabalhos são cada vez mais medidos por métricas. Nossas interações sociais são curadas por algoritmos. Nossa educação é padronizada para produzir resultados testáveis. Somos encorajados a tomar decisões com base em dados, em vez de intuição, sabedoria ou julgamento humano. Esta é a lógica da megamáquina em ação. Tudo deve ser medido, previsto e controlado para maximizar a produção sistêmica. Seja essa produção lucro, fluxo de informações ou conformidade social, o indivíduo se torna um nó em uma rede, uma fonte de dados, uma unidade de entrada/saída cujo valor é determinado por sua contribuição para os objetivos do sistema, não por suas qualidades humanas únicas ou valor intrínseco.

Considere a ascensão da inteligência artificial: Por um lado, oferece um potencial incrível. Por outro, representa a expressão máxima do desejo da megamáquina. Sistemas que aprendem, se adaptam e tomam decisões com base puramente em dados e objetivos predefinidos, livres de emoções humanas confusas, ambiguidades éticas ou criatividade imprevisível.

Plataformas digitais, como Facebook, Google e Amazon, transformaram profundamente o ecossistema cultural e midiático contemporâneo, impactando diretamente os debates sobre inteligência artificial e democracia. Jonathan Taplin, em seu livro publicado em 2017 Move Fast and Break Things: How Facebook, Google, and Amazon Cornered Culture and Undermined Democracy, mostra como esses gigantes tecnológicos consolidaram monopólios que controlam a distribuição de conteúdo e dados, prejudicando a remuneração de criadores e concentrando riqueza em poucas mãos. Esse processo foi impulsionado por modelos de negócios baseados em controle algorítmico, rastreamento de dados e práticas empresariais opacas, moldando as novas dinâmicas de produção e consumo cultural em escala global.

Essas transformações desafiam não apenas a estrutura econômica das indústrias criativas, mas também a soberania de países e das instituições democráticas. O domínio das plataformas altera a circulação da informação, favorece práticas de vigilância e intensifica a desigualdade social, tornando urgente uma discussão ampla sobre regulação e justiça algorítmica. Seria esse o caminho para que a inteligência artificial seja utilizada a serviço da autonomia dos criadores e do fortalecimento da cultura democrática?

Quando a IA é usada para gerenciar trabalhadores, prever o comportamento do consumidor ou até mesmo influenciar narrativas sociais, é a megamáquina estendendo seu alcance, automatizando os próprios processos de organização e controle que Mumford identificou há milhares de anos. É a perfeição da ideia de que a sociedade é melhor administrada como um sistema complexo, mas, em última análise, mecânico.

Apesar disso, o trabalho de Mumford aponta para uma alternativa. Ele contrastou a tecnologia da megamáquina centrada no poder com o que ele chamou de sistemas biotécnicos ou politécnicos. Estas são tecnologias e formas de organização centradas na vida. Dialoga muito bem com o trabalho de Yuk Hui, e a cosmotécnica.

Elas aprimoram as capacidades humanas, fomentam a criatividade, priorizam a saúde e o bem-estar, respeitam o contexto e a diversidade locais e operam em escala humana. Pense em agricultura sustentável versus agricultura industrial, artesanato versus produção em linha de montagem, assistência médica comunitária versus sistemas médicos burocráticos centralizados.

Essas abordagens biotécnicas não buscam controlar ou padronizar a vida, mas sim apoiá-la e enriquecê-la. Elas integram habilidade humana, intuição e conhecimento local, em vez de substituí-los. A tragédia, argumentou Mumford, é que nossa sociedade, seduzida pelo poder e eficiência da lógica das megamáquinas, tem negligenciado amplamente e, com frequência, suprimido ativamente essas biotécnicas de afirmação da vida.

Segundo ele, caímos no mito de que apenas os grandes sistemas centralizados e controlados pelo poder representam o verdadeiro progresso. Confundimos poder sistêmico com florescimento humano. E, ao fazer isso, corremos o risco de construir um mundo tecnicamente avançado, mas espiritual, emocional e socialmente empobrecido.

A pressão constante para se conformar, otimizar, quantificar tudo é o zumbido da megamáquina exigindo que suas partes operem suavemente, silenciosamente, sem perturbar a humanidade. Entender essa distinção entre tecnologia para poder e tecnologia para a vida é o primeiro passo para nos libertarmos do mito.

…um longo caminho pela frente me aguarda