The AI Con - O grande golpe

É difícil de pesquisar IA de maneira cética, sem se perder na cacofonia de vendedores de sonhos. No último ano, neste blog, tenho me dedicado a apresentar um pouco do meu estudo, e compartilhar minha perceção quanto a esses sistemas, o mercado que cerca essas soluções e as incontáveis controvérsias que tem surgido do aceleracionismo desregrado.

Seja na discussão técnica sobre o quanto esses sistemas não entregam o quanto prometem, ou nas consequências nefastas do sistema de produção que viabiliza a mentira da automatização e inteligência artificial, tenho encontrado cada vez mais vozes inspiradoras. E o livro The AI Con, das pesquisadoras Prof. Emily Bender e Dra. Alex Hanna, traz uma perspectiva crítica importante, principalmente nesse momento em que CEOs de bigtechs estão competindo para ver quem tem a afirmação mais espalhafatosa sobre o futuro da tecnologia:

"O perigo da IA surge da especulação financeira desenfreada, da degradação da confiança e dos ambientes informacionais, da normalização do roubo e exploração de dados e dos sistemas de harmonização de dados que punem as pessoas com menos poder em nossa sociedade ao rastreá-las por meio de sistemas de policiamento onipresentes. Mas os Doomers/Boosters querem que desviemos o olhar de todos esses danos reais, deslumbrados por suas visões distópicas/utópicas"

The AI Con, como lutar contra o Hype das Bigtechs e criar o futuro que queremos, é um livro que se parece com uma conversa num podcast. Só que dos bons! Lotado de exemplos e referências diretas, as autoras não seguram as críticas ou as piadas, em meio a exposições claras do uso de sistemas automatizados com impacto na vida de pessoas que já sofrem com sistemas que não funcionam, ou que as perseguem.

O capítulo que descreve como LLMs funcionam e conta um pouco da história de como a tecnologia foi desenvolvida e evoluiu nos últimos anos é um grande exemplo de divulgação científica da melhor qualidade: você não precisa ser técnico para saber o que está acontecendo, e principalmente você tem total autonomia em escolher não usar estes sistemas. LLMs são apenas Maquinas de geração de texto sintético, e podemos interpretar seu resultado sem imaginar uma mente por trás do prompt tentando se comunicar com você.

O grande problema com o uso destes sistemas, não é o fato de eles potencialmente nos permitem fazer mais com menos: é o fato de que fazemos menos, com maior potencial para problemas. E somente quando um grupo suficientemente grande de pessoas já sofreu muito as consequências desses sistemas, é que eventualmente discutimos seu impacto e sua restrição. Não importa o futuro em que AGI fantasiosamente pretende transformar, temos problemas o suficiente para resolvermos hoje, que tais sistemas estão apenas piorando, e sem evidência de que vão resolver no futuro.

O livro trata de problemas reais, afetando a vida de pessoas reais neste exato momento, e desafia a narrativa atual de abundância tecnológica e futuro utópico que o mercado e a mídia atualmente abraçaram. E faz uma distinção clara do que se transformou em lugar comum do marketing: Inteligência Artificial é um termo usado para ampliar o hype em cima de um conjunto de tecnologias, as quais nem todas funcionam de verdade.

Bender e Hanna há bastante tempo vem produzindo o podcast Mystery AI Hype Theater 3000, que tem o objetivo de separar o Hype da realidade, o que é realmente fato no mercado, e o que é marketing para a especulação financeira. A melhor parte do podcast (e do livro) está na estratégia de usar o humor e o ridículo para criticar o que executivos de startups tem tentado empurrar para o público geral há alguns anos: alegações extraordinárias requerem evidências extraordinárias, e como nenhuma startup de IA é capaz de fazer isso, nada melhor do que tirar um sarro dos absurdos falados por essas empresas. A maior parte das empresas não merecem ser levadas a sério!

O livro faz isso com maestria, e torna a leitura ainda mais interessante! Usando o Ridículo como práxis, uma estratégia fenomenal!

Minha lista de livros necessários acaba de crescer:

• The AI Con, Emily M. Bender and Alex Hanna

• The Snake Oil AI, Arvind Narayanan and Sayash Kapoor

• The Work without the worker, Philip Jones

• Unmasking AI, Joy Buolawini

Você precisa ler este livro.

Inteligência Artificial não é Inevitável nem misteriosa

"Apesar de IA não ter intenção, isso não excluí sua responsabilidade"

Existe uma aura de mistério em tudo que gira em torno de tudo que se fala sobre IA na mídia, aumentando a sensação de que estamos prestes a uma explosão de inteligência e um a eventual descoberta de novas formas de vida: mas tudo não passa de delírio, ou propaganda.

Enquanto estamos preocupado com o sonho de AGI e expeculações de ficção cientifica, cada vez mais nos deparamos com movimentos que buscam a degração das condições de trabalho, catástrofe climática e impacto politico de sistemas de informação. Na ânsia de acreditar em um futuro deus ex-machina benevolente, nos esquecemos das consequências reais destas ferramentas gera hora em dia.

Entenda, IA Generativa (LLMs) é a ferramenta perfeita para a máquina das redes sociais:

• Criando conteúdo genérico e rápido para gerar qualquer engajamento, que é privilegiado pelo algoritmo das Redes Sociais

• Redes sociais dependem engajamento para vender visualizações para empresas que pagam por propaganda

• Algoritmos dependem de conteúdo constante para manter relevância, impulsionando o uso das plataformas

• LLMs invadem nossos sistemas de informação como um derramamento de óleo, e contaminam tudo e colocam em risco nossas próprias organizações sociais online

• Nossas plataformas se alimentam do conteúdo rápido e mediano, ampliando nossa sociedade do espetáculo

  
  

IA Generativa só acelera o que Cory Doctorow chamou de "Bostificação" das plataformas digitais. E que podem levar a um eventual fim da internet - mas isso é um papo pra outro momento.

Mais importante que discussões sobre AI Safety e Alinhamento, sistemas automatizados já estão causando prejuízo real: em violação de direitos civis, deterioração de condições de trabalho, vigilância facial de comunidades marginalizadas e violência do estado. Estas são questões reais de direitos civis e direitos humanos, não cenários falsos para brincarmos em grupos de tecnologia.

"As economias modernas de logística e informação são construídas através de automação, vigilância e a redução de pessoas a meros objetos, peças numa engrenagem. IA é parte de uma longa tradição da indústrial global de achar formas para substituir o trabalho, e anda forçar condições de trabalho degradantes em nome da produtividade" - The AI Con

Eu concordo com as autoras quando expõem que LLMs foram criadas para simular a forma como as pessoas usam a linguagem, para se valer de uma característica humana: nossa capacidade de antropomorfizar objetos, e a nossa tendência de atribuir significado e imaginar uma mente inteligente atrás de tudo que lemos. Acreditar que máquinas podem ser conscientes é o primeiro passo para ser manipulado por um programa de computador que cospe palavras em ordem para parecer uma pessoa.

Com o fato de que a saída de LLMs é intencionalmente criada para se parecer com um sujeito interagindo com usuários, é quase impossível não cair na Subjetividade das máquinas, ainda que a verdade é que os Large Language Models estão apenas apresentando uma extensa combinação de grupos de palavras que tem maior possibilidade de aparecer para um dado contexto.

Junta-se a isso, uma indústria inteira para promover Benchmarks adulterados, pesquisas impossíveis de serem reproduzidas e um conjunto de publicações sem critério, fica difícil fugir. E os exemplos do uso de LLMs para a ciência, como o fiasco da Meta Galactica também não conseguem esconder uma realidade cada vez mais aparente: esses sistemas estão fadados ao fracasso. Não tem tamanho de datacenter que vá resolver essa situação.

"Clamores de "AGI" são uma cobertura para abandonar nosso contrato social corrente"

Este é um livro essencial para se aprofundar nesse tema com cada vez mais impactante, e não em uma boa direção. As autoras também sugerem algumas leituras influentes para esse tema:

• The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence por Timnit Gebru and Émile Torres

• More Everything Forever por Adam Becker

• Great White Robot God de David Golumbia.

"A característica deste Ciclo de Hype é que pilantras estão se valendo de histórias da ficção científica - de mentes artificiais distorcidas para nos transformar em clipes de papel, ou Terminadores do Futuro promovendo guerras pelo seu direito de existir (e de ficarem bonitos em motocicletas) - e injetando essas idéias em discussões no alto escalão de negócios e do governo" The AI Con

É muito reconfortante encontrar cada vez mais autores questionando e criticando a loucura que virou nosso mercado: mais material para estudar e mais argumentos para influenciar positivamente o futuro.

E impressionante como o livro, recente, já poderia ser recheado com mais dezenas de casos que aconteceram nos últimos poucos meses. CEOs de empresas bilionárias, que usavam humanos e vendiam soluções como IA, ou empresas que tiveram que recontratar profissionais depois de fracassarem ridiculamente com o uso de agentes.

Seguimos na busca de uma visão cética sobre essa loucura.