Domando o Vale do Silício - Gary Marcus

Um livro rápido, e bastante prático quanto ao que fazer num momento em que parece que uma nova ordem mundial está de ser formada: BigTechs maiores que a maior parte dos países, agindo como os novos governantes mundiais.

Gary Marcus é um dos principais críticos de tecnologia, com conhecimento de causa - um especialista em inteligência artificial e acadêmico da área que parece conseguir se manter ileso aos encantos financeiros da IA: pensamento de curto prazo e enriquecimento rápido através de especulação financeira, ao invés de uma visão de longo prazo no desenvolvimento de IA que possa ser minimamente confiável para a população.

O próprio autor há alguns dias postou como, rapidamente, o risco apresentado no livro tem se tornado uma realidade. As premissas do livro:

• Oligarcas Tech tomando conta do mundo

• Eles estão especulando loucamente com LLMs e AGI, mesmo que problemas com alucinações falta de raciocínio continuem persistindo mesmo após anos de estudo

• Governos tem acreditado demais nessa história, ao mesmo tenho que são completamente influenciadas por estas empresas, e pretendem seguir o direcionamento delas de perto.

• Nós vamos acabar com pouca ou nenhuma regulação de IA, apenas dos riscos gigantescos e confirmados de crimes digitais, desinformação, viés algorítmico, confiança exagerada em sistemas falhos, etc

• Nossa única esperança como cidadãos seria protestar ou até mesmo boicotar IA generativa

Paris Summit AI, que ocorreu neste início de Fevereiro demonstrou claramente o alinhamento dos governos com a agenda aceleracionista da BigTechs: pressão por redução de regulação, com a justificativa de segurança nacional ou impedimento da inovação. O discurso é o mesmo: “vamos ficar para trás se não acelerarmos agora”. É o mesmo tipo de tática que empresas de cigarro fizeram há algumas décadas, fazendo lobby governamental, bancando pesquisas e campanhas políticas para reduzir o escrutínio do público.

https://youtu.be/ASjrLdR6jEk?si=6mM496DhrOpHo8Wk

Um mundo de Vigilância Digital

Hoje, uma indústria tem usado LLMs ao extremo para ampliar seu alcance com grande sucesso: Crimes digitais. Seja através de desinformação política, redes de extorsão com catfishing, golpes digitais com deepfakes, LLMs são boas o suficiente para que agentes mal intencionados podem explorar vulnerabilidades sociais e ganhar muito dinheiro. Já são inúmeros casos, que não param de crescer.

O autor, que escreve há anos sobre como LLMs não são confiáveis, apresenta muitos argumentos para estarmos preocupados com o uso de inteligência artificial, que precisam ser mitigados de alguma forma. O autor apresenta inúmeros riscos reais da IA, Muitos dos quais já foram tratados inúmeras vezes nesse blog, por outros autores. Entre eles:

• Guerra de desinformação automatizada

• Manipulação de mercados

• Alucinações que causam problemas reais (saúde, carreira, produtos)

• Deepfakes não consensuais (pornografia, campanha de difamação)

• Exploração de vulnerabilidades de segurança

• Viés digital e Discriminação

• Privacidade e Vazamento de informações

• Roubo de Propriedade intelectual

• Confiança em sistemas não confiáveis

• Custos ambientais

https://youtu.be/OcQNSIM2cak?si=unz93SS53HcNDO_b

Um video conspiracional, mas interessante

Produtos mal acabados e cheios de vulnerabilidades: esta é a realidade do mercado atual. Com a desculpa aceleracionista existencial (“a liderança mundial está em jogo”) - nos tornamos cobaias de uma tecnologia não confiável e que pode colocar em risco a vida das pessoas. Na busca por dinheiro especulativo, que paga o preço é a população.

Já é mais do que confirmado o fato de que LLMs dependem de dados com propriedade intelectual não consentida. Essa é a forma política de dizer: Só existe LLM com dados roubados. Artistas e autores estão sendo explorados através de suas obras, que são usadas para treinar modelos generativos sem que as obras sejam devidamente licenciadas para o uso. Este talvez seja o primeiro campo de batalha contra Bigtechs.

Até mesmo Sam Altman, depondo na comissão européia, disse que não existe OpenAI e ChatGPT sem o uso de propriedade intelectual ilegalmente. Agora cabem aos governos cobrar a responsabilização pelos atos dessas empresas. É o mesmo motivo do porquê nem mesmo modelos como DeepSeek R1 abrem o dataset utilizado no treinamento de seus modelos opensource. Todas as empresas tem culpa no cartório.

https://youtu.be/H3fqEW1nwpQ?si=DtVSSLIQChnAxMjl

LLM e roubo de propriedade intelectual

Transparência, Regulação e Supervisão

O livro trata o tema de controle e regulação de BigTechs como crucial para garantir o desenvolvimento de IA segura e confiável.

À medida que a inteligência artificial (IA) continua a remodelar nosso mundo, a questão de como regular efetivamente os gigantes da tecnologia tornou-se cada vez mais urgente. Essas empresas são simplesmente grandes demais para serem reguladas? Os paralelos com outras indústrias sugerem que não, mas os desafios únicos apresentados pela IA e pelas grandes empresas de tecnologia exigem uma abordagem diferenciada.

Assim como a indústria do tabaco foi excluída do lobby devido ao seu conflito com os interesses de saúde pública, as grandes empresas de tecnologia frequentemente priorizam o lucro em detrimento do bem-estar social. Diferentemente das empresas de telecomunicações, que atuam como condutores neutros de comunicação, os gigantes das mídias sociais e da tecnologia moldam ativamente nossas experiências digitais:

• Algoritmos de timeline otimizam para engajamento e polarização

• Conteúdo inflamatório é amplificado para impulsionar a receita de anúncios

• Empresas controlam dados dos usuários e selecionam interações

O livro A Máquina do Caos, de Max Fisher, descrevem inúmeros casos de como BigTech consegue manipular nossa percepção do mundo, e como estamos sujeitos à sua influencia. Os interesses das grandes empresas de tecnologia divergem significativamente do bem-estar público.

A Necessidade de uma Governança Abrangente da IA

Gary Marcus e Amy Webb defenderam o estabelecimento de estruturas globais de governança da IA. Marcus propõe uma Agência de IA modelada semelhante ao FCC e FDA, ainda que a implementação de tais iniciativas enfrenta desafios significativos:

• As nações relutam em ceder soberania a decisões internas, apesar de estarem cedendo sua autonomia às empresas de tecnologia

• Empresas de IA ameaçaram retirar serviços se forem excessivamente reguladas (por exemplo, os comentários de Sam Altman sobre as regulamentações da UE)

Apesar desses obstáculos, uma abordagem global coordenada para a governança da IA permanece crucial.

O Argumento a Favor da Regulamentação

Contrariamente à crença popular, regulamentações bem elaboradas podem beneficiar tanto a sociedade quanto as empresas:

• A clareza regulatória reduz o caos e facilita o planejamento de longo prazo

• Barreiras de entrada mais altas podem proteger empresas estabelecidas da concorrência (pessoalmente acredito que esse é o motivo de termos Sam Altman defendendo regulação nos EUA)

• Abraçar a regulamentação pode melhorar a percepção pública das empresas de IA

Os marcos regulatórios atuais muitas vezes ficam aquém do necessário. Por exemplo, carros autônomos operados por empresas como a Waymo não podem receber multas de trânsito quando violam leis, destacando a necessidade de estruturas legais atualizadas. Nem quando atropelam uma pessoa, nem quando bloqueiam o tráfego.

Neste sentido acredito que o Brasil está mais preparado para lidar com a situação. Apesar de ainda precisar avançar muito, já temos um entendimento melhor quanto ao impacto e responsabilidade de empresas de tecnologia e plataforma.

Para garantir que a IA beneficie a sociedade em vez de servir apenas aos interesses corporativos, o engajamento público e o ativismo são essenciais. Ao nos organizarmos e defendermos o desenvolvimento responsável da IA, podemos trabalhar para evitar as armadilhas vistas na evolução das mídias sociais.

Este livro completa uma jornada interessante de letramento em IA, e acredito que com ele me sinto bastante capaz de discutir de maneira ainda mais profunda os limites dessa tecnologia.

Recomendo a leitura.