Introdução

O Cavalo Mais Inteligente do Mundo. No final do século XIX, a Europa estava fascinada por um cavalo chamado Hans. “Hans, o Inteligente” era nada menos que uma maravilha: ele conseguia resolver problemas de matemática, dizer as horas, identificar os dias da semana no calendário, diferenciar tons musicais e soletrar palavras e frases. As pessoas acorriam para ver o garanhão alemão bater o casco no chão para responder a problemas complexos e sempre chegar à resposta certa. “Quanto é dois mais três?” Hans batia diligentemente o casco no chão cinco vezes. “Que dia da semana é hoje?” O cavalo então batia o casco para indicar cada letra em um quadro especial e soletrava a resposta correta. Hans dominou até mesmo perguntas mais complexas, como: “Tenho um número em mente. Subtraio nove e o resto é três. Qual é o número?” Em 1904, o esperto Hans já era uma celebridade internacional, com o New York Times o exaltando como “O Cavalo Maravilhoso de Berlim; Ele Pode Fazer Quase Tudo, Menos Falar”.¹ O treinador de Hans, um professor de matemática aposentado chamado Wilhelm von Osten, há muito tempo era fascinado pela inteligência animal. Von Osten havia tentado, sem sucesso, ensinar números cardinais a gatinhos e filhotes de urso, mas só obteve sucesso quando começou a trabalhar com seu próprio cavalo. Primeiro, ele ensinou Hans a contar segurando a pata do animal, mostrando-lhe um número e, em seguida, batendo no casco o número correto de vezes. Logo, Hans respondeu batendo com precisão em somas simples. Em seguida, von Osten introduziu um quadro-negro com o alfabeto escrito, para que Hans pudesse bater em um número para cada letra no quadro. Após dois anos de treinamento, von Osten ficou impressionado com a forte compreensão do animal sobre conceitos intelectuais avançados. Então, ele levou Hans para a estrada como prova de que os animais podiam raciocinar. Hans se tornou a sensação viral da belle époque. Mas muitas pessoas se mostraram céticas, e o conselho de educação alemão lançou uma comissão investigativa para testar as alegações científicas de Von Osten. A Comissão Hans foi liderada pelo psicólogo e filósofo Carl Strumpf e seu assistente Oskar Pfungst, e incluía um gerente de circo, um professor aposentado, um zoólogo, um veterinário e um oficial de cavalaria. No entanto, após extensos questionamentos a Hans, tanto com seu treinador presente quanto ausente, o cavalo manteve seu histórico de respostas corretas, e a comissão não encontrou evidências de fraude. Como Pfungst escreveu posteriormente, Hans se apresentou diante de “milhares de espectadores, entusiastas de cavalos, treinadores de truques de primeira linha, e nenhum deles, ao longo de muitos meses de observações, conseguiu descobrir qualquer tipo de sinal regular” entre o interrogador e o cavalo.² A comissão concluiu que os métodos ensinados a Hans eram mais semelhantes a “ensinar crianças em escolas primárias” do que a treinar animais e eram “dignos de exame científico”.³ Mas Strumpf e Pfungst ainda tinham dúvidas. Uma descoberta em particular os incomodou: quando quem fazia a pergunta não sabia a resposta ou estava muito longe,Hans raramente dava a resposta correta. Isso levou Pfungst e Strumpf a considerarem se algum tipo de sinal não intencional estaria fornecendo as respostas a Hans.

Como Pfungst descreveria em seu livro de 1911, a intuição deles estava correta: a postura, a respiração e a expressão facial de quem fazia as perguntas mudavam sutilmente no momento em que Hans chegava à resposta certa, levando-o a parar ali.⁴ Mais tarde, Pfungst testou essa hipótese em seres humanos e confirmou seu resultado. O que mais o fascinou nessa descoberta foi que, geralmente, quem fazia as perguntas não tinha consciência de que estava dando dicas ao cavalo. A solução para o enigma do Clever Hans, escreveu Pfungst, era a direção inconsciente dada por quem fazia as perguntas ao cavalo.⁵ O cavalo era treinado para produzir os resultados que seu dono queria ver, mas o público sentia que não se tratava da inteligência extraordinária que haviam imaginado. A história do Clever Hans é fascinante sob muitos aspectos: a relação entre desejo, ilusão e ação, o negócio do espetáculo, como antropomorfizamos o não humano, como surgem os vieses e a política da inteligência. Hans inspirou um termo na psicologia para um tipo específico de armadilha conceitual, o Efeito Clever Hans ou efeito observador-expectativa, para descrever a influência de pistas não intencionais dos experimentadores sobre seus sujeitos. A relação entre Hans e von Osten aponta para os mecanismos complexos pelos quais os vieses se infiltram nos sistemas e como as pessoas se envolvem com os fenômenos que estudam. A história de Hans é agora usada em aprendizado de máquina como um lembrete de que nem sempre se pode ter certeza do que um modelo aprendeu com os dados que lhe foram fornecidos.⁶ Mesmo um sistema que parece ter um desempenho espetacular no treinamento pode fazer previsões terríveis quando apresentado a novos dados do mundo real. Isso levanta uma questão central deste livro: como a inteligência é “feita” e que armadilhas isso pode criar? À primeira vista, a história de Clever Hans é a história de como um homem construiu inteligência treinando um cavalo para seguir pistas e emular a cognição humana. Mas, em outro nível, vemos que a prática de construir inteligência era consideravelmente mais ampla. O projeto exigiu validação de múltiplas instituições, incluindo o meio acadêmico, escolas, ciência, o público e as forças armadas. Além disso, havia o mercado para von Osten e seu notável cavalo — investimentos emocionais e econômicos que impulsionaram as visitas guiadas, as reportagens em jornais e as palestras. Autoridades burocráticas foram mobilizadas para medir e testar as habilidades do cavalo. Uma constelação de interesses financeiros, culturais e científicos desempenhou um papel na construção da inteligência de Hans e tinha interesse em saber se ela era realmente extraordinária. Podemos observar duas mitologias distintas em ação. A primeira é a de que sistemas não humanos (sejam computadores ou cavalos) são análogos à mente humana. Essa perspectiva pressupõe que, com treinamento suficiente ou recursos adequados, uma inteligência semelhante à humana pode ser criada do zero, sem abordar as maneiras fundamentais pelas quais os humanos são corporificados, relacionais e inseridos em ecologias mais amplas.O segundo mito é o de que a inteligência existe independentemente, como se fosse natural e distinta das forças sociais, culturais, históricas e políticas. Na verdade, o conceito de inteligência causou danos desproporcionais ao longo dos séculos e foi usado para justificar relações de dominação, da escravidão à eugenia.7 Essas mitologias são particularmente fortes no campo da inteligência artificial, onde a crença de que a inteligência humana pode ser formalizada e reproduzida por máquinas é axiomática desde meados do século XX. Assim como a inteligência de Hans era considerada semelhante à de um humano, cuidadosamente cultivada como uma criança no ensino fundamental, os sistemas de IA têm sido repetidamente descritos como formas simples, porém semelhantes às humanas, de inteligência. Em 1950, Alan Turing previu que “no final do século, o uso das palavras e a opinião pública em geral terão se alterado tanto que será possível falar de máquinas pensando sem esperar ser contradito”.⁸ O matemático John von Neumann afirmou, em 1958, que o sistema nervoso humano é “prima facie digital”.⁹ O professor do MIT, Marvin Minsky, certa vez respondeu à pergunta sobre se as máquinas poderiam pensar dizendo: “É claro que as máquinas podem pensar; nós podemos pensar e somos ‘máquinas de carne’”.¹⁰ Mas nem todos estavam convencidos. Joseph Weizenbaum, um dos primeiros inventores da IA ​​e criador do primeiro programa de chatbot, conhecido como ELIZA, acreditava que a ideia de humanos como meros sistemas de processamento de informações era uma noção simplista demais de inteligência e que alimentava a “grande fantasia perversa” de que os cientistas da IA ​​poderiam criar uma máquina que aprendesse “como uma criança”.¹¹ Essa tem sido uma das principais disputas na história da inteligência artificial. Em 1961, o MIT organizou uma série de palestras históricas intitulada “Gestão e o Computador do Futuro”. Um grupo estelar de cientistas da computação participou, incluindo Grace Hopper, J.C.R. Licklider, Marvin Minsky, Allen Newell, Herbert Simon e Norbert Wiener, para discutir os rápidos avanços que estavam sendo feitos na computação digital. Ao final, John McCarthy argumentou corajosamente que as diferenças entre as tarefas humanas e as tarefas das máquinas eram ilusórias. Simplesmente havia algumas tarefas humanas complexas que levariam mais tempo para serem formalizadas e resolvidas por máquinas.12 Mas o professor de filosofia Hubert Dreyfus argumentou, preocupado com o fato de os engenheiros reunidos “nem sequer considerarem a possibilidade de o cérebro processar informações de uma maneira completamente diferente da de um computador”.13 Em sua obra posterior, O Que os Computadores Não Podem Fazer, Dreyfus apontou que a inteligência e a expertise humanas dependem fortemente de muitos processos inconscientes e subconscientes, enquanto os computadores exigem que todos os processos e dados sejam explícitos e formalizados.14 Como resultado, aspectos menos formais da inteligência precisam ser abstraídos, eliminados ou aproximados para os computadores, tornando-os incapazes de processar informações sobre situações como os humanos fazem. Muita coisa mudou na IA desde a década de 1960.incluindo uma mudança dos sistemas simbólicos para a onda mais recente de entusiasmo em torno das técnicas de aprendizado de máquina. De muitas maneiras, as primeiras discussões sobre o que a IA pode fazer foram esquecidas e o ceticismo se dissipou. Desde meados dos anos 2000, a IA se expandiu rapidamente como campo de estudo na academia e como indústria. Agora, um pequeno número de poderosas corporações de tecnologia implanta sistemas de IA em escala planetária, e seus sistemas são mais uma vez aclamados como comparáveis ​​ou até superiores à inteligência humana. No entanto, a história de Clever Hans também nos lembra de quão limitada é nossa visão ou reconhecimento da inteligência. Hans foi ensinado a imitar tarefas dentro de um escopo muito restrito: somar, subtrair e soletrar palavras. Isso reflete uma perspectiva limitada do que cavalos ou humanos podem fazer. Hans já realizava feitos notáveis ​​de comunicação interespecífica, apresentações em público e demonstrava considerável paciência, mas isso não era reconhecido como inteligência. Como afirma a autora e engenheira Ellen Ullman, essa crença de que a mente é como um computador, e vice-versa, “infectou décadas de pensamento nas ciências da computação e cognitivas”, criando uma espécie de pecado original para a área.15 É a ideologia do dualismo cartesiano na inteligência artificial: onde a IA é entendida de forma restrita como inteligência desencarnada, removida de qualquer relação com o mundo material.

O que é IA? Nem artificial nem inteligente. Vamos fazer a pergunta aparentemente simples: o que é inteligência artificial? Se você perguntar a alguém na rua, essa pessoa pode mencionar a Siri da Apple, o serviço de nuvem da Amazon, os carros da Tesla ou o algoritmo de busca do Google. Se você perguntar a especialistas em aprendizado profundo, eles podem dar uma resposta técnica sobre como as redes neurais são organizadas em dezenas de camadas que recebem dados rotulados, aos quais são atribuídos pesos e limiares, e que podem classificar dados de maneiras que ainda não podem ser totalmente explicadas.¹⁶ Em 1978, ao discutir sistemas especialistas, o professor Donald Michie descreveu a IA como refinamento do conhecimento, onde “uma confiabilidade e competência de codificação podem ser produzidas, superando em muito o nível mais alto que o especialista humano sem auxílio já alcançou, talvez até mesmo possa alcançar”.¹⁷ Em um dos livros didáticos mais populares sobre o assunto, Stuart Russell e Peter Norvig afirmam que a IA é a tentativa de compreender e construir entidades inteligentes. “A inteligência se preocupa principalmente com a ação racional”, afirmam eles. “Idealmente, um agente inteligente toma a melhor ação possível em uma situação.”¹⁸ Cada forma de definir inteligência artificial está cumprindo seu papel, estabelecendo um quadro para como ela será compreendida, mensurada, valorizada e governada. Se a IA for definida por marcas de consumo para infraestrutura corporativa, então o marketing e a publicidade terão predeterminado o horizonte. Se os sistemas de IA forem vistos como mais confiáveis ​​ou racionais do que qualquer especialista humano, capazes de tomar a “melhor ação possível”, isso sugere que se deve confiar neles para tomar decisões de alto risco em saúde, educação e justiça criminal. Quando técnicas algorítmicas específicas são o foco exclusivo, isso sugere que apenas o progresso técnico contínuo importa, sem levar em consideração o custo computacional dessas abordagens e seus impactos de longo alcance em um planeta sob pressão. Em contraste, neste livro, argumento que a IA não é artificial nem inteligente. Em vez disso, a inteligência artificial é tanto incorporada quanto material, feita de recursos naturais, combustível, trabalho humano, infraestruturas, logística, histórias e classificações. Os sistemas de IA não são autônomos, racionais ou capazes de discernir qualquer coisa sem treinamento extenso e computacionalmente intensivo com grandes conjuntos de dados ou regras e recompensas predefinidas. Na verdade, a inteligência artificial como a conhecemos depende inteiramente de um conjunto muito mais amplo de estruturas políticas e sociais. E devido ao capital necessário para construir IA em larga escala e às formas de otimizá-la, os sistemas de IA são, em última análise, projetados para servir aos interesses dominantes existentes. Nesse sentido, a inteligência artificial é um registro de poder. Neste livro, exploraremos como a inteligência artificial é criada, no sentido mais amplo, e as forças econômicas, políticas, culturais e históricas que a moldam. Uma vez que conectemos a IA a essas estruturas e sistemas sociais mais amplos, podemos escapar da noção de que a inteligência artificial é um domínio puramente técnico. Em um nível fundamental,A IA é composta por práticas técnicas e sociais, instituições e infraestruturas, política e cultura. O raciocínio computacional e o trabalho corporificado estão profundamente interligados: os sistemas de IA refletem e produzem relações sociais e compreensões do mundo. Vale ressaltar que o termo “inteligência artificial” pode causar desconforto na comunidade da ciência da computação. A expressão oscilou entre o uso e o desuso ao longo das décadas e é mais utilizada em marketing do que por pesquisadores. “Aprendizado de máquina” é mais comum na literatura técnica. No entanto, a nomenclatura IA é frequentemente adotada durante a temporada de solicitações de financiamento, quando investidores de capital de risco aparecem com seus talões de cheques, ou quando pesquisadores buscam atenção da imprensa para um novo resultado científico. Como resultado, o termo é usado e rejeitado de maneiras que mantêm seu significado em constante transformação. Para os meus propósitos, uso IA para falar sobre a enorme formação industrial que inclui política, trabalho, cultura e capital. Quando me refiro a aprendizado de máquina, estou falando de uma gama de abordagens técnicas (que são, na verdade, também sociais e infraestruturais, embora raramente sejam mencionadas dessa forma). Mas existem razões significativas para que a área tenha se concentrado tanto no aspecto técnico — avanços algorítmicos, melhorias incrementais de produtos e maior conveniência. As estruturas de poder na interseção entre tecnologia, capital e governança são bem servidas por essa análise restrita e abstrata. Para entender como a IA é fundamentalmente política, precisamos ir além das redes neurais e do reconhecimento de padrões estatísticos e, em vez disso, perguntar o que está sendo otimizado, para quem e quem decide. Só então poderemos rastrear as implicações dessas escolhas.As estruturas de poder na interseção de tecnologia, capital e governança são bem servidas por essa análise restrita e abstrata. Para entender como a IA é fundamentalmente política, precisamos ir além das redes neurais e do reconhecimento de padrões estatísticos e, em vez disso, perguntar o que está sendo otimizado, para quem e quem decide. Só então poderemos rastrear as implicações dessas escolhas.As estruturas de poder na interseção de tecnologia, capital e governança são bem servidas por essa análise restrita e abstrata. Para entender como a IA é fundamentalmente política, precisamos ir além das redes neurais e do reconhecimento de padrões estatísticos e, em vez disso, perguntar o que está sendo otimizado, para quem e quem decide. Só então poderemos rastrear as implicações dessas escolhas.

Enxergando a IA como um Atlas: Como um atlas pode nos ajudar a entender como a inteligência artificial é criada? Um atlas é um tipo incomum de livro. É uma coleção de partes díspares, com mapas que variam em resolução, desde uma visão de satélite do planeta até um detalhe ampliado de um arquipélago. Ao abrir um atlas, você pode estar buscando informações específicas sobre um determinado lugar — ou talvez esteja apenas vagando, seguindo sua curiosidade e encontrando caminhos inesperados e novas perspectivas. Como observa a historiadora da ciência Lorraine Daston, todos os atlas científicos buscam educar o olhar, concentrar a atenção do observador em detalhes reveladores e características significativas.19 Um atlas apresenta um ponto de vista particular do mundo, com o selo da ciência — escalas e proporções, latitudes e longitudes — e um senso de forma e consistência. No entanto, um atlas é tanto um ato de criatividade — uma intervenção subjetiva, política e estética — quanto uma coleção científica. O filósofo francês Georges DidiHuberman concebe o atlas como algo que habita o paradigma estético do visual e o paradigma epistêmico do conhecimento. Ao implicar ambos, ele mina a ideia de que ciência e arte são sempre completamente separadas.²⁰ Em vez disso, um atlas nos oferece a possibilidade de reler o mundo, conectando peças díspares de maneira diferente e “reeditando e remontando-o sem pensar que estamos resumindo ou esgotando-o”.²¹ Talvez meu relato favorito de como uma abordagem cartográfica pode ser útil venha da física e crítica de tecnologia Ursula Franklin: “Mapas representam empreendimentos propositais: eles são feitos para serem úteis, para auxiliar o viajante e preencher a lacuna entre o conhecido e o ainda desconhecido; são testemunhos de conhecimento e percepção coletivos”.²² Os mapas, em sua melhor forma, nos oferecem um compêndio de caminhos abertos — maneiras compartilhadas de conhecer — que podem ser misturados e combinados para criar novas interconexões. Mas também existem mapas de dominação, aqueles mapas nacionais onde o território é traçado ao longo das linhas de fratura do poder: desde as intervenções diretas de delimitação de fronteiras em espaços disputados até a revelação dos caminhos coloniais dos impérios. Ao invocar um atlas, estou sugerindo que precisamos de novas maneiras de compreender os impérios da inteligência artificial. Precisamos de uma teoria da IA ​​que leve em conta os estados e as corporações que a impulsionam e dominam, a mineração extrativa que deixa uma marca no planeta, a captura massiva de dados e as práticas trabalhistas profundamente desiguais e cada vez mais exploradoras que a sustentam. Essas são as mudanças tectônicas do poder na IA. Uma abordagem topográfica oferece diferentes perspectivas e escalas, além das promessas abstratas da inteligência artificial ou dos mais recentes modelos de aprendizado de máquina. O objetivo é compreender a IA em um contexto mais amplo, percorrendo as diversas paisagens da computação e observando como elas se conectam.²³ Há outra maneira pela qual os atlas são relevantes aqui.O campo da IA ​​está explicitamente tentando capturar o planeta de uma forma computacionalmente legível. Isso não é uma metáfora, mas sim a ambição direta da indústria. A indústria da IA ​​está criando e normalizando seus próprios mapas proprietários, como uma visão centralizada e onisciente do movimento, da comunicação e do trabalho humanos. Alguns cientistas da IA ​​expressaram o desejo de capturar o mundo e suplantar outras formas de conhecimento. A professora de IA Fei-Fei Li descreve seu projeto ImageNet como tendo o objetivo de “mapear todo o mundo de objetos”.24 Em seu livro didático, Russell e Norvig descrevem a inteligência artificial como “relevante para qualquer tarefa intelectual; é verdadeiramente um campo universal”.25 Um dos fundadores da inteligência artificial e pioneiro em reconhecimento facial, Woody Bledsoe, foi bastante direto: “a longo prazo, a IA é a única ciência”.26 Esse desejo não é criar um atlas do mundo, mas ser o atlas — a forma dominante de ver. Esse impulso colonizador centraliza o poder no campo da IA: ele determina como o mundo é medido e definido, ao mesmo tempo que nega que essa seja uma atividade inerentemente política. Em vez de reivindicar universalidade, este livro é um relato parcial e, ao levá-lo(a) comigo em minhas investigações, espero mostrar como minhas opiniões foram formadas. Encontraremos paisagens da computação bem conhecidas e outras menos exploradas: as minas a céu aberto, os longos corredores de data centers que consomem muita energia, arquivos de crânios, bancos de dados de imagens e os hangares iluminados por luz fluorescente de armazéns de distribuição. Esses locais são incluídos não apenas para ilustrar a construção material da IA ​​e suas ideologias, mas também para “iluminar os aspectos inevitavelmente subjetivos e políticos do mapeamento e para fornecer alternativas às abordagens hegemônicas, autoritárias — e muitas vezes naturalizadas e reificadas”, como escreve a pesquisadora de mídia Shannon Mattern.27 Os modelos para compreender e responsabilizar os sistemas há muito se baseiam em ideais de transparência. Como escrevi em colaboração com o pesquisador de mídia Mike Ananny, ser capaz de enxergar um sistema às vezes é equiparado a ser capaz de saber como ele funciona e como governá-lo.28 Mas essa tendência tem sérias limitações. No caso da IA, não há uma única caixa-preta a ser aberta, nenhum segredo a ser revelado, mas sim uma multiplicidade de sistemas de poder interligados. A transparência completa, portanto, é uma meta impossível. Em vez disso, obtemos uma melhor compreensão do papel da IA ​​no mundo ao interagirmos com suas arquiteturas materiais, ambientes contextuais e políticas vigentes, e ao rastrearmos como eles estão conectados. Meu pensamento neste livro foi fundamentado nas disciplinas de estudos de ciência e tecnologia, direito e filosofia política, bem como em minha experiência de trabalho tanto na academia quanto em um laboratório de pesquisa industrial de IA por quase uma década. Ao longo desses anos, muitos colegas e comunidades generosos mudaram a maneira como vejo o mundo: mapear é sempre um exercício coletivo, e este não é exceção.29 Sou grato aos acadêmicos que criaram novas maneiras de compreender os sistemas sociotécnicos, incluindo Geoffrey Bowker, Benjamin Bratton, Wendy Chun, Lorraine Daston, Peter Galison, Ian Hacking, Stuart Hall, Donald MacKenzie, Achille Mbembé, Alondra Nelson, Susan Leigh Star e Lucy Suchman, entre muitos outros. Este livro se beneficiou de muitas conversas presenciais e da leitura de trabalhos recentes de autores que estudam a política da tecnologia, incluindo Mark Andrejevic, Ruha Benjamin, Meredith Broussard, Simone Browne, Julie Cohen, Sasha Costanza-Chock, Virginia Eubanks, Tarleton Gillespie, Mar Hicks, Tung-Hui Hu, Yuk Hui, Safiya Umoja Noble e Astra Taylor. Como qualquer livro, este surge de uma experiência vivida específica que impõe limitações. Como alguém que viveu e trabalhou nos Estados Unidos na última década, meu foco se inclina para a indústria de IA nos centros de poder ocidentais. Mas meu objetivo não é criar um atlas global completo — a própria ideia evoca captura e controle colonial. Em vez disso, a visão de qualquer autor pode ser apenas parcial, baseada em observações e interpretações locais, no que a geógrafa ambiental Samantha Saville chama de “geografia humilde”, que reconhece as perspectivas específicas de cada um em vez de reivindicar objetividade ou domínio.30 Assim como existem muitas maneiras de se fazer um atlas, também existem muitos futuros possíveis para como a IA será usada no mundo. O alcance crescente dos sistemas de IA pode parecer inevitável, mas isso é contestável e incompleto. As visões subjacentes ao campo da IA ​​não surgem autonomamente, mas sim são construídas a partir de um conjunto específico de crenças e perspectivas. Os principais criadores do atlas contemporâneo da IA ​​são um pequeno e homogêneo grupo de pessoas, baseado em algumas cidades, trabalhando em um setor que atualmente é o mais rico do mundo. Assim como os mappae mundi medievais europeus, que ilustravam conceitos religiosos e clássicos tanto quanto coordenadas, os mapas feitos pela indústria da IA ​​são intervenções políticas, em oposição a reflexos neutros do mundo. Este livro foi concebido contrariando a lógica dos mapas coloniais e incorpora diferentes histórias, locais e bases de conhecimento para melhor compreender o papel da IA ​​no mundo.Como alguém que viveu e trabalhou nos Estados Unidos na última década, meu foco se inclina para a indústria de IA nos centros de poder ocidentais. Mas meu objetivo não é criar um atlas global completo — a própria ideia evoca captura e controle colonial. Em vez disso, a visão de qualquer autor pode ser apenas parcial, baseada em observações e interpretações locais, no que a geógrafa ambiental Samantha Saville chama de “geografia humilde”, que reconhece as perspectivas específicas de cada um em vez de reivindicar objetividade ou domínio.30 Assim como existem muitas maneiras de se fazer um atlas, também existem muitos futuros possíveis para como a IA será usada no mundo. O alcance crescente dos sistemas de IA pode parecer inevitável, mas isso é contestável e incompleto. As visões subjacentes ao campo da IA ​​não surgem autonomamente, mas sim são construídas a partir de um conjunto específico de crenças e perspectivas. Os principais idealizadores do atlas contemporâneo da IA ​​são um grupo pequeno e homogêneo de pessoas, baseadas em algumas cidades, trabalhando em uma indústria que atualmente é a mais rica do mundo. Assim como os mapas-múndi medievais europeus, que ilustravam conceitos religiosos e clássicos tanto quanto coordenadas, os mapas produzidos pela indústria de IA são intervenções políticas, em oposição a reflexos neutros do mundo. Este livro foi concebido contra o espírito da lógica cartográfica colonial e abrange diferentes histórias, locais e bases de conhecimento para melhor compreender o papel da IA ​​no mundo.Como alguém que viveu e trabalhou nos Estados Unidos na última década, meu foco se inclina para a indústria de IA nos centros de poder ocidentais. Mas meu objetivo não é criar um atlas global completo — a própria ideia evoca captura e controle colonial. Em vez disso, a visão de qualquer autor pode ser apenas parcial, baseada em observações e interpretações locais, no que a geógrafa ambiental Samantha Saville chama de “geografia humilde”, que reconhece as perspectivas específicas de cada um em vez de reivindicar objetividade ou domínio.30 Assim como existem muitas maneiras de se fazer um atlas, também existem muitos futuros possíveis para como a IA será usada no mundo. O alcance crescente dos sistemas de IA pode parecer inevitável, mas isso é contestável e incompleto. As visões subjacentes ao campo da IA ​​não surgem autonomamente, mas sim são construídas a partir de um conjunto específico de crenças e perspectivas. Os principais idealizadores do atlas contemporâneo da IA ​​são um grupo pequeno e homogêneo de pessoas, baseadas em algumas cidades, trabalhando em uma indústria que atualmente é a mais rica do mundo. Assim como os mapas-múndi medievais europeus, que ilustravam conceitos religiosos e clássicos tanto quanto coordenadas, os mapas produzidos pela indústria de IA são intervenções políticas, em oposição a reflexos neutros do mundo. Este livro foi concebido contra o espírito da lógica cartográfica colonial e abrange diferentes histórias, locais e bases de conhecimento para melhor compreender o papel da IA ​​no mundo.

Topografias da Computação: Como, neste momento do século XXI, a IA é concebida e construída? O que está em jogo na transição para a inteligência artificial e que tipo de política está implícita na forma como esses sistemas mapeiam e interpretam o mundo? Quais são as consequências sociais e materiais da inclusão da IA ​​e de sistemas algorítmicos relacionados nos sistemas de tomada de decisão de instituições sociais como educação e saúde, finanças, operações governamentais, interações e contratações no ambiente de trabalho, sistemas de comunicação e o sistema judiciário? Este livro não trata de código e algoritmos, nem das últimas tendências em visão computacional, processamento de linguagem natural ou aprendizado por reforço. Muitos outros livros já abordam esse tema. Tampouco se trata de um relato etnográfico de uma única comunidade e dos efeitos da IA ​​em sua experiência de trabalho, moradia ou medicina — embora certamente precisemos de mais relatos desse tipo. Em vez disso, este livro oferece uma visão ampliada da inteligência artificial como uma indústria extrativa. A criação dos sistemas de IA contemporâneos depende da exploração de recursos energéticos e minerais do planeta, mão de obra barata e dados em larga escala. Para observar isso na prática, faremos uma série de viagens a lugares que revelam os mecanismos de criação da IA. No capítulo 1, começamos nas minas de lítio de Nevada, um dos muitos locais de extração mineral necessários para alimentar a computação contemporânea. É na mineração que vemos a política extrativista da IA ​​em sua forma mais literal. A demanda do setor tecnológico por minerais de terras raras, petróleo e carvão é imensa, mas os custos reais dessa extração nunca são arcados pela própria indústria. No âmbito do software, a construção de modelos para processamento de linguagem natural e visão computacional consome uma quantidade enorme de energia, e a competição para produzir modelos mais rápidos e eficientes impulsionou métodos computacionalmente vorazes que expandem a pegada de carbono da IA. Das últimas árvores na Malásia, colhidas para produzir látex para os primeiros cabos submarinos transatlânticos, ao gigantesco lago artificial de resíduos tóxicos na Mongólia Interior, traçamos os berços ambientais e humanos das redes de computação planetária e vemos como elas continuam a transformar o planeta. O capítulo 2 mostra como a inteligência artificial é construída com trabalho humano. Analisamos os trabalhadores digitais que recebem centavos por dólar, clicando em microtarefas para que os sistemas de dados pareçam mais inteligentes do que realmente são.31 Nossa jornada nos levará aos armazéns da Amazon, onde os funcionários precisam acompanhar o ritmo algorítmico de um vasto império logístico, e visitaremos os trabalhadores da indústria de carne em Chicago, nas linhas de desmembramento, onde carcaças de animais são dissecadas e preparadas para o consumo. E ouviremos os trabalhadores que protestam contra a forma como os sistemas de IA estão aumentando a vigilância e o controle de seus patrões. O trabalho também é uma história sobre o tempo.Coordenar as ações humanas com os movimentos repetitivos de robôs e máquinas de linha de produção sempre envolveu o controle de corpos no espaço e no tempo.32 Da invenção do cronômetro ao TrueTime do Google, o processo de coordenação temporal está no cerne da gestão do ambiente de trabalho. As tecnologias de IA exigem e criam as condições para mecanismos de gestão temporal cada vez mais granulares e precisos. Coordenar o tempo demanda informações cada vez mais detalhadas sobre o que as pessoas estão fazendo, como e quando o fazem. O Capítulo 3 concentra-se no papel dos dados. Todo o material digital publicamente acessível — incluindo dados pessoais ou potencialmente prejudiciais — pode ser coletado para conjuntos de dados de treinamento usados ​​na produção de modelos de IA. Existem conjuntos de dados gigantescos repletos de selfies, gestos com as mãos, pessoas dirigindo, bebês chorando, conversas em grupos de discussão da década de 1990, tudo para aprimorar algoritmos que executam funções como reconhecimento facial, previsão de linguagem e detecção de objetos. Quando essas coleções de dados deixam de ser vistas como material pessoal e passam a ser meramente infraestrutura, o significado ou contexto específico de uma imagem ou vídeo torna-se irrelevante. Além das sérias questões de privacidade e do capitalismo de vigilância em curso, as práticas atuais de trabalho com dados em IA levantam profundas preocupações éticas, metodológicas e epistemológicas.33 E como todos esses dados são usados? No capítulo 4, analisamos as práticas de classificação em sistemas de inteligência artificial, o que a socióloga Karin Knorr Cetina chama de “maquinaria epistêmica”.34 Observamos como os sistemas contemporâneos usam rótulos para prever a identidade humana, geralmente utilizando gênero binário, categorias raciais essencializadas e avaliações problemáticas de caráter e capacidade de crédito. Um sinal representará um sistema, um substituto representará o real e um modelo simplificado será solicitado a substituir a infinita complexidade da subjetividade humana. Ao analisar como as classificações são feitas, vemos como os esquemas técnicos reforçam hierarquias e ampliam a desigualdade. O aprendizado de máquina nos apresenta um regime de raciocínio normativo que, quando em ascensão, assume a forma de uma poderosa racionalidade governante. Daqui, viajamos até as cidades montanhosas da Papua Nova Guiné para explorar a história do reconhecimento de afetos, a ideia de que as expressões faciais são a chave para revelar o estado emocional interno de uma pessoa. O Capítulo 5 examina a afirmação do psicólogo Paul Ekman de que existe um pequeno conjunto de estados emocionais universais que podem ser lidos diretamente no rosto. Empresas de tecnologia estão agora implementando essa ideia em sistemas de reconhecimento de afetos, como parte de uma indústria que deverá valer mais de dezessete bilhões de dólares.35 Mas existe uma considerável controvérsia científica em torno da detecção de emoções, que, na melhor das hipóteses, é incompleta e, na pior, enganosa. Apesar da premissa instável, essas ferramentas estão sendo rapidamente implementadas em sistemas de recrutamento, educação e policiamento.No capítulo 6, analisamos as maneiras pelas quais os sistemas de IA são usados ​​como ferramenta de poder estatal. O passado e o presente militar da inteligência artificial moldaram as práticas de vigilância, extração de dados e avaliação de riscos que vemos hoje. As profundas interconexões entre o setor tecnológico e as forças armadas estão sendo controladas para atender a uma forte agenda nacionalista. Enquanto isso, as ferramentas extralegais usadas pela comunidade de inteligência se dispersaram, migrando do mundo militar para o setor de tecnologia comercial, para serem usadas em salas de aula, delegacias de polícia, locais de trabalho e centros de emprego. As lógicas militares que moldaram os sistemas de IA agora fazem parte do funcionamento do governo municipal e distorcem ainda mais a relação entre Estado e cidadãos. O capítulo final avalia como a inteligência artificial funciona como uma estrutura de poder que combina infraestrutura, capital e trabalho. Desde o motorista do Uber que recebe um toque até o imigrante indocumentado que é rastreado, passando pelos moradores de habitações populares que lidam com sistemas de reconhecimento facial em suas casas, os sistemas de IA são construídos com as lógicas do capital, do policiamento e da militarização — e essa combinação amplia ainda mais as assimetrias de poder existentes. Essas formas de ver dependem dos movimentos gêmeos de abstração e extração: abstrair as condições materiais de sua criação enquanto se extrai mais informações e recursos daqueles que menos podem resistir. Mas essas lógicas podem ser contestadas, assim como os sistemas que perpetuam a opressão podem ser rejeitados. À medida que as condições na Terra mudam, os apelos por proteção de dados, direitos trabalhistas, justiça climática e igualdade racial devem ser ouvidos em conjunto. Quando esses movimentos interconectados por justiça influenciarem nossa compreensão da inteligência artificial, diferentes concepções de política planetária se tornarão possíveis.e militarização — e essa combinação amplia ainda mais as assimetrias de poder já existentes. Essas formas de ver o mundo dependem dos movimentos gêmeos de abstração e extração: abstrair as condições materiais de sua criação enquanto se extrai mais informações e recursos daqueles que menos podem resistir. Mas essas lógicas podem ser contestadas, assim como os sistemas que perpetuam a opressão podem ser rejeitados. À medida que as condições na Terra mudam, os apelos por proteção de dados, direitos trabalhistas, justiça climática e igualdade racial devem ser ouvidos em conjunto. Quando esses movimentos interconectados por justiça influenciam nossa compreensão da inteligência artificial, diferentes concepções de política planetária se tornam possíveis.e militarização — e essa combinação amplia ainda mais as assimetrias de poder já existentes. Essas formas de ver o mundo dependem dos movimentos gêmeos de abstração e extração: abstrair as condições materiais de sua criação enquanto se extrai mais informações e recursos daqueles que menos podem resistir. Mas essas lógicas podem ser contestadas, assim como os sistemas que perpetuam a opressão podem ser rejeitados. À medida que as condições na Terra mudam, os apelos por proteção de dados, direitos trabalhistas, justiça climática e igualdade racial devem ser ouvidos em conjunto. Quando esses movimentos interconectados por justiça influenciam nossa compreensão da inteligência artificial, diferentes concepções de política planetária se tornam possíveis.

Extração, Poder e Política. A inteligência artificial, portanto, é uma ideia, uma infraestrutura, uma indústria, uma forma de exercer poder e uma maneira de ver o mundo; é também uma manifestação de capital altamente organizado, sustentado por vastos sistemas de extração e logística, com cadeias de suprimentos que abrangem todo o planeta. Todos esses elementos fazem parte do que é a inteligência artificial — uma expressão de duas palavras sobre a qual se mapeia um conjunto complexo de expectativas, ideologias, desejos e medos. A IA pode parecer uma força espectral — uma computação desencarnada —, mas esses sistemas estão longe de ser abstratos. São infraestruturas físicas que estão remodelando a Terra, ao mesmo tempo que transformam a maneira como o mundo é visto e compreendido. É importante que lidemos com esses múltiplos aspectos da inteligência artificial — sua maleabilidade, sua complexidade e seu alcance espacial e temporal. A versatilidade do termo IA, sua abertura a reconfigurações, também significa que ele pode ser usado de diversas maneiras: pode se referir a tudo, desde dispositivos de consumo como o Amazon Echo até sistemas de processamento de dados complexos, de artigos técnicos específicos às maiores empresas industriais do mundo. Mas isso também tem sua utilidade. A abrangência do termo “inteligência artificial” nos permite considerar todos esses elementos e como eles estão profundamente interligados: da política da inteligência à coleta massiva de dados; da concentração industrial do setor tecnológico ao poder militar geopolítico; do desenraizamento ambiental às formas contínuas de discriminação. A tarefa é permanecer atento ao contexto e observar os significados mutáveis ​​e maleáveis ​​do termo “inteligência artificial” — como um recipiente no qual várias coisas são colocadas e depois retiradas — porque isso também faz parte da história. Em suma, a inteligência artificial agora é um ator na formação do conhecimento, da comunicação e do poder. Essas reconfigurações estão ocorrendo no nível da epistemologia, dos princípios de justiça, da organização social, da expressão política, da cultura, da compreensão dos corpos humanos, das subjetividades e das identidades: o que somos e o que podemos ser. Mas podemos ir além. A inteligência artificial, em processo de remapeamento e intervenção no mundo, é política por outros meios — embora raramente reconhecida como tal. Essa política é impulsionada pelas Grandes Casas da IA, que consistem nas cerca de meia dúzia de empresas que dominam a computação planetária em larga escala. Muitas instituições sociais são agora influenciadas por essas ferramentas e métodos, que moldam seus valores e a forma como as decisões são tomadas, criando uma complexa série de efeitos subsequentes. A intensificação do poder tecnocrático já vem ocorrendo há muito tempo, mas o processo agora se acelerou. Em parte, isso se deve à concentração do capital industrial em um período de austeridade econômica e terceirização.incluindo o desfinanciamento de sistemas e instituições de bem-estar social que antes atuavam como um freio ao poder de mercado. É por isso que devemos lidar com a IA como uma força política, econômica, cultural e científica. Como observam Alondra Nelson, Thuy Linh Tu e Alicia Headlam Hines, “As disputas em torno da tecnologia estão sempre ligadas a lutas maiores por mobilidade econômica, manobras políticas e construção de comunidades”.36 Estamos em uma conjuntura crítica, que exige que façamos perguntas difíceis sobre a forma como a IA é produzida e adotada. Precisamos perguntar: O que é IA? Que formas de política ela propaga? A quem ela serve e quem corre o maior risco de sofrer danos? E onde o uso da IA ​​deve ser limitado? Essas perguntas não terão respostas fáceis. Mas esta situação também não é insolúvel nem um ponto sem retorno — formas distópicas de pensamento podem nos paralisar e impedir intervenções urgentemente necessárias.37 Como escreve Ursula Franklin, “A viabilidade da tecnologia, assim como a da democracia, depende, em última análise, da prática da justiça e da aplicação de limites ao poder”.38 Este livro argumenta que abordar os problemas fundamentais da IA ​​e da computação planetária exige conectar questões de poder e justiça: da epistemologia aos direitos trabalhistas, da extração de recursos à proteção de dados, da desigualdade racial às mudanças climáticas. Para isso, precisamos ampliar nossa compreensão do que está acontecendo nos impérios da IA, para ver o que está em jogo e para tomar melhores decisões coletivas sobre o que deve vir a seguir.

Conclusão – Poder
A inteligência artificial não é uma técnica computacional objetiva, universal ou neutra que toma decisões sem intervenção humana. Seus sistemas estão inseridos em contextos sociais, políticos, culturais e econômicos, moldados por humanos, instituições e imperativos que determinam o que fazem e como o fazem. São projetados para discriminar, amplificar hierarquias e codificar classificações restritas. Quando aplicados em contextos sociais como policiamento, sistema judiciário, saúde e educação, podem reproduzir, otimizar e amplificar desigualdades estruturais existentes. Isso não é por acaso: os sistemas de IA são construídos para observar e intervir no mundo de maneiras que beneficiam principalmente os estados, instituições e corporações que servem. Nesse sentido, os sistemas de IA são expressões de poder que emergem de forças econômicas e políticas mais amplas, criadas para aumentar os lucros e centralizar o controle para aqueles que as detêm. Mas não é assim que a história da inteligência artificial costuma ser contada. As explicações convencionais sobre IA frequentemente se concentram em uma espécie de excepcionalismo algorítmico — a ideia de que, como os sistemas de IA podem realizar feitos computacionais extraordinários, eles devem ser mais inteligentes e objetivos do que seus criadores humanos imperfeitos. Considere este diagrama do AlphaGo Zero, um programa de IA desenvolvido pela DeepMind do Google para jogar jogos de estratégia.¹ A imagem mostra como ele “aprendeu” a jogar o jogo de estratégia chinês Go, avaliando mais de mil opções por jogada. No artigo que anuncia esse desenvolvimento, os autores escrevem: “Partindo do zero, nosso novo programa AlphaGo Zero alcançou um desempenho sobre-humano.”² O cofundador da DeepMind, Demis Hassabis, descreveu esses mecanismos de jogos como semelhantes a uma inteligência alienígena. “Não joga como um humano, mas também não joga como motores de computador. Joga de uma terceira maneira, quase alienígena… É como xadrez de outra dimensão.”³ Quando a próxima iteração dominou o Go em três dias, Hassabis descreveu o feito como “redescobrir três mil anos de conhecimento humano em 72 horas!”⁴ O diagrama do Go não mostra máquinas, trabalhadores humanos, investimento de capital, pegada de carbono, apenas um sistema abstrato baseado em regras, dotado de habilidades sobrenaturais. Narrativas de magia e mistificação se repetem ao longo da história da IA, desenhando círculos brilhantes em torno de demonstrações espetaculares de velocidade, eficiência e raciocínio computacional.⁵ Não é coincidência que um dos exemplos icônicos da IA ​​contemporânea seja um jogo.

Jogos sem Fronteiras. Os jogos têm sido um campo de testes privilegiado para programas de IA desde a década de 1950.⁶ Ao contrário da vida cotidiana, os jogos oferecem um mundo fechado com parâmetros definidos e condições de vitória claras. As raízes históricas da IA ​​na Segunda Guerra Mundial derivam de pesquisas financiadas pelos militares em processamento de sinais e otimização, que buscavam simplificar o mundo, tornando-o mais parecido com um jogo de estratégia. Surgiu uma forte ênfase na racionalização e na previsão, juntamente com a crença de que os formalismos matemáticos nos ajudariam a compreender os seres humanos e a sociedade.⁷ A crença de que a previsão precisa se baseia fundamentalmente na redução da complexidade do mundo deu origem a uma teoria implícita do social: encontrar o sinal no ruído e criar ordem a partir da desordem. Esse achatamento epistemológico da complexidade em sinal limpo para fins de previsão é agora uma lógica central do aprendizado de máquina. O historiador da tecnologia Alex Campolo e eu chamamos isso de determinismo encantado: os sistemas de IA são vistos como encantados, além do mundo conhecido, mas determinísticos, pois descobrem padrões que podem ser aplicados com certeza preditiva à vida cotidiana.8 Em discussões sobre sistemas de aprendizado profundo, onde as técnicas de aprendizado de máquina são ampliadas pela sobreposição de representações abstratas de dados, o determinismo encantado adquire uma qualidade quase teológica. O fato de as abordagens de aprendizado profundo serem frequentemente ininterpretáveis, mesmo para os engenheiros que as criaram, confere a esses sistemas uma aura de serem complexos demais para serem regulamentados e poderosos demais para serem rejeitados. Como observou o antropólogo social F.G. Bailey, a técnica de “obscurecer pela mistificação” é frequentemente empregada em contextos públicos para argumentar a favor da inevitabilidade de um fenômeno.9 Somos instruídos a focar na natureza inovadora do método em vez do que é primordial: o propósito da coisa em si. Acima de tudo, o determinismo encantado obscurece o poder e impede o debate público informado, o escrutínio crítico ou a rejeição direta. O determinismo encantado possui duas vertentes dominantes, cada uma um reflexo da outra. Uma é uma forma de utopismo tecnológico que oferece intervenções computacionais como soluções universais aplicáveis ​​a qualquer problema. A outra é uma perspectiva distópica tecnológica que culpa os algoritmos por seus resultados negativos como se fossem agentes independentes, sem levar em conta os contextos que os moldam e nos quais operam. Em um extremo, a narrativa distópica tecnológica culmina na singularidade, ou superinteligência — a teoria de que uma inteligência artificial poderia emergir e, em última instância, dominar ou destruir a humanidade.10 Essa visão raramente confronta a realidade de que muitas pessoas ao redor do mundo já são dominadas por sistemas de computação planetária extrativista. Esses discursos distópico e utópico são gêmeos metafísicos: um deposita sua fé na IA como solução para todos os problemas, enquanto o outro teme a IA como o maior perigo.Cada uma dessas perspectivas oferece uma visão profundamente ahistórica que localiza o poder exclusivamente na própria tecnologia. Seja a IA abstraída como uma ferramenta multifuncional ou como um senhor todo-poderoso, o resultado é o determinismo tecnológico. A IA assume a posição central na redenção ou ruína da sociedade, permitindo-nos ignorar as forças sistêmicas do neoliberalismo desenfreado, das políticas de austeridade, da desigualdade racial e da exploração generalizada do trabalho. Tanto os utopistas quanto os distópicos da tecnologia enquadram o problema com a tecnologia sempre no centro, inevitavelmente expandindo-se para todas as áreas da vida, dissociada das formas de poder que ela amplifica e serve. Quando o AlphaGo derrota um grande mestre humano, é tentador imaginar que algum tipo de inteligência sobrenatural tenha surgido. Mas existe uma explicação muito mais simples e precisa. Os mecanismos de jogos de IA são projetados para jogar milhões de partidas, executar análises estatísticas para otimizar resultados vitoriosos e, em seguida, jogar milhões de partidas a mais. Esses programas produzem jogadas surpreendentes, incomuns em jogos humanos, por um motivo simples: eles podem jogar e analisar muito mais partidas em uma velocidade muito maior do que qualquer humano. Isso não é mágica; Trata-se de análise estatística em grande escala. No entanto, os relatos de inteligência artificial sobrenatural persistem.11 Repetidamente, vemos a ideologia do dualismo cartesiano na IA: a fantasia de que os sistemas de IA são cérebros desencarnados que absorvem e produzem conhecimento independentemente de seus criadores, infraestruturas e do mundo em geral. Essas ilusões desviam a atenção de questões muito mais relevantes: a quem esses sistemas servem? Quais são as economias políticas de sua construção? E quais são as consequências planetárias mais amplas?A fantasia de que os sistemas de IA são cérebros desencarnados que absorvem e produzem conhecimento independentemente de seus criadores, infraestruturas e do mundo em geral. Essas ilusões desviam a atenção de questões muito mais relevantes: a quem esses sistemas servem? Quais são as economias políticas por trás de sua construção? E quais são as consequências planetárias mais amplas?A fantasia de que os sistemas de IA são cérebros desencarnados que absorvem e produzem conhecimento independentemente de seus criadores, infraestruturas e do mundo em geral. Essas ilusões desviam a atenção de questões muito mais relevantes: a quem esses sistemas servem? Quais são as economias políticas por trás de sua construção? E quais são as consequências planetárias mais amplas?

Os Oleodutos da IA ​​Considere uma ilustração diferente da IA: a planta do primeiro data center próprio e operado pelo Google, em The Dalles, Oregon. Ela retrata três edifícios de 6.378 metros quadrados, uma instalação enorme que, em 2008, foi estimada em consumir energia suficiente para abastecer 82 mil residências, ou uma cidade do tamanho de Tacoma, Washington.12 O data center agora se estende ao longo das margens do Rio Columbia, onde utiliza intensamente uma das eletricidades mais baratas da América do Norte. Os lobistas do Google negociaram por seis meses com autoridades locais para obter um acordo que incluía isenções fiscais, garantias de energia barata e o uso da rede de fibra óptica construída pela cidade. Ao contrário da visão abstrata de um jogo de Go, o plano de engenharia revela o quanto a visão técnica do Google depende de serviços públicos, incluindo gasodutos, tubulações de esgoto e as linhas de alta tensão por onde a eletricidade com desconto fluiria. Nas palavras da escritora Ginger Strand, “Por meio da infraestrutura urbana, incentivos fiscais estaduais e subsídios federais para energia, o YouTube é financiado por nós”. O projeto nos lembra o quanto a expansão da indústria de inteligência artificial foi subsidiada publicamente: desde o financiamento da defesa e agências federais de pesquisa até serviços públicos e isenções fiscais, passando pelos dados e trabalho não remunerado extraídos de todos que usam mecanismos de busca ou publicam imagens online. A IA começou como um grande projeto público do século XX e foi implacavelmente privatizada para gerar enormes ganhos financeiros para a pequena minoria no topo da pirâmide de extração. Esses diagramas apresentam duas maneiras diferentes de entender como a IA funciona. Argumentei que há muito em jogo na forma como definimos a IA, quais são seus limites e quem os determina: isso molda o que pode ser visto e contestado. O diagrama de Go remete às narrativas da indústria sobre uma nuvem computacional abstrata, muito distante dos recursos terrestres necessários para produzi-la, um paradigma onde a inovação técnica é glorificada, a regulamentação é rejeitada e os custos reais nunca são revelados. O projeto aponta para a infraestrutura física, mas omite todas as implicações ambientais e políticas. acordos que tornaram isso possível. Esses relatos parciais da IA ​​representam o que os filósofos Michael Hardt e Antonio Negri chamam de “operação dual de abstração e extração” no capitalismo da informação: abstrair as condições materiais de produção enquanto se extrai mais informações e recursos.14 A descrição da IA ​​como fundamentalmente abstrata a distancia da energia, do trabalho e do capital necessários para produzi-la e dos muitos tipos diferentes de mineração que a viabilizam. Este livro explorou a infraestrutura planetária da IA ​​como uma indústria extrativa: desde sua gênese material até a economia política de suas operações, passando pelos discursos que sustentam sua aura de imaterialidade e inevitabilidade. Vimos a política inerente à forma como os sistemas de IA são treinados para reconhecer o mundo.E observamos as formas sistêmicas de desigualdade que moldam a IA como a conhecemos hoje. A questão central reside no profundo entrelaçamento entre tecnologia, capital e poder, do qual a IA é a manifestação mais recente. Longe de serem insondáveis ​​e alienígenas, esses sistemas são produtos de estruturas sociais e econômicas mais amplas, com profundas consequências materiais.

O Mapa Não É o Território. Como podemos enxergar o ciclo de vida completo da inteligência artificial e a dinâmica de poder que a impulsiona? Precisamos ir além dos mapas convencionais da IA ​​para localizá-la em um contexto mais amplo. Atlas podem provocar uma mudança de escala, permitindo visualizar como os espaços se conectam uns aos outros. Este livro propõe que os verdadeiros interesses da IA ​​residem nos sistemas globais interconectados de extração e poder, e não nos imaginários tecnocráticos de artificialidade, abstração e automação. Para compreender a IA pelo que ela é, precisamos observar as estruturas de poder que ela serve. A IA nasce em lagos salgados na Bolívia e em minas no Congo, construída a partir de conjuntos de dados rotulados por crowdsourcing que buscam classificar ações, emoções e identidades humanas. Ela é usada para guiar drones sobre o Iêmen, direcionar a polícia de imigração nos Estados Unidos e modular pontuações de crédito de valor e risco humano em todo o mundo. Uma perspectiva ampla e multiescalar sobre a IA é necessária para lidar com esses regimes sobrepostos. Este livro começou no subsolo, onde a política extrativista da inteligência artificial pode ser vista em sua forma mais literal. Minerais de terras raras, água, carvão e petróleo: o setor tecnológico extrai recursos da Terra para abastecer suas infraestruturas de alto consumo energético. A pegada de carbono da IA ​​nunca é totalmente admitida ou contabilizada pelo setor tecnológico, que simultaneamente expande as redes de data centers e auxilia a indústria de petróleo e gás a localizar e explorar as reservas remanescentes de combustíveis fósseis. A opacidade da cadeia de suprimentos da computação em geral, e da IA ​​em particular, faz parte de um modelo de negócios consolidado de extração de valor dos bens comuns e de evasão da reparação pelos danos duradouros. O trabalho representa outra forma de extração. No capítulo 2, fomos além dos engenheiros de aprendizado de máquina altamente remunerados para considerar as outras formas de trabalho necessárias para o funcionamento dos sistemas de inteligência artificial. Dos mineiros que extraem estanho na Indonésia aos trabalhadores remotos na Índia que realizam tarefas no Amazon Mechanical Turk, passando pelos operários da fábrica de iPhones da Foxconn na China, a força de trabalho da IA ​​é muito maior do que normalmente imaginamos. Mesmo dentro das empresas de tecnologia, existe uma grande força de trabalho informal de trabalhadores terceirizados, que superam significativamente em número os funcionários em tempo integral, mas têm menos benefícios e nenhuma segurança no emprego.15 Nos nós logísticos do setor de tecnologia, encontramos humanos realizando as tarefas que as máquinas não conseguem. Milhares de pessoas são necessárias para sustentar a ilusão de automação: etiquetando, corrigindo, avaliando e editando sistemas de IA para que pareçam perfeitos. Outros carregam pacotes, dirigem para aplicativos de transporte e entregam comida. Os sistemas de IA monitoram todos eles, enquanto extraem o máximo de produtividade da funcionalidade básica dos corpos humanos: as articulações complexas dos dedos, olhos e articulações dos joelhos são mais baratas e fáceis de adquirir do que robôs. Nesses espaços, o futuro do trabalho se assemelha mais às fábricas tayloristas do passado.Mas com pulseiras que vibram quando os funcionários cometem erros e penalidades aplicadas por idas excessivas ao banheiro. O uso da IA ​​no ambiente de trabalho acentua ainda mais os desequilíbrios de poder, colocando mais controle nas mãos dos empregadores. Aplicativos são usados ​​para rastrear funcionários, incentivá-los a trabalhar mais horas e classificá-los em tempo real. A Amazon fornece um exemplo clássico de como uma microfísica do poder — disciplinar corpos e seus movimentos no espaço — está conectada a uma macrofísica do poder, uma logística do tempo e da informação planetários. Os sistemas de IA exploram as diferenças de tempo e salários entre os mercados para acelerar os circuitos de capital. De repente, todos nos centros urbanos podem ter — e esperam — entregas no mesmo dia. E o sistema acelera novamente, com as consequências materiais escondidas por trás das caixas de papelão, caminhões de entrega e botões de “comprar agora”. Na camada de dados, podemos ver uma geografia de extração diferente. “Estamos construindo um espelho do mundo real”, disse um engenheiro do Google Street View em 2012. “Tudo o que você vê no mundo real precisa estar em nossos bancos de dados.”¹⁶ Desde então, a coleta de dados do mundo real só se intensificou, alcançando espaços antes difíceis de capturar. Como vimos no capítulo 3, houve uma pilhagem generalizada de espaços públicos; rostos de pessoas na rua foram capturados para treinar sistemas de reconhecimento facial; feeds de mídias sociais foram utilizados para construir modelos preditivos de linguagem; sites onde as pessoas guardam fotos pessoais ou participam de debates online foram coletados para treinar algoritmos de visão computacional e linguagem natural. Essa prática se tornou tão comum que poucos na área de IA a questionam. Em parte, isso se deve ao fato de muitas carreiras e avaliações de mercado dependerem dela. A mentalidade de “coletar tudo”, antes domínio das agências de inteligência, não só se normalizou, como também foi moralizada — considera-se um desperdício não coletar dados sempre que possível.17 Uma vez extraídos e organizados em conjuntos de treinamento, os dados se tornam a base epistêmica pela qual os sistemas de IA classificam o mundo. A partir de conjuntos de treinamento de referência, como ImageNet, MS-Celeb ou as coleções do NIST, as imagens são usadas para representar ideias muito mais relacionais e controversas do que os rótulos podem sugerir. No capítulo 4, vimos como as taxonomias de rotulagem alocam pessoas em binarismos de gênero forçados, agrupamentos raciais simplistas e ofensivos e análises altamente normativas e estereotipadas de caráter, mérito e estado emocional. Essas classificações, inevitavelmente carregadas de valores, impõem uma forma de ver o mundo, ao mesmo tempo que reivindicam neutralidade científica. Os conjuntos de dados em IA nunca são matéria-prima para alimentar algoritmos: são inerentemente intervenções políticas. Toda a prática de coletar dados, categorizá-los e rotulá-los, e então usá-los para treinar sistemas, é uma forma de política. Isso provocou uma mudança para o que se chama de imagens operacionais — representações do mundo feitas exclusivamente para máquinas.18 O viés é um sintoma de um problema mais profundo:Uma lógica normativa abrangente e centralizadora é usada para determinar como o mundo deve ser visto e avaliado. Um exemplo central disso é a detecção de afetos, descrita no capítulo 5, que se baseia em ideias controversas sobre a relação entre rostos e emoções e as aplica com a lógica redutiva de um teste de polígrafo. A ciência permanece profundamente contestada.19 As instituições sempre classificaram as pessoas em categorias de identidade, restringindo a individualidade e reduzindo-a a compartimentos precisamente mensurados. O aprendizado de máquina permite que isso aconteça em larga escala. Das cidades montanhosas da Papua-Nova Guiné aos laboratórios militares em Maryland, técnicas foram desenvolvidas para reduzir a complexidade dos sentimentos, estados interiores, preferências e identificações a algo quantitativo, detectável e rastreável. Que violência epistemológica é necessária para tornar o mundo legível para um sistema de aprendizado de máquina? A IA busca sistematizar o não sistematizável, formalizar o social e converter um universo infinitamente complexo e mutável em uma ordem lineana de tabelas legíveis por máquina. Muitas das conquistas da IA ​​dependem de reduzir tudo a um conjunto conciso de formalismos baseados em indicadores: identificar e nomear algumas características, ignorando ou obscurecendo inúmeras outras. Adaptando uma frase da filósofa Babette Babich, o aprendizado de máquina explora o que sabe para prever o que não sabe: um jogo de aproximações repetidas. Os conjuntos de dados também são indicadores — substitutos para aquilo que afirmam medir. Simplificando, trata-se de transmutar a diferença em semelhança computável. Esse tipo de esquema de conhecimento lembra o que Friedrich Nietzsche descreveu como “a falsificação do multifacetado e incalculável no idêntico, semelhante e calculável”.²⁰ Os sistemas de IA tornam-se determinísticos quando esses indicadores são tomados como verdade absoluta, quando rótulos fixos são aplicados a uma complexidade fluida. Vimos isso nos casos em que a IA é usada para prever gênero, raça ou sexualidade a partir de uma fotografia de um rosto.²¹ Essas abordagens assemelham-se à frenologia e à fisiognomia em seu desejo de essencializar e impor identidades com base em aparências externas. O problema da verdade fundamental para sistemas de IA se intensifica no contexto do poder estatal, como vimos no capítulo 6. As agências de inteligência lideraram a coleta massiva de dados, onde assinaturas de metadados são suficientes para ataques letais com drones e a localização de um celular se torna um indicador de um alvo desconhecido. Mesmo aqui, a linguagem insensível dos metadados e dos ataques cirúrgicos é diretamente contradita pelas mortes não intencionais causadas por mísseis de drones.22 Como Lucy Suchman questionou, como os “objetos” são identificados como ameaças iminentes? Sabemos que “caminhonete do ISIS” é uma categoria baseada em dados rotulados manualmente, mas quem escolheu as categorias e identificou os veículos?23 Vimos as confusões e erros epistemológicos de conjuntos de treinamento de reconhecimento de objetos como o ImageNet; sistemas de IA militar e ataques com drones são construídos sobre o mesmo terreno instável.As profundas interconexões entre o setor tecnológico e as forças armadas estão agora enquadradas numa forte agenda nacionalista. A retórica sobre a guerra da inteligência artificial entre os Estados Unidos e a China impulsiona os interesses das maiores empresas de tecnologia, que passam a operar com maior apoio governamental e poucas restrições. Enquanto isso, o arsenal de vigilância usado por agências como a NSA e a CIA está agora sendo implantado internamente, em nível municipal, no espaço intermediário entre contratos comerciais e militares, por empresas como a Palantir. Imigrantes indocumentados são caçados com sistemas logísticos de controle e captura total de informações, antes reservados à espionagem extralegal. Sistemas de tomada de decisão em programas de assistência social são usados ​​para rastrear padrões de dados anômalos, a fim de cortar o acesso das pessoas ao seguro-desemprego e acusá-las de fraude. A tecnologia de leitura de placas de veículos está sendo usada por sistemas de vigilância residencial — uma integração generalizada de redes de vigilância antes separadas.²⁴ O resultado é uma expansão profunda e rápida da vigilância e uma indistinção entre empresas privadas, forças policiais e o setor tecnológico, alimentada por propinas e acordos secretos. Trata-se de uma reformulação radical da vida cívica, onde os centros de poder são fortalecidos por ferramentas que se alinham com a lógica do capital, do policiamento e da militarização.

Em direção a movimentos conectados pela justiça. Se a IA atualmente serve às estruturas de poder existentes, uma pergunta óbvia seria: não deveríamos buscar democratizá-la? Não poderia haver uma IA para o povo, reorientada para a justiça e a igualdade, em vez da extração industrial e da discriminação? Isso pode parecer atraente, mas, como vimos ao longo deste livro, as infraestruturas e as formas de poder que possibilitam e são possibilitadas pela IA tendem fortemente à centralização do controle. Sugerir que democratizemos a IA para reduzir as assimetrias de poder é um pouco como defender a democratização da fabricação de armas a serviço da paz. Como Audre Lorde nos lembra, as ferramentas do opressor jamais desmantelarão a casa do opressor.25 É preciso que o setor de tecnologia faça as contas. Até o momento, uma resposta comum da indústria tem sido a assinatura de princípios de ética em IA. Como observou a parlamentar da União Europeia Marietje Schaake, em 2019 havia 128 estruturas para ética em IA somente na Europa.26 Esses documentos são frequentemente apresentados como produtos de um “consenso mais amplo” sobre ética em IA. Mas são produzidos, em sua grande maioria, por países economicamente desenvolvidos, com pouca representação da África, América do Sul e Central ou Ásia Central. As vozes das pessoas mais prejudicadas pelos sistemas de IA estão amplamente ausentes dos processos que os produzem.27 Além disso, os princípios e declarações éticas não discutem como devem ser implementados e raramente são aplicáveis ​​ou responsabilizados perante um público mais amplo. Como observou Shannon Mattern, o foco geralmente recai sobre os fins éticos da IA, sem avaliar os meios éticos de sua aplicação.28 Diferentemente da medicina ou do direito, a IA não possui uma estrutura ou normas formais de governança profissional — não há definições e objetivos consensuais para a área nem protocolos padrão para a aplicação da prática ética.29 Os marcos éticos autorregulamentados permitem que as empresas escolham como implantar as tecnologias e, por extensão, decidam o que significa IA ética para o resto do mundo.30 As empresas de tecnologia raramente sofrem penalidades financeiras sérias quando seus sistemas de IA violam a lei e consequências ainda menores quando seus princípios éticos são violados. Além disso, as empresas de capital aberto são pressionadas pelos acionistas a maximizar o retorno sobre o investimento em detrimento das preocupações éticas, geralmente tornando a ética secundária aos lucros. Consequentemente, a ética é necessária, mas não suficiente para abordar as preocupações fundamentais levantadas neste livro. Para entender o que está em jogo, devemos nos concentrar menos na ética e mais no poder. A IA é invariavelmente projetada para amplificar e reproduzir as formas de poder que foi implantada para otimizar. Combater isso exige priorizar os interesses das comunidades mais afetadas.31 Em vez de glorificar fundadores de empresas, capitalistas de risco e visionários da tecnologia, devemos começar com as experiências vividas por aqueles que são desempoderados, discriminados e prejudicados pelos sistemas de IA. Quando alguém diz “ética da IA”, devemos avaliar as condições de trabalho dos mineiros,empreiteiros e trabalhadores terceirizados. Quando ouvimos “otimização”, devemos nos perguntar se essas são ferramentas para o tratamento desumano de imigrantes. Quando há aplausos para a “automação em larga escala”, devemos nos lembrar da pegada de carbono resultante em um momento em que o planeta já está sob extrema pressão. O que significaria trabalhar em prol da justiça em todos esses sistemas? Em 1986, o teórico político Langdon Winner descreveu uma sociedade “comprometida em criar realidades artificiais” sem se preocupar com os danos que isso poderia causar às condições de vida: “Vastas transformações na estrutura do nosso mundo comum foram empreendidas com pouca atenção ao significado dessas alterações. […] No âmbito técnico, repetidamente firmamos uma série de contratos sociais, cujos termos só são revelados após a assinatura.”32 Nas quatro décadas seguintes, essas transformações atingiram uma escala que alterou a composição química da atmosfera, a temperatura da superfície da Terra e o conteúdo da crosta terrestre. A distância entre como a tecnologia é julgada em seu lançamento e suas consequências duradouras só aumentou. O contrato social, na medida em que algum dia existiu, trouxe consigo uma crise climática, desigualdade de riqueza crescente, discriminação racial e vigilância e exploração do trabalho generalizadas. Mas a ideia de que essas transformações ocorreram na ignorância de seus possíveis resultados faz parte do problema. O filósofo Achille Mbembé critica duramente a ideia de que não poderíamos ter previsto o que aconteceria com os sistemas de conhecimento do século XXI, já que eles sempre foram “operações de abstração que pretendem racionalizar o mundo com base na lógica corporativa”.33 Ele escreve: “Trata-se de extração, captura, culto aos dados, mercantilização da capacidade humana de pensamento e descarte da razão crítica em favor da programação. […] Agora, mais do que nunca, o que precisamos é de uma nova crítica da tecnologia, da experiência da vida técnica”.34 A próxima era da crítica também precisará encontrar espaços além da vida técnica, derrubando o dogma da inevitabilidade. Quando a rápida expansão da IA ​​é vista como imparável, só é possível improvisar restrições legais e técnicas aos sistemas a posteriori: limpar conjuntos de dados, fortalecer leis de privacidade ou criar comitês de ética. Mas essas serão sempre respostas parciais e incompletas, nas quais a tecnologia é pressuposta e tudo o mais precisa se adaptar. Mas o que acontece se invertermos essa polaridade e começarmos com o compromisso com um mundo mais justo e sustentável? Como podemos intervir para abordar questões interdependentes de injustiça social, econômica e climática? Onde a tecnologia serve a essa visão? E existem áreas onde a IA não deve ser usada, onde ela mina a justiça? Essa é a base para uma política de recusa renovada — opondo-se às narrativas de inevitabilidade tecnológica que dizem: “Se pode ser feito, será feito”. Em vez de perguntar onde a IA será aplicada,A ênfase deve estar no porquê de a inteligência artificial ser usada simplesmente porque é possível, e não no porquê de ela ser aplicada. Ao perguntarmos “Por que usar inteligência artificial?”, podemos questionar a ideia de que tudo deve estar sujeito à lógica da previsão estatística e da acumulação de lucros, o que Donna Haraway chama de “informática da dominação”.35 Observamos vislumbres dessa recusa quando populações optam por desmantelar o policiamento preditivo, proibir o reconhecimento facial ou protestar contra a avaliação algorítmica. Até agora, essas pequenas vitórias têm sido fragmentadas e localizadas, muitas vezes concentradas em cidades com mais recursos para organização, como Londres, São Francisco, Hong Kong e Portland, Oregon. Mas elas apontam para a necessidade de movimentos nacionais e internacionais mais amplos que rejeitem abordagens que priorizam a tecnologia e se concentrem em abordar as desigualdades e injustiças subjacentes. A recusa exige rejeitar a ideia de que as mesmas ferramentas que servem ao capital, aos militares e à polícia também sejam adequadas para transformar escolas, hospitais, cidades e ecossistemas, como se fossem calculadoras neutras em relação a valores que podem ser aplicadas em todos os lugares. Os apelos por justiça trabalhista, climática e de dados são mais poderosos quando unidos. Acima de tudo, vejo a maior esperança nos crescentes movimentos por justiça que abordam a inter-relação entre capitalismo, computação e controle: reunindo questões de justiça climática, direitos trabalhistas, justiça racial, proteção de dados e o abuso do poder policial e militar. Ao rejeitarmos sistemas que perpetuam a desigualdade e a violência, desafiamos as estruturas de poder que a IA atualmente reforça e criamos as bases para uma sociedade diferente.36 Como observa Ruha Benjamin, “Derrick Bell disse o seguinte: ‘Para ver as coisas como elas realmente são, você precisa imaginá-las como elas poderiam ser.’ Somos criadores de padrões e precisamos mudar o conteúdo de nossos padrões existentes.”37 Para isso, será necessário nos desvencilharmos do encanto do solucionismo tecnológico e abraçarmos solidariedades alternativas — o que Mbembé chama de “uma política diferente de habitar a Terra, de reparar e compartilhar o planeta.”38 Existem políticas coletivas sustentáveis ​​além da extração de valor; existem bens comuns que valem a pena preservar, mundos além do mercado e maneiras de viver além da discriminação e dos modos brutais de otimização. Nossa tarefa é traçar um caminho nessa direção.Mas apontam para a necessidade de movimentos nacionais e internacionais mais amplos que rejeitem abordagens que priorizem a tecnologia e se concentrem em abordar as desigualdades e injustiças subjacentes. A recusa exige rejeitar a ideia de que as mesmas ferramentas que servem ao capital, aos militares e à polícia também sejam adequadas para transformar escolas, hospitais, cidades e ecologias, como se fossem calculadoras neutras em relação a valores, que possam ser aplicadas em todos os lugares. Os apelos por justiça trabalhista, climática e de dados são mais poderosos quando unidos. Acima de tudo, vejo a maior esperança nos crescentes movimentos por justiça que abordam a inter-relação entre capitalismo, computação e controle: reunindo questões de justiça climática, direitos trabalhistas, justiça racial, proteção de dados e o abuso do poder policial e militar. Ao rejeitarmos sistemas que perpetuam a desigualdade e a violência, desafiamos as estruturas de poder que a IA atualmente reforça e criamos as bases para uma sociedade diferente.36 Como observa Ruha Benjamin, “Derrick Bell disse o seguinte: ‘Para ver as coisas como elas realmente são, você precisa imaginá-las como elas poderiam ser.’ Somos criadores de padrões e precisamos mudar o conteúdo dos nossos padrões existentes.”37 Para isso, será necessário nos desvencilharmos do encanto do solucionismo tecnológico e abraçarmos solidariedades alternativas — o que Mbembé chama de “uma política diferente de habitar a Terra, de reparar e compartilhar o planeta.”38 Existem políticas coletivas sustentáveis ​​que vão além da extração de valor; existem bens comuns que valem a pena preservar, mundos além do mercado e maneiras de viver além da discriminação e dos modos brutais de otimização. Nossa tarefa é traçar um caminho nessa direção.Mas apontam para a necessidade de movimentos nacionais e internacionais mais amplos que rejeitem abordagens que priorizem a tecnologia e se concentrem em abordar as desigualdades e injustiças subjacentes. A recusa exige rejeitar a ideia de que as mesmas ferramentas que servem ao capital, aos militares e à polícia também sejam adequadas para transformar escolas, hospitais, cidades e ecologias, como se fossem calculadoras neutras em relação a valores, que possam ser aplicadas em todos os lugares. Os apelos por justiça trabalhista, climática e de dados são mais poderosos quando unidos. Acima de tudo, vejo a maior esperança nos crescentes movimentos por justiça que abordam a inter-relação entre capitalismo, computação e controle: reunindo questões de justiça climática, direitos trabalhistas, justiça racial, proteção de dados e o abuso do poder policial e militar. Ao rejeitarmos sistemas que perpetuam a desigualdade e a violência, desafiamos as estruturas de poder que a IA atualmente reforça e criamos as bases para uma sociedade diferente.36 Como observa Ruha Benjamin, “Derrick Bell disse o seguinte: ‘Para ver as coisas como elas realmente são, você precisa imaginá-las como elas poderiam ser.’ Somos criadores de padrões e precisamos mudar o conteúdo dos nossos padrões existentes.”37 Para isso, será necessário nos desvencilharmos do encanto do solucionismo tecnológico e abraçarmos solidariedades alternativas — o que Mbembé chama de “uma política diferente de habitar a Terra, de reparar e compartilhar o planeta.”38 Existem políticas coletivas sustentáveis ​​que vão além da extração de valor; existem bens comuns que valem a pena preservar, mundos além do mercado e maneiras de viver além da discriminação e dos modos brutais de otimização. Nossa tarefa é traçar um caminho nessa direção.“38 Existem políticas coletivas sustentáveis ​​que vão além da extração de valor; existem bens comuns que valem a pena preservar, mundos além do mercado e maneiras de viver além da discriminação e dos modos brutais de otimização. Nossa tarefa é traçar um caminho nessa direção.”“38 Existem políticas coletivas sustentáveis ​​que vão além da extração de valor; existem bens comuns que valem a pena preservar, mundos além do mercado e maneiras de viver além da discriminação e dos modos brutais de otimização. Nossa tarefa é traçar um caminho nessa direção.”

Coda – Espaço

Começa a contagem regressiva. Imagens de arquivo começam a ser exibidas. Os motores na base de um imponente Saturno V são acionados e o foguete inicia a decolagem. Ouvimos a voz de Jeff Bezos: “Desde os cinco anos de idade — quando Neil Armstrong pisou na superfície da Lua — sou apaixonado por espaço, foguetes, motores de foguete e viagens espaciais.” Uma série de imagens inspiradoras aparece: alpinistas em cumes, exploradores descendo cânions, um mergulhador nadando em meio a um cardume de peixes. Corte para Bezos em uma sala de controle durante um lançamento, ajustando seu fone de ouvido. A narração continua: “Este é o trabalho mais importante que estou fazendo. É um argumento simples: este é o melhor planeta. E, portanto, enfrentamos uma escolha. À medida que avançamos, teremos que decidir se queremos uma civilização estagnada — teremos que limitar a população, teremos que limitar o consumo de energia per capita — ou se podemos resolver esse problema, partindo para o espaço.”¹ A trilha sonora se intensifica e imagens do espaço profundo são contrapostas a cenas das movimentadas rodovias de Los Angeles e cruzamentos congestionados. “Von Braun disse, após o pouso na Lua: ‘Aprendi a usar a palavra impossível com muita cautela.’ E espero que vocês adotem essa mesma atitude em relação às suas vidas.”² Esta cena é de um vídeo promocional da empresa aeroespacial privada de Bezos, a Blue Origin. O lema da empresa é Gradatim Ferociter, latim para “Passo a Passo, Ferozmente”. A curto prazo, a Blue Origin está construindo foguetes reutilizáveis ​​e módulos de pouso lunar, testando-os principalmente em suas instalações e base suborbital no oeste do Texas. Até 2024, a empresa quer estar transportando astronautas e cargas para a Lua.3 Mas, a longo prazo, a missão da empresa é muito mais ambiciosa: ajudar a criar um futuro em que milhões de pessoas vivam e trabalhem no espaço. Especificamente, Bezos delineou sua esperança de construir colônias espaciais gigantes, onde as pessoas viveriam em ambientes flutuantes e industrializados.4 A indústria pesada seria transferida completamente para fora do planeta, a nova fronteira para a extração. Enquanto isso, a Terra seria destinada à construção residencial e à indústria leve, sendo deixada como um “lugar bonito para se viver, um lugar bonito para se visitar” — presumivelmente para aqueles que podem se dar ao luxo de estar lá, em vez de trabalhar nas colônias fora da Terra.5 Bezos possui um poder industrial extraordinário e crescente. A Amazon continua a capturar uma fatia cada vez maior do comércio online dos EUA, a Amazon Web Services representa quase metade do setor de computação em nuvem e, segundo algumas estimativas, o site da Amazon tem mais buscas de produtos do que o Google.6 Apesar de tudo isso, Bezos está preocupado. Seu temor é que a crescente demanda de energia do planeta em breve ultrapasse sua oferta limitada. Para ele, a preocupação “não é necessariamente a extinção”, mas a estagnação: “Teremos que parar de crescer, o que eu acho que é um futuro muito ruim.”7 Bezos não está sozinho. Ele é apenas um dos vários bilionários da tecnologia focados no espaço. A Planetary Resources, liderada pelo fundador do Prêmio X, Peter Diamandis, e apoiada por investimentos de Larry Page e Eric Schmidt, do Google,O objetivo era criar a primeira mina comercial no espaço perfurando asteroides.8 Elon Musk, CEO da Tesla e da SpaceX, anunciou sua intenção de colonizar Marte em cem anos — admitindo, porém, que para isso, os primeiros astronautas devem “estar preparados para morrer”.9 Musk também defendeu a terraformação da superfície de Marte para assentamento humano por meio da detonação de armas nucleares nos polos.10 A SpaceX lançou uma camiseta com a frase “NUKE MARS” (Bombardeie Marte). Musk também realizou o que é possivelmente o exercício de relações públicas mais caro da história ao lançar um carro da Tesla em órbita heliocêntrica a bordo de um foguete Falcon Heavy da SpaceX. Pesquisadores estimam que o carro permanecerá no espaço por milhões de anos, até finalmente cair de volta à Terra.11 A ideologia desses espetáculos espaciais está profundamente interligada à da indústria de inteligência artificial. A extrema riqueza e o poder gerados pelas empresas de tecnologia agora permitem que um pequeno grupo de homens busque sua própria corrida espacial particular. Eles dependem da exploração do conhecimento e das infraestruturas dos programas espaciais públicos do século XX e, muitas vezes, também contam com financiamento governamental e incentivos fiscais.12 Seu objetivo não é limitar a extração e o crescimento, mas sim expandi-los por todo o sistema solar. Na realidade, esses esforços dizem respeito tanto a um imaginário do espaço, ao crescimento infinito e à imortalidade quanto às possibilidades incertas e desagradáveis ​​da colonização espacial propriamente dita. A inspiração de Bezos para a conquista do espaço vem, em parte, do físico e romancista de ficção científica Gerard K. O’Neill. O’Neill escreveu “The High Frontier: Human Colonies in Space” (A Alta Fronteira: Colônias Humanas no Espaço), uma fantasia de colonização espacial de 1976, que inclui ilustrações exuberantes da mineração lunar com uma abundância digna de Rockwell.13 O plano de Bezos para a Blue Origin é inspirado por essa visão bucólica de assentamento humano permanente, para a qual não existe tecnologia atualmente.14 O’Neill foi motivado pelo “desânimo e choque” que sentiu ao ler o relatório histórico de 1972 do Clube de Roma, intitulado “Os Limites do Crescimento”.15 O relatório publicou dados extensos e modelos preditivos sobre o fim dos recursos não renováveis ​​e o impacto no crescimento populacional, na sustentabilidade e no futuro da humanidade na Terra.16 Como resume o estudioso de arquitetura e planejamento Fred Scharmen:até que finalmente caia de volta à Terra.11 A ideologia desses espetáculos espaciais está profundamente interligada à da indústria de IA. A extrema riqueza e o poder gerados pelas empresas de tecnologia permitem agora que um pequeno grupo de indivíduos busque sua própria corrida espacial privada. Eles dependem da exploração do conhecimento e das infraestruturas dos programas espaciais públicos do século XX e, frequentemente, também contam com financiamento governamental e incentivos fiscais.12 Seu objetivo não é limitar a extração e o crescimento, mas estendê-los por todo o sistema solar. Na realidade, esses esforços dizem respeito tanto a um imaginário do espaço, ao crescimento infinito e à imortalidade quanto às possibilidades incertas e desagradáveis ​​da colonização espacial propriamente dita. A inspiração de Bezos para a conquista do espaço vem, em parte, do físico e romancista de ficção científica Gerard K. O’Neill. O’Neill escreveu “The High Frontier: Human Colonies in Space” (A Alta Fronteira: Colônias Humanas no Espaço), uma fantasia de colonização espacial de 1976, que inclui ilustrações exuberantes da mineração lunar com uma abundância digna de Rockwell.13 O plano de Bezos para a Blue Origin é inspirado por essa visão bucólica de assentamento humano permanente, para a qual não existe tecnologia atualmente.14 O’Neill foi motivado pelo “desânimo e choque” que sentiu ao ler o relatório histórico de 1972 do Clube de Roma, intitulado “Os Limites do Crescimento”.15 O relatório publicou dados extensos e modelos preditivos sobre o fim dos recursos não renováveis ​​e o impacto no crescimento populacional, na sustentabilidade e no futuro da humanidade na Terra.16 Como resume o estudioso de arquitetura e planejamento Fred Scharmen:até que finalmente caia de volta à Terra.11 A ideologia desses espetáculos espaciais está profundamente interligada à da indústria de IA. A extrema riqueza e o poder gerados pelas empresas de tecnologia permitem agora que um pequeno grupo de indivíduos busque sua própria corrida espacial privada. Eles dependem da exploração do conhecimento e das infraestruturas dos programas espaciais públicos do século XX e, frequentemente, também contam com financiamento governamental e incentivos fiscais.12 Seu objetivo não é limitar a extração e o crescimento, mas estendê-los por todo o sistema solar. Na realidade, esses esforços dizem respeito tanto a um imaginário do espaço, ao crescimento infinito e à imortalidade quanto às possibilidades incertas e desagradáveis ​​da colonização espacial propriamente dita. A inspiração de Bezos para a conquista do espaço vem, em parte, do físico e romancista de ficção científica Gerard K. O’Neill. O’Neill escreveu “The High Frontier: Human Colonies in Space” (A Alta Fronteira: Colônias Humanas no Espaço), uma fantasia de colonização espacial de 1976, que inclui ilustrações exuberantes da mineração lunar com uma abundância digna de Rockwell.13 O plano de Bezos para a Blue Origin é inspirado por essa visão bucólica de assentamento humano permanente, para a qual não existe tecnologia atualmente.14 O’Neill foi motivado pelo “desânimo e choque” que sentiu ao ler o relatório histórico de 1972 do Clube de Roma, intitulado “Os Limites do Crescimento”.15 O relatório publicou dados extensos e modelos preditivos sobre o fim dos recursos não renováveis ​​e o impacto no crescimento populacional, na sustentabilidade e no futuro da humanidade na Terra.16 Como resume o estudioso de arquitetura e planejamento Fred Scharmen:e o futuro da humanidade na Terra.16 Como resume o estudioso de arquitetura e planejamento Fred Scharmen:e o futuro da humanidade na Terra.16 Como resume o estudioso de arquitetura e planejamento Fred Scharmen:

Os modelos do Clube de Roma calculam resultados a partir de diferentes conjuntos de premissas iniciais. Os cenários de referência, extrapolados das tendências da época, mostram um colapso populacional e de recursos antes do ano 1100. Quando os modelos assumem o dobro das reservas de recursos conhecidas, ocorre um novo colapso, para um nível ligeiramente superior, mas ainda antes de 2100. Quando assumem que a tecnologia disponibilizará recursos “ilimitados”, o colapso populacional é ainda mais acentuado do que antes, devido a picos de poluição. Com a inclusão de medidas de controle da poluição no modelo, o colapso populacional ocorre após o esgotamento dos alimentos. Nos modelos que aumentam a capacidade agrícola, a poluição ultrapassa os limites dos controles anteriores, levando ao colapso tanto da produção de alimentos quanto da população.

O livro “Os Limites do Crescimento” sugeriu que a transição para a gestão sustentável e a reutilização de recursos era a resposta para a estabilidade a longo prazo da sociedade global e que reduzir a desigualdade entre nações ricas e pobres era a chave para a sobrevivência. Onde “Os Limites do Crescimento” falhou foi em não prever o conjunto mais amplo de sistemas interconectados que agora compõem a economia global e como formas de mineração anteriormente antieconômicas seriam incentivadas, causando maiores danos ambientais, degradação da terra e da água e esgotamento acelerado dos recursos. Ao escrever “A Alta Fronteira”, O’Neill queria imaginar uma saída diferente para o modelo de crescimento zero, em vez de limitar a produção e o consumo.18 Ao postular que o espaço era uma solução, O’Neill redirecionou a ansiedade global da década de 1970 em relação à escassez de gasolina e às crises do petróleo com visões de estruturas espaciais serenas e estáveis ​​que, simultaneamente, preservariam o status quo e ofereceriam novas oportunidades. “Se a Terra não tem área de superfície suficiente”, insistiu O’Neill, “então os humanos simplesmente deveriam construir mais.”¹⁹ A ciência de como isso funcionaria e a economia de como poderíamos arcar com os custos eram detalhes deixados para outro momento; o sonho era tudo o que importava.²⁰ O fato de a colonização espacial e a mineração de fronteira terem se tornado as fantasias corporativas comuns dos bilionários da tecnologia ressalta uma relação fundamentalmente problemática com a Terra. Sua visão de futuro não inclui minimizar a exploração de petróleo e gás, conter o consumo de recursos ou mesmo reduzir as práticas trabalhistas exploratórias que os enriqueceram. Em vez disso, a linguagem da elite tecnológica muitas vezes ecoa o colonialismo de povoamento, buscando deslocar a população da Terra e capturar território para extração mineral. A corrida espacial bilionária do Vale do Silício pressupõe, de forma semelhante, que o último bem comum — o espaço sideral — pode ser tomado pelo império que chegar lá primeiro. Isso ocorre apesar da principal convenção que rege a mineração espacial, o Tratado do Espaço Exterior de 1967, que reconhece que o espaço é de “interesse comum de toda a humanidade” e que qualquer exploração ou uso “deve ser realizado para o benefício de todos os povos”.21 Em 2015, a Blue Origin, de Bezos, e a SpaceX, de Musk, pressionaram o Congresso e o governo Obama para a aprovação da Lei de Competitividade de Lançamento Espacial Comercial.22 Essa lei estende a isenção de regulamentação federal para empresas espaciais comerciais até 2023, permitindo que elas possuam quaisquer recursos de mineração extraídos de asteroides e fiquem com os lucros.23 Essa legislação mina diretamente a ideia do espaço como um bem comum e cria um incentivo comercial para “ir e conquistar”.24 O espaço tornou-se a ambição imperial suprema, simbolizando uma fuga dos limites da Terra, dos corpos e da regulamentação. Talvez não seja surpresa que muitos dos membros da elite tecnológica do Vale do Silício estejam investidos na visão de abandonar o planeta. A colonização espacial se encaixa bem ao lado de outras fantasias como dietas para prolongar a vida, transfusões de sangue de adolescentes, upload de cérebros para a nuvem e vitaminas para a imortalidade.25 A publicidade ostentosa da Blue Origin faz parte desse utopismo sombrio. É um chamado sussurrado para se tornar o Übermensch, para ultrapassar todas as fronteiras: biológicas, sociais, éticas e ecológicas. Mas, no fundo, essas visões de admiráveis ​​mundos novos parecem ser impulsionadas, acima de tudo, pelo medo: medo da morte — individual e coletiva — e medo de que o tempo esteja realmente se esgotando.

Estou de volta à van para o último trecho da minha jornada. Dirijo para o sul, saindo de Albuquerque, Novo México, em direção à fronteira com o Texas. No caminho, faço um desvio pela face rochosa do Pico San Augustin e sigo pela estrada íngreme até o Campo de Testes de Mísseis de White Sands, onde, em 1946, os Estados Unidos lançaram o primeiro foguete com uma câmera a bordo para o espaço. Essa missão foi liderada por Wernher von Braun, que havia sido o diretor técnico do programa de desenvolvimento de mísseis da Alemanha. Ele desertou para os Estados Unidos após a guerra e lá começou a experimentar com foguetes V-2 confiscados — os mesmos mísseis que ele ajudara a projetar e que haviam sido disparados contra os Aliados por toda a Europa. Mas desta vez, ele os enviou diretamente para cima, para o espaço. O foguete ascendeu a uma altitude de 105 quilômetros, capturando imagens a cada 1,5 segundos, antes de cair no deserto do Novo México. O filme sobreviveu dentro de uma fita de aço, revelando uma curvatura granulada, mas nitidamente semelhante à da Terra.

O fato de Bezos ter escolhido citar von Braun em seu comercial da Blue Origin é notável. Von Braun foi o engenheiro-chefe de foguetes do Terceiro Reich e admitiu ter usado trabalho escravo em campos de concentração para construir seus foguetes V-2; alguns o consideram um criminoso de guerra.27 Mais pessoas morreram nos campos de concentração construindo os foguetes do que foram mortas por eles na guerra.28 Mas é o trabalho de von Braun como chefe do Centro de Voos Espaciais Marshall da NASA, onde ele foi fundamental no projeto do foguete Saturno V, que é mais conhecido.29 Banhei-me no brilho da Apollo 11, livre da história, e Bezos encontrou seu herói — um homem que se recusou a acreditar no impossível. Depois de dirigir por El Paso, Texas, pego a Rota 62 em direção às Dunas da Bacia Salgada. É final de tarde e as cores começam a desabrochar nas nuvens cúmulos. Há um cruzamento em T e, depois de virar à direita, a estrada começa a acompanhar a Sierra Diablos. Esta é a terra de Bezos. O primeiro indício é uma grande casa de fazenda recuada da estrada, com uma placa em letras vermelhas que diz “Figura 2” em um portão branco. É a fazenda que Bezos comprou em 2004, apenas parte dos trezentos mil acres que ele possui na região.30 A terra tem uma história colonial violenta: uma das últimas batalhas entre os Texas Rangers e os Apaches ocorreu a oeste deste local em 1881, e nove anos depois a fazenda foi criada por James Monroe Daugherty, ex-cavaleiro confederado e criador de gado.3

Perto dali fica o acesso à instalação de lançamento suborbital da Blue Origin. A estrada particular está bloqueada por um portão azul brilhante com avisos de segurança alertando para vigilância por vídeo e um posto de guarda repleto de câmeras. Permaneço na rodovia e encosto a van no acostamento alguns minutos depois. Daqui, a vista se estende pelo vale até o local de pouso da Blue Origin, onde os foguetes estão sendo testados para o que se espera ser a primeira missão tripulada da empresa ao espaço. Carros passam pelas cancelas enquanto os trabalhadores encerram o expediente. Olhando para trás, para o conjunto de galpões que delimitam a base de foguetes, tudo parece muito provisório e improvisado nesta vasta extensão árida da Bacia Permiana. A imensidão do vale é interrompida por um círculo oco, a plataforma de pouso onde os foguetes reutilizáveis ​​da Blue Origin devem pousar, com um logotipo de pena pintado no centro. É tudo o que há para ver. É uma infraestrutura privada em construção, vigiada e cercada, um imaginário tecnocientífico de poder, extração e fuga, impulsionado pelo homem mais rico do planeta. É uma proteção contra a Terra. A luz está se esvaindo e nuvens cinza-aço se movem contra o céu. O deserto parece prateado, pontilhado por arbustos de sálvia branca e aglomerados de tufo vulcânico que pontuam o que antes era o fundo de um grande mar interior. Depois de tirar uma foto, volto para a van para começar o último trecho do dia até a cidade de Marfa. Só quando começo a dirigir é que percebo que estou sendo seguido. Duas picapes Chevrolet pretas idênticas começam a me seguir agressivamente de perto. Encosto na esperança de que me ultrapassem. Eles também encostam. Ninguém se move. Depois de esperar alguns minutos, começo a dirigir lentamente novamente. Eles mantêm sua escolta sinistra até a beira do vale que escurece.