Apoderar-se dos meios de computação – como os movimentos populares podem derrubar os monopólios das Big Tech

Comecemos por uma grande questão em aberto que está no centro do relatório State of Power do TNI: Quem detém o poder digital atualmente?

Essa é uma excelente pergunta. Como Tom Eastman, um programador de software da Nova Zelândia, observou: a Web transformou-se em cinco sites gigantes cheios de capturas de ecrã dos outros quatro. Um pequeno número de empresas extremamente poderosas, nomeadamente a Google, a Amazon, o Facebook, a Apple e a Microsoft, têm aquilo a que os reguladores europeus chamam poder de guardião – o direito de decidir quem pode falar, quem pode contactar quem, como funciona. Esta situação afasta-se claramente da tónica inicial que deu origem a estas empresas, que se caracterizava pela ideia de que a Internet seria um novo tipo de rede em que qualquer pessoa que quisesse falar com outra pessoa o poderia fazer sem a intervenção de terceiros. Atualmente, temos uma série de “pontos de estrangulamento” em que o discurso ou atividades semelhantes, como a angariação de fundos, podem ser controlados por uma de um número muito reduzido de empresas.

E é importante notar que a razão pela qual essas empresas foram autorizadas a crescer tanto como cresceram, a razão pela qual os reguladores estatais fecharam os olhos, é porque os Estados veem essas empresas como potenciais substitutos para os seus próprios exercícios de poder. É altamente improvável, por exemplo, que a Agência de Segurança Nacional dos Estados Unidos (National Security Agency, NSA) pudesse ter obtido autoridade reguladora ou nos tivesse convencido a transportar balizas que transmitem a nossa localização em todo o mundo. Ao permitir que as empresas o façam, ao não intervir nem exigir regulamentação, o governo dos Estados Unidos da América (EUA) concretizou um futuro em que a NSA não precisa de nos pôr todos/as sob escuta. Pode simplesmente pedir ao Facebook, à Google ou à Apple informações que, de outra forma, não conseguiria obter. Por isso, isto tem de ser entendido como uma parceria público-privada.

¹ NT: Tratava-se da última obra de não ficção à data da entrevista. Entretanto, Cory Doctorow publicou The Internet Con: How to Seize the Means of Computation, no final de 2023.
² NT: Os mandados de busca por geolocalização permitem que as autoridades solicitem informações de localização dentro de uma determinada área e período de tempo, com o objetivo de identificar suspeitos.
³ NT: O autor refere-se ao ataque ao Capitólio a 6 de janeiro de 2021.

Como ocorre esta interação de poder entre o Estado e as empresas?

Bem, dou-vos um exemplo muito claro. A Google recolhe os seus dados de localização de uma forma que é claramente enganadora. Se desativar o rastreio de localização no seu dispositivo Android ou iOS, este não deixará de rastrear a sua localização. Há pelo menos 12 locais diferentes onde é necessário desativar o rastreio da localização para o parar efetivamente. E, mesmo assim, não é claro se o estão realmente a parar. Até os funcionários da Google se queixam de que não conseguem descobrir como desativar o rastreio de localização. Ora, em qualquer mundo sensato, esta seria uma atividade proibida. A Secção 5 da Lei da Comissão Federal do Comércio (Federal Trade Commission Act) dá à agência uma ampla margem de manobra para intervir na prevenção de práticas “desleais e enganosas”. É difícil defender a ideia de que, se clicarmos no botão “Não me rastreie” e continuarmos a ser rastreados, essa prática é justa e não enganosa. Este é claramente o tipo de coisa que a lei proíbe. E, no entanto, os governos não tomaram qualquer medida. Não temos visto legislação ou regulamentação que impeça esta prática.
Ao mesmo tempo, assistimos a uma utilização crescente dos dados de localização da Google e daquilo a que o Estado chama mandados de “geofence”² ou mandados inversos. É aqui que uma autoridade judiciária se dirige à Google, por vezes mas nem sempre com um mandado, e descreve um local – uma caixa de informação, rua por rua – e um período de tempo, digamos das 13h às 16h, e exige ter conhecimento de todas as pessoas que se encontram nessa ‘caixa’. Este método foi amplamente utilizado contra os manifestantes do Black Lives Matter e depois contra os manifestantes de 6 de janeiro³. Vemos aqui um incentivo perverso, que faz com que o Estado não impeça esta conduta enganosa e injusta.

Mas é uma conduta muito perigosa, porque uma empresa tão grande como a Google irá ter sempre ameaças internas, como funcionários que aceitam subornos de outras pessoas. Sabe-se que o Twitter, por exemplo, teve operadores sauditas que se infiltraram na empresa e que depois roubaram dados de utilizadores sauditas e os forneceram aos serviços secretos da Arábia Saudita para que estes pudessem vigiar estes ativistas e impor-lhes represálias, nas formas mais violentas e horríveis que se possa imaginar.

Há também o risco de que os dados recolhidos acabem por ser divulgados e possam ser obtidos por criminosos. Uma regulamentação sólida implicaria a eliminação desta conduta. A única forma de compreender porque é que isto continua é porque há demasiadas partes interessadas no governo que dependem destas bases de dados, muito perigosas e enganadoras, para facilitar o seu trabalho. Por isso, não só não apoiam os esforços para controlar a Google e outras empresas, como até se opõem a isso, tanto publicamente como nos bastidores. É muito difícil, como Upton Sinclair observou uma vez, fazer com que alguém compreenda algo quando o seu salário depende do facto de não o compreender.

Quais são as implicações desta relação Estado-empresa a nível global?

Entre meados da década de 2000 e o início da década de 2010, assistimos ao estabelecimento de escritórios locais das empresas de tecnologia em países onde o Estado de direito era muito fraco. Houve um ponto de viragem com a entrada e saída da Google da China, e depois vimos muitas empresas a estabelecerem-se na Rússia após a sua adesão à Organização Mundial do Comércio (OMC). Vimos o Twitter abrir um escritório na Turquia. E tudo isto foi importante porque colocou pessoas em perigo. Deu aos governos desses países o poder de, literalmente, colocarem as mãos em pessoas importantes dentro dessa estrutura empresarial e, assim, coagirem a cooperação dessas empresas de uma forma que seria muito mais difícil se, digamos, Erdogan quisesse agitar o seu sabre contra os funcionários da Google na Califórnia. Se o administrador da Google mais próximo estivesse a um oceano e um continente de distância, a Google faria cálculos muito diferentes sobre a sua participação na vigilância turca do que quando há pessoas com quem se preocupam que podem ser fisicamente detidas e atiradas para a prisão.

Há uma história semelhante de proliferação de grandes firewalls⁴, primeiro na China e depois como produto chave-na-mão [sistemas instalados e prontos a usar] noutros locais, à medida que as empresas chinesas e ocidentais vendiam as suas soluções prontas para uso a governos com pouca capacidade técnica.

Isto levou os governos a dizerem às empresas: a menos que coloquem alguém neste país e armazenem os vossos dados aqui, serão bloqueadas na nossa fronteira. E citam as regras de localização de dados da União Europeia (UE) que dizem que as empresas americanas que operam na UE não podem transferir os dados dos europeus para os EUA, onde a NSA pode ter acesso aos mesmos. Trata-se de uma regulamentação perfeitamente sensata da UE. Mas, dependendo da natureza do governo, pode acontecer que tenham ainda menos respeito pela privacidade do que a NSA, ou que sejam ainda mais aptos que os EUA a transformar os dados dos seus próprios cidadãos em armas. Estou a pensar, por exemplo, na forma como o Estado etíope utilizou ferramentas de vigilância em massa desses sistemas prontos a usar de empresas ocidentais para prender, torturar e assassinar, em alguns casos, figuras da oposição democrática. Assim, para compreender como é que os dados estão ao alcance das autoridades etíopes, é preciso compreender a interação entre a localização dos dados, a tecnologia de firewall nacional e o imperativo das empresas em estabelecer escritórios de vendas em todo o mundo para maximizarem os seus lucros.

E como é que a Inteligência Artificial ou a machine learning⁵ se enquadram nesse contexto?

Não gosto do termo inteligência artificial. Não é nem artificial nem inteligente. Nem sequer gosto muito do termo machine learning. Mas chamar-lhe “inferência estatística” carece de um certo je ne sais quoi. Por isso, vamos chamar-lhe machine learning, que é entendida como um julgamento automatizado a uma escala que os seres humanos não conseguiriam atingir. Assim, a capacidade de um Estado de identificar tudo o que tem a forma de um rosto numa multidão, consultando uma base de dados de todos os rostos que conhecemos, seria limitada pelo número de pessoas que possui. A antiga Alemanha Oriental tinha uma pessoa em 60 a trabalhar, de alguma forma, para os serviços de secretos, mas não poderia aproximar-se das atuais escalas de vigilância.

Mas isso levanta dois problemas importantes. O primeiro é que pode funcionar, e o segundo é que pode não funcionar. Se funcionar, é uma inteligência que ultrapassa os sonhos de qualquer ditador na História. Quanto mais fácil for para um governo impedir qualquer oposição, menos terá de se preocupar em governar bem para impedir que a oposição se forme. Quanto mais barato for construir prisões, menos hospitais, estradas e escolas será necessário construir, menos terá de governar bem e mais poderá governar no interesse dos poderosos. Por isso, quando funciona, é mau.

E quando falha, é mau porque, por definição, está a funcionar a uma escala demasiado rápida para ter um humano no circuito. Se tivermos milhões de discernimentos a serem feitos a cada segundo, nenhum humano poderia supervisioná-los, e se houver apenas uma pequena quantidade de erro, digamos que seja 1%, bem, 1% de um milhão são 10.000 erros por segundo.

⁶NT: ransomware é um software malicioso usado para extorsão por meio de sequestro de dados digitais.

Então, alguma coisa mudou desde as revelações de Snowden?

Penso que temos uma sensação crescente de que está a haver vigilância. Não é tão controverso quanto dizer que estamos sob vigilância em massa e que os nossos dispositivos digitais estão a ser subornados pelo Estado. Criou-se espaço para as empresas e para as organizações sem fins lucrativos criarem e manterem tecnologias resistentes à vigilância. Vemos o aumento da utilização de tecnologias como o Signal, bem como a integração de tecnologia anti-vigilância no WhatsApp, por parte de grandes empresas como o Facebook.

E dentro da indústria há um sentimento crescente de que esta vigilância em massa é má para si, porque o mecanismo central utilizado pelas agências de vigilância governamentais consiste em identificar defeitos na programação, em vez de relatar esses defeitos aos fabricantes, acumulá-los e depois utilizá-los para atacar adversários da agência. Assim, a NSA descobre um erro no Windows e, em vez de o comunicar à Microsoft, utiliza-o para hackear pessoas que pensa serem terroristas ou espiões ou simplesmente adversários dos interesses nacionais dos EUA.

E o problema é que há uma hipótese em cinco, por ano, de um determinado defeito ser redescoberto de forma independente e utilizado por criminosos ou por um governo hostil. O que significa que o governo dos EUA expôs as suas partes interessadas, empresas e indivíduos a um risco gigantesco ao descobrir esses defeitos e ao não agir rapidamente para colmatar essas lacunas. E esse risco está bem patente na atual epidemia de ransomware⁶, em que oleodutos, hospitais, agências governamentais e cidades inteiras estão a ser tomadas por pequenos criminosos.

É este o tipo de reação à vigilância em massa a que temos assistido e que desencadeou um movimento anti-vigilância que está a ganhar força, mesmo que não tenha ido tão longe como seria de esperar, dado o sacrifício que pessoas como Ed Snowden fizeram.

Tudo o que não pode continuar para sempre irá eventualmente acabar. E a vigilância em massa é tão tóxica para o nosso discurso, tão perigosa e imprudente, que não pode continuar para sempre. Por isso, a questão não é se vai acabar, mas sim quanto perigo e danos resultarão dela antes de acabarmos com ela. E episódios como as revelações de Snowden farão com que esse fim se aproxime.

Voltemos às empresas que são responsáveis por esta tecnologia. Como caracterizaria o problema das Big Tech? Estamos a falar de algumas empresas ou indivíduos que têm demasiado poder, como Elon Musk ou Mark Zuckerberg? Ou será que o problema está nos seus modelos de negócio, a vigilância em massa? Ou será que as Big Tech estão a funcionar dentro de uma estrutura muito mais ampla que é problemática?

A primeira coisa que precisamos de perceber sobre as Big Tech é que não são muito boas a inovar. Veja-se o caso da Google. Esta é uma empresa que criou três produtos de sucesso. Criaram um motor de busca muito bom há 30 anos, um clone muito bom do Hotmail e uma espécie de browser um pouco assustador. Tudo o resto que fizeram internamente falhou. E todos os outros sucessos foram alcançados comprando outras empresas. Quando o Google Video falhou, compraram o YouTube. A sua tecnologia de publicidade, a sua tecnologia móvel, as suas ferramentas de gestão de servidores, as suas ferramentas de atendimento ao cliente, com exceção destas três ferramentas, todas as outras componentes da empresa Google foram compradas a outros.

Historicamente, os reguladores antitrust teriam impedido estas fusões e aquisições anti-concorrenciais e teriam forçado estas empresas ou a descobrir como inovar por si próprias ou a sair do caminho quando pessoas com ideias melhores as ultrapassam. A Google não é a única: a Apple, o Facebook e a Microsoft são fábricas “de compra de empresas” que fingem ser fábricas de “geração de ideias”. Congelámos a tecnologia no tempo, ao permitir que as empresas que têm acesso aos mercados de capitais decidam como vai ser o futuro da tecnologia. É uma economia planeada, mas planeada por uns quantos atores financeiros muito poderosos e pelos executivos de algumas grandes empresas, e não por legisladores ou por um governo democraticamente responsabilizável, ou até por um autocrata, ou pelo menos por um autocrata no poder. Atualmente, temos autocratas nas salas das Direções.

E quando percebes que a principal vantagem destas empresas é poderem aceder aos mercados de capitais, e comprar e extinguir potenciais rivais antes que estes se tornem relevantes, então começamos a perceber onde reside o seu poder. É um erro acreditar na propaganda da Google e do Facebook, que dizem aos potenciais anunciantes ‘construímos um raio de controlo mental que podemos utilizar para vender qualquer coisa a qualquer pessoa’, desde que pague um prémio. Desde Rasputin, ou até antes dele, há quem afirme ter construído mecanismos de controlo da mente, e todos eles estavam a mentir. As suas afirmações extraordinárias requerem provas extraordinárias, e as provas são muito escassas. Em vez disso, o que vemos são empresas que detêm um monopólio. O Facebook pode chegar a 3 mil milhões de pessoas porque as espia a toda a hora e porque é basicamente impossível usar a Internet sem usar o Facebook. Mesmo que não seja um usuário do Facebook, todas as aplicações que utiliza muito provavelmente foram construídas com ferramentas do Facebook, o que significa que este está sempre a recolher dados sobre si. O mesmo acontece com a Google. Não foi o modelo de negócio baseado na vigilância que deu poder a estas empresas. Foi o seu poder que lhes permitiu adotar um modelo de negócio de vigilância que teria sido proibido por qualquer sistema de regulamentação sensato, ou que teria sido minado pelos concorrentes.

Por exemplo, muitas pessoas gostam de ter um ótimo motor de busca, mas muito poucas se apercebem de como a Google nos espia. Historicamente, se uma empresa cujos produtos digitais fazem três coisas de que os seus clientes gostam e uma coisa que desprezam, alguém fará um módulo pós-venda que lhe dará todas as coisas de que gosta e nenhuma das coisas que não gosta. No entanto, sempre que uma empresa tenta construir algo deste género, ou é comprada pela Google, ou pelo Facebook, ou pela Apple, ou por uma das outras grandes empresas, ou é processada até ao esquecimento por ter um comportamento muito semelhante ao que estas empresas tiveram quando estavam a crescer. Quando o fazem, é um processo legítimo. Quando o fazemos, é um roubo.

Então, o que é que acha que vai ser necessário para aproveitar ao máximo este momento? Como é que podemos dar o impulso necessário para que seja um verdadeiro ponto de viragem?

O ponto de viragem é talvez a forma errada de pensar sobre isto. Há uma coisa nas estatísticas chamada curva de crescimento recortada. Provavelmente já viu isto, em que há uma curva que sobe, atinge um pico, desce para um nível mais elevado do que estava antes, e depois sobe para um novo pico e depois para um nível mais elevado do que estava antes. Portanto, é uma espécie de crescimento pontuado.

E a melhor maneira para pensar sobre isso, em termos de suspeita do poder corporativo, é que os abusos corporativos – que inevitavelmente acontecerão como resultado da concentração de poder – irão gradualmente construir a sua própria oposição. Por exemplo, no mês passado, um milhão de passageiros ficaram retidos durante a semana de Natal pela Southwest Airlines, que fez parte do resgate das companhias aéreas no valor de 85 mil milhões de dólares, e que declarou um dividendo de 460 milhões de dólares aos seus acionistas. O Secretário de Estado que deveria estar a regulamentá-las, Pete Buttigieg, não fez nada, apesar de ter amplos poderes para intervir. E isto criou muitos partidários que defendem que se faça alguma coisa em relação ao poder das empresas. Agora, essas pessoas têm outras coisas para fazer nas suas vidas. Algumas vão desistir, mas outras vão guardar rancor e vão fazer parte deste movimento para domar o poder das empresas. E como estas empresas estão tão mal reguladas, tão ocas, e exercem o poder de uma forma tão paroquial e venal, acabarão por criar mais crises e ainda mais pessoas se juntarão ao nosso movimento.

Por isso, não creio que seja um ponto de viragem, mas sim uma espécie de acumulação lenta e inexorável da vontade popular. E penso que o nosso desafio é fazer com que as pessoas posicionem as suas críticas no lugar certo, que compreendam que se trata de poder empresarial desenfreado e dos funcionários que o permitem, que não se trata de um mal especial da tecnologia ou de um raio de controlo mental altamente improvável. Ou seja, estou certo de que é escusado dizer: não são os imigrantes, não é George Soros, não são as pessoas queer. É o poder corporativo sem controlo.

Gosto do seu livro, Chokepoint Capitalism, e acho que grande parte da nossa conversa se centrou em nós, consumidores ou ativistas. Não tocámos muito nos trabalhadores. O seu livro contém algumas histórias interessantes sobre a forma como os ativistas e os trabalhadores enfrentaram e reverteram o poder das empresas. Pode partilhar uma das histórias inspiradoras com a qual devemos aprender?

Claro. A minha preferida é, de facto, a dos condutores da Uber, que mencionamos no livro como exemplar. Aqui, na Califórnia, a Uber estava envolvida num roubo desenfreado dos salários dos motoristas, não o roubo normal de salários resultante da classificação incorreta dos trabalhadores, mas uma forma distinta de roubo de salários: estavam simplesmente a ficar com o dinheiro que deviam aos trabalhadores. Na Califórnia, os condutores da Uber tinham de aceitar uma cláusula de arbitragem vinculativa para poderem conduzir para a Uber, segundo a qual todos os litígios seriam apreciados por um árbitro, caso a caso.
Um árbitro é um juiz falso que trabalha para uma empresa contratada pela empresa que te prejudicou e que, sem surpresa, raramente decide contra a empresa que paga os seus honorários. Mas, mesmo que o faça, isso não importa, porque normalmente esse acordo é confidencial e não cria precedente, o que significa que a próxima pessoa não pode utilizar o mesmo argumento para obter um resultado semelhante. Mais importante ainda: a arbitragem vinculativa implica a proibição da ação coletiva, o que significa que todos os condutores da Uber teriam de contratar individualmente um advogado para os representar, o que nunca seria economicamente sensato ou viável. Tudo isto significava que a Uber podia escapar impune ao roubo de todo este dinheiro.

Os condutores da Uber trabalharam com uma firma de advogados inteligente e descobriram como automatizar as ações de arbitragem. E contratar um árbitro, que a Uber tem de pagar enquanto entidade que está a impor uma renúncia à arbitragem, custa alguns milhares de dólares. Assim, se um milhão de pessoas exigirem a arbitragem das suas reclamações, rejeitar essas reclamações custaria mais do que fazer a coisa certa e pagar. Portanto, perante centenas de milhões de dólares em honorários de arbitragem, a Uber fez um acordo com os condutores e deu-lhes 150 milhões de dólares em dinheiro, o que é absolutamente incrível.

Oh, isso é muito fixe. É um sinal de que a mudança é possível. E para continuar, gostaria de perguntar: acha que é possível reconfigurar o poder digital, vinculado, como o descreveu no início, ao interesse público, e utilizá-lo para enfrentar as grandes crises, como o colapso ambiental?

Penso que uma tecnologia que responda às necessidades dos seus utilizadores, uma tecnologia concebida para maximizar a autodeterminação tecnológica, é fundamental para qualquer futuro em que enfrentemos as nossas grandes crises. A principal coisa que a tecnologia digital faz, a melhor forma de compreender o seu poder transformador, é reduzir os custos de transação – os custos que suportamos quando tentamos fazer coisas com outra pessoa.
Quando eu era miúdo, por exemplo, se quisesse ir ao cinema com os meus amigos numa sexta-feira à noite, ou tínhamos de planear tudo com antecedência ou fazíamos aquela coisa absurda de telefonar às mães uns dos outros a partir de telefones públicos, deixando mensagens e esperando que, de alguma forma, fossem recebidas. Claro que, agora, basta enviar uma mensagem de texto para o teu grupo de chat a dizer: “Alguém quer ir ao cinema?” Este é um exemplo simples e direto de como reduzimos os custos de transação.

A Internet torna os custos de transação muito mais baixos. Permite-nos fazer coisas como construir enciclopédias, sistemas operativos e outros projetos ambiciosos de uma forma fácil e improvisada. A redução dos custos de transação é realmente importante para fomentar a mudança social porque, por definição, os atores poderosos já perceberam quais são os custos de transação. Se formos um ditador ou uma grande empresa, a nossa função é descobrir como coordenar muitas pessoas para fazerem a mesma coisa ao mesmo tempo. É aí que reside a fonte do seu poder – coordenar muitas pessoas para agirem em conjunto e projetarem a sua vontade em todo o mundo.

Assim, embora estes custos de transação signifiquem que o custo de descobrir quem está numa manifestação nunca foi tão baixo para os polícias, o custo de organizar uma manifestação também nunca foi tão baixo. Passei uma boa parte da minha infância a andar de bicicleta pelo centro de Toronto a colar cartazes em postes telefónicos, a tentar mobilizar pessoas para manifestações contra a energia nuclear, contra o apartheid, a favor do aborto, etc. Portanto, mesmo que as pessoas façam piadas do ‘clicktivismo’, trata-se de uma riqueza que ultrapassa os nossos sonhos mais loucos de há apenas algumas décadas.
Por isso, o nosso projeto não deve ser extinguir a tecnologia, mas sim descobrir como aproveitar os meios de computação, como construir um substrato tecnológico que responda às pessoas, que permita coordenar a nossa vontade, o nosso esforço e a nossa ética para construir o mundo que queremos, incluindo um mundo com menos carbono, menos injustiça, mais direitos laborais, etc.

Eis um exemplo de como isso pode ser feito para enfrentar a crise ambiental. É-nos frequentemente pedido para escolher entre o decrescimento e a abundância material. Assim, dizem-nos que decrescimento significa fazer menos com menos. Mas há um sentido em que uma maior coordenação permitir-nos-ia fazer significativamente mais com menos. Vivo numa casa suburbana nos arredores de Los Angeles, por exemplo, e tenho um berbequim barato porque só preciso de fazer um buraco na parede seis vezes por ano. Os meus vizinhos também têm berbequins péssimos pela mesma razão. Mas existe um berbequim muito bom. E se tivéssemos um mundo em que não nos preocupássemos com a vigilância, porque os nossos Estados são responsáveis perante nós, e não nos preocupássemos com o controlo coercivo, então poderíamos ter berbequins distribuídos estatisticamente pelos nossos bairros e os berbequins diriam onde estavam. Esse é um mundo em que temos um berbequim melhor, que está sempre disponível, sempre ao alcance da mão, mas em que a fatura dos materiais, da energia e da mão de obra diminui em ordens de grandeza. Requer apenas coordenação e responsabilidade na nossa tecnologia.

Para saber mais

Digital Capitalism: conjunto de materiais de um curso do TNI para ativistas, para entender como a digitalização está a moldar o nosso mundo.

 O império GAFAM.