A inteligência artificial entrou definitivamente para o mundo da política depois que o bilionário e financista George Soros atribuiu à IA e outros novas tecnologias o ônus de viabilizar regimes autoritários e repressivos, constituindo – portanto – uma ameaça efetiva às democracias.
No fórum de Davos deste ano, Soros foi bem explícito ao apontar que a IA possibilita a governos autoritários a criação de instrumentos de controle das populações, nunca antes pensados, com a possibilidade do aprendizado das máquinas (machine learn) e que foram colocados em prática e aprimorados durante a pandemia da covid 19.
Sem poupar adjetivos, Soros disse com todas as letras que as companhias de tecnologia estão atuando como possíveis facilitadoras do autoritarismo, ao empregar uma sinergia entre projetos corporativos e governamentais. Temos o exemplo de uma das Big techs que está desenvolvendo sistemas de IA com uma universidade militar.
Soros, com seu poder de influência, elegeu alguns regimes mais totalitários, com tecnologias de inteligência artificial avançada, como exemplos de riscos para a segurança democrática de todo o planeta.
Até que ponto as tecnologias de IA podem controlar os cidadãos? Vimos durante os dois primeiros anos da pandemia da covid-19, que diante da extensão do contágio do vírus e seu alto grau de perigo não se questionou as políticas públicas de controle, nem as tecnologias utilizadas para atingir esse objetivo.
Nesse ponto, o mundo mostrou-se dispostos a abrir mão parcialmente dos direitos à privacidade e controle dos dados pessoais para a vigilância propiciada pelas novas tecnologias no sentido de que pudessem ajudar a controlar e combater o novo coronavírus.
As tecnologias de inteligência artificial conseguiram desenvolver uma série de atividades fundamentais, além contribuir para o desenvolvimento de vacinas e medicamentos e vigilância proativa de infectados: “Os pesquisadores usam um AI para as tarefas relacionadas ao resultado do paciente, como avaliar a gravidade do covid-19, prever o risco de mortalidade, seus fatores associados e o tempo de internação hospitalar.
A IA foi usada para infodemiologia para aumentar a conscientização sobre o uso de água, saneamento e higiene. A técnica de IA mais usada foi uma rede neural convolutiva seguida pela máquina de suporte“.¹
A China, citada explicitamente por Soros, utilizou durante a pandemia a plataforma Dingxiangyuan, que recebeu mais de 2,5 bilhões de visitas, que tinha como função propiciar informações sobre a pandemia ao público, mas também empregou plataforma de rastreamento de IA que fazia o gerenciamento do infectados, isolados ou que corriam alto risco.
A população também passou a usar aplicativos de triagem on-line, com informações práticas sobre o que fazer. A IA pode usar dados de dispositivos inteligência, como celulares, câmeras, relógios, geolocalização etc. Isso possibilitou, por exemplo, que um motorista de táxi chinês positivado para a covid-19 tivesse todos os passageiros rastreados pelo pagamento on-line.
De acordo com a política da China, todos os passageiros de trem foram obrigados a registrar um celular pessoal quando compraram passagem para facilitar o rastreamento e possíveis transmissões.
O uso de algoritmos sustentados por Inteligência Artificial propicia suporte à governança de dados e mais uma vez traz à tona o desequilíbrio entre Estado e cidadãos. As novas tecnologias estão munindo governos de aparato de controle sobre suas populações nunca vistos, que superam quaisquer sistemas de segurança anteriormente implantados.
Quanto mais dados são produzidos, mais a vigilância se amplia e se torna intrusiva. Embora haja críticas, a China está exportando tecnologia de IA para fins de vigilância para mais de 50 países.
Na verdade, a China parece estar mais interessada em dominar esse segmento bilionário do mercado de IA, do que com os aspectos políticos do mesmo.
Todos sabem que essa avançada tecnologia de vigilância está sendo usada em larga escala internamente, em províncias do Tibete e Xinjiang, para gerenciar populações que possam se rebelar contra o controle político da potência asiática e pode sinalizar o surgimento de algo parecido com uma “era orwelliana”, inspirada no livro “1984”, onde Orwell consegui prever uma sociedade distópica controlada pelo grande irmão.
A China leva vantagem sobre os demais países, porque suas tecnologias podem acessar big datas de mais de um bilhão de pessoas, sem ter de observar o controle de privacidade dos titulares desses dados e isso contribuir para que os algoritmos aprendam mais rápido e cheguem a soluções mais assertivas.
É o que vem sendo chamada de “a rota da seda digital”, numa clara referência aos investimentos chineses em investimentos em infraestrutura, transporte, energia, tecnologia etc., conectando vários continentes, bem mais ampla que a histórica Rota da Seda, um trajeto de comércio entre Ásia e Europa.
Nessa nova Rota da Seda, o governo chinês está construindo em países da Ásia, África e América Latina redes de cidades “seguras” com efetiva vigilância pública com reconhecimento facial, com base em um banco nacional de imagens. Quando chegar a conta, esses países podem – ou não – sofrer pressões para um alinhamento futuro com os chineses, como quer fazer crer Soros.
A tese de Soros divide o mundo entre bons e ruins e a tecnologia de IA está além disso, porque pode ser usada por regimes autoritários para controle político doméstico e por governos democráticos, da mesma forma, para gerir ameaças terroristas. Atualmente, os investimentos da maioria dos países têm sido gigantescos nessa tecnologia.
Dessa forma, a declaração de Vladimir Putin, o governante russo que começou uma guerra não só contra a Ucrânia – mas contra boa parte do mundo democrático – tem um fundo de verdade: quem for o líder da tecnologia de IA governará o mundo.
Um sistema de IA pode ajudar as forças políticas a detectar ameaças decorrentes de postagens em redes sociais, como pode produzir vídeos e áudios falsos (deepfakes) que minam o julgamento dos cidadãos, porque tornam impossível para nós separarmos o joio do trigo, a verdade da mentira, com manipulação de imagens e sons, e isso pode ser o fiel da balança em momentos importantes, como as eleições presidenciais, principalmente em países democráticos.
Temos de ter muito claro que o uso de IA no campo da comunicação pode ser igualmente alarmante, ameaçando os direitos de privacidade dos titulares dos dados e que embute grande impacto político.
Nas redes sociais, por exemplo, temos um contingente de “soldados” de bots e trolls para espalhar mensagens que se deseje, sejam fake news ou não, ou até promover campanhas de desinformação. Com diz George Orwell, “quanto mais a sociedade se distancia da verdade, mais ela odeia aqueles que a revelam”.
—
1 Disponível aqui.
—
Fabio Rivelli é advogado, sócio do escritório Lee, Brock, Camargo Advogados (LBCA). Master in Business Administration pelo Insper. Mestrando em Direito – núcleo de Direitos Humanos pela PUC/SP. Especialista em Gestão de Contencioso de Volume pela GVLaw, ranqueado pela Leaders League – 2021 em Contencioso Trabalhista de Volume, na categoria “Altamente Recomendado”.
