“A inteligência artificial permite uma vigilância total que acaba com qualquer liberdade”. Entrevista com Yuval Noah Harari – Instituto Humanitas Unisinos

Em seu novo ensaio, Nexus, o historiador e filósofo Yuval Noah Harari (Israel, 1976) soa o alarme sobre o crescente poder da inteligência artificial, o avanço da hipervigilância e o enfraquecimento do diálogo. Assim, o autor de bestsellers como Sapiens e Homo Deus apresenta um paradoxo: se a nossa espécie é tão sábia, por que somos tão autodestrutivos?

A entrevista é de Pilar Bolívar, publicada por Ethic, 27-01-2025. A tradução é do Cepat.

Eis a entrevista.

O que diferencia a inteligência artificial (IA) de um totalitarismo ou autoritarismo?

Os regimes autoritários controlam as esferas política e militar e o orçamento, mas permitem que as pessoas tenham algum fôlego. O rei ou o tirano não pode saber o que cada um de nós faz ou pensa a cada minuto do dia. Os regimes totalitários tentam fazer exatamente isso.

Stalin, na União Soviética, ou Hitler, na Alemanha, não queriam controlar apenas a esfera militar e o orçamento, mas a totalidade da vida de cada um de seus habitantes. Contudo, mesmo Hitler e Stalin tinham limites quanto ao nível de controle sobre os seus súditos, porque não podiam seguir todos constantemente, muito menos ter cerca de 400 milhões de agentes para vigiar e controlar seus 200 milhões de cidadãos.

A IA permite uma vigilância total que acaba com qualquer liberdade, porque não precisa de agentes para perseguir cada humano: há smartphones, computadores, câmeras, reconhecimento facial e de voz… A IA tem a capacidade de revisar uma quantidade enorme de vídeos, áudios, textos, analisá-los e reconhecer padrões.

Isso já está acontecendo?

Claro. Em Israel, há territórios ocupados por câmeras e drones, monitorando todo mundo constantemente. No Irã, onde as mulheres são obrigadas a cobrir o rosto, há câmeras de vigilância com software de reconhecimento facial que identifica as mulheres que, por exemplo, estão em seu veículo sem cobrir o rosto. Elas recebem imediatamente um SMS no celular com sua penalidade e punição: apreensão de seu veículo; devem descer do carro e entregá-lo. A autoridade para puni-las está nas mãos da IA. Não é um cenário de ficção científica, nem algo que acontecerá em 100 anos. Já estamos vivendo isso.

Considera que devemos nos assumir como espécie em perigo?

Sim, porque a IA é diferente de qualquer tecnologia inventada antes. Não é uma ferramenta, mas um agente independente. Todas as tecnologias anteriores – a bomba atômica ou as armas nucleares – tinham um imenso poder destrutivo, mas seu poder estava nas mãos dos humanos, que decidiam como e onde usá-las. O mesmo não acontece com a IA, pois ela toma decisões por conta própria.

No âmbito jornalístico, as decisões mais importantes em um jornal estão nas mãos de seu editor. Um jornalista pode escrever a história que desejar, mas, ao final, é o editor quem decide o que publicar na primeira página do jornal. Agora, na maioria dos principais meios de comunicação e plataformas digitais, como Twitter e Facebook, a função do editor foi substituída pela IA. São os algoritmos que decidem qual história deve ser recomendada, qual deve ir para o topo do feed de notícias. Agora, a IA não só toma as decisões por conta própria, como também cria ideais, enquanto produz mil coisas novas por conta própria, desde textos, imagens etc.

Qual deve ser o papel da imprensa para fortalecer a democracia?

Antes do mundo pré-moderno, não conhecíamos uma democracia em si – a palavra “democracia” significa “diálogo” -, já que o diálogo em larga escala era impossível. Em uma cidade pequena, seus habitantes podiam se reunir na praça e conversar chegando a acordos, mas em um reino era tecnicamente impossível manter um diálogo entre milhões de pessoas.

Um diálogo em larga escala tornou-se possível com a chegada da tecnologia da informação moderna, cuja primeira ferramenta foram os jornais que surgiram entre os séculos XVII e XVIII nos Países Baixos e na Inglaterra, onde nasceram as primeiras democracias da história. Depois, vieram outras tecnologias novas, como o telégrafo, o rádio etc., demonstrando que os meios de comunicação integram a base de uma democracia em larga escala.

Alguns ditadores da era moderna começaram como jornalistas. Antes de se tornar um ditador, Lenin foi editor de um jornal. Mussolini começou como jornalista socialista e depois mudou de parecer e fundou um jornal fascista; era editor de um jornal e, a partir desse poder, tornou-se ditador da Itália. Hoje, esse poder está nas mãos dos gigantes: Facebook, Instagram e Twitter e nas mãos de seus algoritmos.

A liberdade de expressão e a censura cabem neste marco?

Embora haja um forte debate sobre a responsabilidade desses novos gigantes tecnológicos, quando são acusados de algo, sempre falam sobre liberdade de expressão: “Nós, pela liberdade de expressão, não queremos censurar ninguém”. Este tema está no centro da polêmica. Concordo que as empresas de redes sociais devem ser cuidadosas com o tema da censura aos seus usuários, mas o problema não são os conteúdos produzidos por humanos, mas as decisões editoriais dos algoritmos.

O que as pessoas comuns podem fazer?

Peço às pessoas que diferenciem entre as decisões dos usuários humanos e as do algoritmo. Se o usuário humano decide inventar uma história, publicar fake news e mentir (talvez por erro ou propositalmente), em situações extremas, pode ser processado e punido.

Em termos gerais, as pessoas mentem, mas em uma democracia devemos ter cuidado antes de começar a censurar. Além disso, acredito que as pessoas têm o direito à estupidez, inclusive a dizer mentiras, exceto quando vinculadas a um crime. Não é bom que as pessoas mintam, mas faz parte da liberdade de expressão.

No entanto, o principal tema com essas teorias da conspiração e fake news não são as decisões dos seres humanos protegidos pela liberdade de expressão, mas as decisões dos algoritmos das corporações, pois seu modelo de negócios se baseia no envolvimento do usuário.

Como você descreve o modelo de negócios das empresas de redes de informação?

O envolvimento do usuário é a base de tudo. Se as pessoas passam mais tempo nas plataformas, as empresas ganham mais dinheiro, pois vendem mais anúncios e coletam dados que depois venderão a terceiros. Este é o modelo de negócio deles.

Perseguindo este objetivo, os algoritmos das empresas descobriram que é preciso disseminar fake news e teorias que aumentem as doses de ódio, medo e raiva nos usuários, pois isso faz com que as pessoas se envolvam, passem mais tempo nas plataformas e enviem links para que seus amigos também fiquem com raiva e sintam medo. Por este motivo, sim, as empresas deveriam ser responsáveis, porque isto não é liberdade de imprensa.

O que as empresas de redes de informação podem fazer?

Não é necessário deter tudo isso. Simplesmente, é preciso investir mais em segurança, como é comum em qualquer outro setor. Por exemplo, se você vai fabricar um remédio ou uma vacina, você tem que investir tempo, esforço e talento para que funcione sem causar efeitos adversos. Se as empresas de IA investissem, por exemplo, 20% de seu orçamento, tempo e talento em segurança, seria um passo significativo que poderia nos proteger de seu lado mais pernicioso.

No entanto, as pessoas do setor estão presas em uma mentalidade de corrida armamentista, de competidores, e de não deixar que os outros ganhem. Então, quando você fala com eles sobre os perigos da IA, respondem: “Estamos desenvolvendo IA agora e se tivermos um problema ao longo do caminho, trataremos do caso”. Isto é muito perigoso porque é como se alguém colocasse um veículo sem freios na estrada e dissesse: “Queremos apenas que vá o mais rápido possível e se houver um problema com os freios na estrada, inventaremos algo quando isto acontecer”. Não funciona assim com os veículos e também não deveria ser assim com a IA.

Algo positivo ou uma contribuição da IA para a humanidade?

Sem dúvida, a IA tem um potencial enorme. Não acredito que todas as pessoas no Vale do Silício sejam más. A IA pode nos dar os melhores cuidados de saúde, pois há escassez de médicos em muitos países e ela poderia criá-los. Inclusive, o médico da IA pode ser atualizado diariamente com as descobertas, estudos e avanços que ocorrem ao redor do mundo.

O médico IA pode estar conosco 24 horas por dia, ao passo que os médicos humanos não podem (além disso, o médico IA é mais barato). Nesse sentido, dentro de 20 ou 30 anos, a IA será capaz de desenvolver os cuidados de saúde mais adequados, mesmo em áreas remotas ou extremamente pobres.

Agora, no campo da prevenção de acidentes de trânsito, muitas vezes, os acidentes são causados por erro humano, mas quando você dá à IA o controle de um veículo autônomo, ela não dormirá ao volante, não bebe álcool e depois dirige etc. Não existe tecnologia perfeita, mas acredito que automatizar a direção salvará milhões de vidas.

Leia mais

• Yuval Noah Harari: “Existe um potencial totalitário na inteligência artificial nunca antes visto”
• “Começamos a ver como as decisões dos algoritmos moldam a política, a cultura e a sociedade”. Entrevista com Yuval Noah Harari
• Yuval Noah Harari: nova era do imperialismo
• “A inteligência artificial está nos levando a uma nova fase do conhecimento”. Entrevista com Paolo Benanti
• “A tecnologia deve ser para a pessoa ou se corre o risco de um totalitarismo digital”
• Paolo Benanti: “A inteligência artificial não é apenas uma tecnologia, mas uma nova fronteira”
• A democracia à prova do poder dos computadores. Artigo de Paolo Benanti
• Democracia computacional. O que muda na era da IA. Artigo de Paolo Benanti
• IA e a geração de desigualdades multidimensionais: da civilização dos ricos à civilização dos pobres
• Metaverso. Novas possibilidades e desafios para a Igreja. Entrevista especial com Moisés Sbardelotto
• “E o Verbo se fez bit”: Uma análise da experiência religiosa na internet. Artigo de Moisés Sbardelotto. Cadernos IHU Nº. 35
• “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
• Pausar desenvolvimento de IA não é suficiente. “Desliguem tudo”, alerta um dos fundadores da área
• Inteligência Artificial é uma ferramenta muito útil, mas não é inteligente. Entrevista especial com Walter Carnielli
• Pioneiro da IA deixa Google e alerta para risco à humanidade
• O aviso de Stephen Hawking, em 2014, sobre a inteligência artificial
• Algorética: os valores atemporais da religião e sua contribuição insubstituível para o desenvolvimento humano e pacífico da inteligência artificial. Artigo de Paolo Benanti
• Roberto Busa: entre cérebro mecânico e cérebro espiritual
• A globalização do paradigma tecnocrático
• “A inteligência artificial não é uma ameaça, mas, se não a usarmos bem, pode se tornar”. Entrevista com Fredi Vivas
• A inteligência artificial e a espiral do caos. Artigo de Franco ‘Bifo’ Berardi
• Éric Sadin: “O ChatGPT é um movimento civilizatório com profundas consequências antropológicas”