AI PCs | Super

J

Já faz quase um ano. Em 20 de maio de 2024, a Microsoft reuniu a imprensa de tecnologia dos EUA para apresentar seus novos laptops Surface, equipados com processadores Qualcomm, e uma novidade interessante: o Recall, um recurso do Windows 11 que promete se lembrar (daí seu nome) de qualquer coisa que você viu ou fez no PC.

Qualquer coisa mesmo: o Recall captura automaticamente “prints” da tela, minuto a minuto, registrando tudo o que é feito no computador – o conteúdo dos sites que você acessou, arquivos nos quais trabalhou, mensagens que enviou e recebeu etc.

Em seguida, ele utiliza um algoritmo de reconhecimento óptico de caracteres (OCR) para identificar e extrair o texto contido nessas capturas de tela, e cria um banco de dados – no qual você pode pesquisar digitando buscas ou por comandos de voz [veja infográfico abaixo].

Tudo é feito localmente, sem que as informações sejam enviadas à Microsoft. O Recall é uma ferramenta poderosa, que promete resolver um problema cada vez mais comum: sabe quando você vê alguma coisa na internet ou recebe alguma informação importante, mas depois não consegue encontrar, porque nem lembra direito onde viu ou leu aquilo?

Além de estar presente na linha Surface (que não é vendida no Brasil), o Recall é a grande novidade dos AI PCs (ou, como a Microsoft os chama, Copilot+ PCs): uma nova geração de notebooks, que têm coprocessadores de inteligência artificial (NPUs) e já são oferecidos por todos os principais fabricantes.

Mas as coisas não saíram como planejado. O Recall foi recebido com receio (você gostaria que o seu computador tirasse prints da tela o tempo todo?), que logo virou medo: em 31 de maio, o pesquisador de segurança Kevin Beaumont publicou um artigo devastador, no qual apontava falhas graves.

O título já explicava o problema: “Roubar tudo o que você já digitou ou viu no seu PC Windows agora é possível com duas linhas de código – por dentro do desastre do Copilot+ Recall”.

Dias mais tarde surgiu uma ferramenta, batizada de TotalRecall, que fazia mais ou menos isso: ela dava acesso ao banco de dados do sistema e, se executada por um hacker, permitiria roubar todo o conteúdo armazenado pelo Recall. Para piorar, o Recall viria “de fábrica” ligado – se você preferisse desabilitá-lo, teria de caçar sozinho como fazer isso nas configurações do Windows.

Essa combinação de fatores causou uma histeria online. E aí a Microsoft recuou. Em junho, anunciou que estava suspendendo o lançamento do Windows Recall, para “garantir que a experiência atenda aos nossos altos padrões de qualidade e segurança”.

Ela fez duas grandes mudanças no recurso, o que levou um bom tempo – só começou a liberá-lo, em caráter experimental, em dezembro.

Passei um mês testando o Recall no dia a dia, com ele ativo e gravando a minha atividade 100% do tempo. Usei um laptop Asus Vivobook S15, que tem coprocessador de IA integrado ao chip principal – esse notebook usa um Snapdragon X Elite, da Qualcomm, baseado na microarquitetura ARM.

Por enquanto, o Recall só roda em notebooks com processador ARM, mas a Microsoft pretende liberá-lo também para alguns chips x86 mais recentes, fabricados pela Intel e pela AMD, que tenham coprocessador de IA.

A primeira novidade do Recall é que, agora, ele vem desligado – você é que deve ativá-lo, se quiser. Como ele ainda não está finalizado, isso não é tão simples: precisei fazer algumas configurações, incluindo mudar o Windows para o modo “desenvolvedor” [veja no infográfico]. Na primeira tentativa, o processo travou, mas depois foi.

O Windows baixou e instalou alguns componentes, incluindo um curioso módulo de “análise semântica”. Porém, mesmo após tudo isso, o Recall (que em português se chama Busca rápida) se recusava a funcionar, exibindo a mensagem: “Nenhum instantâneo está sendo salvo”.

Cliquei nela e fui informado de que precisaria habilitar a criptografia de disco. Tive que dar mais uns pulos (o botão que ligava a criptografia estava inoperante, e só ficou disponível depois que entrei na BIOS do computador e habilitei o “Boot Seguro”), e aí finalmente deu certo.

A exigência da criptografia é a segunda mudança feita pela Microsoft no Recall: agora, as capturas de tela e o banco de dados ficam encriptados o tempo todo. Isso significa que, mesmo se um hacker invadir o computador, não conseguirá acessar essas informações.

Os dados só são decodificados quando você vai pesquisar alguma coisa no Recall – e, toda vez que você quiser usá-lo, tem de confirmar a sua identidade. Isso é feito por meio do Windows Hello, um sistema que usa a webcam do computador.

Para evitar fraudes (como alguém colocar uma foto impressa sua na frente da câmera), ele requer uma webcam especial, que tenha sensor infravermelho 3D – mesma tecnologia usada na câmera frontal dos iPhones. O Vivobook S15 tem isso. Mas se a sua webcam não tiver, ou você preferir deixá-la fechada, tudo bem; também dá para se autenticar digitando a senha do Windows.

O Recall requer pelo menos 25 GB de espaço livre, no SSD do computador, para guardar as capturas de tela (pode usar até 150 GB, se você quiser). Na prática, ele até que não gasta muito: após o mês de teste, o Recall estava ocupando cerca de 2,5 GB (quando/se o espaço acaba, ele começa a apagar os screenshots mais antigos).

O Recall não deixou o notebook lento pois foi executado pelo coprocessador de IA, e usou apenas 100 MB da memória RAM para rodar em segundo plano – porém, quando eu o abria para fazer pesquisas, aumentava para 700 MB. É bastante.

Mas, para máquinas com 16 GB de RAM, o nível mínimo exigido pelo Recall, não chega a ser um problema. O Recall também não prejudicou a (ótima) duração da bateria do Vivobook S15: graças à boa eficiência energética do processador Snapdragon, ela ficou em torno de 12 horas.

O Recall permite que você pause as capturas de tela a qualquer momento, apague telas que ele já capturou, ou o configure para que ele ignore determinados sites e softwares (como o aplicativo do seu banco, por exemplo). É bem fácil: basta clicar no ícone dele, que fica o tempo todo no canto direito da tela [veja no infográfico].

O Recall também ignora automaticamente as telas dos navegadores (Chrome, Edge ou Firefox) quando eles estão sendo executados no “modo privado”, aquele que não salva o histórico.

Todos esses filtros, tanto os manuais quanto os automáticos, funcionaram perfeitamente durante os testes. Já a proteção de cartão de crédito (o Recall percebe quando você está digitando o número do seu cartão em algum site de comércio eletrônico, e não captura), nem sempre.

A busca funciona bem. Muito bem. Há algo de encantador em fazer uma pesquisa e receber resultados universais, que incluem o conteúdo de absolutamente todos os programas, sites e plataformas que você usa, online e offline.

O Recall consegue recuperar até as lembranças mais efêmeras, como um tuíte que você leu semanas atrás ou aquele pedaço de texto que você apagou num documento de Word, mas gostaria de recuperar.

Ele passa uma sensação de tranquilidade, de que você nunca mais irá perder informações, mesmo se não se preocupar em salvá-las. Isso é valioso – e pode compensar, parcialmente, a constante impressão de estar sendo “vigiado” pelo Windows.

As capturas de tela não são transmitidas para a Microsoft. Mas nada impede que, um dia, essa política venha a ser alterada, como acontece bastante no setor de tecnologia (procurada pela Super, a Microsoft não quis conceder entrevista para esta reportagem).

O Recall também tem limitações técnicas. A primeira é que, na prática, ele não captura tudo. Com frequência, deixa passar coisas que ficam poucos segundos na tela (como mensagens do WhatsApp Web, por exemplo).

Também não entende o conteúdo de imagens – não adianta, por exemplo, tentar encontrar uma foto digitando a descrição dela.

Além disso, o Recall é um sistema de busca “duro”, à moda antiga: você digita uma ou mais palavras-chave, da forma mais precisa possível, e acabou. Não é possível conversar com ele, perguntando em linguagem coloquial e aprofundando detalhes das respostas, como nos sistemas de IA modernos.

Não dá para perguntar, por exemplo, “qual é mesmo aquele restaurante onde combinei de encontrar o pessoal semana que vem?”.

O que dá para fazer, nesse caso, é digitar “restaurante” e os nomes dos seus amigos, o que pode não funcionar (se o diálogo contiver a palavra “almoço” em vez de “restaurante”, por exemplo, a pesquisa não irá encontrá-lo). Ou seja: embora poderoso, o Recall tem uma fraqueza evidente.

Mas já existe um software que vai além: coloca um “grande modelo de linguagem” (LLM), o mesmo tipo de inteligência artificial usado no ChatGPT, dentro do seu PC – e permite conversar sobre as informações guardadas no computador. Vamos a ele.

Uma IA local

O programa foi criado pela Nvidia, e se chama ChatRTX. Ele é gratuito, mas não roda em qualquer computador: a máquina precisa ter uma placa de vídeo Nvidia, da série RTX 3000, 4000 ou 5000, com pelo menos 8 gigabytes de memória própria.

É que as placas de vídeo têm milhares de núcleos de processamento, o que as torna ideais para rodar inteligência artificial (80% dos servidores de IA usam chips da Nvidia). Testei o ChatRTX no meu desktop, equipado com uma placa RTX 3080 Ti.

A instalação do programa demorou meia hora, sendo que o PC gastou a maior parte desse tempo preparando o algoritmo de IA: o ChatRTX vem com o Mistral 7B, um modelo de linguagem com 7,3 bilhões de “parâmetros” (relações entre palavras mapeadas pelo robô).

Ele é muito mais simples do que o ChatGPT, que contém 200 bilhões de parâmetros [leia texto abaixo]. Apesar disso, o ChatRTX se mostrou esperto. Primeiro o alimentei com 50 textos, de reportagens que escrevi para a Super.

O bot respondeu bem a perguntas sobre os temas das matérias, sempre apontando os documentos de onde tirou as informações. Um porém é que, embora o software entenda textos e perguntas em português, ele gera as respostas em inglês. Mas beleza.

O maior problema foi que ele teve “alucinações”, ou seja, ocasionalmente inventou coisas que não constavam dos textos com os quais o alimentei. É um problema típico das IAs atuais.

Em seguida, forneci ao ChatRTX 50 arquivos PDF, com estudos científicos e livros que tenho guardados no computador.

Ele não alucinou, mas revelou outra fraqueza: não entende perguntas subsequentes (você não consegue aprofundar detalhes de uma resposta fazendo indagações adicionais, como no ChatGPT). Também não é capaz de restringir a conversa a um arquivo específico – sempre leva em conta todos os documentos com os quais foi alimentado.

O ChatRTX consegue trabalhar com imagens: para isso, instalei nele outro algoritmo, que se chama CLIP e foi criado pela OpenAI. Foi fácil, bastaram dois cliques.

Forneci 50 fotos ao robô, e ele foi bem: conseguiu identificar elementos visuais (como “pizza”, “praia” ou “corrida”, por exemplo), e mostrar fotos que os contivessem. Animado, resolvi alimentar o CLIP com todas as fotos que já tirei na vida: cerca de 16 mil, totalizando 89 GB. Aí ele não aguentou. Travou todas as vezes em que tentei fazer isso.

O ChatRTX é promissor, mas ainda não está pronto para uso no dia a dia. Isso também vale para duas outras novidades de IA: o ChatGPT para macOS, que é uma versão “local” do robô, capaz de trabalhar com os arquivos guardados num Macbook ou iMac, e o Project Mariner, do Google, uma extensão de IA para o navegador Chrome que é capaz de executar tarefas online a pedido do usuário [veja quadro acima].

Em suma: a IA “pessoal”, que roda no seu computador e trabalha com os seus dados, ainda está engatinhando. Mas pode bem ser que, daqui a algum tempo, ela dê um salto repentino – e, de um dia para o outro, surjam ferramentas muito mais inteligentes. Afinal, isso já aconteceu antes: o ChatGPT veio “do nada”, em novembro de 2022, e transformou tudo.

***

Um supercomputador de mesa

Nvidia Digits usa chip derivado de servidores de IA – e tem potência suficiente para rodar, sozinho, o algoritmo do ChatGPT.

Os chips mais modernos da Qualcomm, da Apple, da Intel e da AMD têm unidades de processamento neural (NPUs), que servem para executar tarefas de inteligência artificial, com mais ou menos a mesma potência: eles são capazes de executar de 40 a 50 trilhões de operações por segundo (TOPS).

Isso é o suficiente para rodar vários recursos de IA, mas não para executar “grandes modelos de linguagem”: os bots, como o ChatGPT, que entendem perguntas e formulam respostas. IAs desse nível só rodam online, em grandes servidores.

Mas, em janeiro, a Nvidia apresentou o Digits, um computadorzinho que muda isso. Ele é bem pequeno, parece o Mac mini. Mas traz um poder de fogo muito superior ao dos desktops e laptops comuns: consegue executar até 1 quatrilhão de operações de IA por segundo.

Isso é possível porque o Digits traz o chip GB10, baseado na nova arquitetura Blackwell – na prática, é uma versão mais compacta dos chips ultrapotentes que a Nvidia fabrica para servidores de IA.

O Digits vem com 128 gigabytes de memória RAM (oito vezes mais do que um bom PC), e pode ser configurado com até 4 terabytes de espaço de armazenamento.

Por isso, segundo a Nvidia, ele é capaz de rodar modelos de linguagem com até 200 bilhões de “parâmetros” (variáveis internas do algoritmo, que o robô usa para mapear as relações entre as palavras).

É um nível de complexidade equivalente ao do GPT-3.5, algoritmo que foi lançado pela OpenAI em novembro de 2022 e era usado na primeira versão do ChatGPT.

Ou seja: com um Digits, você pode rodar o seu próprio ChatGPT. Dá para alimentar a IA com os seus arquivos, e conversar com ela sobre documentos nos quais está trabalhando – mantendo a privacidade, sem ter de enviar os seus dados para nenhuma empresa. O Digits mostra que é viável rodar IAs avançadas num computador pessoal.

Ele é caro, vai custar a partir de US$ 3 mil. E se destina a programadores e pesquisadores de IA, não ao leigo comum. Mas parte da sua tecnologia pode chegar às massas: a CPU do Digits, que tem 20 núcleos de processamento e foi criada pela Nvidia junto à empresa chinesa Mediatek, deve ganhar uma versão para desktops e laptops comuns.