Gemini lê documento salvo no Google Drive contra a vontade de usuário – Tecnoblog

joabe antonio de oliveira
julho 16, 2024

Compartilhe esta postagem

Receba nosso boletim

Google Drive (Imagem: Vitor Pádua/Tecnoblog) — Gemini criou resumo de PDF sem autorização (Imagem: Vitor Pádua / Tecnoblog)

O usuário Kevin Bankston relatou no X (antigo Twitter) que o Gemini, inteligência artificial do Google, acessou e resumiu um de seus documentos no Google Drive sem ter permissão para isso. O episódio levanta preocupações de privacidade envolvendo as novas ferramentas da empresa.

Bankston, que é conselheiro sênior de governança da IA na organização não governamental Center for Democracy & Technology, diz que o resumo gerado pelo Gemini apareceu assim que ele abriu o PDF de sua declaração de imposto de renda.

Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn’t ask for this. Now I have to go find new settings I was never told about to turn this crap off.
— Kevin Bankston (@KevinBankston) July 10, 2024

“Então o Gemini está automaticamente ingerindo até os documentos privados que eu abro no Google Docs?”, questionou Bankston, que também é professor de Direito, no X. “Agora eu tenho que achar as novas configurações, já que ninguém me avisou, para desligar esta porcaria.”

Gemini não respeitou configurações, diz usuário

O especialista encontrou a configuração para ligar ou desligar os resumos do Gmail, Drive e Docs, mas aí veio outra surpresa: esta opção já estava desativada.

Sundar Pichai apresentou recursos do Gemini no Google I/O 2024 (Imagem: Reprodução / Google)

Sem resposta do suporte técnico do Google, Bankston levantou algumas hipóteses. Uma delas é que, ao clicar no botão do Gemini em um documento, o assistente vai funcionar automaticamente para todos os outros arquivos com aquela mesma extensão (PDF, por exemplo).

Outra teoria é que as configurações do Google Workspace Labs, que dá acesso a recursos experimentais, podem ter prioridade sobre os ajustes do Gemini. Bankston ativou essas funcionalidades em 2023, antes de elas serem liberadas para todos os usuários.

O que o Google diz

O Tecnoblog entrou em contato com o Google Brasil para entender melhor como o Gemini usa os dados de usuários. A empresa enviou o seguinte posicionamento:

Nossas funcionalidades de IA generativa são projetadas para oferecer aos usuários opções e mantê-los no controle de seus dados. Usar o Gemini no Google Workspace exige que o usuário o habilite proativamente e, quando o faz, seu conteúdo é usado de maneira que preserva a privacidade para gerar respostas úteis às suas solicitações, mas não é armazenado sem permissão.

A assessoria de imprensa também indicou um blog post de 2023 sobre políticas de privacidade envolvendo o Gemini e outras ferramentas.

O Google diz que os dados dos usuários podem ser usados de modo anonimizado ou agregado para aperfeiçoar as ferramentas, mas nunca para treinar o que chama de modelos fundacionais.

Ao pedir um resumo de um documento, por exemplo, o Google pode usar o feedback do usuário para melhorar esta funcionalidade e gerar resumos melhores no futuro. A empresa garante que não usará o conteúdo no treinamento do Gemini, isto é, para o modelo entender as informações presentes ali ou aprender a escrever melhor.

Além disso, a companhia enfatiza que assinantes do Google One AI Premium e usuários corporativos podem desativar os recursos de IA generativa. O Gemini não está disponível para usuários de planos gratuitos.

Com informações: Tom’s Hardware

Source link