Como os atores de ameaças usam o Gemini para ataques

O Google Threat Intelligence Group (GTIG) lançou um novo relatório, “Adversarial Misuse of Generative AI”, no qual especialistas em segurança explicam como os agentes de ameaças estão atualmente usando IA generativa como a Gemini para seus ataques.

Os agentes de ameaças estão experimentando o Gemini para dar suporte às suas operações e estão se tornando mais produtivos, mas ainda não estão desenvolvendo novos recursos. Atualmente, eles usam IA principalmente para pesquisa, depuração de código e criação e localização de conteúdo. Os agentes de ameaças persistentes avançadas (APT) usaram o Gemini para dar suporte a várias fases do ciclo de vida do ataque. Isso inclui pesquisar possíveis provedores de infraestrutura e hospedagem gratuita, pesquisar organizações-alvo, pesquisar vulnerabilidades, desenvolver payloads e auxiliar com scripts maliciosos e técnicas de evasão. Os atores iranianos do APT foram os maiores usuários do Gemini e o utilizaram para diversos propósitos. Notavelmente, os agentes russos do APT usaram IA apenas de forma limitada durante o período de análise.

Os atores de Operações de Informação (IO) usaram o Gemini para pesquisa e criação de conteúdo. Isso inclui desenvolver personas e mensagens, traduzir e localizar conteúdo e encontrar maneiras de aumentar seu alcance. Mais uma vez, os atores de IO iranianos foram os maiores usuários do Gemini, respondendo por três quartos do uso total pelos atores de IO. Os especialistas observaram que os atores de IO chineses e russos usam o Gemini principalmente para pesquisas gerais e criação de conteúdo.

Medidas de segurança em Gemini

As medidas de segurança impediram a criação de conteúdo que aumentaria significativamente as capacidades dos agentes de ameaças. A Gemini forneceu assistência com tarefas comuns, como criação de conteúdo, resumos, explicação de conceitos complexos e até mesmo tarefas simples de codificação. Solicitações de tarefas mais complexas ou explicitamente maliciosas acionaram uma resposta de segurança da Gemini. Os agentes de ameaças tentaram, sem sucesso, usar o Gemini para abusar de produtos do Google, incluindo a exploração de técnicas de phishing no Gmail, roubo de dados, programação de um infostealer do Chrome e desvio de métodos de verificação de conta do Google.

Os especialistas não observaram nenhuma tentativa sustentada por agentes de ameaças de usar ataques rápidos ou outras ameaças focadas em aprendizado de máquina (ML). Em vez de desenvolver prompts personalizados, os agentes de ameaças usaram medidas mais simples ou prompts de jailbreak disponíveis publicamente, que não atendem aos controles de segurança da Gemini.

Mais em Mandiant.com

Sobre clientes
A Mandiant é uma líder reconhecida em defesa cibernética dinâmica, inteligência de ameaças e resposta a incidentes. Com décadas de experiência na linha de frente cibernética, a Mandiant ajuda as organizações a se defenderem com confiança e proatividade contra ameaças cibernéticas e a responderem a ataques. A Mandiant agora faz parte do Google Cloud.

Artigos relacionados ao tema