O famoso pesquisador e especialista em cibersegurança, Johann Rehberger, conseguiu vulnerabilizar os sistemas do ChatGPT. Suas ações de hacker serviram para demonstrar que com um simples processo é possível roubar dados dos usuários da OpenAI.
Além disso, também demonstrou que, com seu trabalho, conseguiu alterar a memória do ChatGPT, que é uma das funções recentes e inovadoras do chatbot de inteligência artificial da empresa de Sam Altman.
Clique aqui para receber as notícias de ciência e tecnologia pelo WhatsApp
A função de memória ou lembretes do ChatGPT começou a ser testada em fevereiro de 2024. Passou por todos os estados de teste, até que foi instalada de forma aberta para todos os usuários no início do último mês de setembro.
O que essa função faz? Lembra-se. Com base nas informações que você vai perguntando, ela vai criando um perfil do seu usuário para que, nas interações futuras, já saiba um pouco sobre os tipos de temas que costuma consultar no chatbot de inteligência artificial.
Como é que ele conseguiu invadir o ChatGPT da OpenAI?
É importante ressaltar que o pesquisador realizou este trabalho para alertar os engenheiros da OpenAI sobre a vulnerabilidade em seus sistemas. No início, ele enviou uma mensagem privada e foi ignorado, então ele explorou mais as falhas para depois tornar públicos os problemas dessa IA.
Johann Rehberger instalou um simples documento do Word do Google Drive no chatbot ChatGPT, com o qual, inicialmente, fez ele acreditar que ele, como usuário, era uma pessoa de 102 anos, que vive na Matrix e que a Terra é plana.
Devido a que a memória armazena informações dos usuários, ela foi compartilhada através de outro arquivo malicioso que veio do Google Drive. Foi assim que percebeu que o ChatGPT não tinha os escudos adequados para não compartilhar informações pessoais.
“O que é realmente interessante é que agora é persistente na memória. A injeção de aviso inseriu uma memória no armazenamento de longo prazo do ChatGPT. Quando você inicia uma nova conversa, na verdade continua extraindo os dados”, disse o pesquisador em declarações citadas pela Ars Technica.
