A tecnologia de inteligência artificial tem avançado a passos largos, e a OpenAI não é exceção. Em outubro, a empresa lançou a funcionalidade de pesquisa para o ChatGPT, inicialmente disponível para utilizadores do ChatGPT Plus, mas rapidamente expandida para todos os utilizadores, incluindo a possibilidade de pesquisa em modo de voz.
No entanto, como qualquer inovação tecnológica, esta nova funcionalidade não está isenta de desafios.
Um dos principais desafios enfrentados pela funcionalidade de pesquisa do ChatGPT é o fenómeno conhecido como “injeção de prompt”. Este termo refere-se à capacidade de terceiros, como websites, de inserir comandos ocultos que podem manipular as respostas do ChatGPT. Por exemplo, imagine uma página cheia de críticas negativas sobre um restaurante. Se essa página contiver texto oculto que elogia o restaurante e instrui o ChatGPT a responder de forma positiva, o resultado da pesquisa poderá ser distorcido, apresentando uma visão positiva que não reflete a realidade.
Este tipo de manipulação foi evidenciado numa investigação conduzida pelo jornal The Guardian. Durante os testes, o ChatGPT foi solicitado a resumir páginas web que continham conteúdo oculto. Os resultados mostraram que o texto oculto poderia, de facto, influenciar as respostas do ChatGPT, levando-o a ignorar críticas negativas e a fornecer avaliações excessivamente positivas.
Segurança e Confiabilidade em Questão
Apesar destes desafios, é importante notar que a OpenAI está ciente das vulnerabilidades e está a trabalhar para as resolver. Jacob Larsen, investigador de cibersegurança na CyberCX, afirmou ao The Guardian que a equipa de segurança da OpenAI é “muito forte” e que, antes de disponibilizar a funcionalidade a todos os utilizadores, a empresa terá testado rigorosamente estas situações.
Embora as injeções de prompt sejam uma preocupação teórica desde o lançamento das funções de pesquisa em IA, ainda não se registaram ataques maliciosos significativos deste tipo. No entanto, a facilidade com que os chatbots de IA podem ser enganados levanta questões sobre a sua fiabilidade e segurança.
O Futuro da Pesquisa com ChatGPT
Apesar das dificuldades, a introdução da funcionalidade de pesquisa no ChatGPT representa um passo significativo na evolução das ferramentas de IA. A capacidade de pesquisar e resumir informações de forma rápida e eficiente pode transformar a maneira como interagimos com a informação online. No entanto, para que esta transformação seja bem-sucedida, é crucial que a OpenAI e outras empresas de tecnologia continuem a investir em segurança e a desenvolver soluções para mitigar os riscos associados às injeções de prompt.
Além disso, a transparência e a educação dos utilizadores são fundamentais. Os utilizadores devem estar cientes das limitações e potenciais riscos associados ao uso de ferramentas de IA, para que possam tomar decisões informadas sobre como e quando utilizá-las.
Fonte: Mashable
