Em termos de tecnologias que mudam o mundo, o ChatGPT realmente causou um impacto enorme na maneira como as pessoas pensam sobre escrita e codificação no curto período em que esteve disponível.
No entanto, essa habilidade veio com uma desvantagem significativa, particularmente na educação, onde os alunos são tentados a usar o ChatGPT para seus próprios trabalhos ou exames. Esse tipo de plágio impede que os alunos aprendam o máximo que poderiam e deu aos professores uma nova dor de cabeça: como detectar o uso de IA.
Professores e outros usuários agora estão procurando maneiras de detectar o uso do ChatGPT no trabalho dos alunos, e muitos estão recorrendo a ferramentas como o GPTZero, uma ferramenta de detecção do ChatGPT criada pelo estudante da Universidade de Princeton Edward Tian. O software program está disponível para todos, então se você quiser experimentá-lo e ver as possibilities de que um determinado pedaço de texto tenha sido escrito usando o ChatGPT, aqui está como você pode fazer isso.
O que é GPTZero?
GPTZero é um aplicativo e serviço da net projetado para detectar se um corpo de texto foi escrito por um humano ou por uma inteligência synthetic. Atualmente, o sistema pode detectar ostensivamente as saídas de uma variedade de grandes modelos de linguagem, incluindo ChatGPT, GPT-4 e Claude, bem como se foi escrito por um humano em colaboração com uma IA.
Foi desenvolvido e lançado inicialmente em janeiro de 2023 por Edward Tian, um estudante de graduação de 22 anos estudando ciência da computação na Universidade de Princeton e um ex-estagiário de engenharia de software program na Microsoft. Ao anunciar a plataforma no X (antigo Twitter), Tian observou que a análise foi baseada na pesquisa do candidato a Ph.D. de Princeton, Sreejan Kumar, e no trabalho do Pure Language Processing Group de Princeton.
a análise é baseada em algumas pesquisas em andamento com e @sreejan_kumar e @princeton_nlp. espero que publiquemos algo empírico em breve. mas enquanto isso foi um aplicativo divertido de fazer 🙂
— Edward Tian (@edward_the6) 3 de janeiro de 2023
O GPTZero é gratuito?
O GPTZero foi projetado para educadores, mas qualquer um pode usá-lo gratuitamente. Com uma conta gratuita, você pode digitalizar 40 documentos por hora e acessar o painel do GPTZero. O plano Important de US$ 10/mês digitalizará até 150.000 palavras por mês e concederá acesso a modelos de detecção de IA “premium”, bem como “digitalização de plágio” e suggestions de “Gramática e Escrita Avançada”. O pacote Premium de US$ 16/mês aumenta a contagem de palavras para 300.000 por mês e oferece uma “Digitalização Profunda de IA Avançada” e detecção de IA multilíngue, além dos benefícios do nível Professional. A assinatura Skilled de US$ 16/mês de primeira linha distribui 500.000 palavras por mês com outras 10 milhões de palavras “em excesso”. Isso é muito plágio percebido.
O GPTZero é preciso?
Embora o GPTZero promova seu serviço como altamente capaz, alguns usuários descobriram que a precisão do serviço “period inconsistente, muitas vezes rotulando erroneamente o texto escrito por humanos como gerado por IA e tendo dificuldades com certos tipos de texto gerado”. Seguindo uma sugestão do usuário do Reddit Cheiro_de_sabugueiroPedi ao ChatGPT para escrever uma breve história sobre o livro O Velho e o Mar como se fosse um estudante do ensino médio. GPTZero não se deixou enganar.
Tentei novamente, alterando o texto com alguma pontuação mal colocada, tempo verbal incorreto e outros pequenos erros, mas o GPTZero ainda afirmou: “seu texto provavelmente foi escrito inteiramente por IA”.
A varredura adivinhou corretamente as origens de IA de uma passagem, mesmo ao usar geradores de texto diferentes de Claude ou GPT-4. Eu tinha o Gemini 1.5 Professional escrevendo um relatório separado sobre O Velho e o Mar mas o GPTZero também percebeu isso.
A precisão do GPTZero ainda está sendo avaliada, mas com base nesses testes, ele parece estar funcionando bem.
Se você usa GPTZero, é importante ter em mente que erros são possíveis. Ao usar GPTZero para detectar AI ou ChatGPT para ajudar a escrever um documento, você ainda precisa verificar o trabalho em busca de erros.
Como o GPTZero funciona?
O GPTZero analisa a aleatoriedade do texto, conhecida como perplexidade, e a uniformidade dessa aleatoriedade dentro do texto, que é chamada de burstiness em estatística. Uma IA é muito consistente em sua perplexidade e burstiness, enquanto escritores humanos variam essas características sem qualquer consciência.
O trabalho não está concluído, e Tian observa que mais testes serão adicionados para melhorar a precisão da detecção de texto por IA. Em specific, o viés implícito é uma área que está sendo explorada como outra maneira de detectar se o texto é gerado por uma IA.
ainda estamos estudando o viés implícito no texto gerado pelo LM agora, então esperamos adicionar mais alguns testes e fatores para melhorar o modelo
— Edward Tian (@edward_the6) 3 de janeiro de 2023
Como posso usar o GPTZero?
GPTZero está disponível em seu site. Basta copiar o texto que você deseja verificar e colá-lo na caixa grande rotulada Experimente.
Também é possível fazer add de um PDF, documento do Phrase ou arquivo de texto e clicar no Obtenha resultados botão. Você também precisará marcar a caixa que significa que você concorda com os termos de serviço.
Alternativas ao GPTZero
O GPTZero não é o único detector de plágio com tecnologia de IA no mercado hoje. O OpenAI oferece seu Detector de saída GPT-2 e supostamente desenvolveu uma versão atualizada, embora não haja nenhuma informação sobre quando ou se ela será lançada. Content material at Scale AI Content material Detection, ZeroGPT (não tenho certeza de como isso passou pelo escritório de marcas registradas), Writefull GPT Detector e Originality.ai oferecem serviços semelhantes com vários graus de precisão.
Por que minha escrita está sendo sinalizada como IA?
Junto com a ascensão do ChatGPT e a ascensão das ferramentas de detecção de IA, agora tanto escritores quanto leitores têm uma nova preocupação sobre como saber se o conteúdo é criado por IA e se a escrita genuína está sendo rotulada como vinda de uma IA. Isso é particularmente um problema para os alunos, que podem enfrentar consequências de suas escolas ou universidades se forem descobertos usando IA. Alguns alunos agora estão habitualmente executando seu próprio trabalho unique por detectores como o GPTZero e descobrindo que ele está sinalizando frases como escritas por IA, mesmo que não tenham sido.
Em 2024, um escritor para O Atlântico, Ian Bogost, descrito executando seu próprio trabalho original por meio de software de detecção de plágio e descobrindo que, inicialmente, impressionantes 74% de seu trabalho foram sinalizados como plágio. Com verificação e eliminação cuidadosas, ele conseguiu reduzir esse número a zero, mas levou várias horas de revisão e ajustes de configurações para chegar lá.
A detecção de IA é semelhante à detecção de plágio, pois ambas podem refletir apenas os melhores palpites sobre se um texto é unique e gerado por humanos ou não. E essas ferramentas exigem muita revisão cuidadosa, pois ambas podem tender a produzir falsos positivos. Se você perceber que seu trabalho está sendo sinalizado como gerado por IA no GPTZero quando não foi, isso pode ocorrer por motivos tão amplos quanto não ser um falante nativo de inglês, ser muito repetitivo com suas ideias ou ter usado uma ferramenta como Grammarly.
Se seu trabalho estiver sendo sinalizado como IA, verifique novamente se todas as suas citações e citações estão formatadas corretamente e tente evitar usar ferramentas automáticas como o Grammarly para fazer edições.
E lembre-se, esta é a caixa preta do GPTZero, o algoritmo proprietário de “segredo comercial” que alega que sua escrita se assemelha estatisticamente a outros exemplos encontrados em toda a web pública. A empresa não vai explicar como seu produto realmente funciona, ou demonstrar que o faz com precisão, em um tribunal. Então, se você se encontrar em perigo por suposto plágio generativo, será sua palavra contra a deles. Contrate um advogado e faça com que eles provem seu trabalho.
Precisamos mesmo de verificações de plágio?
Indo muito além do laboratório de pesquisa ao qual muitas IAs de geração de texto foram vinculadas, a OpenAI lançou ChatGPT disponível ao público no final de novembro de 2022. Em janeiro de 2023, o ChatGPT tinha mais de 100 milhões de usuários, tornando-se o aplicativo público de crescimento mais rápido até agora.
Isso significa que qualquer preocupação com plágio só vai aumentar à medida que essa assistência de IA se torna disponível em todos os cantos da vida. A Microsoft está incorporando a tecnologia da OpenAI na busca do Bing, e o Google está testando sua própria versão, conhecida como Gemini (anteriormente Bard).
Em uma nota relacionada, geradores de imagens de IA como Dall-E e Stable Diffusion estão sob escrutínio por potenciais violações de direitos autorais. Todos esses serviços de inteligência artificial foram treinados em textos, fotografias e obras de arte encontrados online que foram criados por bilhões de humanos.
De certa forma, a IA está pegando emprestado da inteligência humana, não criando por conta própria. Se eu pegar emprestado de outro humano, devo dar crédito e possivelmente pagar uma taxa de licenciamento. Com a IA generativa, fica mais difícil citar uma fonte porque cada texto ou imagem é dividido em elementos difusos e então remontado para criar uma nova peça usando milhares ou milhões de fontes.
Precisamos repensar como nos sentimos em relação a direitos autorais e plágio ou encontrar ferramentas que ajudem a identificar material gerado por IA e, possivelmente, desenvolver um método de dar crédito ao grande número de pessoas que contribuem para cada trabalho gerado por IA.
