Criador do ChatGPT criou uma ferramenta para detectar texto criado por IA

Open Artificial Intelligence (AI), a organização responsável pela criação de DALL-E e ChatGPT, lançou uma nova ferramenta gratuita destinada a detectar textos escritos por humanos com a ajuda algoritmos de IA. Este classificador, no entanto, está longe de ser perfeito na sua precisão e o OpenAI sugere que não deve ser usado como uma única ferramenta de tomada de decisão. O objectivo desta oferta é ajudar as organizações a combater as instâncias de texto criados por “falsos” humanos.

O classificador de texto do OpenAI é uma ferramenta incrivelmente útil que lhe permite detectar e identificar rapidamente conteúdo gerado pela IA. Possui uma interface de utilizador simples, onde tudo o que tem de fazer é colar uma amostra de texto na caixa e clicar no botão, após isso irá fornecer-lhe uma avaliação sobre se o texto que ele vê é pouco claro ou se foi gerado por inteligência artificial. O único requisito para usar esta tecnologia é ter uma conta OpenAI gratuita.

No seu comunicado à imprensa, a OpenAI diz que treinou o modelo que alimenta a ferramenta usando “pares de texto escrito por humanos e texto escrito por IA sobre o mesmo tópico”.

No entanto, oferece alguns avisos sobre o uso da ferramenta. Acima da caixa de texto, a empresa observou algumas limitações:

  • Requer um mínimo de 1.000 caracteres, o que equivale a aproximadamente 150 a 250 palavras.
  • A ferramenta nem sempre é precisa, ela pode rotular erradamente texto gerado por IA e escrito por humanos.
  • O texto gerado por IA pode ser editado facilmente para evitar o classificador.
  • É provável que a ferramenta erre no texto escrito por crianças e no texto que não está em inglês, porque foi treinado principalmente em conteúdo em inglês escrito por adultos.

A empresa revelou que o seu classificador de IA ainda está longe de ser perfeito, e pode ocasionalmente reconhecer incorretamente texto escrito por humanos como tendo sido produzido por uma IA. A equipa de engenharia está a fazer progressos, mas é claro que esta tecnologia ainda é um trabalho em progresso e tem algum caminho a percorrer antes de se poder confiar plenamente nos seus resultados precisos.

O OpenAI não é o primeiro a criar uma ferramenta para detectar texto gerado pelo ChatGPT, após o chatbot se tornar viral, sites como o GPTZero também se tornaram virais, que foi criado por um aluno chamado Edward Tian para “detectar plágio de IA”.

O uso de texto gerado por IA é um ponto de discórdia na educação, à medida que as escolas se debatem com a decisão de permitir ou proibir o seu uso. O recente desenvolvimento da tecnologia ChatGPT pela OpenAI é parte do seu esforço para ajudar os educadores a navegar mais eficazmente nesta questão.

Fonte: Openai

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui