Open Artificial Intelligence (AI), a organização responsável pela criação de DALL-E e ChatGPT, lançou uma nova ferramenta gratuita destinada a detectar textos escritos por humanos com a ajuda algoritmos de IA. Este classificador, no entanto, está longe de ser perfeito na sua precisão e o OpenAI sugere que não deve ser usado como uma única ferramenta de tomada de decisão. O objectivo desta oferta é ajudar as organizações a combater as instâncias de texto criados por “falsos” humanos.
O classificador de texto do OpenAI é uma ferramenta incrivelmente útil que lhe permite detectar e identificar rapidamente conteúdo gerado pela IA. Possui uma interface de utilizador simples, onde tudo o que tem de fazer é colar uma amostra de texto na caixa e clicar no botão, após isso irá fornecer-lhe uma avaliação sobre se o texto que ele vê é pouco claro ou se foi gerado por inteligência artificial. O único requisito para usar esta tecnologia é ter uma conta OpenAI gratuita.
No seu comunicado à imprensa, a OpenAI diz que treinou o modelo que alimenta a ferramenta usando “pares de texto escrito por humanos e texto escrito por IA sobre o mesmo tópico”.
No entanto, oferece alguns avisos sobre o uso da ferramenta. Acima da caixa de texto, a empresa observou algumas limitações:
- Requer um mínimo de 1.000 caracteres, o que equivale a aproximadamente 150 a 250 palavras.
- A ferramenta nem sempre é precisa, ela pode rotular erradamente texto gerado por IA e escrito por humanos.
- O texto gerado por IA pode ser editado facilmente para evitar o classificador.
- É provável que a ferramenta erre no texto escrito por crianças e no texto que não está em inglês, porque foi treinado principalmente em conteúdo em inglês escrito por adultos.
A empresa revelou que o seu classificador de IA ainda está longe de ser perfeito, e pode ocasionalmente reconhecer incorretamente texto escrito por humanos como tendo sido produzido por uma IA. A equipa de engenharia está a fazer progressos, mas é claro que esta tecnologia ainda é um trabalho em progresso e tem algum caminho a percorrer antes de se poder confiar plenamente nos seus resultados precisos.
O OpenAI não é o primeiro a criar uma ferramenta para detectar texto gerado pelo ChatGPT, após o chatbot se tornar viral, sites como o GPTZero também se tornaram virais, que foi criado por um aluno chamado Edward Tian para “detectar plágio de IA”.
O uso de texto gerado por IA é um ponto de discórdia na educação, à medida que as escolas se debatem com a decisão de permitir ou proibir o seu uso. O recente desenvolvimento da tecnologia ChatGPT pela OpenAI é parte do seu esforço para ajudar os educadores a navegar mais eficazmente nesta questão.
Fonte: Openai
Sem Comentários! Seja o Primeiro.