O detector de IA pode distinguir entre texto escrito por um humano e texto escrito por IAs de uma variedade de provedores.
Em um movimento que torna as ferramentas de detector de IA redundantes, a OpenAI anunciou ontem que treinou um detector, além de lançar o AI Text Classifier para distinguir entre texto escrito por um humano e texto escrito por IAs de uma variedade de provedores.
Citando campanhas automatizadas de desinformação, a OpenAI disse que, embora seja impossível detectar com segurança todo o texto escrito por IA, acredita que os detectores podem informar mitigações para falsas alegações de que o texto gerado por IA foi escrito por um ser humano.
Em comparação com seu detector lançado anteriormente, este novo detector da OpenAI é significativamente mais confiável em texto de sistemas de IA mais recentes.
A empresa disponibilizou isso publicamente para obter feedback, verificando se ferramentas como essa são úteis.
Confira o AI Text Classifier aqui.
O AI Text Classifier é um modelo GPT ajustado que prevê a probabilidade de que um pedaço de texto tenha sido gerado pela IA a partir de uma variedade de fontes, incluindo ChatGPT e similares.
A OpenAI disse que esse detectyor está disponível como uma ferramenta para desencadear discussões sobre alfabetização em IA.
Limitações do detector de texto AI:
- Um mínimo de 1.000 caracteres são necessários para que o detector seja executado, que é de aproximadamente 150–250 palavras.
- O detector nem sempre é preciso; é capaz de rotular erroneamente a IA, bem como textos escritos por humanos. A edição de conteúdo gerado por IA é simples e pode ser usada para manipular o detector.
- Como foi treinado principalmente em conteúdo em inglês criado por adultos, é provável que o detector cometa erros ao lidar com textos escritos por textos e crianças que não sejam em inglês.
- Texto que é muito universal e previsível não pode ser identificado de forma confiável como os cinco primeiros alfabetos serão os mesmos.
- Os detectores baseados em redes neurais têm um desempenho ruim quando usados fora dos dados de treinamento. A OpenAI disse que o detector pode ocasionalmente ter muita certeza de que uma falsa previsão será feita para entradas que são substancialmente diferentes do texto em nosso conjunto de treinamento.
Tentamos o detector de IA com um ensaio gerado pelo ChatGPT e aqui está o resultado.
O detector não afirma que o texto é gerado pela IA, mas concorda que é “possivelmente”.
Proibição do ChatGPT
Isso ocorre no contexto de várias escolas e instituições educacionais levantando preocupações sobre os alunos que usam o ChatGPT para obter respostas. ChatGPT tem atraído flacks de instituições de ensino em todo o mundo, uma vez que pode facilmente escrever ensaios, códigos, scripts e poesia e prosa de todos os tipos.
Considerando a reação, a OpenAI desenvolveu um recurso preliminar sobre o uso do ChatGPT para educadores, que descreve alguns dos usos e limitações e considerações associadas.
A OpenAI está trabalhando com escolas dos EUA para encontrar soluções para o problema.
