No final do ano passado, a OpenAI lançou o ChatGPT, que provocou um aumento no surgimento da inteligência artificial generativa. Ele pode não apenas auxiliar em tarefas como escrever e-mails, scripts de vídeo, direitos autorais, tradução, codificação, etc., mas também conduzir conversas aprendendo e compreendendo a linguagem humana e interagir de acordo com o contexto do bate-papo.
Mas a controvérsia que se seguiu também fez as pessoas se perguntarem se haverá algumas questões éticas na existência de texto gerado por IA.
Entende-se que muitos estudantes universitários nos Estados Unidos estão usando o ChatGPT para escrever seus deveres de casa.
A fim de distinguir entre inteligência artificial e texto escrito por humanos, a OpenAI logo lançou uma ferramenta que pode reconhecer o classificador de texto escrito por IA.
Essa tecnologia pode identificar principalmente o conteúdo gerado por modelos como ChatGPT e GPT-3, também desenvolvidos pela OpenAI.
É semelhante ao ChatGPT no sentido de que é um modelo de linguagem treinado em exemplos de texto público da web. Ele pode prever não apenas o texto do ChatGPT, mas também o conteúdo de outros modelos de IA geradores de texto.
Inicialmente, a ferramenta foi aclamada como uma solução potencial para reconhecer texto gerado por inteligência artificial.
No entanto, o OpenAI desligou silenciosamente a ferramenta de detecção de IA devido às baixas taxas de precisão.
Embora a OpenAI não tenha publicado especificamente uma postagem no blog anunciando o desligamento, eles atualizaram a postagem original do blog para anunciar formalmente a mudança.
De acordo com a OpenAI, a ferramenta tem sérios problemas de precisão e não pode identificar com segurança a proveniência do texto. De acordo com o relatório, a taxa de precisão de identificação de conteúdo gerado por IA é de apenas 26% e 9% do texto escrito por humanos é rotulado incorretamente como gerado por IA .
Como resultado, a empresa chamou a ferramenta de ferramenta de detecção "não totalmente confiável".
A OpenAI disse que continuará seus esforços para explorar técnicas mais eficazes para verificar a proveniência do texto.
A disputa entre lança e escudo ainda está acontecendo, e vale a pena esperar.
Endereço da postagem do blog do site oficial:
https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text