En fin d'année dernière, OpenAI a lancé ChatGPT, ce qui a provoqué une recrudescence de l'émergence de l'intelligence artificielle générative. Il peut non seulement aider à des tâches telles que la rédaction d'e-mails, de scripts vidéo, de rédaction, de traduction, de codage, etc., mais également mener des conversations en apprenant et en comprenant le langage humain, et interagir en fonction du contexte du chat.
Mais la controverse qui a suivi a également amené les gens à se demander s'il y aura des problèmes éthiques dans l'existence de textes générés par l'IA.
Il est entendu que de nombreux étudiants aux États-Unis utilisent ChatGPT pour écrire leurs devoirs.
Afin de faire la distinction entre l'intelligence artificielle et le texte écrit par l'homme, OpenAI a rapidement lancé un outil capable de reconnaître le classificateur de texte écrit par l'IA.
Cette technologie peut principalement identifier le contenu généré par des modèles tels que ChatGPT et GPT-3, également développés par OpenAI.
Il est similaire à ChatGPT en ce sens qu'il s'agit d'un modèle de langage formé sur des exemples de texte public du Web. Il peut prédire non seulement le texte de ChatGPT, mais également le contenu d'autres modèles d'IA générant du texte.
Initialement, l'outil a été salué comme une solution potentielle pour la reconnaissance de texte généré par l'intelligence artificielle.
Cependant, OpenAI a discrètement arrêté l'outil de détection d'IA en raison de faibles taux de précision.
Bien qu'OpenAI n'ait pas spécifiquement publié d'article de blog annonçant la fermeture, ils ont mis à jour leur article de blog d'origine pour annoncer officiellement le changement.
Selon OpenAI, l'outil présente de sérieux problèmes de précision et ne peut pas identifier de manière fiable la provenance du texte. Selon le rapport, le taux de précision d'identification du contenu généré par l'IA n'est que de 26 %, et 9 % du texte écrit par l'homme est incorrectement étiqueté comme généré par l'IA .
En conséquence, la société a qualifié l'outil d'outil de détection "pas entièrement fiable".
OpenAI a déclaré qu'il poursuivra ses efforts pour explorer des techniques plus efficaces pour vérifier la provenance du texte.
Le concours entre la lance et le bouclier est toujours en cours, et nous méritons d'être attendus avec impatience.
Adresse de publication du blog du site officiel :
https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text