Un nouvel outil peut dire si quelque chose est de l'IA

Une nouvelle étude a révélé qu'un détecteur d'IA développé par l'Université du Kansas peut détecter le contenu généré par l'IA dans les articles universitaires avec un taux de précision de 99 %, l'un des seuls détecteurs sur le marché spécifiquement orienté vers l'écriture universitaire.

Véritable erreur humaine ? Peut-être, mais du moins pas l'intelligence artificielle.

Selon un rapport publié mercredi dans la revue Cell Reports Physical Science, les chercheurs ont créé un outil qui peut prouver la détection de l'IA dans les articles universitaires avec une précision de 99 %.

L'équipe de chercheurs a sélectionné 64 perspectives (un type d'article) et les a utilisées pour créer 128 articles à l'aide de ChatGPT, qui a ensuite été utilisé pour entraîner le détecteur d'IA.

Le modèle avait un taux de précision de 100 % pour identifier les articles créés par l'homme à partir de ceux générés par l'IA, et un taux de précision de 92 % pour identifier des paragraphes spécifiques dans le texte.

Selon une enquête menée par Study.com, 89 % des étudiants ont admis utiliser ChatGPT pour effectuer leurs devoirs, tandis que 34 % des éducateurs pensent que le logiciel devrait être interdit, bien que 66 % soutiennent les étudiants qui y ont accès.

"En ce moment, il y a des problèmes assez flagrants avec l'écriture de l'IA", a déclaré l'auteur principal Heather Desaire dans un communiqué. "L'un des plus gros problèmes est qu'il assemble du texte à partir de nombreuses sources et qu'il n'y a aucun type de contrôle de précision - c'est un peu comme le jeu Two Truths and a Lie."

Les détecteurs d'IA ne se sont pas avérés précis à 100 %. Une étudiante de l'Université de Californie à Davis affirme avoir été faussement accusée par son université de tricherie avec l'IA. Après avoir téléchargé un article pour l'un de ses cours, elle a reçu un e-mail de son professeur affirmant qu'une partie était signalée dans le programme Turnitin comme étant générée par l'IA. Son cas a été immédiatement transmis au Bureau du soutien aux étudiants et des affaires judiciaires, qui gère la discipline en cas d'inconduite académique. L'étudiante a plaidé sa cause et a finalement gagné, en utilisant des horodatages pour prouver qu'elle a écrit le papier. Ce n'était pas la seule fois que les éducateurs qualifiaient à tort des devoirs comme générés par l'IA. Un professeur de commerce du Texas A&M a tenté d'échouer plus de la moitié de sa classe senior après avoir utilisé ChatGPT pour tester si les étudiants utilisaient le chatbot pour rédiger leurs articles. Il a copié et collé les papiers dans ChatGPT et a demandé s'il les avait écrits, ce à quoi il a répondu oui. Cela a entraîné le refus de leurs diplômes par l'université, bien que le professeur ait offert la possibilité de refaire le devoir. Cependant, l'université a confirmé à Insider qu'aucun étudiant n'avait échoué ou n'avait été empêché d'obtenir son diplôme.

Le chatbot d'OpenAI, ChatGPT, a été ouvert au public en novembre 2022, et en moins d'une semaine a dépassé la barre du million d'utilisateurs, avec des gens qui l'utilisent pour des choses comme la création de code et la rédaction d'essais. L'intelligence de l'IA a conduit plusieurs écoles à interdire le logiciel indéfiniment ou temporairement, notamment les écoles publiques de New York, les écoles publiques de Seattle et le district scolaire unifié de Los Angeles.

Il existe déjà de nombreux programmes et services qui promettent d'identifier le contenu écrit par l'IA.

ChatGPT dans les écoles : voici où il est interdit et comment il pourrait potentiellement aider les étudiants (Forbes)

Voici ce qu'il faut savoir sur le ChatGPT d'OpenAI : ce qu'il perturbe et comment l'utiliser (Forbes)