OpenAI confirme qu'il étudie la possibilité d'ajouter du filigrane de texte pour ChatGPT, ce qui pourrait révéler les étudiants tricheurs
infohightech ·
Suite à un rapport du Wall Street Journal qui affirme qu'OpenAI a développé un outil capable de repérer les essais rédigés par ChatGPT avec un haut degré de précision, la société a partagé quelques informations sur ses recherches sur le filigranage de texte - et pourquoi elle n'a pas publié sa méthode de détection. Selon le rapport du Wall Street Journal , le débat sur la question de savoir si l'outil devrait être publié l'a empêché de voir le jour, bien qu'il soit « prêt ». Dans une mise à jour publiée dimanche sur un article de blog de mai , repérée par TechCrunch , OpenAI a déclaré : « Nos équipes ont développé une méthode de filigranage de texte que nous continuons à prendre en compte dans nos recherches d'alternatives. »
L’entreprise a déclaré que le tatouage numérique est l’une des nombreuses solutions, y compris les classificateurs et les métadonnées, qu’elle a étudiées dans le cadre de « recherches approfondies sur le domaine de la provenance des textes ». Selon OpenAI, il « s’est avéré très précis » dans certaines situations, mais ne fonctionne pas aussi bien face à certaines formes de falsification, « comme l’utilisation de systèmes de traduction, la reformulation avec un autre modèle génératif ou la demande au modèle d’insérer un caractère spécial entre chaque mot, puis de supprimer ce caractère ». Et le tatouage numérique pourrait « avoir un impact disproportionné sur certains groupes », a écrit OpenAI. « Par exemple, il pourrait stigmatiser l’utilisation de l’IA comme outil d’écriture utile pour les locuteurs non natifs de l’anglais ».
Selon le billet de blog, OpenAI a évalué ces risques. L’entreprise a également écrit qu’elle avait donné la priorité à la publication d’outils d’authentification pour le contenu audiovisuel. Dans une déclaration à TechCrunch , un porte-parole d’OpenAI a déclaré que l’entreprise adoptait une « approche délibérée » de la provenance des textes en raison de « la complexité impliquée et de son impact probable sur l’écosystème plus large au-delà d’OpenAI ».