OpenAI envisage dajouter des filigranes au texte généré par ChatGPT

Selon le Wall Street Journal, OpenAI dispose depuis environ un an d'un système de filigrane de texte généré par ChatGPT et d'un outil de détection de filigranes. Mais l'entreprise débat en interne de la question de savoir si elle doit le publier. D’un côté, cela semble être la chose responsable à faire ; D’un autre côté, cela peut nuire aux bénéfices de l’entreprise.

Le filigrane d'OpenAI est décrit comme ajustant la façon dont le modèle prédit les mots et les phrases les plus probables après les mots et les phrases précédents, créant ainsi un modèle détectable.

Fournir un moyen de détecter le contenu écrit par l’IA est une aubaine potentielle pour les enseignants qui tentent de décourager les élèves d’utiliser l’IA pour faire leurs devoirs. Le Journal rapporte que la société a constaté que le filigrane n'affectait pas la qualité de la sortie de texte du chatbot. Dans une enquête commandée par l'entreprise, « les gens du monde entier ont soutenu l'idée d'outils de détection d'IA dans une marge de 4:1 », écrit le Journal.

Après que le Journal a publié son article, OpenAI a confirmé qu'il avait fait pression pour l'ajout du filigrane de texte dans une mise à jour d'un article de blog repérée aujourd'hui par TechCrunch. Dans ce document, l'entreprise affirme que sa méthode est très précise (« efficace à 99,9 % », selon les documents consultés par le Journal) et résistante à « l'usurpation d'identité, comme la paraphrase ». L'entreprise a également déclaré qu'elle était préoccupée par la stigmatisation entourant l'utilité des outils d'IA pour les locuteurs non natifs.

Mais il semble qu'OpenAI s'inquiète également du fait que l'utilisation d'un filigrane pourrait aliéner les utilisateurs de ChatGPT. Selon l’enquête, près de 30 % d’entre eux ont déclaré à l’entreprise qu’ils utiliseraient moins le logiciel si la fonction de filigrane était mise en œuvre.

Certains employés estiment néanmoins que la fonction de filigrane serait efficace. Cependant, en réponse à la frustration des utilisateurs, le Journal a déclaré que certaines des méthodes de test proposées « peuvent être moins controversées parmi les utilisateurs mais ne sont pas éprouvées ». Dans la mise à jour du blog d'aujourd'hui, la société a déclaré qu'elle en était « aux premiers stades » de l'exploration de l'intégration des métadonnées, et qu'il était encore « trop tôt » pour savoir dans quelle mesure la nouvelle fonctionnalité fonctionnerait, mais comme elle est signée cryptographiquement, il ne devrait pas y avoir de faux positifs.