OpenAI va marquer d'un filigrane invisible les textes et codes générés dans l'UE

Son système, textGrain, ajoute un signal statistique invisible aux choix de mots du modèle. Un détecteur peut ensuite repérer ce signal.

Détection sur texte court

80 % détectés 20 % manqués

Elle ne marche pas toujours : sur un texte court, la détection réussit environ 80 fois sur 100, et les retouches la font baisser.

Le filigrane n'est activé par défaut que pour ChatGPT et Codex dans l'UE. Le détecteur reste réservé aux chercheurs et organismes experts agréés.

Les géants de l'IA ont jusqu'au 2 décembre pour se conformer à l'article 50 de l'AI Act européen.