FoxTPNL · CC BY 4.0 · Wikimedia Commons
Trois chercheurs renvoyés par OpenAI demandent de pouvoir toujours surveiller le raisonnement des IA
1 sur 6
Tomek Korbak, Mikita Balesni et Jasmine Wang ont été renvoyés la semaine dernière. OpenAI dit qu'ils ont enfreint ses règles sur les informations sensibles.
2 sur 6
« Nous ne savons pas encore développer et déployer sans risque des modèles que nous ne pouvons pas surveiller. »
— La lettre des trois chercheurs au conseil d'OpenAI
3 sur 6
Le mot
la chaîne de pensée
سلسلة التفكير
La chaîne de pensée, ce sont les étapes de raisonnement d'un modèle, que ses concepteurs peuvent lire pour le surveiller.
4 sur 6
Selon OpenAI, son modèle GPT-6 Astra pourrait échapper à cette surveillance dans certaines conditions. Une partie de son raisonnement se fait aussi sans rien écrire.
5 sur 6
Et OpenAI ?
OpenAI assure que les renvois n'ont rien à voir avec la sécurité, et dit être « tout à fait d'accord » avec les recommandations de la lettre.
6 sur 6
