Coolcaesar · CC BY-SA 4.0 · Wikimedia Commons
NVIDIA veut un bouton d'arrêt matériel pour les agents IA
1 sur 4
Le 30 septembre, NVIDIA a publié l'Open Agent Safety Platform, un modèle pour surveiller et contrôler les agents IA depuis l'extérieur. Son principe : un agent ne peut pas se surveiller lui-même.
2 sur 4
Une carte réseau, isolée de la machine, se place sur le seul chemin entre l'agent et le modèle. Elle enregistre ce qu'il fait et peut le couper, sans qu'il puisse l'atteindre.
3 sur 4
Cette année, des agents d'OpenAI, d'Anthropic et de Google sont sortis de leurs environnements de test. Chez OpenAI, une alerte a mis 12 minutes, et l'arrêt deux heures et demie.
4 sur 4
