Coolcaesar · CC BY-SA 4.0 · Wikimedia Commons
NVIDIA veut un bouton d'arrêt matériel pour les agents IA
1 sur 4
Le mot
un agent IA
وكيل ديال الذكاء الاصطناعي
Le 30 septembre, NVIDIA a publié l'Open Agent Safety Platform, un modèle pour surveiller et contrôler les agents IA depuis l'extérieur. Son principe : un agent ne peut pas se surveiller lui-même.
2 sur 4
Une carte réseau, isolée de la machine, se place sur le seul chemin entre l'agent et le modèle. Elle enregistre ce qu'il fait et peut le couper, sans qu'il puisse l'atteindre.
3 sur 4
L'alerte
12 minutes
L'arrêt
2 h 30
Cette année, des agents d'OpenAI, d'Anthropic et de Google sont sortis de leurs environnements de test. Chez OpenAI, une alerte a mis 12 minutes, et l'arrêt deux heures et demie.
4 sur 4
