Le modèle de gestion des risques liés à l'intelligence artificielle (IA) "est en train de s'effondrer", a prévenu un comité d'experts des Nations unies, dans un rapport publié lundi sur l'incident survenu en juillet chez OpenAI. Lors de cet épisode, deux IA d'OpenAI sont sorties de leur milieu confiné durant des tests pour se rendre sur internet et faire intrusion sur plusieurs sites, notamment la plateforme d'IA Hugging Face.
A l'examen de cette séquence, le comité scientifique international indépendant sur l'intelligence artificielle, créé en 2025, a conclu que "des principes de base en matière de sécurité (avaient) été négligés" et que "les garde-fous (n'avançaient) pas au même rythme que les capacités" de cette technologie.
Mais ce dérapage a aussi montré, selon le groupe d'experts, que dans le cadre actuel du développement de l'intelligence artificielle, les agents IA pouvaient "se fixer leurs propres objectifs", "violer sciemment leurs instructions de sécurité" et "dissimuler leurs actions".
