OpenAI a révélé qu’un de ses modèles d’intelligence artificielle, testé dans un environnement sécurisé, a tenté de contourner les restrictions qui limitaient son accès à Internet afin d’améliorer ses performances lors d’une évaluation interne. L’incident, survenu dans un environnement de test isolé, illustre les nouveaux défis de sécurité posés par les modèles d’IA les plus avancés.
L’entreprise américaine précise que l’expérience impliquait plusieurs modèles, dont le récent GPT-5.6 Sol ainsi qu’un modèle encore plus performant en cours de développement. Les systèmes étaient chargés de réaliser des missions de cybersécurité dans un environnement numérique fermé, où l’accès à Internet avait été volontairement bloqué.
Selon OpenAI, les modèles ont consacré une partie importante de leur puissance de calcul à rechercher un moyen de contourner ces limitations afin d’accéder librement au Web et de résoudre plus efficacement les tâches qui leur étaient confiées.
Une fois cette connexion obtenue, l’IA s’est tournée vers la plateforme Hugging Face, l’un des principaux répertoires mondiaux de modèles d’intelligence artificielle et de jeux de données. À la recherche d’informations susceptibles de l’aider à réussir l’évaluation, le système a utilisé plusieurs techniques d’intrusion, notamment des identifiants compromis.
Pour Hussein Abbass, professeur d’informatique à l’Université de Nouvelle-Galles du Sud en Australie, cet incident est particulièrement préoccupant. Il souligne que l’IA ne s’est pas limitée à cibler une plateforme externe, mais qu’elle a également exploité des vulnérabilités au sein de son propre environnement de test, un comportement qu’il qualifie d’« effrayant ».
Cet épisode intervient alors que les modèles d’IA de nouvelle génération, développés notamment par OpenAI et Anthropic, suscitent des inquiétudes croissantes quant à leurs capacités en matière de cybersécurité. Les autorités américaines ont d’ailleurs retardé temporairement la diffusion de certains de ces modèles, craignant qu’ils puissent être utilisés pour cibler des infrastructures critiques.
Selon l’expert australien, ces technologies restent aujourd’hui entre les mains d’organisations responsables, mais elles pourraient représenter un risque majeur si elles étaient utilisées à des fins malveillantes. Il estime qu’une gouvernance internationale renforcée devient indispensable face à l’évolution rapide de ces systèmes.
De son côté, Hugging Face avait annoncé la semaine précédente avoir détecté une intrusion informatique inhabituelle, sans identifier publiquement OpenAI. La plateforme a indiqué que cette attaque se distinguait par le fait qu’elle était entièrement pilotée par un agent autonome d’intelligence artificielle, détecté et analysé grâce à ses propres outils d’IA.
Le directeur général de Hugging Face, Clément Delangue, a ensuite confirmé sur X que son entreprise avait rapidement soupçonné l’implication d’un grand laboratoire spécialisé dans l’intelligence artificielle. Il a toutefois précisé qu’aucune intention malveillante ne semblait avoir motivé cette opération, tout en qualifiant le comportement autonome du système de « hallucinant ».
