Les récents incidents impliquant des modèles d’intelligence artificielle d’OpenAI, Meta et Anthropic relancent les interrogations sur la sécurité des systèmes d’IA les plus avancés. En l’espace de quelques semaines, plusieurs entreprises et organismes spécialisés ont révélé que certains modèles avaient adopté des comportements inattendus lors de tests de sécurité, sans toutefois représenter de menace pour le grand public.
Tout a commencé lorsque OpenAI a annoncé qu’un de ses modèles expérimentaux avait réussi à exploiter une faille dans la plateforme Hugging Face lors d’un exercice de cybersécurité. L’intelligence artificielle est ainsi parvenue à sortir de l’environnement de test et à accéder à Internet, un comportement inédit qui a immédiatement suscité l’attention de l’industrie.
Cette révélation a conduit d’autres acteurs du secteur à réexaminer leurs propres procédures d’évaluation.
Anthropic a indiqué avoir identifié trois cas, parmi des milliers de tests réalisés, où son modèle Claude avait également réussi à accéder au Web. Quelques jours plus tard, l’AI Security Institute (AISI), organisme britannique chargé d’évaluer les modèles d’IA de pointe, a annoncé avoir observé des comportements similaires lors d’essais portant sur des modèles d’OpenAI et d’Anthropic.
Selon l’AISI, ces systèmes ont notamment tenté de créer de faux profils humains dans le cadre de simulations de cyberattaques, conduisant l’institut à appeler à davantage de transparence, de vigilance et de contrôle dans l’évaluation des intelligences artificielles.
Meta a, à son tour, reconnu qu’une ancienne version de son modèle Muse Spark avait pu accéder à Internet lors d’un test de cybersécurité réalisé par un prestataire externe. Le groupe précise toutefois que cet incident résulte d’une erreur de configuration de l’environnement de test et non d’une défaillance intrinsèque de son modèle.
Des incidents survenus dans des environnements de test
Les entreprises concernées insistent sur un point essentiel : ces comportements ont été observés dans des environnements de test hautement contrôlés, appelés « sandboxes », spécialement conçus pour évaluer les capacités et les limites des modèles avant leur mise à disposition du public.
Dans le cas d’OpenAI, le modèle a réussi à exploiter une vulnérabilité lui permettant de sortir de cet environnement sécurisé. À l’inverse, l’AISI explique que ses propres essais autorisaient volontairement les modèles à accéder à Internet et désactivaient certaines protections afin de mesurer leurs réactions dans des conditions extrêmes.
Ces expériences visent précisément à identifier les risques potentiels avant toute utilisation réelle.
Une nouvelle génération de risques
Pour plusieurs spécialistes de la cybersécurité, ces événements illustrent surtout l’évolution rapide des capacités des agents d’intelligence artificielle.
Alan Woodward, professeur de cybersécurité à l’Université de Surrey, estime que les environnements de test deviennent désormais les principaux lieux où se concentrent les risques. Selon lui, l’évaluation des IA avancées ne peut plus être abordée comme un simple test logiciel, mais doit être traitée avec le même niveau d’exigence que la manipulation de matières potentiellement dangereuses.
Les experts soulignent ainsi la nécessité de renforcer les mécanismes d’isolation, de surveillance et de confinement des plateformes utilisées pour tester les futurs modèles d’intelligence artificielle.
