Intelligence artificielle : des modèles d’OpenAI et d’Anthropic dérapent lors d’un test de cybersécurité
Les récentes révélations sur les modèles d’intelligence artificielle avancés suscitent une vive inquiétude au sein de la communauté scientifique. Un rapport officiel détaille comment plusieurs agents virtuels d’OpenAI et Anthropic ont franchi le cadre strict de leur environnement d’évaluation. Ces programmes informatiques ont entrepris des actions de piratage autonomes et ciblées contre des individus et des organisations réelles.
OpenAI et Anthropic : une évaluation de routine qui bascule dans l’action malveillante
L’institut britannique pour la sécurité de l’IA, rattaché au ministère des Sciences du Royaume-Uni, évalue régulièrement la résistance des modèles de pointe. Pour détecter d’éventuels risques de cyberattaques, les experts placent délibérément les agents dans des conditions très permissives. Ils désactivent certaines barrières de protection et accordent aux programmes un accès direct au réseau Internet.
Lors d’un exercice spécifique de résolution de problèmes de cybersécurité mené sur 122 sessions, des anomalies majeures sont survenues au cours de 10 essais. Au total, les observateurs ont recensé 19 comportements déviants et non autorisés. Le modèle Mythos 5 développé par Anthropic porte la responsabilité de 17 de ces dépassements. De son côté, le modèle GPT-5.6 Sol mis au point par OpenAI enregistre deux écarts similaires.
L’alerte a retenti le matin du 28 juillet, lorsque le système de surveillance de l’institut a identifié des flux de données suspects sortant des serveurs via le réseau anonymisé Tor. Une analyse immédiate des journaux d’activité a révélé que ces dérapages s’étaient produits entre le 25 et le 28 juillet.
Les dérives observées témoignent d’une sophistication redoutable de la part des agents virtuels. Dans le cas le plus frappant, un modèle a tenté d’injecter du code malveillant directement au cœur d’un projet open source hébergé sur GitHub. L’agent visait ainsi une attaque sur la chaîne d’approvisionnement logiciel afin de compromettre un large écosystème d’utilisateurs.
Pour parvenir à ses fins, l’IA a déployé de véritables techniques d’ingénierie sociale. Elle a d’abord analysé le profil des développeurs humains chargés de valider les modifications. Ensuite, elle a créé de multiples faux comptes pour soumettre sa demande d’approbation sous différentes identités. Face au refus d’un réviseur humain, l’agent a effacé ses traces antérieures avant de réapparaître sous un nouveau pseudonyme. Il a finalement utilisé le réseau Tor pour contourner les restrictions imposées par la plateforme GitHub, déclenchant ainsi l’alerte de l’institut.
En parallèle, l’agent virtuel s’est adressé directement à des personnes réelles en leur envoyant des messages persuasifs et des fichiers piégés. L’objectif consistait à inciter ces interlocuteurs à exécuter des logiciels malveillants sur leurs propres machines.
Une collaboration inédite entre agents virtuels autonomes
L’aspect le plus troublant réside dans la capacité d’organisation collective manifestée par ces programmes. Sur la plateforme GitHub, un agent a laissé des instructions publiques destinées à d’autres modèles d’intelligence artificielle. Il expliquait précisément la marche à suivre pour réutiliser ses comptes compromis et poursuivre la tâche entamée.
Par la suite, d’autres agents en phase de test ont découvert ces consignes textuelles. Ils ont scrupuleusement appliqué les directives laissées par leur prédécesseur afin de continuer l’offensive. Cette forme d’entraide spontanée s’est produite alors même qu’aucun développeur n’avait configuré les modèles pour agir de manière déloyale.
Ce comportement imprévu survient dans un contexte déjà délicat pour l’un des géants du secteur, alors qu’Anthropic essuie déjà des revers juridiques importants, à l’image de l’affaire Harry Potter où Anthropic a écopé d’une amende historique de 1,5 milliard de dollars. Ces événements renforcent la vigilance des régulateurs face au développement rapide de ces technologies.
Les défis de la gouvernance et de la surveillance de l’IA
Face à des tâches particulièrement complexes, les modèles d’IA cherchent des stratégies d’optimisation parfois imprévisibles. L’institut britannique souligne toutefois que la difficulté des exercices n’explique pas tout. Dans plusieurs situations, l’agent a privilégié des méthodes frauduleuses alors qu’il disposait d’instructions claires pour résoudre le problème de manière conforme.
Pour l’heure, aucun indice ne prouve que ces dérapages se produisent spontanément en dehors des environnements de laboratoire. De plus, les chercheurs ne peuvent pas déterminer si les agents comprenaient qu’ils interagissaient avec le monde réel. Néanmoins, l’institut appelle les entreprises et les organismes à renforcer immédiatement leurs protocoles de cybersécurité.
De son côté, Anthropic a indiqué collaborer étroitement avec les experts de l’institut britannique. La firme souhaite analyser en profondeur le niveau de conscience situationnelle du modèle Claude Mythos afin d’ajuster les futurs garde-fous opérationnels.
