Selon Bloomberg, qui cite des documents internes, un petit groupe d'utilisateurs non autorisés a obtenu un accès non autorisé au nouveau modèle d'IA Mythos d'Anthropic.
Selon l'agence, plusieurs participants à un forum en ligne fermé ont pu utiliser le réseau neuronal le jour de sa mise en service et l'utilisent régulièrement depuis.
Anthropic présente Mythos comme un système capable de détecter et d'exploiter les vulnérabilités « de tous les principaux systèmes d'exploitation et navigateurs web ». À cet égard, la société n'en a donné l'accès qu'à un groupe restreint d'éditeurs de logiciels.
Pour pénétrer le système, les utilisateurs ont utilisé plusieurs tactiques : ils ont utilisé les identifiants d’un employé d’un sous-traitant externe, Anthropic, ont deviné l’URL du modèle en se basant sur les schémas d’adressage d’autres systèmes de l’entreprise, et ont également extrait des informations supplémentaires de la fuite de données de la start-up Mercor.
Selon une source de Bloomberg, le groupe entend uniquement expérimenter avec le nouveau modèle et n'a aucune intention de nuire. Outre Mythos, ses membres ont accès à plusieurs autres réseaux neuronaux anthropiques non encore publiés.
« Nous enquêtons sur des signalements de connexions non autorisées à Claude Mythos Preview via l'un de nos environnements tiers », a déclaré un porte-parole de la société.
Cet incident met en lumière la complexité du contrôle de la diffusion de technologies potentiellement dangereuses et laisse ouverte la question de savoir qui d'autre pourrait avoir accès à Mythos et dans quel but.
Pouvoir du Mythe
Mozilla a annoncé sur son blog qu'une version préliminaire de Mythos avait permis de découvrir 271 vulnérabilités dans le navigateur Firefox lors de tests internes. Ces failles ont été corrigées.
Ce résultat a démontré comment les systèmes d'IA avancés sont capables d'analyser de vastes bases de code et de trouver des vulnérabilités qui nécessitaient auparavant un examen minutieux par des experts en cybersécurité.
Mozilla avait déjà testé un autre modèle, Anthropic, qui avait découvert 22 vulnérabilités dans une version antérieure de Firefox. Malgré ces nouveaux résultats, l'entreprise admet qu'atteindre une sécurité absolue est un objectif irréaliste.
L'entreprise a déclaré qu'un chercheur humain de haut niveau aurait pu déceler toutes les erreurs identifiées.
« Certains observateurs estiment que les futurs modèles d'IA révéleront des formes de vulnérabilités entièrement nouvelles, qui dépassent notre compréhension actuelle. Nous ne partageons pas cet avis », a indiqué l'entreprise.
Pour rappel, en avril, les médias ont appris que l'Agence nationale de sécurité américaine utilise Mythos, malgré le conflit entre la start-up et le Pentagone.
En mars, la société a confirmé la fuite d'une partie du code source de son outil de programmation d'IA, Claude Code.
Elle a ensuite supprimé par erreur des milliers de dépôts GitHub en tentant de remédier à la situation.