Alsace·AI Le Bretzel

Chine ·

GLM-5.3 : un modèle ouvert chinois relance le débat sur l’IA et la cyberattaque

Le NIST et Anthropic jugent GLM-5.3 de Zhipu redoutable en attaque informatique. Z.ai met en avant ses usages défensifs.

GLM-5.3, le dernier modèle à poids ouverts du chinois Zhipu AI (Z.ai), inquiète les spécialistes de la cybersécurité. Le 17 septembre, le centre d’évaluation de l’IA du NIST américain l’a décrit comme le modèle ouvert le plus capable à ce jour en attaque informatique, tout en le jugant nettement en deçà des meilleurs modèles américains, avec environ quatre mois de retard. Le 29 septembre, l’équipe de sécurité d’Anthropic a publié ses propres tests : sur le banc d’essai ExploitBench, GLM-5.3 a réussi 50 exploits complets sur 410 tentatives, contre 56 pour le meilleur modèle d’Anthropic. Surtout, ses garde-fous tombent facilement : une simple mise en scène les contourne dans près des deux tiers des cas, et une version débridée, obtenue pour quelques milliers de dollars de calcul, ne refuse presque plus rien.

Anthropic y voit « un changement d’échelle » des capacités offertes aux attaquants et appelle les gouvernements à tester les modèles de ce niveau avant leur diffusion. Sur les forums de développeurs, beaucoup ont rappelé qu’Anthropic est un concurrent direct, qui vend des modèles fermés. Côté Z.ai, on met en avant l’usage défensif : selon un de ses responsables, un service gratuit fondé sur GLM-5.3 a déjà signalé en privé plus de 4 000 failles potentielles dans des projets open source. Les deux sont vrais à la fois : un modèle ouvert et puissant arme les attaquants comme les défenseurs, et la question n’est plus de savoir si ces capacités se diffuseront, mais qui en profitera le premier.

Sources

AnthropicChineOpen SourceSécurité IA

Vous êtes arrivé au bout — merci

Le Bretzel

La suite chaque lundi matin : le récap de la semaine passée en IA, noué en cinq minutes. Gratuit, sans pub, sans pistage.

Une lettre par semaine, le lundi matin. Votre adresse ne sert qu’à ça — confidentialité. Désinscription en un clic.

À lire ensuite