Risques des modèles open-weight en IA selon Anthropic
Dario Amodei, PDG d'Anthropic, maintient que les modèles open-weight présentent des risques majeurs, notamment pour la cybersécurité et les attaques biologiques. Il ne prône pas leur interdiction mais souhaite des contrôles plus stricts, notamment sur les exportations de puces vers la Chine.
« Anthropic has never advocated for a ban on open-weights models » — The Decoder
Que faut-il retenir ?
- Dario Amodei identifie deux scénarios cauchemardesques : l'utilisation de modèles puissants par des États autoritaires et leur détournement pour des attaques cyber ou biologiques.
- Une étude de l'UK AI Security Institute montre que les modèles open-weight ont quelques mois de retard sur les modèles frontières en cybersécurité.
- Amodei appelle à des contrôles plus stricts sur les exportations de puces pour limiter l'avance de la Chine en IA.
- Il propose des tests de sécurité obligatoires pour tous les modèles puissants, quelle que soit leur origine ou leur licence.
Pourquoi cette nouvelle compte-t-elle ?
Les propos de Dario Amodei soulèvent des questions cruciales sur la sécurité des modèles open-weight en IA, avec des implications pour la cybersécurité et la compétition technologique entre les États-Unis et la Chine. Ses recommandations pourraient influencer les régulations futures en matière d'IA.
open-weight models trail frontier models by a few months on cybersecurity
💬 Dario Amodei, PDG d'Anthropic
Public concerné : entreprises, développeurs
Quels sont les risques des modèles open-weight en IA selon Anthropic ?
Dario Amodei, PDG d'Anthropic, craint leur utilisation par des États autoritaires et leur détournement pour des attaques cyber ou biologiques. Il propose des contrôles plus stricts sur les exportations de puces et des tests de sécurité obligatoires.
