Feds freaked over Fable 5 after 'fix this code', not jailbreak, say researchers
Selon Katie Moussouris, experte en sécurité et ancienne membre du groupe technique qui a renégocié l'Arrangement de Wassenaar, le prétendu jailbreak ayant motivé l'interdiction des modèles avancés d'Anthropic se réduisait à l'invite trois mots «Fix this code». Le gouvernement américain a émis une directive d'exportation suspendant l'accès aux modèles Fable 5 et Mythos 5 pour les ressortissants étrangers, et Anthropic a désactivé ces modèles pour tous ses clients afin de se conformer. Des chercheurs externes auraient fourni aux modèles du code open source contenant des vulnérabilités connues et des failles intentionnelles, puis demandé d'examiner et de corriger le code, après quoi les modèles ont aussi généré des scripts de test. Moussouris affirme qu'il n'y a pas eu de contournement de garde-fous et que priver les équipes de défense de la capacité à détecter, corriger et tester des failles nuit davantage à la sécurité défensive qu'à l'offensive. Elle et plus de cent responsables de cybersécurité ont signé une lettre demandant la levée des restrictions, en soulignant les limites pratiques des contrôles d'exportation et le risque que des systèmes équivalents émergent à l'étranger.