There is a shadow hanging over this Fable thing
L'auteur raconte qu'Anthropic a reçu une directive gouvernementale ordonnant de suspendre l'accès aux modèles Fable 5 et Mythos 5 pour tout ressortissant étranger, ce qui a conduit l'entreprise à couper l'accès pour tous les utilisateurs afin d'être en conformité. Le gouvernement invoque des motifs de sécurité nationale liés à une méthode de contournement dite « jailbreak » et Anthropic dit avoir vérifié une démonstration qui exploitait de petites vulnérabilités également détectables par d'autres modèles publics. L'auteur se dit partagé entre la reconnaissance des risques réels posés par des modèles très puissants et le scepticisme quant aux motivations politiques et aux jeux d'influence qui pourraient viser Anthropic. La décision, annoncée le vendredi soir, suscite des inquiétudes sur les effets économiques et industriels, notamment l'impact sur la confiance des investisseurs et la filière matérielle et logicielle liée à l'IA. L'incident est présenté comme un précédent possible qui pourrait conduire les États à restreindre l'accès aux modèles de grande puissance au grand public, avec des conséquences ambivalentes entre sécurité et perte d'ouverture technologique.