Stealing Reasoning Traces from Proprietary LLM APIs
Les auteurs montrent que les fournisseurs d'API renvoient aux clients des blocs chiffrés contenant le raisonnement interne qui peuvent être rejoués entre sessions, utilisateurs et modèles. En réinjectant un tel bloc produit par un modèle avancé dans un modèle plus faible et jailbreaké du même fournisseur, ils extraient le raisonnement caché en clair sans attaquer directement le modèle avancé ni déclencher ses protections anti-distillation. Ils démontrent l'attaque sur des modèles de pointe d'OpenAI, Anthropic et Google et constatent que le texte décodé suit le nombre de tokens "thinking" signalés par l'API. En analysant 6 708 trajectoires publiques et en décodant plus de 315 000 blocs signés, l'équipe a récupéré 704 artefacts de confidentialité réels, incluant clés API, mots de passe et adresses e‑mail. Soixante-quatre de ces artefacts n'apparaissaient que dans les blocs chiffrés et pas dans la session visible, ce qui met en évidence un risque de fuite silencieuse d'informations sensibles.