Large-Scale Online Deanonymization with LLMs
Des agents basés sur de grands modèles de langage peuvent identifier des individus à partir de publications anonymes sur Hacker News, Reddit et LinkedIn avec une précision élevée et jusqu'à des dizaines de milliers de candidats. Bien que l'identification unique à partir de quelques attributs soit connue, les données souvent non structurées et dépersonnalisées facilitent la deanonymisation par de simples commentaires et une recherche sur le web. Les auteurs présentent deux types de proxies de deanonymisation et mènent une attaque réelle sur le jeu de données Anthropic Interviewer avec vérification manuelle, évaluant l'appariement entre comptes sur différentes plateformes. Les résultats montrent qu'en combinant des embeddings avec du raisonnement par l'LLM, on peut réidentifier une majorité de comptes lorsque le nombre de candidats est important, et cela peut s'étendre à des pools de 100 millions d'utilisateurs. Pour limiter les risques, les plateformes devraient restreindre l'accès aux données et renforcer les contrôles, les fournisseurs d'LLM reconnaissent les limites des garde-fous, et les utilisateurs pseudonymes devraient adopter des pratiques de sécurité plus strictes.