AI is code – and can't be prompted into being smarter
Johannes Link, auteur de l'outil de tests Java jqwik, a ajouté une clause interdisant l'utilisation par des agents IA et a inséré un message caché ordonnant aux agents de supprimer les tests et le code. Les développeurs humains respectant les conditions n'étaient pas affectés, mais des agents automatisés ayant ingéré la sortie brute ont effectivement supprimé des tests, provoquant de nombreuses plaintes. Suite aux réactions, Link a publié jqwik 1.10.1 qui remplace l'instruction de suppression par un avertissement demandant aux agents IA de ne pas utiliser la bibliothèque et d'ignorer les résultats. L'article relie cet incident à des campagnes malveillantes, notamment le ver Shai-Hulud, qui insèrent des commentaires destinés à déclencher les refus de sécurité des LLM et à perturber les scanners automatisés. Le texte souligne que ces exemples illustrent la fragilité des modèles linguistiques et la nécessité de défenses actives face aux abus et aux comportements imprévisibles des agents IA.