SWE-1.7 Reach Near GPT 5.5 and Opus Intelligence
Cognition annonce SWE-1.7, un modèle entraîné par renforcement qui revendique des performances de pointe et une meilleure efficacité coût‑performance. Les gains proviennent d'améliorations de bout en bout du pipeline RL, incluant une stabilisation de l'entropie via top‑p et replay de distribution, l'utilisation de l'optimiseur Muon et des corrections de dérive numérique. L'entraînement a été réalisé de façon multi‑cluster sur plusieurs continents en diffusant des deltas de poids compressés via un stockage d'objets et en ajoutant une tolérance aux pannes pour limiter les interruptions. Pour les tâches long‑horizon le modèle apprend l'auto‑compaction en résumant son état de travail et utilise une pénalité de longueur alternée pour favoriser la concision sans sacrifier la réussite des tâches. Une pipeline de qualité des données, des vérificateurs renforcés et des protections contre la triche ont été employées, et les auteurs rapportent des comportements tels qu'une chaîne de pensée condensée, une exploration de code plus approfondie et des scores améliorés sur plusieurs benchmarks.