LFM2.5 2.6B model competitive with 4x larger models
Ce modèle fait partie de la famille LFM2.5, conçue comme une architecture hybride pour un déploiement on‑device, avec une fenêtre de contexte de 128K et un post‑entraînement orienté agentique. Il atteint des performances comparables à des modèles quatre fois plus grands sur l'utilisation d'outils, le suivi d'instructions et les tâches agentiques à étapes multiples, grâce notamment à un entraînement par renforcement agentique dans des harnesses populaires. Les caractéristiques comprennent environ 2,69 milliards de paramètres, 30 couches, un vocabulaire de 128 000 tokens, une formation sur ~34 trillions de tokens et une longueur de contexte de 131 072 tokens. Plusieurs formats sont fournis pour le déploiement (checkpoint natif, GGUF, ONNX, MLX) et le modèle est recommandé pour les charges agentiques, l'utilisation d'outils, l'extraction de données, le RAG et les workflows à long contexte, mais pas pour le codage agentique ni les tâches très axées sur les connaissances. L'inférence est optimisée pour CPU et GPU avec 220 tok/s sur Apple M5 Max, 113 tok/s sur un Ryzen et jusqu'à ~15 000 tok/s à haute concurrence sur H100, facilitant l'exécution d'agents même sur des appareils mobiles.