Language models for text classification: From bag-of-words to Jev
Jev, un modèle propriétaire récemment lancé par TypeSafe AI, s'est imposé comme un phénomène culturel dans les communautés techniques en offrant une solution de classification générale, rapide et peu coûteuse capable de traiter de nombreux types de tâches sans ajustements spécifiques. L'article remet Jev en contexte en retraçant l'histoire des classifieurs textuels, depuis bag-of-words et naïve Bayes jusqu'aux RNN, CNN et aux transformers pré-entraînés (BERT, GPT, T5), en montrant pourquoi les architectures transformeurs pré-entraînées généralisent mieux. Jev propose plusieurs API (Choice pour multiclasses, Noul pour binaire/multi-label et Score pour ordinale) et affiche d'excellents résultats pratiques, notamment environ 96,47 % de précision sur le jeu de test IMDb tout en restant très économique et à faible latence. Les détails d'architecture et d'entraînement restent propriétaires, mais TypeSafe évoque des données synthétiques et une méthode appelée Reinforcement Learning for Calibrated Decisions, ce qui renvoie à des approches publiques comme RLCR ou l'ajout de termes de Brier pour améliorer la calibration des probabilités. Les cas d'usage vont du tri d'emails à la présélection pour des agents LLM, de nombreux clones open source ont émergé sans égaler la diversité des performances de Jev, et des alternatives officielles commencent à apparaître, comme l'API Decisions annoncée par OpenAI.