Ollama is now powered by MLX on Apple Silicon in preview
Ollama propose une préversion optimisée pour Apple Silicon en s'appuyant sur le framework MLX d'Apple afin d'améliorer les performances sur macOS. Les tests sur puces M5 montrent des gains significatifs pour le temps jusqu'au premier token et le débit de génération, avec des chiffres comparant Ollama 0.19 à 0.18 et des perspectives d'encore mieux en int4. La prise en charge du format NVFP4 permet de réduire la bande passante mémoire tout en conservant la qualité des réponses et d'aligner les résultats locaux avec des environnements d'inférence en production. Le système de cache a été amélioré pour réutiliser les caches entre conversations, créer des instantanés intelligents et prolonger la durée de vie des préfixes partagés afin d'accélérer les tâches de codage et les agents. La version 0.19 est disponible pour téléchargement, nécessite un Mac avec plus de 32 Go de mémoire unifiée, inclut des modèles Qwen3.5-35B-A3B optimisés pour le codage et prévoit d'étendre le support aux modèles et architectures futurs.