Show HN: Utilyze – an open source GPU monitoring tool more accurate than nvtop
Les outils standards comme nvidia‑smi, nvtop ou certains compteurs DCGM survendent l'utilisation GPU en affichant 100% alors que les unités de calcul sont souvent en attente de mémoire. Utilyze mesure directement l'efficacité réelle en temps réel en sondant les compteurs matériels GPU et en appliquant le modèle Speed‑of‑Light (SOL) pour produire deux indicateurs : Compute SOL % et Memory SOL %. Les mesures de Utilyze ont été validées contre des calculs analytiques simples (par exemple des multiplications de matrices) et concordent à environ 2% tout en imposant une overhead négligeable, ce qui permet une observation continue en production. Dans des cas concrets (inférence préfill, décodage, fine‑tuning, modèles MoE), Utilyze distingue correctement les goulots d'étranglement mémoire versus calcul et a permis, via Systalyze, de récupérer des gains substantiels grâce à des optimisations ciblées. Le projet Utilyze est open source sous licence Apache 2.0, et la communauté est invitée à l'essayer, partager ses mesures et contribuer, avec un support AMD prévu à terme.