My first impressions on ROCm and Strix Halo
J'ai configuré un système Strix Halo avec 128 Go de mémoire partagée entre CPU et GPU et utilisé Ubuntu 24.04 LTS pour l'installation des pilotes ROCm. Une mise à jour du BIOS a été nécessaire pour que PyTorch détecte la carte, et il a fallu ajuster les paramètres BIOS pour réserver peu de mémoire vidéo et activer le partage GTT. J'ai modifié /etc/default/grub en ajoutant ttm.pages_limit et amdgpu.gttsize puis exécuté update-grub en laissant plusieurs gigaoctets réservés au CPU pour la stabilité du noyau. L'installation de PyTorch via l'outil uv a été délicate à cause des dépendances, mais j'ai réussi à faire fonctionner torch==2.11.0+rocm7.2 et triton-rocm en configurant un index ROCm et un alias de test. J'ai utilisé Podman pour lancer llama.cpp avec Qwen3.6 (téléchargement et conversion du modèle en gguf) et constaté que PyTorch et le modèle fonctionnent avec une grande fenêtre de contexte malgré quelques aspérités.