tout article parlant d'intelligence artificielle de manière générale. LLM ou non.
Voir tous les tags
Surfons un peu sur une vague déjà passée depuis très longtemps : l'IA. Je suis particulièrement lent à la détente, alors je ne m'y mets que maintenant ; après tout, il n'est jamais trop tard.
Après une réinstallation fraîche d'Arch, je relance Ollama pour discuter avec mon LLM local préféré… et le constat est sans appel : 100% CPU, 0% GPU. Pourtant, j'ai sous le capot une Radeon RX 6800M (12 Go de VRAM, Navi 22) qui ne demande qu'à mouliner des matrices. Petite session de débogage qui m'a permis de comprendre un peu mieux les coulisses des backends de calcul GPU sous Linux.