Dimensionnement
Quelle machine vous faut-il ?
La capacité décide si un modèle charge. La bande passante décide s'il est utilisable. Dimensionner sur la première en ignorant la seconde, c'est acheter une machine pleine de mémoire qui répond trop lentement pour être gardée.
La notation de cette page, une fois pour toutes. Un GPU est un processeur graphique, et le VRAM sa mémoire vidéo. B compte les milliards de paramètres : un modèle 24B porte 24 milliards de poids. bf16, FP8, Q4 et AWQ4 disent sur combien de bits chaque poids est stocké : le format brain floating point sur 16 bits, la virgule flottante sur 8 bits, une quantification sur 4 bits, et une quantification des poids sur 4 bits tenant compte des activations. Go est le gigaoctet ; Gio le gibioctet, celui des puissances de deux, environ 7 % plus grand. tok/s compte les tokens par seconde. Un MoE est un mélange d'experts, un modèle où chaque token n'active qu'une fraction des poids, et un VLM est un modèle vision-langue, qui lit les images aussi bien que le texte.
Le fait qui décide de tout
Générer un token exige de lire une fois chaque poids actif depuis la mémoire. Le plafond de vitesse est donc arithmétique :
tokens/seconde ≤ bande passante / octets de poids actifs
Les mesures publiées du DGX Spark le confirment presque exactement. Le GB10 a 273 Go/s : Qwen3 8B en bf16 (~16 Go) est mesuré à 13,6 tok/s contre un plafond de 17,1, et Llama 3.1 70B en Q4 (~40 Go) à 4,4 tok/s contre 6,8. Ce projet suppose 70 % de rendement, ce qui est conservateur face aux deux.
Le meilleur modèle de code ouvert disponible est aussi le plus rapide à servir. Choisir un modèle plus petit pour aller plus vite est ici exactement à l'envers — et c'est pourquoi la recommandation ci-dessous coûte moins cher qu'il n'y paraît.
Pour une petite équipe, le VRAM achète de la qualité
Deux personnes ont besoin de deux séquences concurrentes au-dessus de 20 tok/s. C'est une barre basse : la mémoire doit donc aller dans un meilleur modèle, pas dans de la concurrence.
| Machine | Coût | Vitesse | Séquences | Contexte |
|---|---|---|---|---|
| L'Apple Silicon que vous avez déjà (M2 Max 96 Go) | 0 $ | 27 tok/s | 5 | 256k |
| Mac Studio M3 Ultra 96 Go | 5 600 $ | 55 tok/s | 23 | 256k |
| RTX PRO 5000 Blackwell 72 Go | 12 600 $ | 90 tok/s | 16 | 256k |
| RTX PRO 5000 Blackwell 48 Go | 10 200 $ | le meilleur modèle n'y tient pas | ||
| DGX Spark 128 Go | 6 950 $ | 18 tok/s | 0 | sous le plancher |
La carte NVIDIA 48 Go ne peut pas faire tourner le meilleur modèle du tout. Sur NVIDIA le ticket d'entrée est la carte 72 Go à 12 600 $ ; sur Apple c'est un Mac Studio à 5 600 $, parce que la mémoire unifiée est bon marché et pas la GDDR7 — graphics double data rate, septième génération.
Le DGX Spark perd sur la bande passante, pas sur la mémoire. Il a 128 Go et sert le meilleur modèle de code à 18 tok/s. En acheter plusieurs n'aide pas : la bande passante ne s'additionne pas entre machines pour un même flux.
La recommandation
-
Étape zéro — gratuite
Mesurer le Mac que vous avez déjà
L'arithmétique dit qu'un M2 Max 96 Go sert déjà Qwen3-Coder-Next à ~27 tok/s avec une fenêtre de 256k. C'est une projection, pas une mesure, et cette différence est tout l'argument du projet — donc tirez le modèle, lancez une vraie session, et chronométrez un vrai patch avant de dépenser quoi que ce soit.
-
Si ça ne suffit pas — 5 600 $
Mac Studio M3 Ultra 96 Go
819 Go/s, le double du M2 Max, ~55 tok/s sur le meilleur modèle de code ouvert, tenant le modèle 80B plus un VLM 8B plus l'embedder en même temps. Une machine complète : pas de châssis à spécifier, pas de carte 600 W, pas de rack, 270 W et silencieuse.
-
S'il faut la vision sous schéma — 12 600 $
RTX PRO 5000 Blackwell 72 Go
La seule chose qu'Apple ne sait pas faire aujourd'hui. Piloter un modèle de vision depuis un agent implique du décodage contraint, vLLM a le guided decoding, et vLLM n'a pas de runtime macOS — donc vision + schéma ⇒ Linux + NVIDIA discret.
La mise à niveau la moins chère n'est pas du matériel
Le dimensionnement est plus sensible au contexte vivant moyen par session qu'à presque toute la facture — et ce chiffre appartient au harnais, pas à la carte.
23
séquences sur un Mac Studio M3 Ultra à 32k de contexte vivant — lectures bornées, charte indexée, compaction précoce
11
à 64k — un agent à qui on donne une fenêtre et qu'on laisse la remplir, pour une production identique
Un agent qui colle tout le document de standards dans chaque prompt, lit les fichiers en entier plutôt que par tranches, et ne compacte jamais divise la machine par deux pour une production identique. C'est l'argument mesurable derrière tout le reste.
Une note sur les prix
Ils ont bougé violemment et ils n'ont pas fini. La RTX PRO 6000 est sortie à 8 565 $ en mars 2025 et se vend ~16 000 $ aujourd'hui ; le DGX Spark est passé de 3 999 $ à 6 950 $ pour sa configuration 128 Go. Un dimensionnement 2026 fait sur des prix 2025 est faux d'un facteur deux. Relevé le 19/10/2026 ; relever à nouveau avant d'acheter.
L'étude complète, avec la commande derrière chaque chiffre →