RTX 8000 contre RTX 3090 : le calcul de la VRAM a changé de camp

48 Go pour 2 100 dollars, la bascule

En 2024, un utilisateur de r/LocalLLaMA avait payé sa RTX 8000 48 Go 2 400 dollars. Elle se négocie aujourd'hui autour de 2 100 dollars — une baisse, sur un marché du GPU d'occasion où l'inverse est plus fréquent. La comparaison qui compte est ailleurs : deux RTX 3090 valaient alors 1 600 à 1 800 dollars, contre 1 500 à 1 600 dollars pour une seule désormais. La carte 48 Go devient donc moins chère au gigaoctet de VRAM.

Le calcul a ses contreparties, et elles sont nettes. La RTX 8000 est plus lente en inférence : 672 Go/s de bande passante mémoire contre 936 Go/s pour la RTX 3090. Elle offre en revanche le double de mémoire pour 265 W, là où deux RTX 3090 en réclament 700 W.

Pour qui doit faire tenir un modèle entier en mémoire, la capacité pèse souvent plus lourd que le débit. Pour qui enchaîne les tokens, l'arbitrage s'inverse. Les chiffres posent le décor, ils ne tranchent pas à la place de l'utilisateur.

Le local ne s'arrête plus au boîtier

L'autre manière de faire tourner un modèle chez soi ne passe plus forcément par une carte graphique. Liquid AI a présenté LFM3 Omni 2B, son nouveau modèle omni, en démonstration directement dans un navigateur via WebGPU. La vidéo de la démo provient de l'espace Hugging Face de l'entreprise elle-même.

L'argument tient en une ligne : exécution locale, côté navigateur, sans dépendre d'une infrastructure serveur distante. On n'est pas sur la même contrainte que les 48 Go de VRAM de la dépêche précédente — l'une achète de la mémoire et de la bande passante, l'autre supprime l'installation et le serveur. Deux réponses à la même question de fond : où tourne le modèle, et à qui appartient la machine qui le fait tourner.

Agents en production : avec ou sans traces

LangChain annonce Managed Deep Agents, une offre pour faire tourner des agents « deep » en production sans construire soi-même le runtime. Le service embarque l'exécution durable, des sandboxes, l'accès aux outils et l'observabilité via LangSmith. Disponibilité : bêta privée.

Le cas de Legora montre la version opposée du problème. L'entreprise développe des agents pour les avocats mais ne peut consulter aucune trace de leur travail : les données appartiennent aux clients des cabinets. Jacob Lauritzen, CTO de Legora, explique dans Latent Space comment on construit et teste un agent quand on ne voit pas ce qu'il fait. Legora figure parmi les entreprises à la croissance la plus rapide du secteur.

Deux modèles de production cohabitent donc : celui où l'on instrumente tout, et celui où l'observabilité est structurellement hors de portée. Le second n'est pas un cas dégradé, c'est une contrainte de départ.

L'outillage en ligne de commande suit

Simon Willison publie LLM 0.37, son outil en ligne de commande et sa bibliothèque Python. Une commande `llm openai endpoint add` facilite la configuration d'endpoints compatibles OpenAI, et deux modèles arrivent : gpt-6.1-sol et gpt-6.1-terra.

Le modèle par défaut passe à gpt-6-luna, moitié moins cher que gpt-5.6-luna. Les embeddings acceptent désormais plusieurs content-type, ce qu'exige Gemini Embedding 2.

Rien de spectaculaire dans cette version, et c'est précisément ce qui la rend lisible : les endpoints compatibles OpenAI deviennent une interface standard que l'on configure en une commande, et le coût par défaut baisse. Quand le matériel local se renégocie à la baisse d'un côté, l'outillage qui pilote les API distantes s'allège de l'autre. Les deux mouvements vont dans le même sens.

Et maintenant ?

Le matériel d'occasion redevient un calcul rationnel — mémoire par dollar d'un côté, watts et bande passante de l'autre — au moment où l'exécution locale trouve une porte de sortie par le navigateur et où les agents quittent le prototype. Ce qui se joue n'est pas le remplacement d'un camp par l'autre : une RTX 8000 à 265 W et une démo WebGPU ne répondent pas à la même demande. La ligne de partage se déplace plutôt vers l'observabilité, entre ceux qui peuvent tracer leurs agents et ceux dont les données interdisent d'y regarder.