GLM 5.3 flash en local : 4,2 fois plus rapide que via le cloud
Un utilisateur de r/LocalLLaMA a comparé GLM 5.3 flash via l'abonnement Z.ai et le même modèle servi en local, à prompt identique. Cloud : 43:48 pour 117 980 tokens de sortie ; local : 10:24 pour 118 173, soit environ 4,2 fois plus vite. L'économie n'est que de 0,70 dollar, mais la machine (deux RTX Pro 6000, Threadripper 9960X, 128 Go de DDR5) permet de produire bien plus de code par jour.
matérieldevopen-source
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.