Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Swift 1.5 sur veloGB10 : ~110 tok/s sur deux DGX Spark

Sur deux DGX Spark, Swift 1.5 — le fine-tune de Qwen3.8-Flash-Next orienté efficacité du raisonnement signé UkisAI — tourne sur veloGB10, un moteur Rust/CUDA de sf-stav conçu uniquement pour le GB10. Le décodage en flux unique passe d'environ 52 tok/s avec base Flash-Next en NVFP4 sur vLLM à ~110 tok/s, et les temps par passe diminuent sur les tâches de code comme sur les tâches pièges. Le taux de réussite sur ces dernières grimpe de 50 % à 92 %, sur une même batterie agentique où Claude Code pilote le modèle en usage réel d'outils dans une copie d'un vrai dépôt, notée par des oracles de tests.

open-sourcedevagentsmatériel

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le 5 oct. 2026 · 15:09 — voir la méthode.