Revue de code GitLab sur deux RTX 4090 avec Qwen3.6-35B-A3B et sglang
Un agent de revue de code GitLab tourne sur du matériel local : LangGraph.js et Qwen3.6-35B-A3B en 4 bits via sglang, sur deux RTX 4090 en PCIe. Il annonce ~180 tok/s en décodage à 50k de contexte et 985 tok/s cumulés à huit requêtes. L'agent a passé 1 300 revues, près de 70 % de ses commentaires étant résolus par l'auteur ; il repère parfois des erreurs dans du code écrit avec Claude Sonnet ou Opus.
agentsdevmatériel
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.