Quels modèles ouverts faire tourner sur un Mac ? Un projet Apache 2.0 interroge la communauté
Sur r/LocalLLaMA, un développeur demande quels modèles ouverts les utilisateurs font réellement tourner sur leur MacBook : Qwen3.8-Flash-Next, Qwen 35B, un modèle dense de 27B ou Nemotron Bolt. Lui-même revient systématiquement au 27B pour le code. Il développe un projet open source sous Apache 2.0, Kapitsa, compatible avec toutes les puces M, de la M1 aux M5 Ultra, et veut savoir quels modèles optimiser en priorité. Il affirme avoir atteint le SOTA en décodage et en prefill sur sa M4 Pro pour Qwen 35B et 27B.
open-sourcematérieldev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.