Sur M1 Max 64 Go, quels modèles locaux pour du prototypage sensible ?
Après neuf mois à 99 % sur des modèles cloud (Gemini, Claude, DeepSeek, Groq, Cerebras), un utilisateur de r/LocalLLaMA retente le local sur un M1 Max 64 Go. Son 7B Llama en MLX tournait à environ 45 tokens/seconde, mais reste trop limité ; un modèle 32B a renvoyé des erreurs dans LM Studio. Il cherche quels modèles offline conviennent au prototypage sensible : recherche médicale et juridique, code léger, CAO/PCB, Blender.
open-sourcematérielrecherche
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.