NVIDIA décline Gemma-4 en un petit modèle de 4 Go pour l'embarqué
NVIDIA publie Nemotron-3.5-Bolt-E4B-4GB, un petit modèle dérivé de Gemma-4-E4B-it, affiné pour l'usage d'outils en multi-tours. Il vise les assistants vocaux embarqués et les interfaces edge, avec peu de mémoire et un faible délai avant le premier token. Des versions GGUF sont disponibles, avec un drafter DFlash pour le décodage spéculatif. Usage commercial autorisé.

open-sourceagentsdev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.