Ternary Bonsai 2 : une famille 2B, 4B et 9B basée sur Qwen 3.5
La famille Ternary Bonsai 2 arrive en versions 2B, 4B et 9B, construites sur Qwen 3.5. Ces modèles ternaires nécessitent le fork de llama.cpp du projet (branche prism) et ne tournent pas sur llama.cpp vanilla. dFlash, MTP et le support MLX sont annoncés. L'auteur du fil signale des comportements de bouclage sur les précédents Bonsai et doute de la tenue des performances en déploiement réel.
open-sourcedevrecherche
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le 15 oct. 2026 · 22:12 — voir la méthode.