Moteurs d'inférence : trop de projets, un suivi devenu impossible
Un utilisateur de r/LocalLLaMA rappelle qu'en mars 2025, l'écosystème des moteurs d'inférence tenait en quelques noms : llama.cpp, ollama, koboldcpp, vllm, litert. Aujourd'hui, Strata, Basalt, Maya, Colibri, Ninfer, Infernix se multiplient et il avoue ne plus suivre. llama.cpp progresse chaque semaine : Qwen3.8-Flash-Next tourne sur 64 Go de RAM et 32 Go de VRAM, parfois au prix de la qualité.
open-sourcedevmatériel
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.