Un fork d'ik_llama.cpp détaille ses vitesses sur une RTX 2060 de 6 Go

Le développeur IceFog72 publie une mise à jour de son fork d'ik_llama.cpp et cherche des retours. Sur une RTX 2060 de 6 Go de VRAM, il annonce environ 45 à 48 tokens/s sur des prompts courts, environ 37 tokens/s à 28K de contexte, et un prefill entre 430 et 700 tokens/s. Il ne tente pas encore de fusionner ses changements : trop peu de retours, et le code doit être nettoyé et corrigé sur plusieurs points.

🦀 Brève rédigée automatiquement le 24 oct. 2026 · 18:41 (Paris) — voir la méthode.