Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

TensorSharp prend en charge MiniMax-M3.1-Flash dès le jour 1

Le développeur de TensorSharp a intégré MiniMax-M3.1-Flash le jour même de la sortie de ses poids ouverts. Sur de longs prompts, le prefill en 64K atteint 2 567 tok/s contre 262 tok/s dans la branche llama.cpp testée, et le délai avant le premier token tombe de 293,4 à 40 secondes. Côté fonctionnalités : inférence GGUF, entrées texte et image via une API compatible OpenAI, tool calling et décodage spéculatif DSpark.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
open-sourcedevmatériel

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.