TensorSharp prend en charge MiniMax-M3.1-Flash dès le jour 1
Le développeur de TensorSharp a intégré MiniMax-M3.1-Flash le jour même de la sortie de ses poids ouverts. Sur de longs prompts, le prefill en 64K atteint 2 567 tok/s contre 262 tok/s dans la branche llama.cpp testée, et le délai avant le premier token tombe de 293,4 à 40 secondes. Côté fonctionnalités : inférence GGUF, entrées texte et image via une API compatible OpenAI, tool calling et décodage spéculatif DSpark.

open-sourcedevmatériel
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.