Maya-XS fait tourner DeepSeek-V4.1-Flash en 120,6 Go sur un PC de 128 Go
Maya-XS fait tenir DeepSeek-V4.1-Flash dans 120,6 Go, avec les 384 experts du modèle résidents en mémoire GPU, sur une machine Ryzen AI Max de 128 Go. Le projet gère aussi le tensor parallel sur plusieurs GPU, et un drafting nettement plus rapide sur un seul GPU. Le modèle entier tient donc dans la mémoire d'un PC unique.

deepseekopen-sourcematérieldev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.