Drama3 arrive dans audio.cpp : jusqu'à 5× le temps réel sur RTX 5090
Drama3 est désormais pris en charge dans audio.cpp, via une contribution de JarodMica. Sur une RTX 5090 en quantification Q4_k, le modèle atteint jusqu'à 5× la vitesse temps réel, ou 2× en consommant moins de 8 Go de VRAM. Les optimisations se sont surtout concentrées sur CUDA, mais le modèle tourne aussi sur Vulkan et Metal. Les auteurs signalent encore des marges de progression en performance et en efficacité mémoire, ainsi que des silences inattendus en génération multi-locuteurs.
open-sourcedevmatériel
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le 16 oct. 2026 · 04:44 — voir la méthode.