Baidu publie Unlimited-OCR 2, un parseur de documents à horizon illimité
Baidu publie Unlimited-OCR 2, un parseur de documents à « horizon illimité ». Sa brique SR-SWA compresse les interactions texte-image des très longues séquences vers un jeu fixe de références (environ 512 tokens). Latence de décodage et empreinte mémoire restent quasi constantes quelle que soit la longueur du document, sans coût quadratique de l'attention. Le modèle revendique l'état de l'art sur MPDocBench et MarathonDocBench.

recherchedev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.