Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

Affiner Qwen3.5-9B en QLoRA sur 500 Go de documents : la question d'un utilisateur

Un utilisateur de r/LocalLLaMA cherche la meilleure méthode pour affiner Qwen3.5-9B en QLoRA sur environ 500 Go de données brutes : images, documents scannés, PDF, Word et Excel. Il détaille son parc : un serveur Asus ESC4000 G3 et huit T4, 44 slots à 87k de contexte, 35-40 tokens/s par utilisateur. Il admet avoir trop réfléchi et dépensé après avoir consulté plusieurs chatbots.

Illustration générée : puce et circuits.
Illustration générée localement — matériel. Schéma symbolique, pas une photographie.
matérielopen-sourcedev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.