Retirer les refus d'un modèle via LoRA plutôt qu'en modifiant le modèle lui-même
Sur r/LocalLLaMA, un utilisateur compare deux méthodes pour lever les refus d'un modèle : l'outil générique « heretic », coûteux à mesure que le modèle grossit, et l'approche par LoRA. Il a repéré le dépôt weightless, destiné à réduire les refus dans un cadre cyber, et note qu'un LoRA se charge et se décharge sans modifier le modèle d'origine. Il demande si des tests existent, notamment sur glm 5.3 Flash.

open-sourcerecherchesécuritédev
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.