Un petit modèle pour le reverse engineering, capable de tourner sur une 3090
Sur r/LocalLLaMA, un utilisateur cherche un petit modèle qui refuse moins souvent les tâches de reverse engineering. Contrainte matérielle : il doit tenir sur une 3090 avec 32 Go de RAM. Les modèles cloud, selon lui, peuvent aller jusqu'à fermer un compte en le signalant, et GLM 5.3 est trop gros pour sa machine.

open-sourcesécuritématériel
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.