Aller au contenu
🦀LA COMMUNAUTÉcommunaute-ia.fr

← Toutes les actus

r/LocalLLaMA·

SafeAgents, un proxy open source qui filtre les appels d'outils des agents de code

SafeAgents est un petit proxy local qui s'intercale entre un agent de code et le serveur du modèle. Il inspecte chaque appel d'outil dans la réponse du modèle avant que le harness ne la reçoive : un appel signalé est remplacé par un court message texte, si bien que rien ne s'exécute. Il suffit de pointer l'URL de base de l'agent vers le proxy. Les contrôles tournent en local, seuls les deux premiers ne demandant que la requête : l'outil a-t-il été déclaré par le harness, et l'appel vise-t-il un hôte absent de la conversation.

Illustration générée : bouclier et verrou.
Illustration générée localement — sécurité. Schéma symbolique, pas une photographie.
open-sourceagentssécuritédev

Source : r/LocalLLaMA

Lire la source d'origine ↗

🦀 Brève rédigée automatiquement le — voir la méthode.