800 agents IA persistants dans une ville simulée : coûts et défis d'inférence
Un développeur indépendant a passé un an à construire Slow Vale, une simulation de vie pilotée par LLM. Le serveur chinois héberge plus de 800 résidents IA qui partagent une ville tournant en continu. Chaque personnage effectue 300 à 400 appels au modèle par jour, avec un contexte moyen d'environ 30 000 tokens. Le runtime s'appuie sur DeepSeek Flash hébergé, et non sur de l'inférence locale.
agentsdevdeepseek
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le 8 oct. 2026 · 10:06 — voir la méthode.