Un chatbot support promet des réparations gratuites à tort, l'entreprise honore
Une entreprise a basculé son chatbot de support sur un modèle auto-hébergé pour garder les données clients en interne, avec des réponses en RAG sur sa documentation. Un client a envoyé une capture où le bot promettait la réparation gratuite des dommages accidentels : ce n'est pas couvert. Le document récupéré portait sur une extension qu'il n'avait pas, et le modèle a mélangé les deux. L'entreprise a honoré la promesse.

businesssécuritéagents
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le — voir la méthode.