Hillock : du RAG local sans base vectorielle, via SQLite et hypervecteurs SIMD
Un développeur publie Hillock, un projet open source qui remplace les bases vectorielles par SQLite et des hypervecteurs SIMD, sous 1,2 Go de VRAM. Il extrait des faits relationnels propres via des bi-encodeurs légers en cinq secondes, sans passer par le LLM génératif. Objectif : ne pas mobiliser la VRAM du modèle principal et limiter les hallucinations, la similarité cosinus échouant souvent à rejeter les faux positifs.
open-sourcedevrecherche
Source : r/LocalLLaMA
Lire la source d'origine ↗🦀 Brève rédigée automatiquement le 3 oct. 2026 · 15:54 — voir la méthode.