MemoryCache: Lokaler KI-Assistent

Mit MemoryCache hat das Mozilla Innovation Team ein weiteres KI-Experiment vorgestellt. Dieses soll aus vom Benutzer bereitgestellten Daten wie besuchten Websites lernen.

Im Rahmen der Innovation Week im Dezember hat das Mozilla Innovation Team mehrere Projekte aus dem Bereich der Künstlichen Intelligenz vorgestellt, darunter mit Solo einen KI-basierten Website-Builder und mit llamafile eine revolutionäre Möglichkeit, einen LLM-Chatbot in einer einzigen Datei auszuliefern, welche auf verschiedenen Betriebssystemen einfach gestartet werden kann und im Gegensatz zu ChatGPT & Co. lokal auf dem Computer läuft. Ein weiteres Projekt ist MemoryCache.

Die Idee von MemoryCache ist es, einen lokalen KI-Assistenten bereitzustellen, welcher nicht etwa aus großen Modellen, sondern aus vom Anwender selbst bereitgestellten und kategorisierbaren Informationen lernt und dann beispielsweise bei der Recherche oder beim Brainstorming hilft, scheinbar nicht zusammenhängende Themen miteinander zu verbinden und so neue Einsichten und Erkenntnisse zu gewinnen. So können zum Beispiel besuchte Websites gespeichert werden, aber auch Dateien, die manuell hinzugefügt werden. Der große Datenschutz-Vorteil, wie auch schon bei llamafile: Alles findet lokal auf dem eigenen Computer statt, es werden keine Daten an irgendeinen Dritten weitergeleitet.

Das folgende Bild zeigt ein Mockup einer möglichen zukünftigen Oberfläche:

MemoryCache befindet sich noch in einem früheren experimentellen Status. Dementsprechend kompliziert ist die Ausführung zu diesem Zeitpunkt noch. Neben einem lokalen Setup einer älteren Version von PrivateGPT sowie einem konfigurierten Symlink auf dem System wird derzeit noch eine Firefox-Erweiterung sowie ein angepasster Firefox-Build benötigt. Zu einem späteren Zeitpunkt soll das idealerweise einfacher funktionieren.