Wie ein nachhaltiges AI-Gedächtnis die Zusammenarbeit zwischen Wissensarbeitern und KI-Systemen transformieren kann

Einleitung: Das Problem mit dem vergesslichen digitalen Assistenten

Künstliche Intelligenz revolutioniert bereits heute die Art und Weise, wie Wissensarbeiter und Berater ihre tägliche Arbeit gestalten. Die Potenziale sind gewaltig – von der Analyse komplexer Datensätze über die Automatisierung wiederkehrender Aufgaben bis hin zur kreativen Unterstützung bei der Konzepterstellung. Doch wer komplexere Projekte mit KI-Systemen bearbeitet, kennt das Problem: Das Kontextfenster ist begrenzt, und sobald es voll ist, muss ein neuer Chat begonnen werden.

Im neuen Chat muss der KI dann zunächst mühsam der aktuelle Stand erläutert werden:

• Woran wurde zuletzt gearbeitet?
• Welche Dokumente sind relevant und wo sind diese gespeichert?
• Welche Vorgaben und Regeln sind zu beachten?
• Was steht als nächstes auf der Agenda?

Diese ständigen Wiederholungen kosten Zeit und Energie – Ressourcen, die in der Beratung ohnehin knapp bemessen sind. Was wir brauchen, ist eine Lösung, bei der sich die KI eigenständig an relevante Informationen erinnert und mit einem einfachen Startprompt wie diesem auskommt:

"Lass uns am Projekt XY weiterarbeiten. Schau Dir die Erinnerungen zu unserem Projekt an, prüfe den Projektplan, öffne und lies die Dokumente, an denen wir gearbeitet haben, und sag mir, was für heute ansteht."

Genau diese Herausforderung adressiert das KnoCoMemory-Projekt.

Bestehende Lösungen und ihre Grenzen

Das Problem der begrenzten Erinnerungsfähigkeit von KI-Assistenten ist nicht neu. OpenAI hat beispielsweise seiner ChatGPT-Lösung kürzlich erweiterte Gedächtnisfunktionen hinzugefügt. Dieser Ansatz ist ein guter Anfang, doch für die spezifischen Anforderungen im Beratungskontext reicht er aus mehreren Gründen nicht aus:

1. Kontrollverlust über Erinnerungstypen: Als Berater möchte ich präzise steuern können, welche Arten von Informationen gespeichert und wie sie kategorisiert werden.
2. Sicherheits- und Datenschutzbedenken: Kundendaten und vertrauliche Projektinformationen erfordern eine Lösung, die lokal betrieben werden kann und nicht zwingend Daten mit externen Diensten teilen muss.
3. Mangelnde Umgebungsflexibilität: Berater arbeiten mit verschiedensten Tools – von Chat-Interfaces über spezialisierte IDEs bis hin zu Dokumentationssystemen. Erinnerungen sollten plattformübergreifend verfügbar sein.
4. Fehlende Nutzer- und Berechtigungsverwaltung: In Beratungsteams arbeiten häufig mehrere Personen an einem Projekt – ein differenziertes System zur Zugriffskontrolle ist unerlässlich.

Ein Blick auf diese Anforderungen zeigt: Wir brauchen mehr als nur eine einfache Erinnerungsfunktion – wir benötigen ein vollwertiges, flexibles Gedächtnismanagement-System für den professionellen Einsatz.

KnoCoMemory: Architektur und Funktionsweise

Aus diesen Überlegungen heraus entstand KnoCoMemory (Knowledge Worker & Consultants Workspace Memory) – eine maßgeschneiderte Lösung für das Gedächtnismanagement in KI-gestützten Beratungsprojekten.

Technische Grundlagen

KnoCoMemory basiert auf zwei zentralen Komponenten:

1. mem0 als Basis für das intelligente Embedding und Retrieval von Erinnerungen
2. Model Context Protocol (MCP) von Anthropic für die zuverlässige Integration in verschiedene Arbeitsumgebungen

Die Lösungsarchitektur sieht wie folgt aus:

Die Schlüsselkomponenten im Detail

Die mem0-Implementierung

In mem0 definieren wir:

• Memory Types: Verschiedene Kategorien von Erinnerungen, die für den Beratungskontext relevant sind
• Extraktionsprompts: Anweisungen, die festlegen, wie verschiedene Informationstypen aus Gesprächen extrahiert werden
• Embedding-Methodik: Wie Informationen in der Datenbank gespeichert und wieder aufgerufen werden

Als Datenbankbackend nutzt die aktuelle Implementation Supabase mit PostgreSQL und pgvector als persistente Lösung, während OpenAI (GPT-4o) als LLM für das Embedding und Retrieval dient. Die Datenbank ist derzeit als reine Vektordatenbank konzipiert, wobei ein Graph RAG für die Zukunft geplant ist, um die Leistungsfähigkeit des Systems weiter zu verbessern.

Für Anwender, die eine vollständig lokale Installation bevorzugen, lässt sich das System auch mit alternativen Komponenten wie ChromaDB und kleineren LLMs (z.B. Meta's Llama 3.2 1B oder 3B über Ollama) betreiben.

Der KnoCoMemory MCP Server

Auf Basis des Anthropic MCP Python SDK wurde ein spezialisierter MCP Server für mem0 entwickelt. Dieser übernimmt:

• Die Kommunikation mit dem MemoryManager von mem0
• Die Bereitstellung wesentlicher Funktionen wie Suchen, Abrufen, Hinzufügen, Aktualisieren und Löschen von Erinnerungen
• Die automatische Verarbeitung von Konversationen zur Extraktion relevanter Informationen

KnoCoMemory in der Praxis

Aktuell kommt KnoCoMemory in Claude Desktop und CodeVS mit Cline zum Einsatz. Wie bei allen MCP-Implementierungen muss die Nutzung des Protokolls im ersten Prompt initialisiert werden. Danach funktioniert die Interaktion nahtlos, und das KI-System greift selbständig und zuverlässig auf das Gedächtnissystem zu.

Die Vorteile in der täglichen Arbeit sind deutlich spürbar:

• Beschleunigte Arbeitsabläufe durch den Wegfall redundanter Erklärungen
• Plattformübergreifende Verfügbarkeit relevanter Informationen
• Konsistente Projektkontinuität über einzelne Chat-Sessions hinaus

Ein typischer Workflow könnte so aussehen:

1. Der Berater beginnt ein neues Projekt mit der KI und definiert zentrale Anforderungen und Dokumente.
2. KnoCoMemory extrahiert automatisch relevante Informationen wie Projektparameter, Kundenwünsche und Quelldokumente.
3. In nachfolgenden Sessions kann die KI ohne umfangreiche Neueinweisung dort fortfahren, wo sie aufgehört hat.
4. Bei Teamübergaben können neue Mitarbeiter sofort auf den Wissensstand des Projekts zugreifen.

Die Arbeit mit KnoCoMemory entlastet den Berater erheblich, indem sie ihn von der ständigen Wiederholung von Kontextinformationen befreit und ihm erlaubt, sich auf die eigentliche Wertschöpfung zu konzentrieren.

Eine unerwartete Dimension: AI-spezifische Erinnerungen

Ein besonders interessanter Aspekt hat sich während der Entwicklung von KnoCoMemory eröffnet: die Einführung AI-spezifischer Memory Types und eines separaten AI-spezifischen Nutzers. Diese Erweiterung ermöglicht es dem KI-System, Erinnerungen über sich selbst und seine eigene Arbeit zu speichern.

Durch Memory Types wie "Reflection", "Learning" und "Milestone" entwickelt die Interaktion mit der KI eine neue Qualität. Das System speichert nicht nur Erkenntnisse über den Nutzer und das Projekt, sondern auch Best Practices und Learnings aus der eigenen Arbeit. Dies führt zu einer deutlich schnelleren und tieferen Anpassung an den individuellen Arbeitsstil des Beraters.

Im Kontext der Projektarbeit entsteht dadurch ein Mehrwert, der anfangs nicht antizipiert wurde: Die KI wirkt nicht mehr wie ein Werkzeug, das bei jedem Neustart bei null beginnt, sondern wie ein lernender Partner, der kontinuierlich aus gemeinsamen Erfahrungen schöpft und wächst.

Roadmap und nächste Schritte

Die Entwicklung von KnoCoMemory steht nicht still. Für die nahe Zukunft sind folgende Schritte geplant:

1. Veröffentlichung auf GitHub: Nach einer gründlichen Bereinigung und Dokumentation der Codebasis wird KnoCoMemory als Open-Source-Projekt veröffentlicht.
2. Implementierung eines Graph RAG: Um die assoziativen Fähigkeiten des Systems zu erweitern, wird die bestehende Vektordatenbank um einen graphbasierten Ansatz ergänzt.
3. Erweiterung der Memory Types: Das Konzept der verschiedenen Erinnerungskategorien wird überarbeitet und erweitert, um dem Alltag von Beratern und Wissensarbeitern noch besser zu entsprechen.
4. Integration mit weiteren Wissensquellen: KnoCoMemory soll zu einem umfassenden Wissenshub ausgebaut werden, der nicht nur Erinnerungen aus Gesprächen, sondern auch Informationen aus klassischen Wissensdatenbanken integriert.

Fazit: Ein Baustein für den KI-gestützten Beratungsarbeitsplatz der Zukunft

KnoCoMemory ist nur ein – wenn auch zentraler – Baustein in der Vision eines vollständig KI-gestützten Arbeitsplatzes für Berater und Wissensarbeiter. Die Fähigkeit, relevante Informationen über Kontextgrenzen hinweg zu bewahren und gezielt wieder abzurufen, adressiert eines der grundlegendsten Probleme in der Zusammenarbeit mit KI-Systemen.

Die bisherigen Erfahrungen zeigen: Ein intelligentes Gedächtnismanagement kann die Effizienz und Qualität der KI-gestützten Beratungsarbeit erheblich steigern. KnoCoMemory öffnet die Tür zu einer neuen Art der Kollaboration zwischen menschlichen Experten und künstlicher Intelligenz – einer Kollaboration, die nicht durch technische Limitierungen wie Kontextfenster begrenzt wird, sondern durch die natürlichen Arbeitsabläufe und Anforderungen des Beratungsalltags geprägt ist.

---

In kommenden Blogbeiträgen werden weitere Aspekte des KI-gestützten Beratungsarbeitsplatzes beleuchtet, darunter spezialisierte Werkzeuge für Dokumentenanalyse, Projektmanagement und Entscheidungsunterstützung.