Warum klassisches RAG scheitert: LLM-Wikis und modulare Obsidian-Vaults in der Praxis
Der Standard-Ratschlag für KI im Unternehmen lautet meistens: Werfen Sie alle Ihre PDFs, Verträge und Slack-Protokolle in eine Vektordatenbank. Die KI sucht sich dann schon die passenden Textbausteine zusammen. Das nennt man Retrieval-Augmented Generation (RAG).
Das Problem: RAG baut kein Wissen auf. Es fängt bei jeder Frage bei Null an. Wenn ein Mitarbeiter nach einer Verpackungsnorm sucht, wühlt die KI blind in einem Haufen unstrukturierter Daten. Sie hat kein Konzept von Hierarchien, weiß nicht, ob ein Dokument ein veraltetes Angebot oder eine aktuelle Richtlinie ist, und liefert oft einen Mix aus beidem.
Die Alternative dazu sind persistente LLM-Wikis, strukturierte Textformate und modulare Vaults. Als zentrale Software-Oberfläche kommt dabei Obsidian zum Einsatz – ein lokales Notizprogramm, das auf reinen Markdown-Dateien basiert. In Obsidian wird das Wissen in sogenannten “Vaults” (Tresoren) organisiert. Ein Vault ist technisch gesehen einfach ein ganz normaler Ordner auf der Festplatte, in dem die Textdateien liegen.
Wie dieses Setup in der Realität aussieht, zeigt das Beispiel der de-pack GmbH, einem B2B-Spezialisten für Konstruktivverpackungen.
Das Setup: Drei Werkzeuge für strukturiertes Wissen
Um Firmenwissen für KI-Agenten (und Menschen) nutzbar zu machen, nutzt de-pack drei Kerntechnologien.
1. Das LLM Wiki Concept
Das LLM Wiki Concept von Andrej Karpathy dreht den RAG-Ansatz um. Statt rohe Dokumente bei jeder Suchanfrage neu zu scannen, baut die KI ein fortlaufendes Wiki aus Markdown-Dateien auf.
Wenn neue Informationen dazukommen, liest der KI-Agent diese, aktualisiert bestehende Wiki-Seiten, setzt Querverweise und pflegt den Index. Der Mensch steuert die inhaltliche Richtung, die KI übernimmt die lästige Pflege der Dokumentation.
2. Google OKF (Open Knowledge Format)
Damit die KI das Wiki fehlerfrei lesen kann, braucht sie einen Standard. De-pack nutzt dafür das Google Open Knowledge Format (OKF).
OKF ist extrem simpel. Es besteht aus reinen Textdateien (Markdown) mit einem YAML-Block am Anfang. Jede Datei hat zwingend einen type (z.B. “Kundenprofil” oder “Norm”), sowie optionale Tags. Keine proprietären Datenbanken, nur lesbarer Text.
3. Graphify
Ein Ordner voller Textdateien reicht ab einer bestimmten Größe nicht mehr aus. Das Tool Graphify liest das OKF-Wiki und generiert daraus einen semantischen Graphen.
Es visualisiert die Metadaten und internen Links. Der KI-Agent lädt diesen Graphen und sieht sofort die Zusammenhänge: Welcher Inhouse-Prozess gehört zu welcher DIN-Norm? Welcher Kunde nutzt welche Verpackungsart? Das spart API-Kosten (Token) und liefert präzise Antworten.
Die Praxis: Modulare Vaults bei de-pack
Wenn de-pack sein gesamtes Firmenwissen in einen einzigen Ordner werfen würde, würde der Kontext des KI-Agenten explodieren. Die Lösung sind modulare “Vaults” (Tresore) in Obsidian. Jeder Vault ist ein physisch getrennter Wissensraum.
So strukturiert de-pack sein Wissen konkret:
1. Der CRM-Vault (Kundenindex)
Ein strukturierter Abzug aus dem CRM-System. Jeder B2B-Kunde hat eine eigene OKF-Markdown-Datei mit Ansprechpartnern, Historie und speziellen Anforderungen. Wenn der Agent ein Angebot entwirft, lädt er nur diesen Vault. Er kennt sofort alle Präferenzen des Kunden, ohne irrelevante Daten zu verarbeiten.
2. Der Normen- und Compliance-Vault
Verpackungen unterliegen strengen Regeln. In diesem Vault liegen gesetzliche Vorschriften, DIN-Normen und Nachhaltigkeitsrichtlinien (wie die GPSR). Der Agent prüft neue Verpackungskonzepte automatisch gegen diesen Vault, um rechtliche Fehler auszuschließen.
3. Der Methoden-Vault (Evaluierung)
Hier dokumentiert de-pack Inhouse-Methoden für Falltests, Materialprüfungen und Belastungsgrenzen. Das technische Wissen bleibt im Haus und ist für neue Mitarbeiter oder Agenten sofort abrufbar.
4. Der Prozess-Vault (Engineering)
Dieser Vault dokumentiert den exakten Ablauf, wie aus einer Kundenanfrage eine fertige B2B-Verpackung entsteht. KI-Agenten können diesen Prozess Schritt für Schritt abarbeiten und Projektskizzen standardisiert vorstrukturieren.
5. Der Legal-Vault
Eine isolierte Umgebung für sensible Rechtsdokumente, Vertragswerke und NDAs.
Die Praxis: Wie KI-Agenten mit den Vaults arbeiten
Damit Modelle wie Claude, Gemini oder lokale Agenten wie Hermes dieses System nutzen können, müssen ein paar technische Grundvoraussetzungen erfüllt sein.
1. Lese- und Schreibrechte (Dateizugriff) Das ist die absolute Basis. Die KI muss die Markdown-Dateien direkt bearbeiten können. Agenten-Kommandozeilen (wie Hermes oder Claude Code) haben diesen lokalen Zugriff von Haus aus. Wer Web-Interfaces wie ChatGPT oder Gemini nutzen will, muss eine Brücke bauen – zum Beispiel über das Model Context Protocol (MCP) –, damit die Cloud-KI auf den lokalen Obsidian-Ordner zugreifen darf.
2. Die Spielregeln (Das Schema)
Woher weiß die KI, dass sie im OKF-Format schreiben soll? Man legt eine Steuerdatei (oft AGENTS.md oder CLAUDE.md genannt) in das Hauptverzeichnis des Vaults. Dort steht in einfachen Worten: “Das ist ein OKF-Wiki. Wenn du ein neues Konzept hinzufügst, schreibe den YAML-Header und aktualisiere die index.md.” Diese Datei macht aus einem generischen Textgenerator einen disziplinierten Wiki-Bibliothekar.
3. Versionskontrolle (Git)
Wenn eine KI selbstständig Dateien überschreibt, passieren Fehler. Jeder Vault sollte zwingend als Git-Repository laufen. Wenn der Agent eine Datei zerschießt, ein Format ignoriert oder halluziniert, macht man die Änderung mit einem simplen git revert rückgängig.
Der Geschäftsführer-Blick: Vier kritische Fragen aus der Praxis
Wenn Management und IT über dieses Setup sprechen, tauchen meist vier praktische Fragen auf:
1. Wer macht die ganze Arbeit bei der Migration? Müssen Mitarbeiter jetzt Tausende PDFs und Word-Dokumente manuell in Markdown-Dateien übersetzen? Nein. Genau hier glänzen KI-Agenten. Sie scannen die alten Dokumente, extrahieren das Wissen und formatieren es automatisch nach dem OKF-Standard. Die Migration erledigt die Maschine.
2. Müssen meine Mitarbeiter jetzt programmieren lernen? Markdown, Git, YAML – das klingt nach IT-Abteilung. Muss der Vertrieb jetzt Code schreiben? Nein. Obsidian und die Textdateien sind primär das “Gedächtnis” für die KI. Der Mitarbeiter chattet ganz normal mit dem Agenten in natürlicher Sprache. Der Agent liest und schreibt im Hintergrund.
3. Sind meine Firmendaten sicher? Die Daten liegen physisch als Textdateien auf dem eigenen Firmenserver oder dem lokalen Rechner. Wer maximale Sicherheit (z.B. für den Legal-Vault) braucht, nutzt lokale Open-Source-KIs, die komplett offline laufen. Wer leistungsstarke Cloud-Modelle (wie Claude oder Gemini) anbindet, nutzt Business-APIs. Die Daten fließen dann nur für den Moment der Abfrage verschlüsselt zum Anbieter und werden nicht für das KI-Training verwendet.
4. Entsteht eine doppelte Datenpflege? Wenn der CRM-Vault ein “Abzug” ist, muss dann jemand das CRM und das Wiki pflegen? Auf keinen Fall. Solche Vaults werden automatisiert befüllt. Ein Skript zieht sich beispielsweise jede Nacht die neuesten Daten über eine Schnittstelle aus dem CRM und aktualisiert die Markdown-Dateien im Vault.
Fazit: Struktur schlägt Datenmenge
Der Ansatz von de-pack zeigt, warum unstrukturiertes RAG oft nicht reicht. Wer sein Wissen stattdessen in LLM-Wikis (für den Wissensaufbau), Google OKF (als Format) und modularen Vaults (für den sauberen Kontext) organisiert, baut ein System, das Agenten zu echten Experten macht. Das Wissen gehört weiterhin dem Unternehmen, liegt in simplen Textdateien und ist jederzeit offline verfügbar.