Stell dir vor, du fragst deine KI, wer in deinem Unternehmen eine bestimmte Rechnung freigeben muss. Sie erklärt dir einen sauber strukturierten Freigabeprozess, nennt Zuständigkeiten und liefert sogar eine plausible Begründung. Klingt überzeugend. Dummerweise habt ihr diesen Prozess vor drei Monaten geändert.
Das eigentlich Beunruhigende daran ist nicht, dass die KI etwas nicht wusste. Sondern dass du es ihrer Antwort möglicherweise nicht angesehen hast.
Wir haben uns daran gewöhnt, dass moderne KI-Systeme auf nahezu jede Frage eine erstaunlich gute Antwort formulieren können. Dabei verwechseln wir gelegentlich zwei Dinge: die Fähigkeit, eine überzeugende Antwort zu geben, und das Wissen, ob diese Antwort für unser Unternehmen tatsächlich richtig ist.
Eine überzeugende Antwort ist noch keine verlässliche Antwort
Ein Sprachmodell hat während seines Trainings enorme Mengen an Informationen verarbeitet. Es kann Zusammenhänge erkennen, komplexe Themen erklären und aus wenigen Angaben hilfreiche Schlussfolgerungen ziehen.
Aber es kennt deshalb nicht automatisch eure aktuellen Betriebsvereinbarungen, internen Freigabeprozesse oder die Entscheidung, die euer Projektteam letzten Dienstag getroffen hat.
Das macht die KI nicht weniger leistungsfähig. Es zeigt lediglich, dass allgemeine Intelligenz und konkretes Unternehmenswissen zwei unterschiedliche Dinge sind.
Und hier entsteht eine neue Herausforderung: Je besser KI-Systeme formulieren können, desto wichtiger wird unsere Fähigkeit, zwischen einer plausiblen und einer tatsächlich begründeten Antwort zu unterscheiden.
Was wäre, wenn die KI einfach nachsehen könnte?
Eigentlich ist die Lösung erstaunlich naheliegend.
Wenn mich ein Mitarbeiter fragt, welche Reisekostenregelung aktuell gilt, verlasse ich mich schließlich auch nicht unbedingt auf meine Erinnerung. Ich suche die gültige Richtlinie, lese nach und beantworte dann seine Frage.
Warum sollte unsere KI anders arbeiten?
Genau hier setzt Retrieval-Augmented Generation, kurz RAG, an.
Das Grundprinzip: Bevor ein Sprachmodell antwortet, erhält es passende Informationen aus einer externen Wissensquelle. Es muss also nicht alles selbst wissen. Es kann seine Antwort auf Informationen stützen, die dem Unternehmen tatsächlich zur Verfügung stehen.
Stell dir noch einmal unsere Frage zur Rechnungsfreigabe vor. Statt einen üblichen Prozess zu beschreiben, findet die KI die aktuelle interne Regelung und berücksichtigt sie bei ihrer Antwort.
Das ist ein erheblicher Unterschied.
Nicht weil die KI plötzlich intelligenter geworden wäre, sondern weil sie nun auf einer besseren Informationsgrundlage arbeitet.
Gute Suche allein reicht allerdings nicht
In technischen Präsentationen zu RAG sieht man häufig ein Sprachmodell, eine Vektordatenbank und einige Pfeile dazwischen.
Das erklärt einen Teil der Technik. Aber noch nicht, ob das Ergebnis im Unternehmensalltag wirklich brauchbar ist.
Was passiert, wenn die gefundene Richtlinie längst überholt ist? Wenn ein unverbindlicher Entwurf neben einer freigegebenen Arbeitsanweisung liegt? Oder wenn die KI Informationen findet, auf die der fragende Mitarbeiter überhaupt keinen Zugriff haben dürfte?
Dann können wir mit beeindruckender Technik sehr effizient falsche Antworten produzieren.
Deshalb halte ich einen Aspekt von RAG für besonders wichtig, über den vergleichsweise wenig gesprochen wird:
Die Qualität der Antwort hängt nicht nur vom KI-Modell ab. Sie hängt auch davon ab, wie gut ein Unternehmen sein eigenes Wissen organisiert.
Wer ist für eine Information verantwortlich? Welche Version gilt? Wer darf sie lesen? Und wie erkennen wir, ob eine Aussage noch aktuell ist?
Das sind plötzlich keine nebensächlichen Fragen des Wissensmanagements mehr. Sie werden zu Voraussetzungen für einen verantwortungsvollen KI-Einsatz.
Wir brauchen nicht für jede KI ein eigenes Unternehmensgedächtnis
Eine weitere Konsequenz ist zusätzlich besonders wichtig: Wenn Unternehmenswissen unabhängig vom Sprachmodell bereitgestellt werden kann, müssen wir nicht jeden KI-Assistenten einzeln mit denselben Informationen versorgen.
Ein Team kann mit ChatGPT arbeiten, ein anderes mit Claude. Beide können auf dieselbe gepflegte Wissensgrundlage zugreifen, sofern ihre Werkzeuge entsprechend verbunden sind und die Berechtigungen es erlauben.
Genau nach diesem Prinzip habe ich Atrium Tablinum entwickelt.
Atrium ist ein selbst hostbarer Wissensspeicher, der kompatiblen KI-Assistenten über das Model Context Protocol (MCP) relevante Informationen bereitstellen kann. Dabei kombiniert es unterschiedliche Suchverfahren mit Zugriffsrechten, Versionierung und kontrollierter Wissenspflege.
Der Assistent bleibt das vertraute Werkzeug. Atrium stellt das gemeinsame Wissen bereit.
Dabei ist wichtig: Die KI entscheidet abhängig von ihrer Konfiguration, ob sie die Suche tatsächlich verwendet. Und auch mit passenden Quellen kann sie Fehler machen.
RAG ersetzt also weder sorgfältige Wissenspflege noch menschliche Verantwortung.
Vielleicht stellen wir bisher die falsche Frage
Bei der Auswahl von KI-Systemen schauen wir gerne darauf, welches Modell schneller, leistungsfähiger oder bei einem Benchmark ein paar Prozentpunkte besser ist.
Das ist durchaus relevant.
Aber vielleicht sollten wir in Unternehmen häufiger eine andere Frage stellen:
Wie gut kann unsere KI auf das Wissen zugreifen, das wir bereits besitzen – und wie verlässlich ist dieses Wissen eigentlich?
Denn eine noch bessere KI mit den falschen Informationen bleibt ein Risiko. Ein gut angebundener Assistent mit aktuellen, überprüfbaren Quellen kann dagegen einen echten Unterschied im Arbeitsalltag machen.
Die Zukunft der KI im Unternehmen hängt deshalb nicht allein davon ab, was die Modelle irgendwann alles wissen.
Sondern auch davon, ob wir endlich lernen, unser eigenes Wissen sinnvoll mit ihnen zu verbinden.
Mehr über RAG und Atrium erfahren
Du möchtest genauer verstehen, wie RAG funktioniert, welche Rolle Vektorsuche und MCP spielen und wo die Grenzen liegen?
Was ist RAG? Einfach erklärt – unsere Wissensseite
Und wenn du wissen möchtest, wie du eine gemeinsame, anbieterunabhängige Wissensbasis für ChatGPT, Claude und andere KI-Assistenten aufbaust:







