Zum Inhalt springen
Künstlerische Tusche-Aquarellillustration einer Brücke zwischen künstlicher Intelligenz und dem Wissen eines Unternehmens. Sie symbolisiert, wie Retrieval-Augmented Generation (RAG) einem KI-Assistenten relevante Informationen zugänglich macht, bevor er eine Antwort formuliert.

Warum deine KI dein Unternehmen nicht kennt – und was RAG daran ändert

Stell dir vor, du fragst deine KI, wer in deinem Unternehmen eine bestimmte Rechnung freigeben muss. Sie erklärt dir einen sauber strukturierten Freigabeprozess, nennt Zuständigkeiten und liefert sogar eine plausible Begründung. Klingt überzeugend. Dummerweise habt ihr diesen Prozess vor drei Monaten geändert.

Das eigentlich Beunruhigende daran ist nicht, dass die KI etwas nicht wusste. Sondern dass du es ihrer Antwort möglicherweise nicht angesehen hast.

Wir haben uns daran gewöhnt, dass moderne KI-Systeme auf nahezu jede Frage eine erstaunlich gute Antwort formulieren können. Dabei verwechseln wir gelegentlich zwei Dinge: die Fähigkeit, eine überzeugende Antwort zu geben, und das Wissen, ob diese Antwort für unser Unternehmen tatsächlich richtig ist.

Eine überzeugende Antwort ist noch keine verlässliche Antwort

Ein Sprachmodell hat während seines Trainings enorme Mengen an Informationen verarbeitet. Es kann Zusammenhänge erkennen, komplexe Themen erklären und aus wenigen Angaben hilfreiche Schlussfolgerungen ziehen.

Aber es kennt deshalb nicht automatisch eure aktuellen Betriebsvereinbarungen, internen Freigabeprozesse oder die Entscheidung, die euer Projektteam letzten Dienstag getroffen hat.

Das macht die KI nicht weniger leistungsfähig. Es zeigt lediglich, dass allgemeine Intelligenz und konkretes Unternehmenswissen zwei unterschiedliche Dinge sind.

Und hier entsteht eine neue Herausforderung: Je besser KI-Systeme formulieren können, desto wichtiger wird unsere Fähigkeit, zwischen einer plausiblen und einer tatsächlich begründeten Antwort zu unterscheiden.

Was wäre, wenn die KI einfach nachsehen könnte?

Eigentlich ist die Lösung erstaunlich naheliegend.

Wenn mich ein Mitarbeiter fragt, welche Reisekostenregelung aktuell gilt, verlasse ich mich schließlich auch nicht unbedingt auf meine Erinnerung. Ich suche die gültige Richtlinie, lese nach und beantworte dann seine Frage.

Warum sollte unsere KI anders arbeiten?

Genau hier setzt Retrieval-Augmented Generation, kurz RAG, an.

Das Grundprinzip: Bevor ein Sprachmodell antwortet, erhält es passende Informationen aus einer externen Wissensquelle. Es muss also nicht alles selbst wissen. Es kann seine Antwort auf Informationen stützen, die dem Unternehmen tatsächlich zur Verfügung stehen.

Stell dir noch einmal unsere Frage zur Rechnungsfreigabe vor. Statt einen üblichen Prozess zu beschreiben, findet die KI die aktuelle interne Regelung und berücksichtigt sie bei ihrer Antwort.

Das ist ein erheblicher Unterschied.

Nicht weil die KI plötzlich intelligenter geworden wäre, sondern weil sie nun auf einer besseren Informationsgrundlage arbeitet.

Gute Suche allein reicht allerdings nicht

In technischen Präsentationen zu RAG sieht man häufig ein Sprachmodell, eine Vektordatenbank und einige Pfeile dazwischen.

Das erklärt einen Teil der Technik. Aber noch nicht, ob das Ergebnis im Unternehmensalltag wirklich brauchbar ist.

Was passiert, wenn die gefundene Richtlinie längst überholt ist? Wenn ein unverbindlicher Entwurf neben einer freigegebenen Arbeitsanweisung liegt? Oder wenn die KI Informationen findet, auf die der fragende Mitarbeiter überhaupt keinen Zugriff haben dürfte?

Dann können wir mit beeindruckender Technik sehr effizient falsche Antworten produzieren.

Deshalb halte ich einen Aspekt von RAG für besonders wichtig, über den vergleichsweise wenig gesprochen wird:

Die Qualität der Antwort hängt nicht nur vom KI-Modell ab. Sie hängt auch davon ab, wie gut ein Unternehmen sein eigenes Wissen organisiert.

Wer ist für eine Information verantwortlich? Welche Version gilt? Wer darf sie lesen? Und wie erkennen wir, ob eine Aussage noch aktuell ist?

Das sind plötzlich keine nebensächlichen Fragen des Wissensmanagements mehr. Sie werden zu Voraussetzungen für einen verantwortungsvollen KI-Einsatz.

Wir brauchen nicht für jede KI ein eigenes Unternehmensgedächtnis

Eine weitere Konsequenz ist zusätzlich besonders wichtig: Wenn Unternehmenswissen unabhängig vom Sprachmodell bereitgestellt werden kann, müssen wir nicht jeden KI-Assistenten einzeln mit denselben Informationen versorgen.

Ein Team kann mit ChatGPT arbeiten, ein anderes mit Claude. Beide können auf dieselbe gepflegte Wissensgrundlage zugreifen, sofern ihre Werkzeuge entsprechend verbunden sind und die Berechtigungen es erlauben.

Genau nach diesem Prinzip habe ich Atrium Tablinum entwickelt.

Atrium ist ein selbst hostbarer Wissensspeicher, der kompatiblen KI-Assistenten über das Model Context Protocol (MCP) relevante Informationen bereitstellen kann. Dabei kombiniert es unterschiedliche Suchverfahren mit Zugriffsrechten, Versionierung und kontrollierter Wissenspflege.

Der Assistent bleibt das vertraute Werkzeug. Atrium stellt das gemeinsame Wissen bereit.

Dabei ist wichtig: Die KI entscheidet abhängig von ihrer Konfiguration, ob sie die Suche tatsächlich verwendet. Und auch mit passenden Quellen kann sie Fehler machen.

RAG ersetzt also weder sorgfältige Wissenspflege noch menschliche Verantwortung.

Vielleicht stellen wir bisher die falsche Frage

Bei der Auswahl von KI-Systemen schauen wir gerne darauf, welches Modell schneller, leistungsfähiger oder bei einem Benchmark ein paar Prozentpunkte besser ist.

Das ist durchaus relevant.

Aber vielleicht sollten wir in Unternehmen häufiger eine andere Frage stellen:

Wie gut kann unsere KI auf das Wissen zugreifen, das wir bereits besitzen – und wie verlässlich ist dieses Wissen eigentlich?

Denn eine noch bessere KI mit den falschen Informationen bleibt ein Risiko. Ein gut angebundener Assistent mit aktuellen, überprüfbaren Quellen kann dagegen einen echten Unterschied im Arbeitsalltag machen.

Die Zukunft der KI im Unternehmen hängt deshalb nicht allein davon ab, was die Modelle irgendwann alles wissen.

Sondern auch davon, ob wir endlich lernen, unser eigenes Wissen sinnvoll mit ihnen zu verbinden.

Mehr über RAG und Atrium erfahren

Du möchtest genauer verstehen, wie RAG funktioniert, welche Rolle Vektorsuche und MCP spielen und wo die Grenzen liegen?

Was ist RAG? Einfach erklärt – unsere Wissensseite

Und wenn du wissen möchtest, wie du eine gemeinsame, anbieterunabhängige Wissensbasis für ChatGPT, Claude und andere KI-Assistenten aufbaust:

Hier geht es zu Atrium Tablinum:

Du möchtest mehr dazu erfahren, wie Dir Atrium Tablinum im Unternehmensalltag und beim Einsatz Deiner KI Assistenten helfen wird?

Artikel zu Atrium Tablinum