VectorBrain

Wissenswertes

Wissensdatenbank oder RAG?

Wer „KI im Unternehmen" hört, denkt meist zuerst an das Chatfenster unten rechts auf einer Website: „Hallo, ich bin der digitale Assistent von Firma XY. Wie kann ich Ihnen helfen?" Oder an die Arztpraxis, deren KI rund um die Uhr Termine vergibt. Hinter den meisten dieser Assistenten steckt ein Verfahren namens RAG. Mit einer Wissensdatenbank für Fachwissen hat das weniger gemein, als der gemeinsame Name vermuten lässt.

Was RAG ist

RAG steht für Retrieval Augmented Generation, auf Deutsch etwa: Antworten mit vorher abgerufenem Wissen. Die Unterlagen werden dafür in kurze Textschnipsel zerlegt und in einer eigenen Datenbank so abgelegt, dass sich Schnipsel mit ähnlicher Bedeutung schnell finden lassen. Kommt eine Frage, sucht ein Programm die passendsten Schnipsel heraus und gibt sie der KI mit. Die KI formuliert daraus die Antwort.

Entstanden ist das Verfahren, als eine KI nur wenige Seiten auf einmal lesen konnte. Man musste ihr das Wissen in kleinen Portionen reichen. Wie sich das inzwischen geändert hat, zeigt der Artikel Was ein Unternehmen weiß.

Wo RAG seine Stärken hat

Im Kundenservice ist RAG in seinem Element. Das Wissen ist überschaubar und ändert sich selten: Speisekarte, Preise, Öffnungszeiten, Lieferbedingungen, häufige Fragen. Dafür kommen viele gleichartige Anfragen, oft tausende am Tag, und jede soll in Sekunden beantwortet sein. Häufig löst die Antwort gleich etwas aus: Der Termin wird gebucht, die Pizza bestellt, die Rücksendung angemeldet. Hier zählen Tempo und niedrige Kosten je Anfrage, und genau das liefert RAG.

Kein Wunder also, dass Unternehmen KI am häufigsten genau dort einsetzen. In der Umfrage des Branchenverbands Bitkom vom September 2026 steht die Bearbeitung von Anfragen mit Abstand vorn. Das interne Wissensmanagement kommt erst weit dahinter.

Einsatzbereiche von KI in deutschen Unternehmen, Mehrfachnennungen. Quelle: Bitkom, Pressemitteilung vom 14. September 2026, Umfrage von Bitkom Research unter 603 Unternehmen ab 20 Beschäftigten.

Wenn es um Fachwissen geht

Nach innen sieht die Aufgabe ganz anders aus. Ein Projektleiter stellt nicht tausend Fragen am Tag, sondern ein paar, und die haben es in sich. Gilt die Gewährleistungsfrist auch für den Nachtrag? Welche Annahmen lagen der Berechnung von damals zugrunde? Warum wurde beim letzten Projekt dieser Art vom Plan abgewichen? Die Antwort steckt selten in einem einzelnen Absatz. Sie ergibt sich aus dem Hauptvertrag, dem Nachtrag und dem Schriftverkehr dazwischen.

Genau hier stößt das Schnipsel-Verfahren an seine Grenzen. Ein Schnipsel aus einem Vertrag weiß nicht, welcher Paragraf davor stand und welche Ausnahme danach kommt. Eine Wissensdatenbank für Fachwissen geht deshalb anders vor: Die Unterlagen werden vollständig und einheitlich aufbereitet, und die KI liest ganze Dokumente. Sie schlägt nach, liest weiter und prüft gegen, so wie ein erfahrener Kollege. Die Antwort kommt mit Angabe der Quelle. Das dauert ein paar Sekunden länger, aber es kommt auf etwas anderes an: dass die Antwort stimmt.

Der Unterschied auf einen Blick

Assistent im Kundenservice

meist RAG

Wer fragt
Kunden, von außen
Wissen
überschaubar und fest: Preise, Termine, häufige Fragen
Anfragen
viele, gleichartig, kurz
Es kommt an auf
Tempo und niedrige Kosten je Anfrage
Ergebnis
eine Auskunft oder eine Aktion: Termin gebucht, Bestellung aufgenommen
Aufwand
die Daten liegen meist schon geordnet vor

Wissensdatenbank für Fachwissen

ganze Dokumente

Wer fragt
die eigenen Fachleute und die Führung, von innen
Wissen
groß und gewachsen: Verträge, Pläne, Berichte, Schriftverkehr aus Jahrzehnten
Anfragen
wenige, aber anspruchsvoll
Es kommt an auf
Richtigkeit und Zusammenhang
Ergebnis
eine geprüfte Antwort mit Quelle, die Entscheidung bleibt beim Menschen
Aufwand
steckt im sauberen Aufbereiten der Unterlagen

Nach außen oder nach innen

Beides hat seinen Platz. Ein Assistent im Kundenservice entlastet dort, wo viele Menschen dieselben Fragen stellen, und er ist für jeden sichtbar. Deshalb fangen viele Unternehmen dort an. Für technische Unternehmen liegt der größere Hebel aber oft innen: bei Angeboten, Planung, Prüfung und Abrechnung, also überall dort, wo Fachleute auf Erfahrung zurückgreifen müssen, die irgendwo im Haus schon vorhanden ist. Dort verbessert die KI nicht den Kontakt nach außen, sondern die Qualität der eigenen Arbeit. Sie bereitet vor, rechnet gegen und findet Fehler, bevor sie teuer werden. Entscheiden tun weiterhin Sie.

Die beiden Wege schließen sich auch nicht aus. Wo sehr große Datenmengen in Sekunden durchsucht werden müssen, kann ein Schnipsel-Verfahren eine Wissensdatenbank sinnvoll ergänzen. Entscheidend ist, mit der richtigen Frage anzufangen: Wer soll die Antworten bekommen, und was muss an ihnen stimmen?

Bei Vector-Brain bauen wir beides. Für die Arbeit nach innen entstehen Wissensdatenbanken, von Ingenieuren für Ingenieure. Wo viele gleichartige Anfragen schnell beantwortet werden sollen, setzen wir RAG ein, etwa in unserem KI-Mail-Assistenten, der aus dem eigenen Wissen Antwortentwürfe für eingehende E-Mails schreibt. Soll der Assistent auch sprechen, zum Beispiel als KI am Telefon, lässt sich eine Sprachausgabe dazuschalten. Welcher Weg zu Ihrer Aufgabe passt, klären wir gern in einem Gespräch.

Quellen

Einsatzbereiche von KI: Bitkom, Pressemitteilung vom 14. September 2026. Zum Verfahren RAG: Lewis u. a., „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks", 2020, arXiv 2005.11401.

Stand: Oktober 2026

Weitere Artikel unter Wissenswertes