Interne KI-Wissensdatenbank (RAG)

Interne KI-Wissensdatenbank, was das konkret bedeutet

In wachsenden Unternehmen verteilt sich Wissen typischerweise auf zehn oder mehr Systeme: Confluence, Notion, SharePoint, alte PDF-Handbücher, Slack-Threads, E-Mail-Postfächer einzelner Mitarbeitender. Neue Kolleginnen und Kollegen brauchen dadurch Wochen, um zu lernen, wo welche Information liegt, und erfahrene Mitarbeitende verlieren täglich Zeit mit der immer gleichen Frage aus einem anderen Team. Ein RAG-System indexiert diese verstreuten Quellen und beantwortet Fragen direkt, mit Verweis auf das Ursprungsdokument, statt nur eine Liste von Treffern zurückzugeben.

Der technische Kern ist eine Vektordatenbank, etwa Pinecone oder Weaviate, die Dokumente in durchsuchbare Bedeutungseinheiten zerlegt, kombiniert mit einem Sprachmodell wie Claude oder GPT-4, das aus den relevantesten Fundstellen eine zusammenhängende Antwort formuliert. Anders als eine reine Volltextsuche versteht das System auch umformulierte oder unpräzise gestellte Fragen.

Typische Einsatzbereiche

Am häufigsten bauen wir Wissensdatenbanken für Onboarding-Fragen neuer Mitarbeitender, interne IT- und HR-Support-Anfragen, Produktwissen für Vertriebsteams wie Preise, Spezifikationen und Wettbewerbsvergleiche sowie Compliance- und Richtlinien-Fragen, bei denen die exakte Quelle nachvollziehbar bleiben muss. Auch die Suche in technischer Dokumentation für Entwicklerteams gehört dazu.

Was ein RAG-System nicht leistet

Ein RAG-System ist nur so gut wie die zugrunde liegenden Dokumente, veraltete oder widersprüchliche Quellen führen zu veralteten oder widersprüchlichen Antworten. Deshalb ist ein klarer Prozess zur Dokumentenpflege Teil jedes Projekts, nicht optional. Bei rechtlich bindenden Auskünften empfehlen wir außerdem, die KI-Antwort als Ausgangspunkt zu behandeln, nicht als finale Entscheidung.

So läuft ein RAG-Projekt bei Großartiger ab

Wir beginnen mit einer Bestandsaufnahme Ihrer Wissensquellen: welche Systeme, wie aktuell, wie strukturiert. Daraus entsteht eine Priorisierung, meist starten wir mit zwei bis drei Kernquellen wie dem internen Wiki und den wichtigsten Handbüchern, statt von Anfang an alles zu indexieren. Aufbau der Vektordatenbank und erste Testfragen dauern typischerweise zwei bis drei Wochen.

Nach dem technischen Aufbau folgt eine Testphase mit einer kleinen Nutzergruppe, in der wir Antwortqualität und Quellenangaben verfeinern. Nach fünf bis acht Wochen ist das System für das gesamte Team freigegeben, meist als Chat-Interface in Slack, Microsoft Teams oder als eigenständige Weboberfläche. Ein monatlicher Sync-Prozess hält die Wissensbasis aktuell.

Kosten und Modell

Eine interne Wissensdatenbank bewegt sich je nach Quellenzahl und Nutzerzahl zwischen 5.000 und 15.000 Euro für den initialen Aufbau. Ein fokussiertes System mit zwei bis drei Quellen für ein Team liegt am unteren Ende, eine unternehmensweite Lösung mit vielen Quellen und Rechteverwaltung am oberen Ende.

Der laufende Betrieb, also Hosting der Vektordatenbank, Modellkosten und monatliche Aktualisierung, wird meist über einen separaten monatlichen Betrag abgerechnet, der sich nach Nutzerzahl und Anfragevolumen richtet. Wir legen die laufenden Kosten transparent offen, bevor das Projekt startet.