KI mit eigenen Dokumenten: Wissensassistenten planen
Ihr Team sucht regelmäßig in Handbüchern, Projektunterlagen oder internen Anleitungen nach Antworten? Ein Wissensassistent kann relevante Informationen zusammenführen. Entscheidend ist, welche Unterlagen er durchsuchen darf, wie aktuell sie sind und ob sich seine Antworten prüfen lassen. So bereiten Sie ein überschaubares Pilotprojekt vor.
1. Fragen und Dokumente eingrenzen
Beginnen Sie mit einer konkreten Aufgabe, etwa Fragen zu einer freigegebenen Produktanleitung. Sammeln Sie typische Fragen und die Dokumente, in denen die Antworten stehen. Prüfen Sie Versionen, Verantwortliche und Lesbarkeit: Ein gescanntes PDF benötigt gegebenenfalls Texterkennung; Tabellen und Bilder müssen passend zur Aufgabe verarbeitet werden. Viele Dateien allein machen noch keine brauchbare Wissensbasis.
2. Passende Textstellen als Kontext nutzen
Bei Retrieval-Augmented Generation, kurz RAG, kombiniert das System die Suche nach passenden Textstellen mit der Erzeugung einer Antwort. Für Ihre Dokumente bedeutet das: Inhalte aufbereiten, relevante Stellen finden und der KI als Kontext bereitstellen. Dafür muss kein eigenes Sprachmodell mit allen Unterlagen trainiert werden. Quellenverweise helfen bei der Prüfung, garantieren aber keine richtige oder vollständige Antwort.
3. Zugriffe und Aktualisierung festlegen
Legen Sie fest, welche Nutzer welche Quellen sehen dürfen. Die Suche und die Antwort müssen diese Grenzen berücksichtigen; ein vertraulicher Inhalt darf nicht über eine Zusammenfassung für andere sichtbar werden. Vereinbaren Sie außerdem, wie Änderungen und Löschungen im Suchindex berücksichtigt werden und wer veraltete Informationen korrigiert. Welche Daten ein externer Anbieter erhält, hängt von der gewählten Umgebung ab und muss vorab geklärt werden.
4. Mit überprüfbaren Fragen testen
Erstellen Sie einen Testsatz mit erwarteten Antworten und zulässigen Quellen. Nehmen Sie auch Fragen ohne belegbare Antwort, widersprüchliche Versionen und eingeschränkte Zugriffe auf. Prüfen Sie getrennt, ob die Suche die richtigen Stellen findet und ob die Antwort diese korrekt wiedergibt. Wenn Belege fehlen, sollte der Assistent nachfragen oder an eine zuständige Person verweisen. Vergleichen Sie anschließend Suchzeit und Korrekturaufwand mit dem bisherigen Ablauf.
Diese Angaben helfen bei der Planung
- Welche Fragen soll der Assistent beantworten, und für wen?
- Wo liegen die Unterlagen, und in welchen Formaten?
- Wer darf welche Quellen nutzen, und wer hält sie aktuell?
- Welche Antworten und Quellen sollen im Pilotprojekt als Vergleich dienen?
Zum technischen Hintergrund des RAG-Prinzips: Lewis et al.: Retrieval-Augmented Generation (2020, englisch).
Ihre Aufgabe konkret besprechen
Nennen Sie die Fragen, die der Assistent beantworten soll, die vorhandenen Dokumentarten und den Nutzerkreis. Bitte senden Sie zunächst keine vertraulichen Unterlagen.