Eigenen KI-Assistenten mit Firmendokumenten aufsetzen (Anfänger-freundlich)

TL;DR: Einen KI-Assistenten mit den eigenen Firmendokumenten zu verbinden bedeutet, dass ein Sprachmodell wie ChatGPT nicht nur aus dem Allgemeinwissen antwortet, sondern aus deinen Handbüchern, Offerten und Prozessbeschreibungen. Die gängige Technik dahinter heisst RAG: Der Assistent sucht erst die passenden Stellen in deinen Dokumenten und antwortet dann auf dieser Basis. Für viele KMU ist das der schnellste Weg, verstreutes Firmenwissen durchsuchbar zu machen, ohne ein eigenes KI-Modell zu trainieren. Der wichtigste Punkt für Schweizer Firmen: Wo liegen deine Dokumente, und wer darf sie lesen.

Was heisst es, einen KI-Assistenten mit eigenen Dokumenten zu verbinden?

Es heisst, dass der Assistent Antworten aus deinen eigenen Unterlagen gibt statt aus dem allgemeinen Internetwissen. Du fragst zum Beispiel "Welche Garantiefrist gilt für Produkt X?", und statt einer plausibel klingenden, aber erfundenen Antwort zieht er die richtige Stelle aus deinem Handbuch und zitiert sie.

Normales ChatGPT kennt deine Firma nicht. Es weiss nicht, wie eure Offerten aufgebaut sind oder wie ihr eine Reklamation bearbeitet, und wenn du trotzdem fragst, rät es. Mit deinen Dokumenten verbunden, antwortet es auf Basis dessen, was wirklich bei euch steht.

Die übliche Methode dafür nennt sich RAG (Retrieval Augmented Generation). Klingt technisch, ist im Kern aber simpel: Stell dir einen schnellen Mitarbeiter vor, der bei jeder Frage zuerst im Aktenschrank die passenden Seiten heraussucht und erst dann antwortet. Das ist etwas anderes, als ein eigenes Modell zu trainieren. Trainieren ist teuer und aufwendig, RAG braucht das nicht: Deine Dokumente werden durchsuchbar gemacht und bei Bedarf herangezogen.

Wofür ist das im KMU-Alltag gut?

Vor allem dafür, verstreutes Firmenwissen schnell auffindbar zu machen. Wissen, das heute in PDFs, alten E-Mails, geteilten Ordnern und in den Köpfen einzelner Leute steckt, wird über eine Frage zugänglich.

Typische Anwendungen, die sich in der Praxis lohnen:

• Ein interner Helfer, der dem Team Fragen zu Prozessen, Richtlinien oder Produkten beantwortet, statt dass alle die gleiche Person stören.
• Schnellere Einarbeitung neuer Mitarbeiter, weil sie ihre Fragen direkt stellen können.
• Unterstützung im Support, wo häufige Kundenfragen aus der bestehenden Doku beantwortet werden.

Der ehrliche Nutzen: Es spart Suchzeit und reduziert das "Das weiss nur die Anna"-Problem. Angenommen, jemand sucht pro Tag dreimal zehn Minuten nach einer Information, dann sind das über eine Woche schon mehrere Stunden, übers ganze Team gerechnet spürbar mehr. Das ist ein grobes Beispiel, dein realer Wert hängt davon ab, wie chaotisch eure Ablage heute ist.

Welche Wege gibt es, das umzusetzen?

Grob zwei: ein fertiges Tool nutzen oder eine eigene Lösung bauen lassen. Welcher Weg passt, hängt vor allem davon ab, wie sensibel deine Daten sind.

	Fertiges Tool	Eigene Lösung
Start	schnell, oft in Tagen	länger, Wochen je nach Umfang
Aufwand für dich	gering	höher, braucht Begleitung
Kontrolle über Daten	abhängig vom Anbieter	hoch, du bestimmst den Speicherort
Anpassbarkeit	begrenzt	gross
Laufende Kosten	meist Abo pro Nutzer	Betrieb plus Wartung

Fertige Tools sind gut, um auszuprobieren, ob der Ansatz für euch funktioniert. Der Haken: Du gibst einen Teil der Kontrolle ab und musst genau prüfen, wo die Daten landen. Eine eigene Lösung lohnt sich dagegen, wenn die Dokumente vertraulich sind, viele Quellen angebunden werden sollen oder der Assistent tief in eure Abläufe gehört.

Wie läuft so ein Projekt grob ab?

Konzeptionell immer in ähnlichen Schritten, unabhängig vom Werkzeug. Ich beschreibe bewusst das Prinzip, nicht die genauen Klicks.

1. Dokumente sammeln und aufräumen. Was soll der Assistent kennen, was ist veraltet oder darf nicht hinein.
2. Aufbereiten. Die Dokumente werden in durchsuchbare Häppchen zerlegt, damit der Assistent gezielt passende Stellen findet.
3. Verbinden. Der Assistent bekommt Zugriff auf diese Sammlung und lernt, daraus zu antworten und Quellen zu nennen.
4. Testen mit echten Fragen. Hier zeigt sich, wo Antworten gut sind und wo Lücken in der Doku liegen.
5. Berechtigungen und Betrieb klären. Wer darf was fragen, wer pflegt das Ganze.

Der oft unterschätzte Teil sind Schritt eins und zwei. Die KI ist nur so gut wie deine Unterlagen. Sind sie chaotisch, widersprüchlich oder veraltet, wird auch der Assistent ungenau. Das ist kein Grund, es zu lassen, aber ein Grund, ehrlich zu planen.

Was ist mit Datenschutz und dem Speicherort der Dokumente?

Das ist für Schweizer KMU die wichtigste Frage, und sie gehört an den Anfang. Entscheidend ist, wo deine Dokumente gespeichert und verarbeitet werden und wer darauf Zugriff hat.

Worauf du achten solltest:

• Speicherort. Liegen die Daten in der Schweiz, in der EU oder ausserhalb. Gerade bei Personendaten oder vertraulichen Verträgen ist Hosting in der Schweiz oder EU oft die saubere Wahl.
• Vertraulichkeit. Werden deine Dokumente vom Anbieter zum Trainieren genutzt oder bleiben sie nur bei dir. Das gehört vertraglich geklärt.
• Zugriffsrechte. Nicht jeder im Team sollte alles fragen können. Ein Lohnblatt hat in der allgemeinen Wissensbasis nichts verloren.

Die gute Nachricht: Es gibt heute Wege, solche Assistenten in der Schweiz oder EU zu hosten, sodass sensible Dokumente das Rechtsgebiet nicht verlassen. Im Zweifel lieber konservativ starten und bei konkretem Bedarf die Rechtsberatung dazuholen.

Häufige Fragen

Muss ich dafür ein eigenes KI-Modell trainieren? Nein. Der gängige Weg (RAG) trainiert kein neues Modell, sondern macht deine bestehenden Dokumente durchsuchbar und reicht sie dem Assistenten bei Bedarf an. Das ist deutlich einfacher und günstiger als echtes Training.

Wie viele Dokumente brauche ich, damit sich das lohnt? Es geht weniger um die Menge als um die Häufigkeit der Fragen. Schon ein gut gepflegtes Handbuch kann reichen, wenn euer Team oft darin sucht.

Kann der Assistent Dinge erfinden? Ja, das kann passieren. Mit gutem Aufbau und Quellenangaben lässt es sich stark reduzieren, weil der Assistent zeigt, woher eine Antwort stammt. Ganz ausschliessen lässt es sich nicht, darum bleibt bei wichtigen Themen eine menschliche Kontrolle sinnvoll.

Bleiben meine Dokumente vertraulich? Das hängt vom gewählten Weg ab. Bei fertigen Tools musst du die Bedingungen prüfen, bei einer eigenen Lösung bestimmst du den Speicherort selbst. Hosting in der Schweiz oder EU ist für sensible Inhalte oft richtig.

Wie aufwendig ist die Pflege danach? Etwas Pflege gehört dazu. Neue oder geänderte Dokumente müssen nachgeführt werden, sonst veraltet das Wissen. Überschaubar, sollte aber von Anfang an jemandem zugeordnet sein.

Wenn du herausfinden willst, ob sich ein Assistent mit euren eigenen Dokumenten lohnt und welcher Weg zu deiner Datenlage passt, schau ihn dir gemeinsam mit uns an. Im kostenlosen Erstgespräch klären wir ehrlich, was sinnvoll ist und was nicht.