Warum deine KI dein Unternehmen nicht kennt – und wie sie es lernt

Frag ChatGPT, ob die Sondervereinbarung mit deinem wichtigsten Kunden auch für die neue Bestellung gilt. Du bekommst eine höfliche, gut formulierte Antwort. Sie ist nur leider nutzlos: Die KI kennt weder den Kunden noch die Vereinbarung. Die liegt irgendwo in einem Postfach, die passende Produktinfo in einem PDF, und die eine Person, die beides im Kopf hat, ist gerade im Urlaub.

Genau hier liegt der Unterschied zwischen einer KI, die viel weiß, und einer KI, die deinen Betrieb versteht. Das Erste kaufst du mit einem Abo. Das Zweite musst du ihr beibringen. Wie das geht, welche Wege es gibt und welche Fallen dabei lauern, erklären wir hier ohne Fachchinesisch.

Was eine KI weiß und was nicht

Sprachmodelle wie GPT, Claude oder Gemini werden mit riesigen Mengen öffentlicher Texte trainiert. Daraus entsteht breites Allgemeinwissen: wie man ein Angebot formuliert, was ein Skonto ist, wie man eine Reklamation freundlich beantwortet. Dieses Wissen hat einen Stichtag und endet an der Grenze zum Öffentlichen.

Alles, was dein Unternehmen ausmacht, liegt hinter dieser Grenze: Preislisten, Absprachen mit Kunden, Anleitungen, frühere Entscheidungen und ihre Gründe, die Erfahrung deines Teams. Davon weiß die KI nichts, solange du es ihr nicht gibst. Sie rät dann, und sie rät leider oft überzeugend.

Vier Wege, wie eine KI an dein Wissen kommt

Die Begriffe „Gedächtnis“, „Kontext“ und „Lernen“ werden gern durcheinandergeworfen. Dabei stecken dahinter sehr unterschiedliche Dinge mit eigenen Stärken und Grenzen:

Für die meisten kleinen und mittleren Betriebe ist der dritte Weg der interessante. Er verbindet das Beste aus beiden Welten: Die KI bleibt die, die dein Team ohnehin nutzt, und das Wissen bleibt an einer Stelle, wo es gepflegt und kontrolliert werden kann. Training klingt verlockend, ist aber eine eigene Forschungsfrage. Es lohnt sich erst, wenn es gegenüber gut angebundenem Wissen nachweisbar besser abschneidet.

Warum „einfach alles hochladen“ nicht funktioniert

Der naheliegende Gedanke: Die neuen Modelle verarbeiten doch riesige Textmengen auf einmal. Warum nicht einfach den ganzen Ordner hineinwerfen? Weil mehr Text nicht automatisch bessere Antworten bringt.

Die Forscher von Chroma haben 2025 untersucht, wie sich 18 Sprachmodelle bei immer längeren Eingaben verhalten. Ihr Ergebnis: Die Zuverlässigkeit nimmt mit der Länge der Eingabe ab, selbst bei einfachen Aufgaben.¹ Ein großes Kontextfenster ist also eine Kapazität, keine Garantie, dass die KI das Wichtige auch findet und richtig gewichtet.

Dazu kommt ein zweites Problem, das in der Praxis noch häufiger ist: veraltetes Wissen. Der Benchmark LongMemEval prüft Gedächtnis-Fähigkeiten von KI-Assistenten und behandelt das zeitliche Einordnen und das Erkennen geänderter Informationen ausdrücklich als eigene, schwierige Fähigkeiten.² Übersetzt in deinen Alltag: Liegen die Preisliste von 2025 und die von 2026 im selben Ordner, weiß die KI nicht von selbst, welche gilt.

Was gutes Firmenwissen für eine KI ausmacht

Wenn du deiner KI Wissen gibst, entscheidet nicht die Menge, sondern die Qualität. Aus der aktuellen Forschung und unserer eigenen Arbeit ergeben sich sechs Fragen, die über gute oder schlechte Antworten entscheiden:

1. Welche Quelle ist maßgeblich? Wenn zwei Dokumente sich widersprechen, muss klar sein, welches gilt.
2. Was ist der aktuelle Stand? Wann wurde etwas geändert, und ab wann gilt es?
3. Wer darf was sehen? Die Gehaltsliste gehört nicht in jede Antwort. Rechte müssen im System gelten, nicht nur in einer Anweisung an die KI.
4. Woher stammt die Antwort? Ein Verweis auf die Originalquelle macht Antworten überprüfbar.
5. Warum wurde etwas entschieden? Eine genehmigte Ausnahme ohne Begründung verleitet die KI dazu, daraus eine falsche Regel abzuleiten. Foundation Capital beschreibt genau diese Lücke zwischen gespeicherten Ergebnissen und den Gründen dahinter.³
6. Was ist unbekannt? Eine KI, die ehrlich „dazu habe ich nichts gefunden“ sagt, ist wertvoller als eine, die eine schöne Antwort erfindet.

Wie die Anbindung technisch funktioniert

Damit eine KI auf externes Wissen zugreifen kann, braucht sie eine Schnittstelle. Ein wichtiger Standard dafür ist das Model Context Protocol, kurz MCP, das Anthropic Ende 2024 als offenen Standard vorgestellt hat.⁴ Inzwischen können viele KI-Anwendungen darüber Quellen und Werkzeuge anbinden.

Wichtig ist dabei eine Unterscheidung, die oft untergeht: MCP ist ein Anschluss, kein Sicherheitskonzept. Die offizielle Dokumentation beschreibt ausdrücklich eigene Risiken rund um Berechtigungen und Zugriffe.⁵ Wer was sehen darf, muss die Wissensquelle selbst regeln. Auch große Anbieter gehen diesen Weg: Microsoft etwa lässt KI-Agenten in SharePoint nur auf Inhalte zugreifen, für die die jeweilige Person ohnehin Rechte hat.⁶

So fängst du an, ohne dich zu verzetteln

Der häufigste Fehler ist, mit dem großen Aufräumen zu beginnen: erst alle Daten bereinigen, dann irgendwann KI. Das dauert ewig und kostet Motivation. Besser ist ein kleiner, konkreter Start:

1. Eine Aufgabe wählen. Welche Frage kostet dein Team gerade am meisten Zeit? Zum Beispiel: Welche Konditionen gelten für Kunde X?
2. Wenige Quellen festlegen. Nur die Dokumente, die für genau diese Frage maßgeblich sind, und eine Person, die fachlich bestätigt.
3. Gegen heute testen. Drei echte Fragen aus den letzten Wochen nehmen und vergleichen: Wie lange dauert es heute, wie gut ist die Antwort mit angebundenem Wissen? Bewusst auch eine Frage einbauen, deren Antwort nicht in den Quellen steht.

Diesen letzten Punkt betont auch Anthropic in seinen Hinweisen zum Prüfen von KI-Agenten: Bewertet wird das tatsächliche Ergebnis, nicht nur, ob die Technik formal funktioniert hat.⁷ Eine gefundene Datei ist noch keine richtige Antwort.

Wie wir das bei Königsworth machen

Genau dafür haben wir unsere eigene Software gebaut: Sie holt das Wissen aus deinen bestehenden Programmen und Quellen, ordnet es zu, prüft es mit dir und stellt es deiner KI mit Rechten und Belegen bereit. Dein Team arbeitet in seiner gewohnten KI weiter. Wir richten das einmal ein, begleiten die ersten Wochen und starten bewusst mit einer einzigen Aufgabe, an der sich zeigt, ob es sich lohnt.

Wenn du wissen willst, welche Frage in deinem Betrieb der beste Startpunkt wäre, sprich uns im kostenlosen Erstgespräch an.