Unternehmens-GPT: Was ein eigener KI-Assistent kann – und was KI mit Firmenwissen wirklich kostet

„Wo steht noch mal, wie wir Reklamationen bei Großkunden abwickeln?“ – „Frag Petra, die weiß das.“ Diesen Dialog gibt es in fast jedem Betrieb, und er kostet jeden Tag Zeit. Ein Unternehmens-GPT setzt genau hier an: ein eigener KI-Assistent, der das gesammelte Wissen Ihres Unternehmens kennt und Fragen dazu beantwortet – sofort, rund um die Uhr und ohne dass Petra ihre Arbeit unterbrechen muss.

Der Begriff ist in den letzten Monaten zum Modewort geworden. Manche meinen damit einen Chat-Zugang mit Firmenlogo, andere ein ganzes System aus digitalen Mitarbeitern. In diesem Beitrag sortiere ich das aus Unternehmersicht: Was ein Unternehmens-GPT tatsächlich ist, was er leisten kann und was nicht, wie Sie ihn datenschutzkonform in Deutschland oder der EU betreiben – und welche Kosten auf Sie zukommen. Ohne erfundene Preise, aber mit einer ehrlichen Einordnung, wovon sie abhängen.

Was ist ein Unternehmens-GPT?

Ein Unternehmens-GPT ist ein eigener KI-Assistent, der zwei Dinge verbindet: ein leistungsfähiges Sprachmodell – also die Technik, die auch hinter bekannten Chat-Diensten steckt – und das freigegebene Wissen Ihres Unternehmens. Mitarbeiter stellen eine Frage in ganz normaler Sprache. Der Assistent sucht in den hinterlegten Unterlagen die passenden Stellen, formuliert daraus eine Antwort und nennt im besten Fall gleich die Quelle, damit man nachlesen kann.

Technisch passiert dabei weniger Magie, als der Name vermuten lässt. Ihre Dokumente werden nicht „in die KI hineintrainiert“. Sie werden in einer durchsuchbaren Wissensbasis abgelegt, und bei jeder Frage holt sich der Assistent die relevanten Ausschnitte dazu. Das hat zwei große Vorteile: Neues Wissen ist sofort verfügbar, sobald es hinterlegt ist, und veraltetes Wissen lässt sich einfach wieder entfernen.

Drei Bausteine machen aus einem allgemeinen Chat-Werkzeug ein Unternehmens-GPT:

• Das Firmenwissen. Handbücher, Prozessbeschreibungen, Angebotsvorlagen, Produktdaten, häufige Kundenfragen, Protokolle, technische Dokumentation – alles, was Sie bewusst freigeben.
• Die Rechte. Nicht jeder darf alles sehen. Die Buchhaltung braucht andere Antworten als der Außendienst, und Personalunterlagen gehören nicht in den Zugriff aller. Ein gutes Unternehmens-GPT beachtet Rollen und Berechtigungen.
• Der kontrollierte Betrieb. Sie wissen, wo die Daten liegen, wer darauf zugreift und was protokolliert wird. Genau das unterscheidet ihn vom unkontrollierten Kopieren in öffentliche Dienste.

Ein Unternehmens-GPT ist nicht schlauer als ChatGPT. Er weiß nur, wie Ihr Unternehmen funktioniert.

KI mit Firmenwissen: Was ein eigener KI-Assistent leisten kann

Der Nutzen zeigt sich nicht in spektakulären Vorführungen, sondern in vielen kleinen Momenten, in denen heute jemand sucht, fragt oder wartet. Typische Einsatzfelder, die ich in Betrieben immer wieder sehe:

• Interne Fragen sofort beantworten. „Wie rechnen wir Fahrtkosten ab?“, „Welche Wartungsintervalle gelten für Anlage B?“, „Was ist bei einer Reklamation im ersten Jahr zu tun?“ – Fragen, die heute Kollegen unterbrechen oder in Ordnern versanden.
• Neue Mitarbeiter schneller einarbeiten. Statt drei Wochen lang jeden Kollegen zu fragen, hat die neue Kraft einen geduldigen Ansprechpartner, der die Abläufe kennt und auf die richtigen Unterlagen verweist.
• Angebote und Antworten vorbereiten. Der Assistent findet vergleichbare frühere Angebote, Textbausteine und Leistungsbeschreibungen und entwirft daraus eine Vorlage. Ein Mensch prüft, ergänzt und schickt ab.
• Kundenanfragen vorsortieren. Eingehende Fragen werden mit dem vorhandenen Wissen beantwortet oder als Entwurf vorbereitet – in Ihrer Sprache und mit Ihren Konditionen, nicht mit allgemeinem Internetwissen.
• Erfahrungswissen erhalten. Was langjährige Mitarbeiter wissen, wird erfasst und bleibt im Unternehmen, auch wenn jemand in Rente geht oder wechselt. Wie man dabei vorgeht, habe ich in Wissen sichern, wenn der beste Mitarbeiter geht ausführlich beschrieben – der Beitrag ist gewissermaßen die Vorgeschichte zu diesem hier.
• Dokumente zusammenfassen und vergleichen. Lange Verträge, Ausschreibungen oder Protokolle werden auf das Wesentliche verdichtet, Unterschiede zwischen zwei Fassungen werden sichtbar.

In unseren eigenen Unternehmen arbeiten wir genau so: Unser Firmengehirn bündelt Abläufe, Vorlagen und Erfahrungswissen, und darauf greifen sowohl Menschen als auch digitale Mitarbeiter zu. Der größte Effekt war nicht, dass Antworten schneller kommen. Sondern dass Wissen nicht mehr an einzelnen Personen hängt.

Was ein Unternehmens-GPT nicht kann

Ehrlichkeit gehört zu diesem Thema dazu, weil gerade hier viele Erwartungen enttäuscht werden. Ein Unternehmens-GPT hat klare Grenzen:

• Er weiß nur, was Sie ihm geben. Wissen, das auf Papier liegt, in Köpfen steckt oder in privaten Postfächern verschwindet, kennt er nicht. Wer hier eine Lücke hat, sollte zuerst dort ansetzen – mehr dazu in Was heute nur auf Papier steht, kann morgen keine KI nutzen.
• Er ist nur so gut wie Ihre Unterlagen. Liegen drei widersprüchliche Versionen einer Preisliste in der Wissensbasis, antwortet er im Zweifel aus der falschen. Aufräumen ist deshalb keine lästige Vorarbeit, sondern der eigentliche Kern des Projekts.
• Er irrt sich seltener, aber nicht nie. Weil er aus Ihren Unterlagen antwortet und Quellen nennen kann, sinkt das Risiko erfundener Antworten deutlich. Null wird es nicht. Warum das so ist und wie man damit umgeht, erkläre ich in Kann man KI-Antworten trauen? Halluzinationen einfach erklärt.
• Er trifft keine Entscheidungen und trägt keine Verantwortung. Er bereitet vor, entwirft und findet. Was an Kunden geht, was zugesagt wird und was rechtlich verbindlich ist, entscheidet ein Mensch.
• Er repariert keine schlechten Abläufe. Wenn ein Prozess heute unklar ist, wird er mit KI nicht klarer – nur schneller unklar. Erst den Ablauf verstehen, dann das Werkzeug wählen.

Datenschutz und Hosting: Ihr Unternehmens-GPT in Deutschland oder der EU

Die häufigste Frage in meinen Gesprächen lautet nicht „Was kann das?“, sondern „Wo landen dann unsere Daten?“. Zu Recht. Ein eigener KI-Assistent mit Firmenwissen verarbeitet genau die Informationen, die Sie am wenigsten in fremden Händen sehen wollen: Kalkulationen, Kundendaten, interne Abläufe.

Der Unterschied zum heimlichen Kopieren in öffentliche Chat-Dienste ist gerade deshalb so groß. Wo die DSGVO-Grenzen dort genau liegen und warum ein Verbot selten hilft, habe ich in ChatGPT im Betrieb: erlaubt oder Datenschutz-Falle? eingeordnet. Ein Unternehmens-GPT ist im Grunde die geordnete Antwort auf diese Frage. Damit er das auch wirklich ist, sollten Sie auf fünf Punkte achten:

1. Verarbeitungsort. Wissensbasis, Anwendung und – wo möglich – auch das Sprachmodell laufen auf Servern in Deutschland oder der EU. Lassen Sie sich für jeden Baustein einzeln sagen, wo er betrieben wird.
2. Verträge. Mit jedem Dienstleister, der Daten verarbeitet, braucht es einen Auftragsverarbeitungsvertrag. Das gilt für den Hoster genauso wie für den Anbieter des Sprachmodells.
3. Kein Training mit Ihren Daten. Ihre Unterlagen und Fragen dürfen nicht zum Training fremder Modelle genutzt werden. Das muss vertraglich ausgeschlossen sein, nicht nur in einer Werbebroschüre stehen.
4. Rechte und Protokolle. Wer darf was sehen, wer hat wann was gefragt? Eine saubere Rollenverwaltung schützt sensible Bereiche, eine nachvollziehbare Protokollierung schafft Klarheit, falls einmal etwas geprüft werden muss.
5. Anonymisierung sensibler Angaben. Wo besonders schützenswerte Daten im Spiel sind, können Namen und Kennungen automatisch durch Platzhalter ersetzt werden, bevor eine Anfrage das Sprachmodell erreicht.

Hinzu kommt der EU AI Act, der unter anderem Transparenz darüber verlangt, wo KI im Einsatz ist und wie Menschen mit ihr interagieren. Ein sauber aufgesetzter Assistent mit dokumentiertem Zweck, klaren Rechten und menschlicher Freigabe erfüllt einen Großteil davon fast nebenbei; die Einordnung finden Sie in EU AI Act 2026: Was jetzt gilt. Ein Hinweis zur Sicherheit: Das ist eine Einordnung aus der Praxis, keine Rechtsberatung. Die konkrete Ausgestaltung sollte immer mit Ihrem Datenschutzbeauftragten abgestimmt werden.

Chat-Zugang oder KI-Mitarbeiter mit Zuständigkeit?

Hier liegt der Unterschied, der in den meisten Angeboten untergeht – und der für den Nutzen entscheidend ist. Unter „Unternehmens-GPT“ werden zwei sehr verschiedene Dinge verkauft.

Stufe 1: Der Chat-Zugang

Ein Fenster, in das Mitarbeiter Fragen eintippen. Der Assistent antwortet mit dem Firmenwissen. Das ist wertvoll und für die meisten Unternehmen der richtige Einstieg: schnell eingeführt, leicht verständlich, sofort spürbar. Seine Grenze: Er wird nur aktiv, wenn jemand fragt. Er wartet. Wer keine Zeit hat zu fragen, hat auch nichts davon.

Stufe 2: KI-Mitarbeiter mit fester Zuständigkeit

Ein KI-Mitarbeiter hat eine Rolle – so wie ein Mensch im Team. Er ist zum Beispiel für eingehende Anfragen zuständig, für die Vorbereitung von Angeboten oder für die Pflege einer Wissensdatenbank. Er erkennt selbst, wann eine Aufgabe ansteht, arbeitet sie nach festgelegten Regeln mit dem Firmenwissen ab, nutzt freigegebene Werkzeuge und legt das Ergebnis zur Freigabe vor. Der Unterschied in einem Satz: Beim Chat-Zugang holen Sie sich Antworten ab. Beim KI-Mitarbeiter wird Arbeit erledigt, und Sie geben frei.

Wie das im Alltag aussieht, zeige ich offen an unserem eigenen Beispiel in 40 digitale Mitarbeiter: Wie ein echtes KI-Team bei uns wirklich arbeitet. Und wer sehen möchte, wie solche Teams für andere Unternehmen aufgebaut werden, findet das auf der Seite unserer KI-Mitarbeiter mit festen Zuständigkeiten bei pxMEDIA.ai.

Meine Empfehlung ist trotzdem fast immer dieselbe: mit dem Chat-Zugang beginnen. Er zeigt schnell, wie gut Ihr Wissen aufbereitet ist, welche Fragen wirklich gestellt werden und wo die Lücken liegen. Aus diesen Erfahrungen ergibt sich dann ziemlich klar, welcher wiederkehrende Ablauf als Erstes einen eigenen KI-Mitarbeiter verdient.

Ein Chat-Zugang beantwortet Fragen. Ein KI-Mitarbeiter mit Zuständigkeit nimmt Arbeit ab.

Was kostet ein Unternehmens-GPT? Aufwand und laufende Kosten

Konkrete Preise ohne Blick auf Ihr Unternehmen wären unseriös – die Spanne zwischen einem kleinen Assistenten für ein Team und einem System mit vielen Anbindungen ist schlicht zu groß. Was ich Ihnen aber sagen kann: woraus sich die Kosten zusammensetzen und was sie nach oben oder unten treibt. Damit können Sie jedes Angebot einordnen.

Die vier Kostenbausteine

• Einmaliger Aufbau. Konzeption, Einrichtung, Anbindung – und vor allem das Aufbereiten des Firmenwissens. Dieser letzte Punkt wird fast immer unterschätzt und ist häufig der größte Posten. Die Technik ist schnell eingerichtet; Unterlagen zu sichten, zu bereinigen und zu strukturieren braucht Zeit.
• Laufender Betrieb. Hosting der Anwendung und der Wissensbasis, Wartung, Sicherheitsupdates. Ein planbarer monatlicher Betrag, der mit den Anforderungen an Standort und Verfügbarkeit steigt.
• Nutzung des Sprachmodells. Je nach Modell und Betriebsart wird nach Verbrauch abgerechnet – also danach, wie viel gefragt und geantwortet wird. Bei üblicher Nutzung ist das meist ein überschaubarer Teil, bei sehr intensiver Nutzung oder großen Dokumentmengen wird er spürbar.
• Pflege der Inhalte. Neue Preise, geänderte Abläufe, neue Produkte: Die Wissensbasis muss aktuell bleiben. Das ist überwiegend interne Zeit – aber sie gehört in die Rechnung.

Was die Kosten nach oben oder unten treibt

• Menge und Zustand der Unterlagen: Sauber digital vorliegendes Wissen ist günstig, verstreute Papierablage und widersprüchliche Versionen sind teuer.
• Zahl der Nutzer und Rollen: Ein Team mit gleichen Rechten ist einfacher als ein Unternehmen mit vielen Abteilungen und abgestuften Zugriffen.
• Hosting-Anforderungen: Betrieb in der EU ist heute gut machbar; vollständig eigene Infrastruktur im Haus kostet deutlich mehr Aufwand.
• Anbindungen: Ein reiner Chat-Zugang auf Dokumente ist schlank. Sobald CRM, Warenwirtschaft, Postfach oder Ticketsystem angebunden werden, wächst der Aufwand.
• Chat oder KI-Mitarbeiter: Jede feste Zuständigkeit braucht Regeln, Tests und Freigabeschritte – mehr Nutzen, aber auch mehr Aufbau.

Für eine grundsätzliche Orientierung, in welchen Größenordnungen sich KI-Lösungen von einfachen Werkzeugen bis zu großen Systemen bewegen, lohnt sich ein Blick in Was kostet KI wirklich? Von 0 Euro bis Enterprise. Die wichtigste Rechnung machen Sie aber selbst: Wie viele Stunden pro Woche verbringen Ihre Leute heute mit Suchen, Nachfragen und dem Neuformulieren von Dingen, die es längst gibt? Diese Zahl ist der Maßstab, an dem sich jeder Aufwand messen lassen muss.

Und dann ist da noch die Finanzierung. Beratung, Konzeption und Strategie für KI-Vorhaben werden häufig bezuschusst – die BAFA-Beratungsförderung gilt laut Richtlinie allerdings nur für Anträge bis zum 31. Dezember 2026; Details in BAFA-Beratungsförderung endet 2026. Für die Umsetzung gibt es in einigen Bundesländern eigene Programme, etwa die KI-Förderung in Mecklenburg-Vorpommern. Förderbedingungen ändern sich und müssen vor jeder Antragstellung geprüft werden – und der Antrag kommt immer vor dem Projektstart.

So starten Sie mit Ihrem eigenen KI-Assistenten

Sie brauchen kein Großprojekt. Ein guter Einstieg ist klein, konkret und in wenigen Schritten überschaubar:

1. Einen Wissensbereich auswählen. Nicht „das ganze Unternehmen“, sondern ein Bereich mit vielen wiederkehrenden Fragen: Kundenservice, Einarbeitung, technische Dokumentation oder Angebotswesen.
2. Unterlagen sichten und aufräumen. Was ist aktuell, was doppelt, was veraltet? Was fehlt, weil es nur in Köpfen steckt? Diese Bestandsaufnahme ist der wichtigste Schritt.
3. Datenschutz, Hosting und Rechte festlegen. Wo läuft das System, welche Daten sind tabu, wer darf was sehen? Ihren Datenschutzbeauftragten von Anfang an einbinden.
4. Mit einer kleinen Gruppe testen. Fünf bis zehn Mitarbeiter nutzen den Assistenten im Alltag und melden, wo Antworten fehlen oder nicht stimmen. Daraus wird die Wissensbasis besser.
5. Zuständigkeit klären und ausbauen. Wer pflegt die Inhalte, wer verantwortet den Assistenten? Erst wenn das läuft, kommen weitere Bereiche oder der erste KI-Mitarbeiter mit eigener Aufgabe dazu.

Fazit: Erst das Wissen, dann der Assistent

Ein Unternehmens-GPT ist eines der greifbarsten KI-Projekte, die ein Mittelständler heute angehen kann: Der Nutzen ist im Alltag sofort spürbar, die Technik ist ausgereift, und der Betrieb in Deutschland oder der EU ist datenschutzkonform machbar. Der Erfolg entscheidet sich aber nicht am Modell, sondern an Ihrem Wissen – daran, ob es digital vorliegt, aktuell ist und jemand dafür zuständig ist.

Ich schaue auf das Thema als Unternehmer, der genau solche Systeme selbst im Einsatz hat: Ein eigener KI-Assistent soll Ihren Leuten Suchzeit abnehmen und Wissen im Haus halten, ohne dass Sie die Kontrolle über Ihre Daten abgeben. Wenn Sie wissen möchten, welcher Einstieg bei Ihnen sinnvoll ist, welche Unterlagen schon taugen und was sich fördern lässt, schauen wir gemeinsam drauf. Lassen Sie uns das in einem kurzen Gespräch durchgehen.

Häufige Fragen zum Unternehmens-GPT

Was ist ein Unternehmens-GPT?

Ein Unternehmens-GPT ist ein eigener KI-Assistent, der ein leistungsfähiges Sprachmodell mit dem freigegebenen Wissen eines Unternehmens verbindet – etwa Handbüchern, Angeboten, Prozessbeschreibungen, Produktdaten oder FAQ. Mitarbeiter stellen Fragen in normaler Sprache, der Assistent sucht die passenden Stellen in den Unterlagen und antwortet auf dieser Grundlage, idealerweise mit Quellenangabe. Anders als ein öffentlicher Chat-Dienst arbeitet er in einer kontrollierten Umgebung mit Zugriffsrechten.

Worin unterscheidet sich ein Unternehmens-GPT von ChatGPT?

Ein öffentlicher Chat-Dienst kennt Ihr Unternehmen nicht und antwortet aus allgemeinem Weltwissen. Ein Unternehmens-GPT greift gezielt auf Ihr freigegebenes Firmenwissen zu, beachtet Rollen und Zugriffsrechte und läuft in einer Umgebung, deren Datenverarbeitung Sie kontrollieren – im besten Fall in Deutschland oder der EU. Das Sprachmodell kann dabei dasselbe oder ein vergleichbares sein; der Unterschied liegt im Wissen, in den Rechten und im Betrieb.

Ist ein Unternehmens-GPT DSGVO-konform?

Er kann es sein, wenn er entsprechend aufgebaut ist: Verarbeitung in Deutschland oder der EU, Auftragsverarbeitungsvertrag mit allen beteiligten Dienstleistern, keine Nutzung Ihrer Daten zum Training fremder Modelle, klare Zugriffsrechte und eine nachvollziehbare Protokollierung. Sensible Angaben können zusätzlich vor der Übertragung an ein Sprachmodell anonymisiert werden. Die konkrete Ausgestaltung sollte mit dem Datenschutzbeauftragten abgestimmt werden.

Was kostet ein eigener KI-Assistent mit Firmenwissen?

Die Kosten setzen sich aus vier Teilen zusammen: einmaliger Aufwand für Konzeption und das Aufbereiten des Firmenwissens, laufende Kosten für Betrieb und Hosting, nutzungsabhängige Kosten für das Sprachmodell und Aufwand für die Pflege der Inhalte. Wie hoch sie ausfallen, hängt vor allem von Menge und Zustand der Unterlagen, der Zahl der Nutzer, den Anforderungen an Hosting und Rechte sowie den Anbindungen an bestehende Systeme ab. Ein seriöser Preis entsteht erst nach einem Blick auf diese Punkte – pauschale Zahlen ohne Bestandsaufnahme sind wenig aussagekräftig.

Welche Daten braucht ein Unternehmens-GPT?

Er braucht digital vorliegendes, möglichst aktuelles und widerspruchsfreies Wissen: Prozessbeschreibungen, Handbücher, Angebots- und Vertragsvorlagen, Produkt- und Leistungsbeschreibungen, häufige Kundenfragen, Protokolle oder technische Dokumentationen. Wissen, das nur auf Papier oder in Köpfen existiert, muss zuerst erfasst werden. Veraltete oder doppelte Dokumente sollten vor dem Start aussortiert werden, weil der Assistent sonst auch aus ihnen antwortet.

Kann ein Unternehmens-GPT falsche Antworten geben?

Ja, das Risiko sinkt deutlich, verschwindet aber nicht ganz. Weil der Assistent seine Antworten aus Ihren eigenen Unterlagen ableitet und Quellen nennen kann, sind Fehler seltener und leichter zu prüfen als bei einem allgemeinen Chat-Dienst. Wichtig sind eine gepflegte Wissensbasis, die Anweisung, bei fehlenden Informationen nachzufragen statt zu raten, und eine menschliche Freigabe für alles, was nach außen geht.

Was ist der Unterschied zwischen einem Chat-Zugang und einem KI-Mitarbeiter?

Ein Chat-Zugang wartet, bis jemand fragt, und liefert eine Antwort. Ein KI-Mitarbeiter hat eine feste Zuständigkeit: Er erkennt selbst, wann eine Aufgabe ansteht – etwa eine neue Anfrage im Postfach –, arbeitet sie nach festgelegten Regeln mit dem Firmenwissen ab, nutzt freigegebene Werkzeuge und legt das Ergebnis zur Freigabe vor. Der Chat-Zugang ist meist der sinnvolle erste Schritt, KI-Mitarbeiter sind die Ausbaustufe für wiederkehrende Abläufe.