Welche Daten braucht KI im Unternehmen? Daten für KI vorbereiten, bevor der erste KI-Mitarbeiter startet

„Bevor wir mit KI anfangen, müssen wir doch erst mal alle unsere Daten digitalisieren, oder?“ Diese Frage höre ich nach Vorträgen in Rostock und Schwerin fast jedes Mal – meistens von Inhabern aus Bau und Handwerk, die ehrlich besorgt sind: um den Aufwand, um den Datenschutz und darum, dass ihr Betrieb für KI „nicht genug Daten“ hat. Meine Antwort auf die Frage, welche Daten braucht KI, überrascht die meisten: weniger, als Sie denken. Aber das, was gebraucht wird, muss geordnet sein.

In diesem Beitrag beantworte ich die Frage „Welche Daten braucht KI im Unternehmen?“ so praktisch wie möglich. Ich zeige Ihnen, welche sechs Arten von Wissen ein KI-Mitarbeiter wirklich braucht, was in ein Firmengehirn gehört und was ausdrücklich nicht, wie Sie Datenschutz-Sorgen ruhig und sachlich einordnen – und wie Sie Ihre Daten für KI vorbereiten, ohne ein Großprojekt daraus zu machen. Am Ende steht eine Checkliste, mit der Sie in einer Woche startklar sind. Alles, was ich hier beschreibe, nutzen wir in meinen eigenen Unternehmen jeden Tag.

Welche Daten braucht KI im Unternehmen? Die kurze Antwort

Ein KI-Mitarbeiter braucht das Wissen, das auch ein neuer Kollege in seinen ersten Wochen braucht – nicht mehr und nicht weniger. Konkret sind das sechs Dinge: Abläufe, Regeln, Preise, Vorlagen, frühere Angebote und häufige Fragen. Liegen diese sechs für einen bestimmten Ablauf aktuell, vollständig und an einem Ort vor, kann ein KI-Mitarbeiter dort sinnvoll mitarbeiten.

Was er dagegen nicht braucht: Ihr komplettes Archiv seit Firmengründung, sämtliche E-Mails aller Mitarbeiter oder personenbezogene Daten, die mit seiner Aufgabe nichts zu tun haben. Mehr Daten machen eine KI nicht automatisch besser. Oft macht es sie schlechter – weil alte, widersprüchliche Unterlagen genauso gelesen werden wie aktuelle.

KI braucht keine Datenberge. Sie braucht das, was ein guter neuer Kollege braucht: klare Abläufe, gültige Preise und gute Beispiele.

Weniger Big Data als gedacht: Warum geordnetes Wissen reicht

Der Begriff „Big Data“ hat vielen Unternehmern das Gefühl gegeben, KI sei etwas für Konzerne mit eigenen Datenabteilungen. Das stimmte vielleicht vor einigen Jahren, als man für jede Anwendung ein eigenes Modell mit riesigen Datenmengen trainieren musste. Heute ist das anders. Die großen Sprachmodelle sind bereits trainiert. Sie können lesen, schreiben, zusammenfassen und Zusammenhänge erkennen. Was ihnen fehlt, ist nur eines: das Wissen, wie Ihr Betrieb arbeitet.

Dieses Wissen wird in der Regel nicht in das Modell „hineintrainiert“. Es wird in einer durchsuchbaren Wissensbasis abgelegt, aus der sich der KI-Mitarbeiter bei jeder Aufgabe die passenden Stellen holt. Fachleute nennen das Retrieval-Augmented Generation (RAG). Für Sie als Unternehmer heißt das vor allem dreierlei:

• Sie brauchen keine Masse, sondern Qualität. Eine aktuelle Preisliste ist wertvoller als zehn Jahre Preisänderungen in verschiedenen Tabellen.
• Neues Wissen wirkt sofort. Sobald eine geänderte Regel hinterlegt ist, arbeitet der KI-Mitarbeiter damit. Kein neues Training, kein Warten.
• Falsches Wissen lässt sich entfernen. Eine veraltete Vorlage wird gelöscht und ist weg. Das macht die Sache beherrschbar – auch beim Datenschutz.

Was das für die Vorbereitung bedeutet, habe ich schon in Was heute nur auf Papier steht, kann morgen keine KI nutzen beschrieben: Der Engpass ist fast nie die Menge, sondern die Ordnung. Wissen, das nur im Ordner im Büro oder im Kopf des erfahrensten Kollegen steckt, muss einmal sauber erfasst werden. Danach arbeitet es für Sie.

Die sechs Wissensarten, die ein KI-Mitarbeiter wirklich braucht

Am Beispiel eines Bau- oder Handwerksbetriebs, der seine Angebotserstellung entlasten möchte, sieht das so aus:

1. Abläufe: Wie wird aus einer Anfrage ein Angebot?

Wer macht was, in welcher Reihenfolge, mit welchen Unterlagen? Wann wird ein Vor-Ort-Termin gebraucht, wann reicht ein Foto? Wann geht ein Angebot an die Geschäftsführung zur Freigabe? Das muss kein Handbuch sein. Eine ehrliche Seite mit dem Ist-Ablauf reicht für den Anfang völlig.

2. Regeln: Was gilt bei uns – und was nie?

Mindestauftragswert, Anfahrtspauschalen, Zahlungsbedingungen, Gewährleistungshinweise, Aufträge, die Sie grundsätzlich nicht annehmen, Formulierungen, die nie in einem Angebot stehen dürfen. Gerade die „Nie“-Regeln werden oft vergessen, weil sie für erfahrene Mitarbeiter selbstverständlich sind. Für einen KI-Mitarbeiter sind sie es nicht.

3. Preise und Kalkulationsgrundlagen

Aktuelle Stundensätze, Materialpreise oder Preislisten der Lieferanten, Aufschläge, Rabattgrenzen. Wichtig ist hier vor allem eines: eine gültige Fassung. Liegen drei Preislisten mit unterschiedlichem Stand nebeneinander, rechnet die KI im Zweifel mit der falschen.

4. Vorlagen und Textbausteine

Angebotsvorlage, Leistungsbeschreibungen, Standardtexte für Vorbemerkungen, Anschreiben, Nachfass-E-Mails. Alles, was heute jemand aus einem alten Dokument kopiert und anpasst, ist ein guter Kandidat.

5. Frühere Angebote als Beispiele guter Arbeit

Hier liegt der größte Hebel – und ein häufiges Missverständnis. Es geht nicht darum, alle Angebote der letzten Jahre hochzuladen. Es geht um eine bewusst ausgewählte Sammlung guter Beispiele: so, wie Ihr Betrieb Angebote schreiben möchte. Lieber eine Handvoll typische, aktuelle Angebote je Leistungsart als hundert gemischte, von denen die Hälfte nicht mehr Ihrem Stand entspricht. Kundennamen und Adressen brauchen diese Beispiele in der Regel nicht; sie lassen sich vorher entfernen.

6. Häufige Fragen und die Antworten, die Sie tatsächlich geben

„Wie lange dauert das?“, „Kann ich Material selbst stellen?“, „Was passiert, wenn es regnet?“ Jeder Betrieb hat diese zehn, zwanzig Fragen, die immer wieder kommen. Schreiben Sie sie auf – mit der Antwort, die Ihr bester Mitarbeiter gibt, nicht mit der, die im Prospekt steht.

Zur Einordnung: Diese sechs Wissensarten gelten nicht nur für Angebote. Für Postfach, Terminabstimmung oder Rechnungseingang sind es dieselben Kategorien, nur mit anderem Inhalt. Wer sie einmal für einen Ablauf zusammengetragen hat, weiß, wie es beim nächsten geht.

Was in ein Firmengehirn gehört – und was nicht

Den Ort, an dem dieses Wissen zusammenkommt, nenne ich Firmengehirn: eine zentrale, geordnete Wissensbasis, auf die Menschen und KI-Mitarbeiter gleichermaßen zugreifen. Es ist im Kern eine moderne Form von Wissensmanagement im Unternehmen – mit dem Unterschied, dass das Wissen nicht nur abgelegt, sondern im Alltag tatsächlich genutzt wird. Gerade deshalb ist die Frage so wichtig, was hineingehört.

Das gehört hinein

• Beschriebene Abläufe und Zuständigkeiten
• Regeln, Richtlinien und Freigabegrenzen
• Aktuelle Preislisten und Kalkulationsgrundlagen
• Vorlagen, Textbausteine, Leistungsbeschreibungen
• Ausgewählte frühere Angebote und Projekte als Beispiele – möglichst ohne Personenbezug
• Häufige Kunden- und Mitarbeiterfragen mit freigegebenen Antworten
• Technische Unterlagen, Produktdatenblätter, Wartungshinweise

Das bleibt draußen – oder nur mit klarer Rechtsgrundlage

• Personenbezogene Daten ohne Rechtsgrundlage. Kundendaten dürfen nur dort verarbeitet werden, wo es eine Rechtsgrundlage nach Art. 6 DSGVO gibt – etwa weil sie für die Bearbeitung eines Auftrags nötig sind. „Könnte ja mal nützlich sein“ ist keine Rechtsgrundlage.
• Besonders schützenswerte Daten. Gesundheitsangaben, Krankmeldungen und andere besondere Kategorien nach Art. 9 DSGVO gehören nicht in eine allgemeine Wissensbasis.
• Personalakten und Gehälter. Auch wenn sie digital vorliegen: Sie haben im gemeinsamen Firmengehirn nichts zu suchen.
• Private Postfächer und persönliche Ablagen. Was jemand privat oder vertraulich abgelegt hat, wird nicht pauschal eingesammelt.
• Zugangsdaten und Passwörter. Sie gehören in einen Passwort-Tresor, nicht in eine Wissensbasis.
• Veraltetes und Widersprüchliches. Kein Datenschutzthema, aber ein Qualitätsthema: Was nicht mehr gilt, fliegt raus.

Die gute Nachricht dabei: Für das meiste Firmenwissen – Abläufe, Preise, Vorlagen, Regeln – brauchen Sie überhaupt keine personenbezogenen Daten. Das allgemeine Wissen Ihres Betriebs ist datenschutzrechtlich meist der unkomplizierteste Teil. Die DSGVO verlangt ohnehin, nur so viele personenbezogene Daten zu verarbeiten wie nötig. Wer das beim Aufbau des Firmengehirns ernst nimmt, löst einen Großteil der Datenschutz-Fragen, bevor sie entstehen.

Ein Hinweis zur Sicherheit: Das ist eine Einordnung aus der Praxis, keine Rechtsberatung. Binden Sie Ihren Datenschutzbeauftragten früh ein – er ist bei diesem Thema ein Verbündeter, kein Bremser.

Datenschutz-Sorgen einordnen: Wo Ihre Daten liegen und wer sie sieht

Die häufigste Sorge, die ich höre, lautet nicht „Was kann die KI?“, sondern „Wo landen dann unsere Daten?“. Diese Sorge ist berechtigt – und sie ist lösbar. Panik ist hier genauso fehl am Platz wie Sorglosigkeit. Entscheidend sind drei Fragen: Wo liegt das Wissen? Welches Sprachmodell verarbeitet es? Und wer darf was sehen?

Eigener Server in Deutschland

Das Firmengehirn mit Ihren Abläufen, Preisen und Vorlagen sollte auf einem Server in Deutschland liegen, über den Sie oder Ihr Dienstleister die Kontrolle haben. So wissen Sie jederzeit, wo Ihr Firmenwissen gespeichert ist, wer Zugriff hat und wie es gesichert wird. Genau das meint der Begriff Datensouveränität: Sie entscheiden, wo Ihre Daten liegen und wer sie nutzen darf – nicht ein Anbieter, dessen Bedingungen sich jederzeit ändern können.

Europäisches oder lokal betriebenes Sprachmodell

Das Sprachmodell ist der Teil, der Texte versteht und formuliert. Hier gibt es heute gute Wege, die ohne Datenübertragung in Drittländer auskommen: Sprachmodelle europäischer Anbieter mit Verarbeitung in der EU oder offene Modelle, die lokal auf eigener Hardware bzw. auf Ihrem eigenen Server betrieben werden. Welcher Weg passt, hängt von Aufgabe, Datenlage und Budget ab. Wichtig ist in jedem Fall: Mit jedem Dienstleister, der Daten verarbeitet, braucht es einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO – und es muss vertraglich ausgeschlossen sein, dass Ihre Daten zum Training fremder Modelle genutzt werden.

Was bei bekannten Chat-Diensten im Arbeitsalltag erlaubt ist und wo die Grenzen liegen, habe ich ausführlich in ChatGPT und Co. datenschutzkonform nutzen eingeordnet. Der Unterschied zum Firmengehirn: Dort entscheidet jeder Mitarbeiter einzeln, was er in ein Chatfenster kopiert. Im Firmengehirn ist geregelt, welches Wissen überhaupt verfügbar ist.

Rollen und Rechte: Jeder sieht nur, was seine Aufgabe braucht

Ein KI-Mitarbeiter, der Angebote vorbereitet, braucht Preislisten und Vorlagen. Er braucht keinen Zugriff auf die Buchhaltung, auf Personalunterlagen oder auf das Postfach der Geschäftsführung. Deshalb bekommt jeder KI-Mitarbeiter – genau wie jeder Mensch im Team – eine Rolle mit klar begrenzten Rechten. Dazu gehören eine nachvollziehbare Protokollierung, wer wann worauf zugegriffen hat, und eine Freigabegrenze: Was nach außen geht, gibt ein Mensch frei.

Datenschutz ist kein Grund, auf KI zu verzichten. Er ist der Grund, sie ordentlich einzurichten.

Wer diese drei Punkte geklärt hat, hat übrigens auch ein anderes Problem gelöst: die Schatten-KI, also Mitarbeiter, die aus Mangel an Alternativen Firmendaten in private Chat-Zugänge kopieren. Ein geordnetes Angebot ist der beste Schutz davor.

So arbeite ich selbst: rund 50 KI-Mitarbeiter und ein Firmengehirn

In meinen Unternehmen arbeiten heute rund 50 KI-Mitarbeiter. Geführt werden sie von Menschen, die Aufgaben verteilen, Ergebnisse prüfen und freigeben, was nach außen geht. Alle greifen auf ein gemeinsames Firmengehirn zu – aber nicht alle auf alles. Der KI-Mitarbeiter für Blogbeiträge kennt unsere Tonalität, unsere Themen und unsere Quellenregeln. Der für die Angebotsvorbereitung kennt Leistungsbeschreibungen und Preisgrundlagen. Keiner von beiden braucht die Daten des anderen.

Die wichtigste Erfahrung aus diesem Aufbau: Die meiste Arbeit steckte nicht in der Technik, sondern im Aufschreiben. Was gilt bei uns? Welche Formulierung nutzen wir nie? Welches Angebot war richtig gut und warum? Jede Korrektur, die ein Mensch an einem Entwurf vornimmt, wandert als Regel oder Beispiel zurück ins Firmengehirn. So wird es mit jeder Woche besser – nicht durch mehr Daten, sondern durch besseres Wissen. Wie das System dahinter aufgebaut ist, beschreibe ich in Ein Betriebssystem für den Betrieb.

Und noch etwas habe ich gelernt: Das Firmengehirn schützt auch vor Wissensverlust. Wenn ein erfahrener Kollege geht, geht sein Wissen nicht mehr komplett mit. Mehr dazu in Wissen sichern, wenn der beste Mitarbeiter geht.

Daten für KI vorbereiten: Checkliste für eine Woche

Sie müssen nicht das ganze Unternehmen auf einmal vorbereiten. Nehmen Sie sich einen Ablauf vor und planen Sie eine Arbeitswoche mit jeweils ein bis zwei Stunden am Tag ein. Nach meiner Erfahrung reicht das für einen klar abgegrenzten ersten Ablauf. So können Sie Ihre Daten für KI vorbereiten:

1. Montag – Ablauf wählen und beschreiben. Welcher wiederkehrende Ablauf kostet Sie jede Woche am meisten Zeit? Angebote, Postfach, Terminabstimmung, Rechnungseingang? Wählen Sie genau einen. Schreiben Sie auf einer Seite auf, wie er heute läuft: Wer macht was, mit welchen Unterlagen, wo hakt es? Notieren Sie auch, wie lange der Ablauf heute dauert – sonst können Sie später nicht ehrlich vergleichen.
2. Dienstag – Unterlagen einsammeln. Alles, was für diesen Ablauf gebraucht wird, an einen Ort: Preislisten, Vorlagen, Textbausteine, Leistungsbeschreibungen und eine Auswahl guter früherer Beispiele. Schauen Sie dabei auch in Postfächer, Ordner und auf Schreibtische – nicht nur auf den Server.
3. Mittwoch – aufräumen. Was ist aktuell, was doppelt, was veraltet? Von jeder Unterlage bleibt genau eine gültige Fassung. Entfernen Sie aus den Beispielen Namen, Adressen und andere personenbezogene Angaben, die für den Zweck nicht nötig sind.
4. Donnerstag – Regeln und häufige Fragen aufschreiben. Setzen Sie sich eine halbe Stunde mit der Person zusammen, die den Ablauf am besten kennt. Was gilt immer? Was nie? Welche Fragen kommen ständig, und wie lautet die richtige Antwort? Genau dieses Wissen steht in keinem Ordner.
5. Freitag – Datenschutz und Rechte klären. Welche personenbezogenen Daten braucht der Ablauf wirklich, und auf welcher Rechtsgrundlage? Was bleibt draußen? Wer darf später worauf zugreifen, wer gibt frei? Binden Sie Ihren Datenschutzbeauftragten ein und legen Sie fest, wo das Firmengehirn betrieben werden soll.

Das Ergebnis dieser Woche ist kein KI-System. Es ist ein geordneter Ordner mit dem Wissen für einen Ablauf, eine Seite Ablaufbeschreibung und eine klare Datenschutz-Entscheidung. Damit ist der schwierigste Teil erledigt. Der Rest – Einrichtung, erster KI-Mitarbeiter, Probezeit mit Freigabe – baut darauf auf. Was ein KI-Mitarbeiter genau ist und wie er arbeitet, finden Sie in unserem Wissensbereich.

Ein Tipp aus der Praxis: Wenn Sie am Donnerstag merken, dass zwei Kollegen dieselbe Frage unterschiedlich beantworten, haben Sie nichts falsch gemacht. Sie haben gerade eine Unklarheit gefunden, die es auch ohne KI schon gab. Klären Sie sie – das hilft Ihrem Betrieb sofort.

Was ich in Rostock und Mecklenburg-Vorpommern erlebe

Viele Unternehmer in Mecklenburg-Vorpommern sind überrascht, dass KI im Mittelstand längst kein Zukunftsthema aus Hamburg oder München mehr ist. Ein Satz, den ich nach Vorträgen häufig höre: „Wir wussten gar nicht, dass es hier jemanden gibt, der schon so weit ist.“

Am 24. September 2026 haben wir beim Abend „Betriebsgeheimnis KI“ im Chalet O in Rostock offen gezeigt, wie unser Firmengehirn aufgebaut ist und wie Menschen und KI-Mitarbeiter damit zusammenarbeiten. Wie der Abend war, habe ich in Betriebsgeheimnis KI – ein Abend im Chalet O festgehalten. In den Gesprächen danach mit Inhabern aus Bau und Handwerk ging es erstaunlich wenig um Technik. Es ging um genau die Fragen aus diesem Beitrag: Haben wir überhaupt genug Daten? Dürfen unsere Unterlagen auf einen Server? Wer sieht dann was? Die Antworten waren fast immer beruhigender, als die Fragen befürchten ließen – weil die Betriebe mehr verwertbares Wissen haben, als sie denken. Es ist nur noch nicht geordnet.

Ihr nächster Schritt

Wenn Sie wissen möchten, welche Daten KI in Ihrem Betrieb konkret braucht, nehmen Sie sich zehn Minuten und beantworten Sie drei Fragen: Welcher Ablauf kostet Sie jede Woche am meisten Zeit? Wo liegen die Unterlagen dafür heute? Und wer im Betrieb kennt diesen Ablauf am besten? Damit haben Sie den Montag der Checkliste schon fast erledigt.

Den Rest klären wir gern gemeinsam. Im kostenlosen Erstgespräch schauen wir auf Ihren Ablauf, prüfen, welches Wissen schon taugt und was fehlt, und besprechen, wie Server, Sprachmodell und Rechte für Ihren Betrieb sinnvoll aufgesetzt werden. Kostenloses Erstgespräch buchen.

Oder Sie sehen es sich live an: Am 25. Februar 2027 öffne ich im Chalet O in Rostock erneut die Türen und zeige beim Abend „Betriebsgeheimnis KI – Die nächste Stufe“, wie Menschen und KI-Mitarbeiter mit einem Firmengehirn zusammenarbeiten – mit echten Abläufen, Zeit für Ihre Fragen und Gesprächen mit anderen Unternehmern aus der Region.

Häufige Fragen: Welche Daten braucht KI?

Welche Daten braucht KI im Unternehmen?

Weniger als viele denken, aber geordnet: beschriebene Abläufe, Regeln und Zuständigkeiten, aktuelle Preise und Kalkulationsgrundlagen, Vorlagen und Textbausteine, gute frühere Angebote als Beispiele und die häufigsten Kundenfragen mit den Antworten, die Ihr Betrieb tatsächlich gibt. Das Sprachmodell bringt Sprache und Allgemeinwissen bereits mit; Ihre Daten liefern den Kontext, wie Ihr Betrieb arbeitet.

Braucht KI im Mittelstand Big Data?

Für die meisten Anwendungen nicht. Moderne Sprachmodelle sind bereits trainiert. Ein KI-Mitarbeiter im Betrieb braucht keine riesigen Datenmengen, sondern das richtige, aktuelle Wissen zu seiner Aufgabe. Zehn gute, aktuelle Angebote als Beispiel helfen mehr als tausend alte, widersprüchliche Dateien.

Dürfen personenbezogene Daten in ein Firmengehirn?

Nur, wenn es dafür eine Rechtsgrundlage nach der DSGVO gibt und die Aufgabe sie wirklich braucht, etwa Kontaktdaten eines Kunden zur Bearbeitung seines Auftrags. Personalakten, Gesundheitsdaten und andere besonders schützenswerte Angaben gehören grundsätzlich nicht in eine allgemeine Wissensbasis. Für allgemeines Firmenwissen wie Abläufe, Preise und Vorlagen sind personenbezogene Daten meist gar nicht nötig.

Wo sollten die Daten für KI liegen?

Am besten auf einem Server in Deutschland, mit einem europäischen oder lokal betriebenen Sprachmodell, Auftragsverarbeitungsverträgen mit allen beteiligten Dienstleistern und dem vertraglichen Ausschluss, dass Ihre Daten zum Training fremder Modelle genutzt werden. So behalten Sie die Kontrolle darüber, wo Ihr Firmenwissen verarbeitet wird.

Wie lange dauert es, Daten für KI vorzubereiten?

Für einen ersten, klar abgegrenzten Ablauf reicht nach meiner Erfahrung oft eine Arbeitswoche mit jeweils ein bis zwei Stunden am Tag: Ablauf wählen und beschreiben, Unterlagen einsammeln, aufräumen, Regeln und häufige Fragen aufschreiben, Datenschutz prüfen. Das ganze Unternehmen auf einmal vorzubereiten, ist weder nötig noch sinnvoll.

Wer im Betrieb sollte die Daten für KI vorbereiten?

Die Person, die den Ablauf heute am besten kennt, zusammen mit einer verantwortlichen Person, die entscheiden darf, was gilt. Das ist selten die IT allein. Oft ist es die Büroleitung, ein erfahrener Kalkulator oder der Inhaber selbst. Der Datenschutzbeauftragte sollte früh eingebunden werden.