ChatGPT und Co. datenschutzkonform nutzen: Was Unternehmen bei KI und DSGVO wirklich beachten müssen

„Dürfen wir ChatGPT im Unternehmen überhaupt nutzen?“ Diese Frage höre ich inzwischen in fast jedem Erstgespräch. Die kurze Antwort: Ja. Die ehrliche Antwort: Ja – wenn Sie es richtig einrichten. Wer ChatGPT und Co. datenschutzkonform nutzen will, braucht kein Verbot und keine Rechtsabteilung, sondern drei geklärte Dinge: das passende Werkzeug mit der passenden Lizenz, eine saubere Vertragslage und klare Regeln dafür, welche Daten hineindürfen.

Ich schaue auf das Thema als Unternehmer, der KI in den eigenen Firmen täglich einsetzt – nicht als Jurist. In diesem Beitrag gehe ich die Punkte durch, an denen es in der Praxis wirklich hakt: Konsumentenversion oder Business-Lizenz, Auftragsverarbeitungsvertrag und Serverstandort, die Daten, die nie in einen Prompt gehören, die interne KI-Richtlinie für Ihr Team – und die Frage, wann ein eigener Unternehmens-GPT die bessere Wahl ist. Am Ende finden Sie eine Checkliste in fünf Schritten.

Darf ich ChatGPT im Unternehmen nutzen? Die kurze Antwort

Es gibt kein Gesetz, das ChatGPT, Copilot, Gemini, Claude oder andere KI-Dienste im Betrieb verbietet. Die DSGVO fragt nicht, welches Werkzeug Sie verwenden, sondern wie Sie mit den Daten umgehen, die Ihnen anvertraut wurden. Daraus ergeben sich drei Prüffragen, an denen sich jede KI-Nutzung messen lassen muss:

• Welches Werkzeug, welche Lizenz? Ein privates Gratis-Konto ist etwas völlig anderes als ein Firmentarif mit zentraler Verwaltung.
• Welche Verträge? Gibt es einen Auftragsverarbeitungsvertrag, wo werden die Daten verarbeitet, und ist das Training mit Ihren Daten ausgeschlossen?
• Welche Daten? Was darf hinein, was nie – und wissen Ihre Mitarbeiter das?

Sind diese drei Fragen beantwortet, ist der Großteil der Arbeit erledigt. Bleiben sie offen, entscheidet jeder Mitarbeiter für sich – und genau dann entsteht das Risiko. Wie verbreitet diese ungeregelte „Schatten-KI“ ist und warum ein Verbot sie nur verlagert, habe ich in ChatGPT im Betrieb: erlaubt oder Datenschutz-Falle? beschrieben. Hier geht es um den nächsten Schritt: wie die geordnete Einrichtung konkret aussieht.

Datenschutz ist kein Grund, auf KI zu verzichten. Er ist eine Frage der richtigen Einrichtung.

Kostenlose Konsumentenversion oder Business-Lizenz: der entscheidende Unterschied

Der häufigste Fehler, den ich sehe, ist nicht böser Wille, sondern eine Verwechslung: Das Werkzeug, das jemand privat am Sonntag ausprobiert hat, landet am Montag im Arbeitsalltag. Dabei unterscheiden sich die Varianten derselben KI grundlegend – nicht in der Qualität der Antworten, sondern in den Spielregeln für Ihre Daten.

Konsumentenversionen: für Privatleute gebaut

Kostenlose und private Bezahlversionen laufen über persönliche Konten. Das bedeutet in der Praxis:

• Kein Auftragsverarbeitungsvertrag. Der Vertrag besteht zwischen dem Anbieter und der Privatperson, nicht mit Ihrem Unternehmen.
• Mögliche Nutzung zum Training. Je nach Anbieter und Einstellung können Eingaben zur Verbesserung der Modelle verwendet werden. Ein Abschalten ist oft möglich – aber es liegt in der Hand jedes einzelnen Nutzers.
• Keine zentrale Kontrolle. Sie wissen nicht, wer welches Konto nutzt, welche Chats gespeichert sind und was passiert, wenn ein Mitarbeiter das Unternehmen verlässt – denn sein Verlauf geht mit.

Business- und Enterprise-Tarife: für Unternehmen gebaut

Die Firmentarife der großen Anbieter – bei OpenAI etwa die Business- und Enterprise-Varianten von ChatGPT, bei Microsoft Copilot mit Firmenkonto, bei Google Gemini im Rahmen von Workspace – sind genau für diesen Zweck gemacht. Typischerweise bieten sie:

• einen Auftragsverarbeitungsvertrag mit Ihrem Unternehmen als Vertragspartner,
• den vertraglichen Ausschluss des Trainings mit Ihren Eingaben und Dateien,
• eine zentrale Verwaltung: Sie legen Konten an, sperren sie beim Austritt und steuern, welche Funktionen und Erweiterungen erlaubt sind,
• Sicherheits- und Löschfunktionen wie Anmeldung über das Firmenkonto, festgelegte Aufbewahrungsfristen und Protokolle,
• bei manchen Anbietern und Tarifen eine Datenhaltung in Europa.

Die Leistungsumfänge und Vertragsbedingungen ändern sich regelmäßig. Prüfen Sie deshalb vor der Entscheidung die aktuellen Unterlagen des Anbieters – und lassen Sie sich die für Sie wichtigen Punkte nicht aus einer Werbeseite, sondern aus den Vertragsdokumenten bestätigen.

Aus Unternehmersicht ist die Rechnung übrigens einfach: Ein Business-Platz kostet im Monat meist weniger als eine Stunde Arbeitszeit. Wer seine Leute mit Gratis-Konten arbeiten lässt, spart an der falschen Stelle. Einen Überblick über die Kostenstufen von kostenlos bis Enterprise finden Sie in Was kostet KI wirklich? Von 0 Euro bis Enterprise.

Auftragsverarbeitungsvertrag und Serverstandort: die Vertragslage klären

Sobald über ein KI-Werkzeug personenbezogene Daten verarbeitet werden – und dazu reicht schon der Name eines Kunden in einer E-Mail, die zusammengefasst werden soll –, wird der Anbieter in aller Regel zu Ihrem Auftragsverarbeiter. Dann verlangt Art. 28 DSGVO einen Auftragsverarbeitungsvertrag (AVV).

Was im AVV stehen sollte

Sie müssen den Vertrag nicht selbst schreiben; die Business-Anbieter stellen ihn bereit. Lesen sollten Sie ihn trotzdem – oder von Ihrem Datenschutzbeauftragten prüfen lassen. Achten Sie besonders auf:

• Zweckbindung: Der Anbieter verarbeitet Ihre Daten nur, um den Dienst für Sie zu erbringen – nicht für eigene Zwecke wie das Training seiner Modelle.
• Unterauftragnehmer: Welche weiteren Dienstleister (etwa Rechenzentren) sind eingebunden, und werden Sie über Änderungen informiert?
• Technische und organisatorische Maßnahmen: Verschlüsselung, Zugriffskontrolle, Löschfristen.
• Löschung und Rückgabe: Was passiert mit Ihren Daten, wenn Sie den Vertrag beenden?

Serverstandort und Drittlandtransfer

Viele KI-Anbieter haben ihren Sitz in den USA. Werden Daten außerhalb der EU verarbeitet, braucht es eine zulässige Grundlage für diesen Drittlandtransfer – etwa die Zertifizierung des Anbieters nach dem EU-US Data Privacy Framework oder Standardvertragsklauseln. Beides ist rechtlich möglich, aber es ist ein zusätzlicher Prüfpunkt, und die Rechtslage rund um Datentransfers in die USA war in der Vergangenheit mehrfach in Bewegung.

Deutlich einfacher wird es, wenn Daten in der EU gespeichert und verarbeitet werden. Mehrere Anbieter bieten das für Firmenkunden inzwischen an. Wichtig ist die Frage nach dem Detail: Gilt die Europa-Zusage für die gespeicherten Chats, für die eigentliche Verarbeitung im Sprachmodell oder für beides? Lassen Sie sich das für jeden Baustein schriftlich bestätigen.

Und noch ein Punkt, der gern vergessen wird: Jedes KI-Werkzeug, mit dem personenbezogene Daten verarbeitet werden, gehört in Ihr Verzeichnis von Verarbeitungstätigkeiten. Eine kurze Beschreibung genügt – welches Werkzeug, wofür, welche Daten, welcher Vertrag. Das ist kein Hexenwerk, aber es ist die Dokumentation, die im Ernstfall zählt.

Welche Daten nie in einen Prompt gehören

Selbst mit dem besten Vertrag bleibt ein Grundsatz: Was nicht hineingehört, gehört nicht hinein. Die DSGVO verlangt Datenminimierung – also nur so viele personenbezogene Daten zu verarbeiten, wie für den Zweck wirklich nötig sind. Für die meisten KI-Aufgaben braucht es erstaunlich wenige. Diese Kategorien sollten Ihre Mitarbeiter auswendig kennen:

• Personenbezogene Kundendaten. Namen, Adressen, Telefonnummern, E-Mail-Adressen, Kundennummern, Vertragsdetails. In öffentliche oder nicht vertraglich abgesicherte Werkzeuge gehören sie nie – und auch mit Business-Lizenz nur, wenn es für die Aufgabe wirklich nötig ist.
• Mitarbeiter- und Bewerberdaten. Personalakten, Gehälter, Beurteilungen, Bewerbungsunterlagen. Hier kommt neben der DSGVO oft auch die Mitbestimmung ins Spiel, wenn es einen Betriebsrat gibt.
• Gesundheitsdaten und andere besonders geschützte Daten. Krankmeldungen, Diagnosen, Angaben zu Religion, Gewerkschaftszugehörigkeit oder Herkunft fallen unter Art. 9 DSGVO und sind besonders streng geschützt. Für Praxen, Pflegedienste oder Versicherungsmakler ist das kein Randthema, sondern Alltag.
• Geschäftsgeheimnisse. Kalkulationen, Margen, Rezepturen, Konstruktionsdaten, Angebotspreise, Verhandlungsstände, nicht veröffentlichte Strategien. Das ist kein reines Datenschutzthema, sondern eines des Geschäftsgeheimnisschutzes: Nach dem Geschäftsgeheimnisgesetz genießen Informationen nur dann Schutz, wenn Sie angemessene Maßnahmen zu ihrer Geheimhaltung treffen. Wer sie unkontrolliert in fremde Dienste kopiert, schwächt im Zweifel seine eigene Position.
• Zugangsdaten und Sicherheitsinformationen. Passwörter, API-Schlüssel, Netzwerkpläne. Klingt selbstverständlich, passiert aber erstaunlich oft beim „Kannst du mir mal diesen Code erklären?“.

Die Lösung im Alltag: anonymisieren statt verzichten

In den meisten Fällen braucht die KI die echten Daten gar nicht. Aus „Herr Müller aus Rostock, Vertrag 4711, beschwert sich über die verspätete Lieferung“ wird „Ein Kunde beschwert sich über eine verspätete Lieferung“ – und die Antwort-E-Mail, die die KI entwirft, ist genauso gut. Den Namen setzt der Mitarbeiter am Ende selbst ein. Diese einfache Gewohnheit löst einen großen Teil der Datenschutzfragen, bevor sie entstehen.

Wer es systematischer will: Es gibt Lösungen, die sensible Angaben automatisch durch Platzhalter ersetzen, bevor eine Anfrage das Sprachmodell erreicht. Das ist vor allem dann sinnvoll, wenn viele Mitarbeiter regelmäßig mit Kundendaten arbeiten.

Die KI braucht den Sachverhalt, nicht den Namen. Wer das verinnerlicht, hat die halbe DSGVO-Arbeit erledigt.

Die interne KI-Richtlinie: Regeln, die Mitarbeiter wirklich lesen

Die beste Lizenz nützt wenig, wenn niemand weiß, wie sie gedacht ist. Deshalb braucht jedes Unternehmen, das KI einsetzt, eine schriftliche KI-Richtlinie. Meine Erfahrung: Je kürzer, desto besser. Eine Richtlinie mit zwölf Seiten liest niemand. Eine mit ein bis zwei Seiten hängt am Ende in der Küche und wird tatsächlich befolgt.

Eine praxistaugliche Richtlinie beantwortet sechs Fragen:

1. Welche Werkzeuge sind erlaubt? Konkret benannt, mit dem Hinweis, dass nur Firmenkonten genutzt werden – keine privaten.
2. Welche Daten sind tabu? Die Liste aus dem vorigen Abschnitt, in einfacher Sprache, mit zwei, drei Beispielen aus Ihrem Alltag.
3. Wofür darf KI genutzt werden? Texte entwerfen, zusammenfassen, recherchieren, übersetzen, Ideen sammeln – und wofür nicht, etwa für Entscheidungen über Personen.
4. Wo braucht es eine menschliche Prüfung? Alles, was das Haus verlässt, wird vor dem Versand gelesen. KI kann sich irren, auch wenn sie überzeugend klingt.
5. Wie wird gekennzeichnet? Wann muss erkennbar sein, dass Inhalte mit KI erstellt wurden – etwa bei Chatbots auf der Website oder bei Bildern?
6. Wer ist Ansprechpartner? Eine Person, an die man sich mit Fragen wendet – und der man eine Panne meldet, ohne Angst vor Ärger. Fehler, die gemeldet werden, lassen sich beheben. Fehler, die verschwiegen werden, nicht.

Die Richtlinie ist auch die halbe Miete für eine Pflicht, die viele noch nicht auf dem Schirm haben: Seit Februar 2025 verlangt der EU AI Act von Unternehmen, die KI einsetzen, dass ihre Mitarbeiter über ausreichende KI-Kompetenz verfügen. Eine kurze Schulung auf Basis Ihrer Richtlinie, dokumentiert mit Datum und Teilnehmern, erfüllt einen guten Teil davon. Wie das pragmatisch geht, beschreibe ich in KI-Schulung für Mitarbeiter nach EU AI Act: Was die Pflicht zur KI-Kompetenz verlangt; die Kurzfassung steht im Wissensbeitrag zur KI-Kompetenzpflicht.

Wann ein eigener Unternehmens-GPT oder eine EU-Lösung die bessere Wahl ist

Für viele Betriebe reicht ein sauber eingerichteter Business-Tarif mit klarer Richtlinie völlig aus. Es gibt aber Situationen, in denen ein eigener Unternehmens-GPT oder eine vollständig in der EU betriebene Lösung die bessere Wahl ist:

• Sie arbeiten regelmäßig mit sensiblen Daten. Wenn Kundendaten, Gesundheitsangaben oder vertrauliche Unterlagen nicht die Ausnahme, sondern der Normalfall sind, ist eine kontrollierte Umgebung mit Verarbeitung in Deutschland oder der EU auf Dauer einfacher als ständiges Anonymisieren.
• Die KI soll Ihr Firmenwissen kennen. Ein allgemeiner Chat-Dienst weiß nichts über Ihre Abläufe, Preise und Produkte. Ein Unternehmens-GPT greift auf Ihre freigegebenen Handbücher, Vorlagen und Prozessbeschreibungen zu und antwortet auf dieser Grundlage – technisch meist über ein Verfahren, das ich im Wissensbeitrag zu Retrieval Augmented Generation erkläre.
• Sie brauchen abgestufte Zugriffsrechte. Die Buchhaltung soll andere Unterlagen sehen als der Außendienst, Personalakten gehören nicht in den Zugriff aller.
• Ihre Branche hat besondere Pflichten. Berufsgeheimnisträger wie Kanzleien, Arztpraxen oder Steuerberater unterliegen zusätzlich strafrechtlich geschützten Verschwiegenheitspflichten. Hier ist besondere Sorgfalt bei der Auswahl von Dienstleistern gefragt.
• Sie wollen unabhängig bleiben. Eine eigene Umgebung erlaubt es, das zugrunde liegende Sprachmodell auszutauschen, ohne Wissensbasis und Abläufe neu aufzubauen.

Was ein Unternehmens-GPT konkret leistet, wo seine Grenzen liegen und wovon die Kosten abhängen, habe ich ausführlich in Unternehmens-GPT: Was ein eigener KI-Assistent mit Firmenwissen kann – und was er kostet beschrieben. In unseren eigenen Firmen arbeiten wir genau so: Ein Firmengehirn bündelt Abläufe und Erfahrungswissen, und darauf greifen Menschen und digitale Mitarbeiter in einer kontrollierten Umgebung zu.

Wichtig ist dabei: Auch die beste Lösung muss im Alltag ankommen. Viele KI-Vorhaben scheitern nicht an Technik oder Datenschutz, sondern daran, dass sie nach dem Test niemand weiter nutzt. Worauf es bei der Einführung ankommt, lesen Sie in Vom Pilot in den Alltag: Wie die KI-Implementierung gelingt.

Checkliste: ChatGPT und Co. in fünf Schritten datenschutzkonform einführen

Wenn Sie das Thema in den nächsten Wochen geordnet angehen wollen, ist das die Reihenfolge, die ich empfehle:

1. Bestandsaufnahme machen. Fragen Sie offen und ohne Schuldzuweisung nach: Welche KI-Werkzeuge nutzt ihr heute, mit welchem Konto und wofür? Erst wenn Sie das wissen, können Sie steuern.
2. Werkzeug und Lizenz festlegen. Entscheiden Sie sich für ein oder zwei Werkzeuge mit Business- oder Enterprise-Lizenz – oder für eine EU-gehostete Lösung beziehungsweise einen eigenen Unternehmens-GPT, wenn regelmäßig sensible Daten im Spiel sind. Private Konten für dienstliche Zwecke werden beendet.
3. Vertragslage klären. Auftragsverarbeitungsvertrag abschließen, Serverstandort und Drittlandtransfer prüfen, Trainingsausschluss bestätigen lassen und das Werkzeug ins Verzeichnis von Verarbeitungstätigkeiten aufnehmen. Ihren Datenschutzbeauftragten von Anfang an einbinden.
4. KI-Richtlinie schreiben und schulen. Ein bis zwei Seiten mit erlaubten Werkzeugen, tabuisierten Daten, Prüfpflicht und Ansprechpartner. Dazu eine kurze Schulung, die Sie mit Datum und Teilnehmern dokumentieren.
5. Verantwortung festlegen und regelmäßig prüfen. Eine Person verwaltet die Konten, beantwortet Fragen und schaut alle paar Monate, ob Werkzeuge, Verträge und Regeln noch passen. KI entwickelt sich schnell – Ihre Einrichtung sollte mitwachsen.

Hinweis: Dieser Beitrag ist eine Einordnung aus der unternehmerischen Praxis und keine Rechtsberatung. Er ersetzt nicht die Prüfung Ihres konkreten Falls durch Ihren Datenschutzbeauftragten oder eine Rechtsanwältin bzw. einen Rechtsanwalt. Vertragsbedingungen und Leistungsumfänge der KI-Anbieter ändern sich regelmäßig und sollten vor dem Einsatz aktuell geprüft werden.

Fazit: Erst einrichten, dann loslegen

ChatGPT und vergleichbare Werkzeuge im Unternehmen datenschutzkonform zu nutzen, ist kein Großprojekt. Es ist eine überschaubare Reihe von Entscheidungen: das richtige Werkzeug mit der richtigen Lizenz, ein geprüfter Vertrag mit geklärtem Serverstandort, klare Regeln für sensible Daten und ein Team, das diese Regeln kennt. Wer diese Punkte klärt, gewinnt beides – das Tempo, das KI ermöglicht, und die Sicherheit, die Kunden und Mitarbeiter zu Recht erwarten.

Datenschutz als Ausrede, gar nicht erst anzufangen, ist dagegen die teuerste Entscheidung von allen. Warum das so ist, habe ich in Datenschutz als Ausrede? Warum Digitalisierung trotzdem möglich ist aufgeschrieben. Wenn Sie wissen möchten, wo Ihr Unternehmen gerade steht und welcher Weg zu Ihren Aufgaben passt, schauen wir gemeinsam drauf. Lassen Sie uns Ihr KI-Projekt in einem kurzen Gespräch prüfen.

Häufige Fragen zu ChatGPT, KI und DSGVO im Unternehmen

Darf ich ChatGPT im Unternehmen nutzen?

Ja. Es gibt kein Gesetz, das ChatGPT oder vergleichbare KI-Dienste im Unternehmen verbietet. Entscheidend ist, wie der Dienst eingerichtet ist und welche Daten hineingehen. Mit einer Business- oder Enterprise-Lizenz, einem Auftragsverarbeitungsvertrag, geklärtem Serverstandort, klaren Datenregeln und einer internen KI-Richtlinie lässt sich KI im Betrieb datenschutzkonform einsetzen.

Reicht die kostenlose ChatGPT-Version für den Einsatz im Betrieb?

Für die Arbeit mit Unternehmens- oder Kundendaten in der Regel nicht. Kostenlose und private Konsumentenversionen laufen über persönliche Konten, bieten meist keinen Auftragsverarbeitungsvertrag und können Eingaben je nach Einstellung zur Verbesserung der Modelle verwenden. Business- und Enterprise-Tarife bieten dagegen in der Regel einen Auftragsverarbeitungsvertrag, eine zentrale Verwaltung der Nutzer und den vertraglichen Ausschluss des Trainings mit Ihren Daten. Die aktuellen Bedingungen sollten vor dem Einsatz geprüft werden.

Brauche ich für ChatGPT einen Auftragsverarbeitungsvertrag?

Sobald über das KI-Werkzeug personenbezogene Daten verarbeitet werden, ist der Anbieter in der Regel Auftragsverarbeiter, und nach Art. 28 DSGVO ist ein Auftragsverarbeitungsvertrag erforderlich. Er regelt, wofür der Anbieter die Daten verwenden darf, welche Sicherheitsmaßnahmen gelten und welche Unterauftragnehmer eingebunden sind. Ohne AVV sollten keine personenbezogenen Daten in das Werkzeug gelangen.

Spielt der Serverstandort bei KI-Tools eine Rolle?

Ja. Werden Daten außerhalb der EU verarbeitet, etwa in den USA, braucht es eine zulässige Grundlage für den Drittlandtransfer, zum Beispiel die Zertifizierung des Anbieters nach dem EU-US Data Privacy Framework oder Standardvertragsklauseln. Einfacher wird es, wenn Daten in der EU gespeichert und verarbeitet werden. Viele Anbieter bieten für Business-Kunden inzwischen eine Datenhaltung in Europa an; welche Teile der Verarbeitung das genau umfasst, sollte man sich schriftlich bestätigen lassen.

Welche Daten dürfen nicht in ChatGPT eingegeben werden?

In öffentliche oder nicht vertraglich abgesicherte KI-Dienste gehören keine personenbezogenen Kundendaten, keine Mitarbeiter- und Bewerberdaten, keine Gesundheitsdaten und anderen besonders geschützten Daten nach Art. 9 DSGVO, keine Geschäftsgeheimnisse wie Kalkulationen, Rezepturen oder Vertragsinhalte sowie keine Zugangsdaten. Auch mit Business-Lizenz sollten Gesundheitsdaten und Geschäftsgeheimnisse nur nach ausdrücklicher Freigabe und möglichst anonymisiert verarbeitet werden.

Was gehört in eine KI-Richtlinie für Mitarbeiter?

Eine praxistaugliche KI-Richtlinie beantwortet auf ein bis zwei Seiten: Welche KI-Werkzeuge sind erlaubt und mit welchem Konto? Welche Daten sind tabu? Wofür darf KI genutzt werden und wo braucht es eine menschliche Prüfung? Wie werden KI-Ergebnisse gekennzeichnet? Wer ist Ansprechpartner bei Fragen oder Pannen? Ergänzt um eine kurze Schulung erfüllt sie zugleich einen Teil der Pflicht zur KI-Kompetenz nach dem EU AI Act.

Wann ist ein eigener Unternehmens-GPT besser als ChatGPT?

Ein eigener Unternehmens-GPT oder eine EU-gehostete Lösung lohnt sich, wenn regelmäßig mit sensiblen Daten gearbeitet wird, wenn die KI auf internes Firmenwissen zugreifen soll, wenn unterschiedliche Zugriffsrechte nötig sind oder wenn Branchenvorgaben wie Berufsgeheimnisse eine besonders kontrollierte Verarbeitung verlangen. Für allgemeine Textarbeit ohne sensible Daten reicht oft ein sauber eingerichteter Business-Tarif.