Private KI-Konten im Betrieb: Warum Wegsehen für Chefs keine Lösung ist

In fast jedem Betrieb arbeitet jemand mit dem eigenen ChatGPT-Konto, ohne dass es jemand geregelt hat. Auf der Agentenkonferenz in Hasenwinkel hat Prof. Rolf Schwartmann erklärt, warum das für Geschäftsführer kein Kavaliersdelikt ist. Was ich daraus für die Praxis mitnehme.

Pause bei der Agentenkonferenz #MVW26 im Schloss Hasenwinkel: Gäste im Foyer, in der Mitte eine Säule mit der Aufschrift Human in the Loop

Offiziell wird KI noch nicht eingesetzt, aber jeder spielt für sich damit herum. So beschrieb ein Teilnehmer im Workshop zur KI-Kompetenz auf der Agentenkonferenz in Hasenwinkel sinngemäß die Lage in seiner Organisation. Ich kenne diesen Satz aus vielen Beratungsgesprächen in Mecklenburg-Vorpommern.

Das Phänomen hat einen Namen: Schatten-KI. Gemeint ist KI, die im Betrieb genutzt wird, ohne dass der Betrieb sie ausgewählt, geprüft und geregelt hat. Meistens ist es das private Konto bei ChatGPT, Claude oder Gemini, in das Angebote, Kundenmails und Tabellen kopiert werden, weil es so schön schnell geht.

Kurz gesagt

  • Das Problem: Wer als Chef weiß, dass private KI-Konten dienstlich genutzt werden, und es laufen lässt, kann sich später kaum auf Unwissen berufen.
  • Die Daten: Private Konten haben keinen Vertrag zur Auftragsverarbeitung, und je nach Einstellung werden Eingaben zum Training genutzt.
  • Die Lösung: ein freigegebenes Werkzeug, klare Regeln, eine Unterweisung mit Nachweis.
  • Was Sie nicht brauchen: einen „KI-Beauftragten“. Den schreibt kein Gesetz vor.

Der Weihnachtsbaum und der Bunsenbrenner

Prof. Rolf Schwartmann, Jurist an der TH Köln und Leiter der Kölner Forschungsstelle für Medienrecht, hat den Kern mit einem Bild erklärt, das hängen bleibt. Ein Betrieb zündet auf der Weihnachtsfeier seit Jahren die Kerzen am Baum mit dem Bunsenbrenner an, weil es schneller geht. Feuerpolizeilich ist das nicht in Ordnung.

Hat der Chef das ausdrücklich verboten und es passiert trotzdem, hat er nach Schwartmanns Einschätzung gute Karten. Weiß er davon und sagt „ist mir egal, macht ruhig“, hat er ein Problem. Übertragen auf die KI im Betrieb heißt das: Wer von der privaten Nutzung weiß und sie laufen lässt, kann sich später kaum darauf berufen, nichts damit zu tun zu haben.

Übertragen heißt das: Ein Unternehmen ist nach der KI-Verordnung Betreiber eines KI-Systems, wenn es dieses System in eigener Verantwortung beruflich nutzt. Betreiber haben Pflichten, zum Beispiel die KI-Kompetenz des Personals zu fördern und Transparenzpflichten einzuhalten. Ob ein geduldetes Privatkonto rechtlich dem Betrieb zuzurechnen ist oder ob der Mitarbeitende selbst zum Betreiber wird, ist im Einzelfall eine Frage für Juristen. Für den Geschäftsführer ist die Lehre trotzdem eindeutig: Wegsehen ist die schlechteste aller Varianten.

Was mit den Daten im Privatkonto passiert

Das zweite Problem ist der Datenschutz. Wenn ein Unternehmen ein KI-Werkzeug lizenziert, schließt es mit dem Anbieter einen Vertrag zur Auftragsverarbeitung, klärt die Übermittlung in Drittländer und schaltet das Training mit den eigenen Eingaben ab. Beim Privatkonto des Mitarbeitenden passiert nichts davon.

Schwartmann riet im Workshop jedem, einmal in den Einstellungen des eigenen Kontos nachzusehen, ob der Schalter „Modell für alle verbessern“ noch an ist. Ist er an, können die Eingaben in das Training künftiger Modelle einfließen. Für private Urlaubsplanung mag das egal sein. Für das Angebot an einen Kunden, die Kalkulation oder die Mail eines Patienten ist es das nicht.

Ein häufiger Irrtum dabei: „Ich habe doch den Namen herausgenommen.“ Anonym ist ein Text erst, wenn niemand mehr die Person dahinter erkennen kann, auch nicht die Person selbst. Erkennt ein Kunde seinen Fall wieder, sind die Daten bestenfalls pseudonymisiert, und dann gilt der Datenschutz weiter. Mehr dazu im Beitrag ChatGPT und Co. datenschutzkonform nutzen.

Warum Verbieten allein nicht reicht

Die naheliegende Reaktion ist das Verbot: „Bei uns keine KI.“ Das hält erfahrungsgemäß nicht lange. Die Werkzeuge sind zu nützlich, und wer sie zu Hause nutzt, nutzt sie bald auch im Büro, dann eben heimlich. Ein Verbot ohne Alternative verschiebt das Problem nur tiefer in den Schatten.

Schwartmanns Empfehlung war deshalb zweiteilig. Erstens: Das Unternehmen stellt selbst ein geprüftes Werkzeug zur Verfügung, so wie Firmenwagen oder Diensthandy. Zweitens: Für alles andere gilt eine klare, schriftliche Ansage, dass private Konten für dienstliche Daten tabu sind. Dann hat sich der Betrieb ins Recht gesetzt. Wer sich trotzdem nicht daran hält, handelt gegen eine Weisung, und das ist eine andere Lage als stilles Dulden.

Vorsicht bei der Kontrolle

Ein Punkt, der in der Diskussion nicht fehlen darf: Wer prüfen will, ob sich alle an die Regeln halten, darf das nicht durch flächendeckendes Mitlesen tun. Prompts und Verläufe von Mitarbeitenden auszuwerten, berührt den Beschäftigtendatenschutz, und technische Einrichtungen, die Verhalten oder Leistung überwachen können, sind in Betrieben mit Betriebsrat mitbestimmungspflichtig. Regeln Sie Kontrolle deshalb von Anfang an gemeinsam mit dem Betriebsrat oder, wo es keinen gibt, offen mit dem Team.

Sechs Schritte, die das Thema sauber regeln

  1. Ehrlich fragen, was schon läuft. Eine kurze, anonyme Umfrage im Team: Wer nutzt welche KI wofür? Ohne Vorwurf. Sie werden überrascht sein.
  2. Ein Werkzeug freigeben. Eine Geschäftslizenz mit Vertrag zur Auftragsverarbeitung, Training ausgeschaltet, Serverstandort geklärt. Bei sensiblen Daten eine EU-Lösung oder ein Modell im eigenen Haus.
  3. Regeln aufschreiben. Eine KI-Nutzungsrichtlinie von zwei Seiten: Was darf hinein, was nie, wer gibt frei, was wird gekennzeichnet.
  4. Private Konten klar ausschließen. Schriftlich und für alle verständlich: dienstliche Daten nur im freigegebenen Werkzeug.
  5. Unterweisen und festhalten. Eine Unterweisung zur KI-Kompetenz mit Datum, Inhalten und Teilnehmerliste. Die KI-Verordnung verlangt seit dem 2. Februar 2025, dass Betriebe Maßnahmen zur KI-Kompetenz ergreifen. Seit dem KI-Omnibus vom 27. Juli 2026 heißt das „unterstützen“ statt „sicherstellen“. Die Pflicht ist weicher formuliert, aber nicht gestrichen.
  6. Einmal im Jahr auffrischen. Neue Werkzeuge, neue Mitarbeitende, neue Regeln. Eine kurze Auffrischung hält den Stand aktuell.

Schritt 3 bis 5 sind genau das, was wir in unserer KI-Kompetenz-Schulung in drei Stunden mit Ihrem Team erledigen, einschließlich Musterrichtlinie und schriftlichem Nachweis für Ihre Unterlagen.

Und der KI-Beauftragte?

Auf diese Frage hatte Schwartmann eine klare Antwort: Brauchen Sie nicht. Es gibt weder eine gesetzliche Pflicht noch ein festes Berufsbild. Was Sie brauchen, sind Menschen, die wissen, worum es geht, allen voran die Geschäftsführung. Wenn Ihr Datenschutzbeauftragter sich in das Thema einarbeitet, umso besser. Einen zusätzlichen Titel auf der Visitenkarte braucht es dafür nicht.

Wie wir es bei uns halten

In meiner Agentur arbeiten heute vier Menschen mit 43 KI-Mitarbeitern. Alle laufen in Systemen, die wir selbst ausgewählt und vertraglich abgesichert haben. Kundendaten gehören bei uns nie in ein privates Konto, auch nicht „nur mal kurz“. Das ist keine Frage des Misstrauens, sondern der Ordnung: Nur so wissen wir jederzeit, wo welche Daten liegen.

Mein Fazit

Schatten-KI ist kein Zeichen von schlechten Mitarbeitenden, sondern von Mitarbeitenden, die schneller arbeiten wollen als die Organisation es erlaubt. Die Antwort darauf ist nicht das Verbot, sondern ein besserer offizieller Weg. Wer ihn anbietet, klar regelt und sein Team einmal ordentlich unterweist, hat aus einem Risiko einen Vorsprung gemacht.

Häufige Fragen

Darf ich meinen Mitarbeitenden private KI-Konten verbieten?

Ja. Für dienstliche Daten können Sie festlegen, welche Werkzeuge genutzt werden dürfen. Sinnvoll ist das Verbot aber nur zusammen mit einer freigegebenen Alternative, sonst wird weiter heimlich gearbeitet.

Haftet der Chef, wenn ein Mitarbeitender eigenmächtig ChatGPT nutzt?

Das hängt vom Einzelfall ab. Juristen wie Prof. Rolf Schwartmann betonen: Wer klare Regeln aufgestellt und sein Team unterwiesen hat, steht deutlich besser da als jemand, der von der Nutzung wusste und sie geduldet hat. Im Zweifel klärt das eine Anwältin oder ein Anwalt.

Brauchen wir einen KI-Beauftragten?

Nein. Weder die KI-Verordnung noch ein deutsches Gesetz schreibt einen KI-Beauftragten vor. Wichtig ist, dass die Geschäftsführung und die Mitarbeitenden wissen, worum es geht.

Ist die KI-Kompetenzpflicht durch den KI-Omnibus weggefallen?

Nein. Seit dem 27. Juli 2026 verlangt Artikel 4 der KI-Verordnung Maßnahmen, die die Entwicklung der KI-Kompetenz unterstützen. Ein bestimmtes Niveau muss niemand garantieren, ein eigenes Bußgeld gibt es dafür nicht. Die Pflicht zu handeln bleibt aber bestehen.

KI-Kompetenz-Schulung

Damit Ihr Team weiß, was es tut.

In drei Stunden lernt Ihr Team, was in die KI darf, wer freigibt und wie man Fehler erkennt. Mit schriftlichem Nachweis für Ihre Unterlagen.

Zur KI-Kompetenz-Schulung

Quellen

  • Workshop „Update KI-Kompetenz & Datenschutz nach dem KI-Omnibus“ mit Prof. Dr. Rolf Schwartmann, #MVW26, 19.11.2026 (eigene Mitschrift) – Programm bei mv-works
  • Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3 Nr. 4 und Art. 4 – EUR-Lex
  • Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), in Kraft seit 27.07.2026, neue Fassung von Art. 4 – Amtsblatt der EU, Reihe L, 24.07.2026
  • Betriebsverfassungsgesetz, § 87 Abs. 1 Nr. 6 – gesetze-im-internet.de

Dieser Beitrag gehört zur Reihe „Lehren aus der Agentenkonferenz“. Am 19. November 2026 war ich als Gast bei #MVW26, der Agentenkonferenz von mv-works im Schloss Hasenwinkel. Hier halte ich fest, was ich für Unternehmen in Mecklenburg-Vorpommern daraus mitnehme.

Hinweis: Dieser Beitrag gibt meine Einordnung als KI-Berater wieder und ist keine Rechtsberatung. Stand: 21. November 2026.