Datensouveränität · Oktober 2026 · 9 min · Finn Stadtmüller

Wo landen Ihre Daten, wenn Mitarbeiter ChatGPT nutzen?

Im April 2023 entdeckte die Halbleitersparte von Samsung drei Vorfälle innerhalb weniger Wochen. Ein Ingenieur hatte fehlerhaften Quellcode aus einer Datenbank der Chipfertigung in ChatGPT kopiert, ein zweiter suchte dort Hilfe bei einer defekten Anlage, ein dritter ließ sich aus dem Mitschnitt einer vertraulichen Besprechung ein Protokoll schreiben. Kurz darauf untersagte Samsung generative KI auf Firmengeräten (Quelle, Quelle).

Keiner der drei wollte Geheimnisse verraten. Sie wollten schneller arbeiten. Genau das macht den Fall so typisch, auch für deutsche Unternehmen. Dieser Beitrag zeigt, welchen Weg Ihre Daten in der Cloud nehmen, warum ein Rechenzentrum in Europa daran weniger ändert als oft angenommen und wie lokale KI das Kernproblem vermeidet: die Weitergabe an einen fremden Anbieter.

Kurz gesagt: Was Mitarbeiter in ChatGPT, Gemini oder Copilot eingeben, landet in aller Regel bei einem US-Konzern. Je nach Tarif wird es gespeichert, für das Training genutzt und kann von US-Behörden angefordert werden, auch wenn der Server in Europa steht. Bei lokaler KI rechnet das Modell im eigenen Haus, und Eingaben gehen an keinen KI-Anbieter.

Mitarbeiter nutzen KI längst, oft ohne Wissen der IT

Fast die Hälfte der Erwerbstätigen in Deutschland nutzt laut Digitalverband Bitkom KI bei der Arbeit, 12 Prozent von ihnen ohne Wissen des Arbeitgebers. 71 Prozent aller KI-Nutzer greifen zu ChatGPT (Quelle). Regeln für den Umgang mit KI hatten 2025 dagegen erst 23 Prozent der Unternehmen, ein eigenes KI-Werkzeug stellte nur ein Viertel bereit (Quelle).

Wo das Unternehmen kein Werkzeug anbietet, greifen Mitarbeiter zum privaten Konto. Fachleute sprechen von Schatten-KI. Die Sorge ist in den Chefetagen angekommen: Für 66 Prozent der Unternehmen, die KI einsetzen, ist der Datenschutz ein Hemmnis, 45 Prozent fürchten, dass Firmendaten in falsche Hände geraten (Quelle).

Was mit den Daten in der Cloud passiert

Wer einen Text in ChatGPT eingibt oder ein Dokument hochlädt, schickt die Daten über das Internet an die Server von OpenAI. Dort entsteht die Antwort, der Verlauf wird gespeichert. Was danach geschieht, hängt vom Konto ab.

Private Konten. In den Tarifen Free, Plus und Pro verwendet OpenAI Gespräche standardmäßig für das Training seiner Modelle, solange der Nutzer das nicht selbst abschaltet (Quelle). Bei Anthropic werden Gespräche aus privaten Claude-Konten bis zu fünf Jahre aufbewahrt, wenn der Nutzer dem Training zustimmt (Quelle).

Unternehmenstarife. Bei ChatGPT Business und Enterprise trainiert OpenAI standardmäßig nicht mit den Daten. Einen Vertrag zur Auftragsverarbeitung bietet der Anbieter an, das Unternehmen muss ihn aber selbst über ein Formular abschließen (Quelle). Eine Speicherung der Daten in Europa gibt es bei ChatGPT nur im Enterprise-Tarif, nicht im Business-Tarif für kleinere Teams (Quelle).

Manchmal nehmen Daten auch ungeplante Wege. Im Juli 2025 tauchten Tausende geteilte ChatGPT-Gespräche in der Google-Suche auf, weil Nutzer beim Teilen ein Häkchen gesetzt hatten. OpenAI zog die Funktion zurück (Quelle). Im Urheberrechtsstreit der New York Times verpflichtete ein US-Gericht OpenAI 2025 sogar, Gespräche aufzubewahren, die Nutzer gelöscht hatten. Betroffen waren private Konten und der Team-Tarif, der heute Business heißt. Die Pflicht endete im September 2025, einen Teil der Daten aus dieser Zeit hält OpenAI weiter vor (Quelle). Wer Daten an einen Anbieter gibt, entscheidet nicht mehr allein, was mit ihnen geschieht.

Lokale KI und Datenschutz: Warum ein Rechenzentrum in Frankfurt nicht reicht

Die großen KI-Anbieter sitzen in den USA und unterliegen dem CLOUD Act von 2018. Das Gesetz verpflichtet US-Anbieter, auf eine Anordnung nach US-Recht hin, etwa einen richterlichen Durchsuchungsbeschluss, Daten herauszugeben, die sich in ihrem Besitz oder unter ihrer Kontrolle befinden, unabhängig davon, ob sie in den USA oder anderswo gespeichert sind (Quelle).

Was das praktisch heißt, zeigte eine Anhörung im französischen Senat. Im Juni 2025 fragte Senator Dany Wattebled den Rechtsdirektor von Microsoft France, Anton Carniaux, unter Eid, ob er garantieren könne, dass Daten französischer Bürger, die bei Microsoft liegen, nie ohne Zustimmung der französischen Behörden an US-Behörden weitergegeben werden. Carniaux antwortete: "Nein, das kann ich nicht garantieren." Er fügte hinzu, dies sei bislang nie vorgekommen (Quelle).

Dazu kommt eine rechtliche Unsicherheit. Datenübermittlungen in die USA stützen sich heute vielfach auf das EU-US Data Privacy Framework. Übermittlungen an dort zertifizierte Unternehmen sind damit derzeit zulässig. Die Vorgänger Safe Harbor und Privacy Shield hat der Europäische Gerichtshof allerdings gekippt. Eine Klage gegen das aktuelle Abkommen wies das EU-Gericht im September 2025 ab, über die Berufung beim Europäischen Gerichtshof ist noch nicht entschieden (Quelle).

Was die Datenschutzbehörden sagen

Die deutschen Datenschutzbehörden haben in ihrer gemeinsamen Orientierungshilfe zu KI eine klare Linie gezogen. Die Orientierungshilfe ist kein Gesetz, zeigt aber, wie die Aufsicht prüft (Quelle). Bei offenen Systemen wie Cloud-Diensten verlassen Eingaben den geschützten Bereich des Unternehmens, mit dem Risiko, dass Daten zu anderen Zwecken genutzt oder Unbefugten zugänglich werden. Ihr Fazit: "Technisch geschlossene Systeme sind daher aus datenschutzrechtlicher Sicht vorzugswürdig."

Auch rechtlich macht der Betriebsort einen Unterschied. Sobald personenbezogene Daten im Spiel sind, gilt: Nutzt ein Unternehmen KI als Cloud-Dienst, ist der Anbieter in der Regel sein Auftragsverarbeiter, und es braucht einen Vertrag nach Artikel 28 DSGVO. Bei privaten Konten der Mitarbeiter fehlt dieser Vertrag. Betreibt das Unternehmen die KI dagegen auf eigenen Servern für eigene Zwecke, ist es laut den Behörden in der Regel allein verantwortlich, ein KI-Anbieter ist an der Verarbeitung nicht beteiligt.

Für Steuerberater, Anwälte und Ärzte kommt die Schweigepflicht hinzu. Sie dürfen Mandanten- oder Patientengeheimnisse nach § 203 Strafgesetzbuch nur an Dienstleister weitergeben, soweit das erforderlich ist, und müssen dafür sorgen, dass diese zur Geheimhaltung verpflichtet sind (Quelle). Mit einem privaten ChatGPT-Konto ist das nicht zu leisten.

Dass die Aufsicht Datenflüsse ins Ausland ernst nimmt, zeigte im Juni 2025 die Berliner Datenschutzbeauftragte. Sie meldete die App des chinesischen KI-Anbieters DeepSeek bei Apple und Google nach dem Digital Services Act als rechtswidrigen Inhalt, weil das Unternehmen nicht belegen konnte, dass Nutzerdaten in China angemessen geschützt sind (Quelle).

Cloud-KI und lokale KI im Vergleich

	Cloud-KI (z. B. ChatGPT, Copilot, Gemini)	Lokale KI
Wo werden Eingaben verarbeitet?	Im Rechenzentrum des Anbieters	Auf eigener Hardware im Unternehmen
Wer kontrolliert die Infrastruktur?	Meist ein US-Konzern	Ihr Unternehmen
Herausgabe an ausländische Behörden	Möglich, etwa über den CLOUD Act, auch bei Servern in der EU	Kein ausländischer Anbieter beteiligt
Speicherung der Gespräche	Nach den Regeln des Anbieters	Nach Ihren eigenen Regeln
Nutzung für das Training	Je nach Tarif und Einstellung	Nein
Vertrag mit einem KI-Anbieter nach Art. 28 DSGVO	Erforderlich, bei privaten Konten nicht vorhanden	Nicht erforderlich

Wie lokale KI funktioniert

Bei lokaler KI läuft das Sprachmodell nicht im Rechenzentrum eines Anbieters, sondern auf einem Rechner im eigenen Unternehmen. Möglich machen das frei nutzbare Modelle, etwa von Alibaba, Google, Mistral oder OpenAI, und Hardware, die kaum größer ist als ein Buch.

Für die Mitarbeiter sieht das aus wie ChatGPT: ein Chatfenster im Browser, Fragen stellen, Dokumente hochladen. Nur verlässt die Anfrage das Firmennetz nicht. Sie wird auf dem eigenen Server beantwortet und nach den Regeln des Unternehmens gespeichert.

Lokal heißt allerdings nicht automatisch sicher. Auch eine lokale KI braucht Zugriffsrechte, Updates und eine Datensicherung, und die DSGVO gilt weiter: Es braucht eine Rechtsgrundlage, bei sensiblen Daten unter Umständen auch eine Datenschutz-Folgenabschätzung. Wer einen Dienstleister mit dem Betrieb beauftragt, schließt mit ihm einen Vertrag zur Auftragsverarbeitung. Und wer die KI mit einem Postfach in der Cloud verbindet, holt sich dort einen Teil des Problems zurück. Lokale KI löst die Frage, wo das Modell rechnet. Welche Daten es sehen darf, bleibt eine bewusste Entscheidung.

Was ein eigenes System kostet, lesen Sie im Beitrag Was kostet lokale KI wirklich?

Wann Cloud-KI in Ordnung ist

Nicht jede KI-Nutzung ist ein Datenschutzproblem. Wer sich eine Stellenanzeige formulieren lässt oder einen öffentlichen Text zusammenfasst, gibt nichts Schützenswertes preis. Kritisch wird es bei Kundendaten, Personalakten, Verträgen, Angeboten, Konstruktionsdaten oder Mandantenakten. Genau dort bringt KI im Alltag aber den größten Nutzen.

Was Sie jetzt tun können

Bestandsaufnahme machen: Fragen Sie offen nach, welche KI-Werkzeuge schon genutzt werden und wofür.
Regeln festlegen: Bestimmen Sie, welche Daten in welche Werkzeuge dürfen. Eine Einteilung in öffentlich, intern und vertraulich reicht für den Anfang.
Eine sichere Alternative anbieten: Ein Verbot ohne Alternative verschiebt die Nutzung nur ins Private. Wer ein Werkzeug anbietet, bei dem die Daten im Haus bleiben, nimmt der Schatten-KI den Grund.

Kostenloser Check: Ist lokale KI für Ihr Unternehmen sinnvoll? Wir sehen uns gemeinsam an, welche Daten Ihre Mitarbeiter mit KI bearbeiten und ob eine lokale Lösung zu Ihnen passt.

Gespräch vereinbaren

Wie wir lokale KI bei Alae umsetzen, lesen Sie auf unserer Seite Lokale KI.

Häufige Fragen

Ist ChatGPT DSGVO-konform?
Das hängt vom Tarif und vom Einsatz ab. Für private Konten gibt es keinen Vertrag zur Auftragsverarbeitung, für ChatGPT Business, Enterprise und die API schon. Ob der Einsatz im Einzelfall zulässig ist, klären Sie am besten mit Ihrem Datenschutzbeauftragten oder einer Fachberatung.

Reicht es, wenn der Anbieter die Daten in der EU speichert?
Nicht vollständig. US-Anbieter können nach dem CLOUD Act verpflichtet werden, auch in Europa gespeicherte Daten an US-Behörden herauszugeben. Dafür braucht es eine Anordnung nach US-Recht; wie oft das geschieht, ist von außen kaum überprüfbar.

Braucht lokale KI eine Internetverbindung?
Für die Beantwortung von Anfragen nicht. Eine Verbindung ist nur nötig, um Updates oder neue Modelle zu laden, und das geschieht nur, wenn Sie es veranlassen.