KI und Datenschutz im Unternehmen: was die DSGVO verlangt

Wann gilt die DSGVO für KI im Unternehmen?

Die DSGVO gilt für die automatisierte Verarbeitung personenbezogener Daten (Art. 2 Abs. 1), unabhängig vom Werkzeug; ihr Schutz soll technologieneutral sein (Erwägungsgrund 15). Ein KI Assistent fällt darunter, sobald Angaben zu einer bestimmten oder bestimmbaren Person hineingehen oder herauskommen (Art. 4 Nr. 1).

Das passiert schnell. Schon die Konten der Beschäftigten beim Anbieter enthalten personenbezogene Daten. Und auch eine Frage ohne Namen kann eine Antwort mit Personenbezug erzeugen, schreibt die Datenschutzkonferenz (DSK) in ihrer Orientierungshilfe zu KI vom 6. Mai 2024 (Rn. 52).

Verantwortlich bleibt Ihr Unternehmen, weil es über Zweck und Mittel entscheidet (Art. 4 Nr. 7), und es muss die Einhaltung nachweisen können (Art. 5 Abs. 2). Jeder Verarbeitungsschritt mit KI braucht eine Rechtsgrundlage (Art. 6 Abs. 1; DSK Rn. 9).

Art. 2 Abs. 1 · Art. 4 Nr. 1 und 7 · Art. 5 Abs. 2 · Art. 6 Abs. 1 DSGVO

Was prüfen Sie beim KI Anbieter?

Läuft die KI in der Cloud eines Anbieters, ist er nach der DSK häufig Ihr Auftragsverarbeiter, und Sie brauchen einen Vertrag nach Art. 28 Abs. 3 DSGVO, kurz AVV (Rn. 32). Arbeiten dürfen Sie nur mit Anbietern, die hinreichende Garantien bieten (Art. 28 Abs. 1).

Klären Sie, ob Eingaben und Ausgaben ins Training gehen und ob sich das ausschließen lässt. Vorzuziehen sind nach der DSK Anwendungen, die Ihre Daten nicht zum Training verwenden (Rn. 24).

Gehen Daten in ein Land außerhalb der EU, braucht es eine Grundlage nach Art. 44 ff., etwa einen Angemessenheitsbeschluss (Art. 45) oder die Standarddatenschutzklauseln der Kommission (Art. 46 Abs. 2 Buchst. c). Empfänger und Übermittlungen gehören ins Verzeichnis der Verarbeitungstätigkeiten (Art. 30 Abs. 1 Buchst. d und e) und in die Datenschutzinformation (Art. 13 Abs. 1 Buchst. e und f).

Was die Anbieter schreiben (Stand Oktober 2026): OpenAI nutzt Daten aus ChatGPT Business, Enterprise und Edu standardmäßig nicht zum Training; seinen Vertrag zur Auftragsverarbeitung konnten wir nicht lesen. Anthropic handelt bei Claude for Work und der API als Auftragsverarbeiter, Microsoft bei Copilot, wie Organisationen ihn nutzen. Mehr dazu in unseren Artikeln zu ChatGPT und zu Claude.

Art. 28 Abs. 1 und 3 · Art. 30 Abs. 1 · Art. 44 bis 46 DSGVO

Welche Regeln brauchen Ihre Beschäftigten?

Die DSK geht davon aus, dass in vielen Unternehmen Beschäftigte KI eigenmächtig nutzen (Rn. 36). Sie rät zu dokumentierten Weisungen, ob, unter welchen Voraussetzungen und wofür welche KI Anwendung erlaubt ist, am besten mit Beispielen. Die DSGVO verlangt Schritte, damit Beschäftigte personenbezogene Daten nur auf Anweisung verarbeiten (Art. 32 Abs. 4).

Stellen Sie betriebliche Konten und Geräte bereit, damit niemand mit privaten Konten arbeiten muss (Rn. 41). Als datenschutzfreundliche Voreinstellung nach Art. 25 nennt die DSK Konten, deren Eingaben nicht ins Training gehen und die keine Eingabehistorie über die Sitzung hinaus speichern (Rn. 43).

Namen zu streichen, reicht nach der DSK regelmäßig nicht, weil der Zusammenhang die Person verraten kann (Rn. 49). Ergebnisse mit Personenbezug müssen geprüft werden, bevor sie weiterverarbeitet werden (Rn. 65).

Binden Sie den Datenschutzbeauftragten ein, und prüfen Sie, ob der Betriebsrat zu beteiligen ist, falls es einen gibt (Rn. 31). In einigen Fällen löst die Einführung einer KI Anwendung nach der DSK die Mitbestimmung aus (Rn. 37).

Art. 25 · Art. 32 Abs. 4 DSGVO

Wann braucht KI eine Datenschutzfolgenabschätzung?

Hat eine Verarbeitung, besonders mit neuen Technologien, voraussichtlich ein hohes Risiko für die Rechte und Freiheiten von Personen, schätzt der Verantwortliche vorab die Folgen ab (Art. 35 Abs. 1). Bei KI wird das nach der DSK vielfach der Fall sein (Rn. 39).

Die sogenannte Muss-Liste der DSK für den nichtöffentlichen Bereich nennt ausdrücklich KI, die die Interaktion mit Betroffenen steuert oder persönliche Aspekte bewertet (Nr. 11), etwa ein System, das Kunden im Gespräch berät und dabei ihre Daten verarbeitet.

Entscheidungen mit Rechtswirkung dürfen nach Art. 22 Abs. 1 grundsätzlich nur Menschen treffen, und zwar mit echtem Spielraum, schreibt die DSK (Rn. 12). Eine KI, die Bewerbungen auswertet und Einladungen selbst verschickt, nennt sie einen Verstoß (Rn. 13).

Art. 22 Abs. 1 · Art. 35 Abs. 1 DSGVO

Ein Beispiel, und was oft schiefgeht

Die Kemper Lohse GmbH, ein erfundener Hersteller von Förderbändern, stellt fest, dass im Vertrieb ChatGPT und in der Konstruktion Claude genutzt wird, jeweils mit privaten Konten. Sie wählt ein Werkzeug mit Geschäftsvertrag, legt den AVV ab und schreibt eine Nutzungsregel.

Die Personalabteilung darf KI für Stellenanzeigen nutzen, für die Auswahl von Bewerbern nicht. Für den geplanten Chatbot auf der Website prüft der Datenschutzbeauftragte, ob eine Datenschutzfolgenabschätzung nötig ist.

Häufige Fehler sind: keine Regel zu haben, sodass Beschäftigte eigenmächtig private Konten nutzen; den Anbieter zu prüfen, Verzeichnis und Datenschutzinformation aber nicht anzupassen; und Ergebnisse ungeprüft zu übernehmen.

Mit einem KI Assistenten

Ein Assistent kann aus Ihren Unterlagen die Nutzungsregel entwerfen, den AVV eines Anbieters mit Art. 28 Abs. 3 abgleichen und für jedes KI Werkzeug einen Eintrag im Verzeichnis vorbereiten.

Welche Werkzeuge erlaubt sind, auf welcher Rechtsgrundlage und ob eine Datenschutzfolgenabschätzung nötig ist, entscheidet Ihr Unternehmen mit seinem Datenschutzbeauftragten. Geben Sie dem Assistenten dafür Richtlinien und Verträge, keine Personaldaten, denn was er liest, verarbeitet sein Anbieter mit.

Ein DSGVO Durchgang auf nisd2.eu ist in Arbeit, mit demselben MCP Server wie der NIS 2 Durchgang. Über diesen Server trägt ein KI Assistent heute Angaben in den NIS 2 Durchgang ein, mit den Rechten der Person, die ihn verbunden hat.