DSGVO-konforme KI im Unternehmen: was ein eigener Server ändert – und was nicht

Cloud-KI oder KI im eigenen Haus

Die Datenschutzkonferenz (DSK), das Gremium der deutschen Datenschutzaufsichtsbehörden, unterscheidet in ihrer Orientierungshilfe zu KI zwischen offenen und geschlossenen Systemen:

• Offene Systeme laufen etwa als Cloud-Dienst beim Anbieter. Die Eingaben verlassen deinen geschützten Bereich, können je nach Dienst zu anderen Zwecken weiterverarbeitet werden, und häufig sind Drittstaaten im Spiel.
• Geschlossene Systeme verarbeiten Daten in einer abgegrenzten Umgebung mit begrenztem Nutzerkreis; die Kontrolle über Ein- und Ausgaben liegt beim Anwender.

Die DSK hält geschlossene Systeme für vorzugswürdig, ebenso Anwendungen, die Eingaben nicht zum Training verwenden. Ein eigener Server im Betrieb kann ein solches System sein – wenn Zugänge und Datenflüsse entsprechend eingerichtet sind.

Auftragsverarbeitung nach Art. 28 DSGVO

Nutzt du eine Cloud-KI, arbeitet der Anbieter in der Regel als „verlängerter Arm“ für dich. Dann liegt häufig eine Auftragsverarbeitung vor, und du brauchst mit dem Anbieter einen Vertrag nach Art. 28 Abs. 3 DSGVO – unter anderem über Weisungen, Vertraulichkeit, Sicherheit, Unterauftragnehmer und Löschung.

Betreibst du die KI ausschließlich für eigene Zwecke auf eigenen Servern, bist du laut DSK in der Regel alleiniger Verantwortlicher. Ein Cloud-Anbieter als Auftragsverarbeiter für die KI fällt dann weg.

Was trotzdem bleibt: Wartet ein IT-Dienstleister den Server und kann er dabei auf personenbezogene Daten zugreifen – etwa bei der Fernwartung –, ist das nach Auffassung der DSK ebenfalls Auftragsverarbeitung. Auch dafür braucht es einen Vertrag nach Art. 28 DSGVO. Das gilt für jeden Dienstleister, der deinen KI-Server pflegt.

Übermittlung in Drittländer nach Art. 44 ff. DSGVO

Personenbezogene Daten dürfen nur in Länder außerhalb der EU und des EWR gehen, wenn die Regeln des Kapitels V der DSGVO eingehalten sind. Das geht vor allem auf zwei Wegen: mit einem Angemessenheitsbeschluss der EU-Kommission (Art. 45) oder mit geeigneten Garantien wie Standardvertragsklauseln (Art. 46).

Für die USA gilt seit 10. Juli 2023 ein Angemessenheitsbeschluss für Unternehmen, die am EU-US-Datenschutzrahmen (Data Privacy Framework) teilnehmen. Zweimal hat der Europäische Gerichtshof frühere Regelungen für die USA für ungültig erklärt: 2015 „Safe Harbor“ und 2020 den „Privacy Shield“. Wer Cloud-KI nutzt, sollte deshalb wissen, wo der Anbieter und seine Unterauftragnehmer die Daten verarbeiten.

Rechnet die KI auf deinem Server im Haus, entsteht durch die KI-Verarbeitung keine Übermittlung in ein Drittland. Was du sonst nutzt – E-Mail-Dienst, Anmeldung, Telefonie –, prüfst du wie bisher.

Zweck, Löschung und Zugriffe bleiben deine Aufgabe

Auch eine KI im eigenen Haus muss die Grundsätze der DSGVO einhalten. Der Vorteil: Du hast die Stellschrauben selbst in der Hand.

• Zweck festlegen (Art. 5 Abs. 1 lit. b): Leg vor dem Start fest, wofür die KI eingesetzt wird, etwa Posteingang sortieren oder Diktate schreiben. Nur so lässt sich prüfen, welche Daten nötig sind.
• Nur so viel und so lange wie nötig (Art. 5 Abs. 1 lit. c und e): Das gilt auch für Chatverläufe und Protokolle; lege Löschfristen fest. Wird eine Eingabe-Historie gespeichert, sollen deine Leute das wissen und mitentscheiden können.
• Berichtigung und Löschung (Art. 16 und 17): Die DSK verlangt Verfahren, mit denen Betroffene diese Rechte auch bei KI wirksam ausüben können. Ein Filter, der bestimmte Ausgaben unterdrückt, ist nach DSK nicht ohne Weiteres eine Löschung.
• Zugriffe und Sicherheit (Art. 25 und 32): Rollen je Abteilung, verschlüsselte Datenträger, gesicherte Backups. Das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) empfiehlt in seiner KI-Checkliste, die Nutzung zu protokollieren, dabei die Zweckbindung zu beachten und Daten, die auf einzelne Mitarbeiter schließen lassen, nur pseudonym zu speichern.

Was auch bei lokaler KI bleibt

Ein eigener Server nimmt dir einen Teil der Fragen ab, aber nicht die Verantwortung. Diese Punkte bleiben:

• Verzeichnis der Verarbeitungstätigkeiten (Art. 30): Das BayLDA rät, den Einsatz einer KI-Anwendung dort aufzunehmen. Die Ausnahme für Betriebe unter 250 Beschäftigten greift nicht, wenn regelmäßig verarbeitet wird oder Gesundheitsdaten dabei sind.
• Rechtsgrundlage: Für jeden Verarbeitungsschritt mit personenbezogenen Daten brauchst du eine. Gesundheitsdaten und andere besondere Kategorien sind nach Art. 9 Abs. 1 grundsätzlich verboten und nur unter den Ausnahmen von Art. 9 Abs. 2 erlaubt.
• Datenschutz-Folgenabschätzung (Art. 35): Erst prüfen, ob ein hohes Risiko besteht. Beim Einsatz von KI wird eine Folgenabschätzung laut DSK „vielfach“ nötig sein.
• Informationspflichten und Betroffenenrechte (Art. 13 bis 22): Betroffene müssen erfahren, was mit ihren Daten passiert, und ihre Rechte ausüben können.
• Keine automatisierte Letztentscheidung (Art. 22): Entscheidungen mit Rechtswirkung trifft ein Mensch mit echtem Spielraum. Unser Grundsatz passt dazu: Die KI macht den Entwurf, der Mensch entscheidet.
• Ergebnisse prüfen: KI kann sich irren. Bevor ein Ergebnis mit Personenbezug weiterverwendet wird, schaut ein Mensch drauf.
• Interne Regeln: Die DSK empfiehlt dokumentierte Weisungen, welche KI wofür eingesetzt werden darf, und den Datenschutzbeauftragten früh einzubinden; gibt es einen Betriebsrat, ist seine Beteiligung zu prüfen.

KI-Kompetenz nach der KI-Verordnung

Seit 2. Februar 2025 gilt Art. 4 der EU-KI-Verordnung zur KI-Kompetenz. Seit 27. Juli 2026 gilt er in einer geänderten Fassung, eingeführt durch die Digital-Omnibus-Verordnung (EU) 2026/1744: Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die KI-Kompetenz ihres Personals zu fördern. Ein bestimmtes Kompetenzniveau müssen sie nicht garantieren. Daran ändert ein lokaler Server nichts. Eine Schulung ist der naheliegende Weg; auch die DSK rät, Beschäftigte durch Schulungen und Leitfäden zu sensibilisieren.

Spricht eine KI direkt mit Menschen, etwa am Telefon, gilt seit 2. August 2026 zusätzlich eine Hinweispflicht nach Art. 50 KI-VO. Mehr dazu im Ratgeber KI-Telefonassistent.

So hilft dir der Robo

• Die KI rechnet im Haus: keine Übermittlung an Cloud-KI-Dienste, kein Cloud-Anbieter als Auftragsverarbeiter, keine Drittländer für die KI-Verarbeitung: Cloud-KI oder ServusRobo?
• Datenschutz eingerichtet und dokumentiert: Rollen und Zugriffe je Abteilung, Protokoll jeder Nutzung, Löschregeln, verschlüsselte Backups. Der Robo hilft beim Verfahrensverzeichnis; Unterlagen für deinen Datenschutzbeauftragten – kein Rechtsrat, aber alles griffbereit: Pakete
• Sicherheitskonzept: verschlüsselte Platten, Fernwartung nur über VPN, Protokolle nur im Haus: Sicherheit
• Schulung und Richtlinie: Schulung je Abteilung, KI-Richtlinie und Kennzeichnung von KI-Assistenten: So läuft’s
• Besonders geschützte Daten: wie das in Praxis und Kanzlei aussieht: Praxis und Kanzlei