KI im Unternehmen und der Datenschutz

Künstliche Intelligenz ist längst ein fester Bestandteil moderner Geschäftsprozesse. Von der automatisierten Textverarbeitung bis zu personalisierten Analysen verarbeiten KI-Systeme oft personenbezogene Daten. Während viele Unternehmen die technischen Chancen im Blick haben, bleibt eine zentrale Frage häufig zu lange unbeantwortet:

Wer ist nach der DS-GVO eigentlich verantwortlich, wenn KI im Betrieb zum Einsatz kommt?

Das ist nicht nur eine Frage der Compliance. Sie müssen wissen, wer für Transparenz, Datensicherheit, Betroffenenrechte und Rechtsgrundlagen verantwortlich ist und im Ernstfall haften kann.

Ein Bericht der schwedischen Datenschutzbehörde IMY vom 16. Juni 2026 zeigt: Verantwortlichkeit ist bei KI-Projekten kein einmalig definierter Status. Sie kann sich je nach Art der Zusammenarbeit, der technischen Einflussnahme und der konkreten Nutzung verändern. Wenn Sie KI im Unternehmen einführen oder bestehende Systeme anpassen, sollten Sie diese Frage daher frühzeitig klären.

Die Datenschutz-Grundverordnung (DS-GVO) unterscheidet vor allem zwei Rollen: den Verantwortlichen und den Auftragsverarbeiter.

• Der Verantwortliche bestimmt, zu welchem Zweck personenbezogene Daten verarbeitet werden und mit welchen Mitteln dies geschieht.
• Der Auftragsverarbeiter verarbeitet Daten des Verantwortlichen im Auftrag und handelt nach seinen Weisung.

Bei KI-Systemen ist genau diese Rollenfrage besonders wichtig. Sie ist jedoch nicht immer eindeutig. Denn KI-Plattformen bieten oft weitreichende Funktionalitäten an. Sie stellen Recheninfrastruktur bereit und bieten Modellierung, Feintuning und Integration in eigene Anwendungen an, teils auch eigene KI-App-Stores. Dadurch können mehrere Akteure beteiligt sein. Die rechtliche Rolle eines Akteurs lässt sich nicht automatisch aus der Technologie oder dem Vertragsnamen ableiten.

Sind Sie selbst der Nutzende einer KI-Anwendung, handeln Sie in der Regel als Verantwortlicher.

Das gilt besonders, wenn:

• Ihre Mitarbeitenden eigene Eingaben (Prompts) in ein KI-System eingeben,
• Ihr Unternehmen Daten für die Weiterverarbeitung zur Verfügung stellt,
• die Ergebnisse der KI intern genutzt werden,
• die Anwendung für interne Prozesse (Support, Vertrieb oder HR) eingesetzt wird.

In diesem Fall entscheiden Sie über den Zweck der Verarbeitung. Sie müssen sicherstellen, dass:

• eine rechtliche Grundlage vorliegt,
• betroffene Personen transparent informiert werden,
• Rechte wie Auskunft, Berichtigung oder Löschung wahrgenommen werden können,
• technische und organisatorische Schutzmaßnahmen vorhanden sind,
• Zugriffe und Nutzung nachvollziehbar bleiben.
• eine menschliche Kontrolle vor der Verwendung des Outputs besteht.

Werden KI-Modelle nicht nur genutzt, sondern weiterentwickelt oder angepasst, wird es besonders heikel. Je nach Art der Veränderung können unterschiedliche Rollen entstehen.

A) Der Anbieter ist allein verantwortlich, wenn er selbst aktiv wird und ein bereits vortrainiertes Modell für seine eigenen Zwecke verändert. Das trifft zu, wenn der Anbieter

• bestimmt, welche Daten für die Anpassung verwendet werden,
• festlegt, für welche Nutzenden das Modell angepasst wird,
• die Anpassung nicht für einen bestimmten Kunden, sondern für die allgemeine Produktverbesserung vornimmt,
• den späteren Nutzenden keinen unmittelbaren Einfluss auf die Details der Datenverarbeitung gewährt.

In diesem Fall trägt der Anbieter die DS-GVO-Pflichten selbst. Dazu zählen etwa Information betroffener Personen, Datensicherheit und Gewährleistung von Rechten.

B) Der Anbieter ist Auftragsverarbeiter, wenn er ein Modell ausschließlich im Auftrag und nach dokumentierten Weisungen anpasst. In diesem Fall

• bestimmt der KI-Nutzende den Zweck der Anpassung,
• legt der KI-Nutzende wesentliche Details (Datenbestand, Einsatzbereich) fest,
• entscheidet der Anbieter über die technische Umsetzung, jedoch nicht über die Nutzung,
• erfolgt die Verarbeitung nur im Interesse des Kunden.

In dieser Konstellation tritt der Anbieter als Auftragsverarbeiter auf. Der Nutzende bleibt der Verantwortliche. Der Anbieter darf die personenbezogenen Daten nicht für eigene Zwecke verwenden. Diese Pflicht gehört in den Auftragsverarbeitungsvertrag.

C) Wenn Anbieter und Endnutzer gemeinsam an der Weiterentwicklung eines KI-Modells arbeiten, liegt eine gemeinsame Verantwortlichkeit vor. Sie entscheiden gemeinsam über Zweck und wesentliche Mittel. Ist das der Fall, kann nach Artikel 26 DS-GVO eine gemeinsame Verantwortlichkeit vorliegen. Das fällt besonders ins Gewicht, wenn

• beide Seiten Daten, Ressourcen oder Entscheidungen einbringen,
• die Weiterentwicklung nicht eindeutig einer Seite zugeordnet werden kann,
• der Endnutzer mitbestimmt, wie das Modell trainiert wird und wofür,
• der Anbieter eigene Gestaltungsspielräume nutzt.

In diesem dritten Szenario benötigen alle Beteiligten eine Vereinbarung, die klar die Zuständigkeiten und Pflichten regelt. Artikel 26 DS-GVO schreibt vor, dass der Wesensgehalt einer solchen Vereinbarung transparent bereitgestellt wird.

So vertrauensvoll die Zusammenarbeit auch ist: Verlassen Sie sich nicht darauf, dass sich die Rollen in der Praxis von selbst ergeben. Die DS-GVO verlangt eine transparente Vereinbarung, in der die Aufgabenteilung präzise festgelegt wird.

Beantworten Sie in einer solchen Vereinbarung vor allem folgende Fragen:

• Wer stellt sicher, dass eine gültige Rechtsgrundlage vorliegt?
• Wer informiert betroffene Personen über die Verarbeitung und in welcher Form geschieht das?
• Wer bearbeitet Anfragen auf Auskunft, Löschung, Berichtigung oder Einschränkung?
• Wer ist für technische und organisatorische Maßnahmen verantwortlich?
• Wer bezieht externe Dienstleister ein und überwacht, ob sie ihre Pflichten erfüllen?

Die Klärung der Rollenfrage ist jedoch nur ein Teil des Ganzen. Nehmen Sie in jedem Fall auch die spezifischen Risiken moderner KI-Systeme ernst. KI ist nicht nur ein Frage-Antwort-Werkzeug. Diese Systeme sind in der Regel komplex und schwer nachvollziehbar.

So können KI-Systeme ungenaue oder veraltete Antworten liefern. Und bei den sogenannten „Halluzination“ liefert die KI eine absolut plausibel klingende Antwort, die faktisch falsch ist. Rechnen Sie auch damit, dass die Modellarchitektur oder die Qualität der Trainingsdaten zu Verzerrungen (Bias) führen kann, was im schlimmsten Fall diskriminierende Ergebnisse erzeugt.

Hinzu kommt: Eine KI bleibt oft eine Blackbox. Häufig lässt sich nicht nachvollziehen, wie ein bestimmtes Ergebnis zustande kommt.

Für den Datenschutz relevant ist schließlich, dass durch Prompts oder Uploads besondere Kategorien personenbezogener Daten, im Alltag sensible Daten genannt, ungewollt offengelegt werden können.

Sie sollten daher keinesfalls nur einmalig prüfen, ob ein System „datenschutzkonform“ ist. Vielmehr ist ein solches System kontinuierlich zu überwachen. Dazu gehören regelmäßige Tests auf Richtigkeit, Robustheit, Bias, Sicherheitslücken und die Einhaltung von internen Nutzungsrichtlinien.

Viele meinen, ein Vertrag regle die datenschutzrechtlichen Rollen von selbst. Doch nicht immer steckt hinter einem „Auftragsverarbeitungsvertrag“ auch tatsächlich eine Auftragsverarbeitung. Und ein Vertrag mit dem Titel „Plattformnutzung“ schließt nicht aus, dass im Einzelfall gemeinsame Verantwortlichkeiten vorliegen. Die tatsächliche Rolle entscheidet.

Das betrifft Supportleistungen, individuelle Modell-Einstellungen, Migration von Daten und Anpassungen. Auch Erweiterungen über Schnittstellen, gemeinsame Datenpools und sogar interne Pilotprojekte fallen in diese Bewertung. Was als simple Nutzungsanfrage beginnt, wird zur gemeinsamen Entwicklung, sobald beide Seiten über Zwecke und Mittel entscheiden.

Eine weitere Unterscheidung: Die Verantwortlichkeit nach der DS-GVO und die zivilrechtliche Haftung.

Im ersten Fall muss die Frage beantwortet werden, wer für die datenschutzrechtliche Verarbeitung verantwortlich ist. Im letzteren Fall ist zu klären, wer bei Leistungsfehlern, Systemausfällen oder vertraglich zugesicherten Funktionen aktiv werden muss. Das wird häufig über Service-Level-Agreements, Haftungsklauseln und Versicherungsregelungen festgelegt. Das alles ersetzt jedoch nicht die datenschutzrechtliche Rollenklärung.

Unternehmen sollten KI nicht erst dann auf Datenschutztauglichkeit prüfen, wenn es schon zu einem Vorfall gekommen ist. Besser ist ein strukturierter Prozess von Beginn an.

Der Einsatz von KI im Unternehmen bietet erhebliche Chancen, bringt jedoch auch neue datenschutzrechtliche Anforderungen mit sich. Entscheidend ist dabei nicht die Technologie selbst, sondern die Frage, wer wann über Zweck und Mittel der Verarbeitung entscheidet.

Unternehmen können sich nicht darauf verlassen, dass KI-Anbieter automatisch nur Auftragsverarbeiter sind oder dass eine fertige Vertragsbezeichnung ausreicht. Die Verantwortlichkeit muss anhand der konkreten Zusammenarbeit, der Einflussmöglichkeiten und der tatsächlichen Abläufe bestimmt werden.

Wer frühzeitig klärt, welche Rolle das eigene Unternehmen einnimmt, wer im Anbieterverhältnis verantwortlich ist und welche Vertragsgestaltung dazu passt, reduziert Haftungsrisiken, schafft Vertrauen bei Betroffenen und legt das Fundament für einen nachhaltigen KI-Einsatz.