KI und Datenschutz: was Sie wirklich brauchen
Die Frage kommt in jedem zweiten Erstgespräch, meistens in dieser Form: „Dürfen wir das überhaupt?“ Die Antwort ist fast immer ja – aber mit vier Unterlagen, die vorher vorliegen sollten. Dieser Text sagt, welche das sind, welche Sie sich sparen können und woran Sie einen Anbieter erkennen, der es nicht ernst meint.
Vorweg, damit die Erwartung stimmt: Ich bin kein Anwalt und dieser Text ist keine Rechtsberatung. Er beschreibt, was in Projekten praktisch verlangt wird und was ich als Auftragnehmer beisteuere. Die Prüfung im Einzelfall macht Ihr Datenschutzbeauftragter oder eine Kanzlei.
Die entscheidende Vorfrage: Wer ist verantwortlich?
Wenn ein Sprachmodell in Ihrem Betrieb Rechnungen ausliest oder Mails einsortiert, verarbeitet es Daten, für die Sie datenschutzrechtlich verantwortlich sind. Nicht ich, nicht der Modellanbieter. Wir beide sind Auftragsverarbeiter – wir handeln in Ihrem Auftrag und nach Ihrer Weisung.
Das klingt nach Formalie, hat aber eine praktische Folge: Sie können sich nicht darauf zurückziehen, dass „der Dienstleister das schon geregelt hat“. Umgekehrt bedeutet es, dass Sie die Bedingungen bestimmen. Wer Ihnen ein System hinstellt, ohne Ihnen zu sagen, welche Felder wohin fließen, nimmt Ihnen genau diese Entscheidung ab.
Die vier Unterlagen
1. Vertrag zur Auftragsverarbeitung, mit beiden
Nach Art. 28 DSGVO brauchen Sie einen Auftragsverarbeitungsvertrag mit jedem, der in Ihrem Auftrag personenbezogene Daten verarbeitet. Bei einem KI-Projekt sind das mindestens zwei Parteien: der Dienstleister, der es baut und betreibt, und der Anbieter des Modells.
Für den Modellanbieter ist das gute Nachricht: Die großen Anbieter stellen für ihre Geschäftskundenzugänge fertige Verträge bereit, die man online abschließt. Das dauert zehn Minuten. Achten Sie auf drei Punkte: Verarbeitung in der EU, keine Nutzung Ihrer Eingaben zum Training, und eine Liste der Unterauftragsverarbeiter, die Sie einsehen können.
Achtung bei kostenlosen oder privaten Zugängen: Die haben in der Regel keinen Auftragsverarbeitungsvertrag und schließen die Trainingsnutzung nicht aus. Wenn im Büro jemand betriebliche Unterlagen in einen privaten ChatGPT- oder Gemini-Zugang kopiert, ist das der eigentliche Datenschutzvorfall – nicht das Projekt, über das Sie gerade nachdenken. Die Geschäftskundenzugänge derselben Anbieter sind eine andere Sache; dort gibt es Verträge, bei den privaten nicht.
2. Eintrag im Verarbeitungsverzeichnis
Ihr Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO bekommt einen neuen Eintrag. Hineingehören: Zweck der Verarbeitung, Kategorien betroffener Personen, Kategorien von Daten, Empfänger, Löschfristen, technische und organisatorische Maßnahmen.
Das ist der Punkt, an dem sich zeigt, ob jemand sauber gearbeitet hat. Ein Dienstleister, der Ihnen die Felder nicht aufzählen kann, die sein System überträgt, kann Ihnen diesen Eintrag auch nicht zuarbeiten. Ich liefere die Bausteine dafür vor Projektbeginn – nicht, weil es freundlich ist, sondern weil ich die Angaben ohnehin zusammenstellen muss, um zu wissen, was ich baue.
3. Datenschutz-Folgenabschätzung – manchmal
Eine Folgenabschätzung nach Art. 35 DSGVO ist nicht immer nötig. Sie wird verlangt, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte der Betroffenen mit sich bringt – etwa bei umfangreicher Verarbeitung besonderer Datenkategorien oder bei automatisierten Entscheidungen mit erheblicher Wirkung auf Personen.
Für die typischen Fälle, um die es hier geht – eine Rechnung auslesen, eine Mail einsortieren, einen Berichtsentwurf schreiben –, ist sie meist nicht erforderlich. Anders sieht es aus, sobald Beschäftigtendaten systematisch bewertet werden oder Gesundheitsdaten im Spiel sind. Dann gehört das Thema vor den Projektstart und nicht danach.
Die Aufsichtsbehörden führen Listen von Verarbeitungen, bei denen sie eine Folgenabschätzung für erforderlich halten. Die Ihres Bundeslands ist der richtige Ausgangspunkt, nicht ein allgemeiner Ratgeber – auch nicht dieser.
4. Eine Hausregel, die im Betrieb aushängt
Das ist die einzige der vier Unterlagen, die nicht aus der DSGVO stammt, und praktisch die wichtigste. Eine Seite, die beantwortet: Welche Zugänge sind erlaubt? Was darf hinein und was nicht? Wer prüft, bevor etwas an einen Kunden geht? Wie werden Ergebnisse gekennzeichnet?
Ohne diese Seite passiert erfahrungsgemäß Folgendes: Das Projekt ist sauber geregelt, und parallel dazu kopieren drei Leute im Büro Kundendaten in einen privaten Zugang, weil es praktisch ist. Der Aufwand für die Hausregel ist ein Nachmittag. Sie ist Teil meiner Schulung, aber Sie brauchen dafür niemanden von außen.
Wie Sie die Datenmenge kleiner machen
Der wirksamste Datenschutz ist, weniger Daten zu übertragen. Drei Handgriffe, die in fast jedem Projekt möglich sind:
- Felder weglassen. Für die Einordnung einer Anfrage in „Angebot“, „Reklamation“ oder „Rechnung“ braucht ein Modell weder Name noch Kundennummer. Was es nicht sieht, muss auch nicht geregelt werden.
- Ersetzen statt entfernen. Wo ein Name den Zusammenhang trägt, kann er vor der Übertragung durch einen Platzhalter ersetzt und danach wieder eingesetzt werden. Das kostet etwas Umsetzung und verkleinert den geregelten Bereich erheblich.
- Nur das eine Dokument. Häufig wird ein ganzer Mailverlauf übertragen, obwohl nur der Anhang ausgelesen werden soll. Solche Vereinfachungen findet man beim Aufschreiben des Datenflusses – deshalb wird er aufgeschrieben.
Was mit der KI-Verordnung dazukommt
Die europäische KI-Verordnung ordnet Anwendungen nach Risiko. Für die Fälle in diesem Text – Text einordnen, Felder auslesen, Entwürfe erzeugen – greifen im Wesentlichen Transparenzpflichten: Menschen sollen erkennen können, dass sie es mit einem maschinell erzeugten Ergebnis zu tun haben.
Deutlich strenger wird es bei Anwendungen im Beschäftigungskontext, etwa bei der Vorauswahl von Bewerbungen oder der Bewertung von Arbeitsleistung. Wenn Sie in diese Richtung denken, ist das ein Gespräch mit einer Kanzlei und mit dem Betriebsrat, bevor es eines mit einem Dienstleister wird. Ich baue solche Anwendungen nicht.
Unabhängig von der Rechtslage rate ich zur Kennzeichnung, wo Kunden mitlesen. Ein Satz wie „Diese Eingangsbestätigung wurde automatisch erstellt“ kostet nichts und erspart die unangenehme Frage später.
Sechs Fragen an jeden Anbieter
- Welcher Modellanbieter, welches Rechenzentrum, welches Land?
- Gibt es einen Auftragsverarbeitungsvertrag – mit Ihnen und mit dem Modellanbieter?
- Ist die Nutzung meiner Eingaben zum Training vertraglich ausgeschlossen?
- Welche Felder genau verlassen mein Haus? Bitte als Liste, nicht als Zusicherung.
- Wie lange werden die Daten beim Anbieter gespeichert?
- Was passiert mit den Testdaten nach Projektende?
Wer auf Frage 4 keine Liste liefert, hat entweder nicht nachgesehen oder will es nicht sagen. Beides ist ein Grund, weiterzusuchen.
Kurzfassung: Auftragsverarbeitungsverträge mit beiden Seiten, ein Eintrag im Verzeichnis, im Zweifel eine Folgenabschätzung, und eine Hausregel für den Alltag. Alles andere ist Beiwerk – und alles davon ist zu schaffen.