Darf ich Kundendaten in ChatGPT eingeben?

Kurz vorweg, weil es die meistgestellte Frage zu KI im Betrieb ist: Ob Sie Kundendaten in ChatGPT eingeben dürfen, entscheidet sich nicht am Werkzeug. Es entscheidet sich an dem Zugang, über den es benutzt wird, und an den Daten, die hineingehen.

Mit einem privaten, kostenlosen Konto: nein. Mit einem geschäftlichen Zugang, einem Vertrag zur Auftragsverarbeitung und klaren Regeln im Betrieb: in vielen Fällen ja.

Weil im Browser alles gleich aussieht, vertraglich aber nicht. Bei kostenlosen und privaten Konten behalten sich die Anbieter in der Regel vor, Eingaben zur Verbesserung ihrer Modelle zu verwenden, solange man nicht aktiv widerspricht. Einen Vertrag mit Ihrem Betrieb gibt es dort nicht. Es ist das Konto eines Mitarbeiters.

Geschäftliche Zugänge regeln das anders: Eingaben werden nicht zum Training verwendet, es gibt einen Vertrag zur Auftragsverarbeitung nach der DSGVO, und bei manchen Angeboten lässt sich festlegen, dass die Verarbeitung in der EU stattfindet. Das ist keine technische Feinheit. Es ist die Voraussetzung dafür, dass Sie personenbezogene Daten überhaupt weitergeben dürfen.

Wer Microsoft 365 mit Geschäftskonten nutzt, hat eine dritte Möglichkeit. Der dort eingebaute Assistent arbeitet innerhalb des bestehenden Vertrags und sieht nur, was der jeweilige Mitarbeiter ohnehin sehen darf. Das ist bequem und rechtlich meist die einfachste Lösung.

Die Kehrseite: Er sieht dann auch alles, was jemand sehen darf, obwohl er es nicht sollte. Wer zu großzügig freigegebene Ordner hat, merkt das bei der ersten Suche.

Sobald ein Name, eine E-Mail-Adresse oder eine Kundennummer in eine KI eingegeben wird, verarbeiten Sie personenbezogene Daten über einen Dienstleister. Dafür gelten dieselben Regeln wie bei jedem anderen Cloud-Dienst:

1. Ein Vertrag zur Auftragsverarbeitung mit dem Anbieter.
2. Eine Rechtsgrundlage für die Verarbeitung. Wer eine Kundenanfrage beantwortet, hat sie meistens. Wer aus Neugier Kundenlisten auswerten lässt, eher nicht.
3. Bei Anbietern außerhalb der EU eine tragfähige Grundlage für die Übermittlung ins Ausland.
4. Ein Eintrag im Verzeichnis der Verarbeitungstätigkeiten. Den vergisst fast jeder.

Dazu kommt seit Februar 2025 die europäische KI-Verordnung. Sie verlangt von Unternehmen, die KI einsetzen, dass ihre Mitarbeiter ausreichend geschult sind. Eine kurze, dokumentierte Einweisung genügt in den meisten Betrieben. Fehlen darf sie nicht.

Alles, dessen Offenlegung Ihnen oder Ihren Kunden ernsthaft schaden würde, unabhängig vom Vertrag. In der Praxis sind das:

• Gesundheitsdaten, Personalakten, Bewerbungsunterlagen
• Zugangsdaten, Passwörter, Sicherheitscodes
• Daten, die einem Berufsgeheimnis unterliegen, etwa bei Steuerberatern, Ärzten oder Anwälten, solange das nicht gesondert geregelt ist
• Ihre Geschäftsgeheimnisse, also Kalkulationen, Rezepturen, Konstruktionen, Kundenkonditionen

Beim letzten Punkt geht es um mehr als Datenschutz. Geschäftsgeheimnisse sind rechtlich nur geschützt, solange Sie angemessene Maßnahmen zu ihrer Geheimhaltung treffen. Wer sie in ein privates KI-Konto kopiert, schwächt diesen Schutz selbst.

Ein Errichter von Sicherheitstechnik aus der Region hat sich im Sommer für KI im Büro entschieden. Eine der wichtigsten Fragen im Workshop war deshalb, was die KI wissen darf. Bei diesem Betrieb sind Alarmcodes, Zutrittspläne und Anlagendokumentationen buchstäblich die Anleitung, wie man in ein Gebäude kommt, ohne dass es jemand merkt.

Das Ergebnis war ein eigener Zugang, bei dem der Betrieb selbst Vertragspartner ist und die Verarbeitung in einem Rechenzentrum in Frankfurt stattfindet. Damit ist geregelt, was der Anbieter mit den Daten tun darf. Wer im eigenen Haus über die KI welche Daten zu sehen bekommt, ist damit noch nicht geregelt.

Diesen zweiten Punkt haben wir dort bewusst offen benannt, statt ihn wegzumoderieren: Die Regeln, die man einer KI mitgibt, sind Verhaltensregeln. Eine echte Zugriffskontrolle ersetzen sie nicht.

Das Verbot ist die bequemste Antwort und die schlechteste. Es sorgt nicht dafür, dass weniger KI genutzt wird. Es sorgt dafür, dass sie heimlich über private Konten genutzt wird, und dann haben Sie genau das Problem, das Sie vermeiden wollten.

Besser sind drei Schritte, in dieser Reihenfolge:

1. Einen geschäftlichen Zugang bereitstellen, mit Vertrag zur Auftragsverarbeitung. Das kostet so viel wie eine weitere Softwarelizenz pro Person, nicht wie ein Projekt.
2. Eine Nutzungsregel auf einer Seite: welche Daten hinein dürfen, welche nicht, und dass Ergebnisse vor dem Versand ein Mensch liest.
3. Eine kurze Einweisung für alle, die den Zugang nutzen, mit Datum dokumentiert.

Was ein vollständiger KI-Arbeitsplatz darüber hinaus leistet, beschreiben wir auf einer eigenen Seite. Wofür er im Alltag taugt, steht in unserem Beitrag über KI im Handwerksbetrieb, und den Überblick finden Sie unter KI im Mittelstand.

Wenn Sie wissen wollen, wo Ihr Betrieb gerade steht: Wir schauen mit Ihnen an, wer bei Ihnen welche KI nutzt, und schreiben mit Ihnen die eine Seite Regeln, die dazu passt. Für Betriebe in Hohenlohe und um Heilbronn kommen wir dafür vorbei.