KI-Datensicherheit für Unternehmen: Kundendaten in automatisierten Systemen schützen

Wer Anrufe, Chats und Terminbuchungen von einer KI bearbeiten lässt, gibt Kundendaten in ein weiteres System. KI-Datensicherheit heißt deshalb vor allem: wissen, welche Daten wohin fließen, wer darauf zugreift und wie lange sie gespeichert bleiben. Dieser Beitrag zeigt die typischen Schwachstellen, die wichtigsten Schutzmaßnahmen und die Fragen, die Sie jedem Anbieter stellen sollten.

Welche Kundendaten in automatisierten Systemen anfallen

Ein Beispiel aus dem Alltag: Eine Steuerkanzlei lässt Anrufe außerhalb der Bürozeiten von einem KI-Assistenten annehmen. Schon beim ersten Gespräch entstehen mehrere Datenspuren. Die Telefonnummer des Anrufers, eine Aufzeichnung oder ein Transkript des Gesprächs, eine Zusammenfassung mit Name und Anliegen, ein Eintrag im CRM und vielleicht eine Terminbestätigung per SMS. Jede dieser Spuren liegt an einem anderen Ort und hat ein eigenes Risiko.

Ähnlich im Kosmetikstudio, das Buchungen über WhatsApp abwickelt. Dort erwähnt eine Kundin nebenbei ihre Hautallergie. Aus einer harmlosen Terminanfrage wird so ein Datensatz mit Gesundheitsangaben, und für solche Daten gelten nach Art. 9 DSGVO strengere Regeln. Automatisierte Systeme sammeln oft mehr, als man beim Einrichten im Kopf hatte. Deshalb steht am Anfang jeder Sicherheitsüberlegung eine einfache Bestandsaufnahme.

Die häufigsten Schwachstellen bei KI-Systemen

Die meisten Datenpannen in kleinen Unternehmen entstehen nicht durch raffinierte Angriffe, sondern durch alltägliche Nachlässigkeit. Bei KI-Systemen kommen ein paar neue Punkte hinzu.

Zu weite Zugriffsrechte

Der KI-Assistent braucht Zugriff auf den Kalender, vielleicht auf das CRM. Wird dabei aus Bequemlichkeit ein Administratorkonto verwendet, kann das System mehr lesen und ändern, als es für seine Aufgabe braucht. Gleiches gilt für Mitarbeiterkonten im Anbieterportal, die nach einem Personalwechsel nicht gelöscht werden.

Daten, die im Modell landen

Manche KI-Dienste nutzen Eingaben, um ihre Modelle weiterzuentwickeln. Für Kundendaten ist das in aller Regel nicht akzeptabel. Klären Sie vertraglich, dass Ihre Gesprächsinhalte nicht für das Training verwendet werden, und lassen Sie sich das schriftlich bestätigen.

Manipulierte Eingaben

Sprachmodelle reagieren auf Text. Ein Angreifer kann versuchen, den Assistenten mit geschickt formulierten Nachrichten dazu zu bringen, interne Informationen preiszugeben oder Regeln zu umgehen. Fachleute sprechen von Prompt Injection. Die wirksamste Gegenmaßnahme ist banal: Der Assistent sollte gar keinen Zugriff auf Daten haben, die er nicht herausgeben darf.

Fehlende Löschung

Transkripte und Chatverläufe sammeln sich still an. Wer keine Löschfristen festlegt, hat nach zwei Jahren ein umfangreiches Archiv sensibler Gespräche, das niemand mehr braucht, das aber bei einem Vorfall vollständig betroffen wäre.

KI-Datensicherheit in der Praxis: acht Maßnahmen

Die DSGVO verlangt in Art. 32 angemessene technische und organisatorische Maßnahmen. Für ein kleines oder mittleres Unternehmen bedeutet das konkret:

1. Datenfluss aufzeichnen. Skizzieren Sie auf einer Seite, welche Daten der Assistent erhebt, wo sie gespeichert werden und an welche Systeme sie weitergehen.
2. Datensparsam konfigurieren. Fragen Sie nur ab, was für den Zweck nötig ist. Für eine Terminbuchung reichen meist Name, Kontaktweg und Anlass.
3. Auftragsverarbeitungsvertrag abschließen. Nach Art. 28 DSGVO brauchen Sie mit jedem Dienstleister, der Kundendaten in Ihrem Auftrag verarbeitet, einen solchen Vertrag, einschließlich der Liste seiner Unterauftragnehmer.
4. Serverstandort prüfen. Datenhaltung in der EU vereinfacht die rechtliche Lage erheblich. Bei Übermittlungen in Drittländer sind zusätzliche Garantien nötig.
5. Rollen und Rechte vergeben. Jeder Mitarbeiter bekommt ein eigenes Konto mit den Rechten, die er braucht, abgesichert mit Zwei-Faktor-Anmeldung.
6. Löschfristen festlegen. Bestimmen Sie, wie lange Transkripte, Chatverläufe und Aufzeichnungen aufbewahrt werden, und lassen Sie die Löschung automatisch laufen.
7. Regeln für sensible Themen definieren. Gesundheitsangaben, Bankdaten oder Ausweisnummern sollte der Assistent nicht abfragen und bei Bedarf an einen Menschen übergeben.
8. Notfallablauf klären. Wer wird informiert, wenn etwas schiefgeht? Eine Datenschutzverletzung mit Risiko für Betroffene müssen Sie der Aufsichtsbehörde in der Regel innerhalb von 72 Stunden melden.

Dazu gehört Transparenz gegenüber den Kunden: Die Datenschutzerklärung nennt den Einsatz des Assistenten, und der Assistent stellt sich zu Beginn als KI vor. So verlangt es der EU AI Act für Systeme, die direkt mit Menschen kommunizieren, und Kunden wissen von Anfang an, woran sie sind. Mehr zur rechtlichen Seite finden Sie im Beitrag DSGVO und KI-Chatbots.

Fragen, die Sie jedem KI-Anbieter stellen sollten

Die Sicherheit eines automatisierten Systems hängt stark vom Anbieter ab. Diese Tabelle können Sie im Auswahlgespräch direkt verwenden:

Frage	Worauf Sie achten sollten
Wo werden die Daten gespeichert und verarbeitet?	Konkreter Standort in der EU, auch für Backups und Unterauftragnehmer
Werden Gesprächsinhalte für das Training genutzt?	Klare vertragliche Zusage, dass dies nicht geschieht
Gibt es einen Auftragsverarbeitungsvertrag?	Vorlage sofort verfügbar, mit Liste der Unterauftragnehmer
Wie sind Zugriffe geregelt und protokolliert?	Rollenkonzept, Zwei-Faktor-Anmeldung, nachvollziehbare Protokolle
Wie lassen sich Daten löschen oder exportieren?	Einstellbare Löschfristen, Export bei Vertragsende
Welche Nachweise zur Informationssicherheit gibt es?	Dokumentierte Maßnahmen, ehrliche Angaben zum Stand von Zertifizierungen

Wenn ein Anbieter bei diesen Fragen ausweicht, ist das bereits eine Antwort. Eine ausführliche Liste bietet unsere Checkliste zur Anbieterauswahl, warum der Standort so wichtig ist, erklärt der Vergleich EU vs. US Datenhosting.

Neurobots betreibt seine digitalen Mitarbeiter DSGVO-konform auf Servern in Frankfurt. Eine Zertifizierung nach ISO 27001 ist in Vorbereitung. Was dieser Standard bedeutet und wie Sie Angaben dazu einordnen, lesen Sie im Beitrag Warum ISO 27001 bei der Auswahl eines KI-Anbieters wichtig ist.

Wo Technik allein nicht reicht

Ein sicherer Anbieter hilft wenig, wenn intern Passwörter auf Zetteln am Bildschirm kleben oder Chatverläufe zur Abstimmung per privater Messenger-App weitergeleitet werden. Schulen Sie das Team kurz: welche Daten in welches System gehören, wie man eine verdächtige Nachricht erkennt, wen man bei einem Vorfall anruft. Seit Februar 2025 verlangt der EU AI Act außerdem, dass Mitarbeiter, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Eine kurze, dokumentierte Einweisung ist ein guter Anfang.

Bei Berufsgeheimnisträgern wie Ärzten, Anwälten oder Steuerberatern kommt die Schweigepflicht hinzu. Externe Dienstleister müssen dort zusätzlich zur Verschwiegenheit verpflichtet werden. Lassen Sie diesen Punkt vor dem Start von Ihrer Kammer oder einem Fachanwalt prüfen. Und wenn Ihr Geschäft fast ausschließlich hochsensible Einzelfälle betrifft, kann es sinnvoll sein, die KI nur für Terminorganisation einzusetzen und alle inhaltlichen Gespräche beim Menschen zu lassen.

Häufige Fragen

Ist ein KI-Assistent unsicherer als ein Mitarbeiter am Telefon?

Nicht grundsätzlich. Ein gut konfigurierter Assistent hält sich an feste Regeln, fragt nur ab, was vorgesehen ist, und protokolliert jeden Vorgang. Das Risiko liegt eher in der Einrichtung: zu weite Rechte, fehlende Löschfristen oder ein Anbieter ohne klare Verträge.

Muss ich meine Kunden über den Einsatz der KI informieren?

Ja. Die Datenschutzerklärung muss die Verarbeitung beschreiben, und der EU AI Act sieht vor, dass Menschen erfahren, wenn sie mit einer KI sprechen. Ein kurzer Hinweis zu Beginn des Gesprächs genügt in der Praxis.

Brauche ich eine Datenschutz-Folgenabschätzung?

Das hängt von Art und Umfang der Daten ab. Werden in größerem Umfang Gesundheitsdaten oder andere besonders schützenswerte Informationen verarbeitet, ist sie häufig nötig. Klären Sie das mit Ihrem Datenschutzbeauftragten, bevor das System live geht.

Wer haftet bei einer Datenpanne beim Anbieter?

Gegenüber Ihren Kunden bleiben Sie als Verantwortlicher in der Pflicht. Der Auftragsverarbeitungsvertrag regelt, wie der Anbieter Sie unterstützen muss und wie die Verantwortung intern verteilt ist. Deshalb lohnt sich ein genauer Blick in diesen Vertrag.

Fazit

KI-Datensicherheit ist kein Sonderprojekt, sondern ordentliche Grundarbeit: Datenflüsse kennen, sparsam erheben, Rechte eng vergeben, Löschfristen setzen und einen Anbieter wählen, der Ihre Fragen klar beantwortet. Wer diese Punkte vor dem Start erledigt, kann Kundenanfragen automatisieren, ohne die Kontrolle über die Daten abzugeben.

Wie ein solcher Assistent in einem besonders vertraulichen Umfeld eingerichtet wird, zeigt die Seite Digitale Kanzleiassistenz für Anwälte.