Schatten-KI: Das unsichtbare Risiko in Unternehmen und Kanzleien

Was Schatten-KI ist

Schatten-KI bezeichnet KI-Werkzeuge, die Mitarbeitende ohne Wissen und Freigabe der Leitung nutzen: das private ChatGPT-Konto für den Entwurf, eine kostenlose Übersetzungs-App für das Vertragsdokument, ein Browser-Plugin, das E-Mails zusammenfasst. Die Arbeit wird schneller, deshalb passiert es. Nur läuft sie damit über Systeme, die niemand geprüft, niemand freigegeben und niemand im Blick hat.

Wie verbreitet das Problem ist

Das Deutsche Anwaltsblatt beziffert die Wahrscheinlichkeit, dass in einer Organisation mit mehr als fünf Mitarbeitenden bereits Schatten-KI im Einsatz ist, auf 70 bis 80 Prozent, gestützt auf Beobachtungen aus KI-Seminaren in Kanzleien. Es gibt keinen Grund anzunehmen, dass andere Branchen darunterliegen. Realistisch ist die Frage also nicht, ob im eigenen Betrieb ungenehmigte KI läuft, sondern welche und mit welchen Daten.

Warum das riskant ist: Wer nicht zahlt, zahlt mit Daten

Kostenlose KI-Dienste finanzieren sich häufig über die Eingaben ihrer Nutzer: Was eingegeben wird, kann in das Training der nächsten Modellgeneration fließen. Einmal in Trainingsdaten gelandet, lassen sich Informationen praktisch nicht mehr zurückholen. Für Personaldaten und Geschäftsgeheimnisse ist das ein Datenschutz- und Compliance-Problem; für Kanzleien geht es zusätzlich um die anwaltliche Verschwiegenheit (§ 43a Abs. 2 BRAO, § 203 StGB): Mandantendaten haben in unkontrollierten Systemen nichts verloren. Dazu kommt eine neue Risikoklasse: KI-Agenten, die selbstständig handeln, können gut gemeint Schaden anrichten, bis hin zu gelöschten Postfächern oder überschriebenen Kundendaten, wie ein dokumentierter Fall aus dem Jahr 2025 zeigt.

Die Rechtslage: Betreiber ist man schneller als gedacht

Wer KI im Betrieb einsetzen lässt, und sei es nur ein ChatGPT-Abo für die Mitarbeitenden, ist Betreiber im Sinne der EU-KI-Verordnung. Damit greift Art. 4: die Pflicht, für ein ausreichendes Maß an KI-Kompetenz des Personals zu sorgen, also zu Risiken wie Halluzinationen, Bias, Datenschutz und eben Schatten-KI zu schulen. Zur ehrlichen Einordnung gehört: Art. 4 ist nicht unmittelbar bußgeldbewehrt. Ernst zu nehmen ist die Pflicht trotzdem, denn seit dem 2. August 2026 ist die Bundesnetzagentur als Marktüberwachungsbehörde aktiv, und bei Schäden oder Datenschutzverstößen wirkt eine fehlende Schulung als Organisationsverschulden gegen Unternehmen und Geschäftsleitung. Die Details stehen in unserem Beitrag zur KI-Schulungspflicht nach Art. 4.

Warum ein Verbot nicht funktioniert

Der Reflex, KI einfach zu verbieten, löst das Problem nicht, er verschiebt es nur tiefer in den Schatten. KI-Nutzung zu untersagen ist heute ungefähr so realistisch wie ein Verbot der Internetrecherche. Wer keine offizielle Lösung anbietet, sorgt dafür, dass Mitarbeitende private Konten nutzen, ohne es zuzugeben. Der belastbare Weg ist der umgekehrte: eine geprüfte, datenschutzkonforme KI-Lösung bereitstellen, deren Nutzung erlauben und klar regeln, was hinein darf und was nicht.

Was Unternehmen und Kanzleien jetzt tun sollten

• Bestandsaufnahme ohne Schuldzuweisung: Welche KI-Tools sind tatsächlich im Einsatz, offiziell und inoffiziell?
• Eine freigegebene KI-Lösung bereitstellen, statt auf private Konten zu hoffen.
• Schriftliche KI-Nutzungsregeln: erlaubte Tools, verbotene Eingaben, Freigabeprozess für neue Werkzeuge.
• Mitarbeitende zu Risiken schulen, Halluzinationen, Bias, Datenschutz, Schatten-KI, und die Teilnahme dokumentieren.
• In Kanzleien: Mandantendaten-Regeln ausdrücklich festhalten, die Verschwiegenheitspflicht gilt auch gegenüber KI-Anbietern.
• Betriebsrat einbinden, sobald Systeme überwachungsgeeignet sind (§ 87 BetrVG).