Was sind die Risiken der Schatten-KI und wie können Führungskräfte eine Unternehmenskultur der Sicherheit aufbauen?

Ihre IT-Abteilung ist geschult und auf dem neuesten Stand, was die KI angeht, und Sie glauben, dass Sie und Ihr Unternehmen alles unter Kontrolle haben? Dann haben Sie die Rechnung ohne Schatten-KI gemacht. Das Problem wird immer größer, was gerade jüngste Fälle weltweit zeigen. Wussten Sie zum Beispiel, dass mehr als ein Drittel der Angestellten in Umfragen zugibt, sensible Daten ohne Rücksprache auf KI-Plattformen zu teilen? (Cybsafe) 

Dabei fließt die Schatten-KI meist nicht mit bösem Willen in das System ein. „Was ist Schatten-KI?“, werden Sie sich fragen. Es sind Anwendungen, die Mitarbeitende ohne Rücksprache mit der IT-Abteilung zur Steigerung der Produktivität benutzen. Dadurch erhöht sich aber nicht nur der potenzielle Output, sondern auch die Angriffsfläche der Unternehmen. Compliance-Brüche, Copyright-Fragen, aber auch konkrete Datenlecks verursachen hohe Kosten und untergraben das Vertrauen in den Konzern. 

Entsprechend wichtig ist es, sich als moderne Führungskraft mit dem Thema Schatten-KI zu beschäftigen und einen pragmatischen Umgang damit zu finden. Bisher hat laut Heise Online nur ein Viertel aller Unternehmen konkrete Regeln zum KI-Einsatz eingeführt. Reine Verbote funktionieren dabei nicht. Intensive Mitarbeiterschulungen und die gezielte Suche nach der Schatten-KI sind wirksamer, um negative Folgen einzuschränken.

„38 % aller Angestellten geben zu, sensible Daten ohne Absprache auf KI-Plattformen zu teilen“ – Cybsafe

Was ist Schatten-KI?

Das Softwarehaus IBM definiert Schatten-KI als eine „nicht genehmigte Nutzung von Tools und Anwendungen künstlicher Intelligenz (KI) durch Mitarbeiter oder Endbenutzer, ohne formelle Genehmigung oder Aufsicht durch die IT-Abteilung.“

Ein klassisches Beispiel ist dabei die Verwendung von ChatGPT. Es müssen Aufgaben zur Textbearbeitung oder Analyse erledigt werden? KI löst das Problem in wenigen Sekunden. Diese Verlockung kennen sicher die meisten Mitarbeitenden und Führungskräfte. Da werden selbst sensible Daten in die Maske von ChatGPT, Claude oder DeepSeek eingegeben, um schnell zum Ergebnis zu kommen. 

Dadurch werden Informationen aber mit externen Anbietern geteilt. Gleichzeitig können Produkte erzeugt werden, die gegen Compliance- oder Copyright-Regeln verstoßen. Während Chat-Bots eine eindeutige Anwendung von Schatten-KI sind, fallen eingebettete Programme wie Canva, Notion oder Grammarly weniger auf, können aber ebenfalls zu Sicherheitslücken führen. Die Intention der beteiligten Akteure ist dabei nicht böswillig. Es geht ihnen um mehr Produktivität und den Erfolg des Unternehmens. Ohne Schulung läuft die Schatten-KI aber aus dem Ruder. Bereits heute nutzen 78 % aller KI-User ihr privates Tool bei der Arbeit, 60 % davon mit unkontrollierten KI-Apps. Das führt dazu, dass laut Microsoft bis 2024 mindestens eine von fünf Firmen Regelbrüche durch Schatten-KI berichten musste.

Warum die Schatten-KI schneller wächst als Kontrollmechanismen

Viele Umfragen zeigen mittlerweile, dass die Verlockung, KI-Tools bei der Arbeit zu verwenden, extrem gewachsen ist. Da die Programme einfach zugänglich sind und oft im Homeoffice gearbeitet wird, steigt die Nutzung exponentiell. Laut McKinsey kannten sich 2024 schon 94 % der Angestellten mit generativen KI-Werkzeugen aus. Dabei hat der „Bring Your Own AI“-Trend auch viel mit der Unwilligkeit von Führungskräften zu tun, das Problem gezielt anzugehen und Kontrollmechanismen zu etablieren. Gründe für die gestiegene Verwendung sind beispielsweise folgende: 

• KI-Tools sind heute einfach und oft kostenlos für die Mitarbeitenden zugänglich.
• Durch Remote- und Hybrid-Arbeit ist die Kontrolle durch Vorgesetzte geringer. Die Verlockung ist groß, Schatten-KI zur Optimierung der eigenen Arbeit zu verwenden.
• Der Druck, die Produktivität zu steigern und schneller zu liefern, ist enorm gewachsen.
• KI-Funktionen werden zunehmend in tägliche SaaS-Produkte integriert, sodass es bisweilen schwer ist, versteckte Schatten-KI überhaupt zu bemerken. 
• Unternehmen reagieren nicht schnell genug auf die KI-Verwendung, zum Beispiel, indem sie eigene KI-Modelle entwickeln.

Was sind die Risiken der Schatten-KI?

Schatten-KI kann bei unkontrollierter Verwendung zu verschiedenen Risiken und Konsequenzen führen. Dies können Probleme rund um Datensicherheit, Datenschutz, Leaks, Compliance und Copyright sein. Dazu kommen fehlerhafte Ergebnisse, die sich durch Halluzinationen der KI in die Produkte einschleichen. Typische Risiken der Schatten-KI sind u. a.:  

• Datenlecks und IP-Veröffentlichung: Sensible Daten wie Informationen über Kunden, interne Dokumente oder IP-Adressen können durch die Verwendung nicht genehmigter KI-Tools nach außen gelangen. Dazu kommt es, wenn Mitarbeitende Daten in ein KI-Tool eines Drittanbieters eingeben. Diese werden dort gespeichert und eventuell in einer Cloud gelagert, wodurch sie der reinen Kontrolle durch das Unternehmen entzogen werden. Im schlimmsten Fall gelangen die Informationen dann über den KI-Anbieter in die Öffentlichkeit.
• Compliance-Probleme: Die ungenehmigte Verwendung von KI-Tools kann zu Verstößen gegen Gesetze wie dem EU AI Act oder der Allgemeinen Datenschutzverordnung (DSGVO/GDPR) führen. Bei Verstößen gegen solche Datenschutzregelungen drohen hohe Geldbußen. Im Falle der DSGVO liegen diese bei bis zu 20 Mio. Euro oder 4 % des weltweiten Unternehmensumsatzes. Der finanzielle Schaden durch Schatten-KI kann somit erheblich sein.  
• Falsche Ergebnisse und Entscheidungen durch Halluzinationen des LLM: Gerade bei komplexen Themen tendieren LLMs zu Halluzinationen – laut Stanford HAI bis zu 82 % US-Forscher haben laut Handelsblatt zudem herausgefunden, dass verallgemeinernde Angaben und konkrete Fehler im medizinischen Bereich häufig vorkommen. Solche Halluzinationen können im schlimmsten Fall zu „Fehldiagnosen und falschen Behandlungen“ führen. 
• Rufschäden: Aktuelle Umfragen zeigen, dass KI-Verstöße im Schnitt finanzielle Schäden von mehr als 4 Mio. US-Dollar verursachen. Das betrifft nicht zuletzt auch den Reputationsschaden, der mit Copyright-Brüchen, fehlerhaften Produkten und unbewusster KI-Anwendung einhergeht. Verlieren die Kunden Vertrauen in das Unternehmen, sinken die Umsätze. Zuletzt bekam Uber Eats erheblichen Gegenwind, als fehlerhafte, KI-generierte Bilder den ungeprüften Einsatz der Technologie offenbarten.
• Erweiterte Angriffsfläche: Vor allem die ungeprüfte Verwendung von unsicheren APIs und eine nicht genehmigte Integration von KI-Tools können die Angriffsfläche für Schadsoftware ausweiten. Möchten kriminelle Kräfte in Ihr System eindringen, Daten stehlen oder Fehler in den Codes platzieren, werden die Angriffspunkte durch die Schatten-KI immer größer. Nur durch interne Lösungen kann die Angriffsfläche, wieder eingegrenzt werden. 
• Mangel an erklärbaren Entscheidungen: Wenn viele Prozesse auf einmal durch KI entschieden werden, können diese Entscheidungen nicht mehr nachvollzogen werden. Somit fehlt letztlich die Dokumentation für diverse Vorgänge, es können keine kontrollierbaren Praktiken mehr aufgebaut werden und Reproduzierbarkeit und Best Practices gehen verloren.

Was unterscheidet die Kontrolle von Schatten-KI vom Management der Schatten-IT?

Bei Schatten-IT handelt es sich um die nicht genehmigte Verwendung von Software, Hardware oder Geräten, die nicht von der IT-Abteilung eines Unternehmens kontrolliert werden (vgl. IBM). Schatten-KI geht aber einen Schritt weiter, weil sich die Nutzung noch stärker der Kontrolle des Unternehmens entzieht. Während Schatten-IT grundsätzlich noch aufspürbar ist, verschwinden die Daten bei der Schatten-KI im schlimmsten Fall in den Weiten der externen Clouds. 

Der maßgebliche Unterschied ist, dass KI wesentlich versteckter agiert als Schatten-IT. Sie befindet sich nicht nur in den bewusst verwendeten Chatbots, sondern auch in diversen Programmen. So hat Textverarbeitungssoftware wie Microsoft 365 einen integrierten Spam-Filter, der im Hintergrund auf Basis von KI operiert. Dieses Programm liest also alle Ihre Mails mit, in erster Linie, um nach Werbeinhalten Ausschau zu halten (Grip). Gleichzeitig eröffnen sich damit aber auch Einfallstore für Datendiebstahl. Mit diesem Problem umzugehen, ist wesentlich komplexer als mit den Herausforderungen klassischer Schatten-IT. 

Gleichzeitig produziert die KI eben nicht nur klassische Ergebnisse und arbeitet Aufgaben ab. Im Unterschied zu anderer Software bringt KI auch Vorurteile mit, die durch die Fütterung mit verschiedenen Daten entstehen. Unternehmen stehen also ganz neuen Fragen im Bereich effizienter und sicherer Governance gegenüber, bei der Datenmanagement, Outputqualität und automatisierte Entscheidungen eine wichtige Rolle spielen.

Warum es unrealistisch (und kontraproduktiv) ist, Schatten-KI aufhalten zu wollen

Der Kampf gegen Schatten-KI ist im Grunde ein moderner Kampf gegen Windmühlen. Natürlich können Unternehmen Verbote aussprechen. Angesichts der großen Verfügbarkeit von KI-Tools und des gestiegenen Drucks werden aber viele Mitarbeitende versuchen, diese Vorgaben zu umgehen. Ein komplettes Verbot könnte sogar kontraproduktiv sein. Denn so verschwinden die KI-Tools noch stärker im Dunklen, weil sie dann geheim unterhalb der Oberfläche genutzt werden. Somit können sie schwerer kontrolliert und überwacht werden. Je stärker sanktioniert und z. B. mit Detection-Werkzeugen gearbeitet wird, desto einfallsreicher wird das Personal. Grundsätzlich ist nichts gegen die Funktionalität der KI-Helfer einzuwenden. Eigeninitiative kann durchaus Produktivität und Innovation steigern. Es ist jedoch wichtig, den Einsatz von KI in die richtigen Bahnen zu lenken und zu überwachen. Fakt ist: Schatten-KI existiert in Ihrem Unternehmen bereits. Die Frage ist, wie sie sichtbar und sicher gemacht werden kann.

Die Lösung: Schatten-KI durch menschliche Instanzen kontrollieren

Das größte Problem beim richtigen Umgang mit der Schatten-KI ist, dass viele Mitarbeitende nicht ausreichend geschult werden und keinen offenen Umgang mit den Systemen pflegen. So fand KPMG heraus, dass die meisten Angestellten heimlich auf KI zurückgreifen und dabei häufig Fehler machen (Business Insider). Die Lösung muss also beim Menschen und nicht bei der Schatten-KI an sich ansetzen. Bewusstsein für die Gefahren des KI-Einsatzes und das Urteilsvermögen der Belegschaft sind die erste Verteidigungslinie, um Datenlecks, Compliance-Probleme und andere Risiken im Zusammenhang mit nicht genehmigter KI zu verhindern. 

Anstatt die Anwendungen zu blockieren, müssen die Unternehmen selbst zum Innovationstreiber werden. Derzeit kommt der Druck immer noch von unten. Klüger ist es dagegen, selbst das Zepter in die Hand zu nehmen, Systeme selbst bereitzustellen und sie damit auch kontrollieren zu können. Viele Organisationen haben bereits jetzt Vorgaben und Schulungen eingeführt, mit denen die Teams in einer Übergangsphase zur fest verankerten KI in Unternehmen arbeiten können. 

Pragmatische Ansätze sind während der Transition erste Wahl. Als Erstes sollten die Mitarbeitenden umfassend geschult werden. Das betrifft die Gefahren von Datenlecks genauso wie die richtige Beurteilung der von der KI erzeugten Ergebnisse. Zeigen Sie Ihrem Personal, dass die LLMs nicht unfehlbar sind und häufig halluzinieren. Deren Ausgaben unkritisch zu sehen, garantiert den Aufbau einer langen Fehlerkette.  

Führungskräfte sollten daher vier praktische Fokuspunkte im Auge behalten: 

1. Verantwortungsvolle Nutzung definieren: Setzen Sie klare Grenzen bei den Daten, die in KI-Tools eingegeben werden dürfen. Es sollte klar sein, für welche Informationen unbedingt menschliche Bearbeitende und Genehmigungen benötigt werden. Verständliche Richtlinien helfen dem Personal dabei, die richtige Entscheidung zu fällen.
2. Schatten-KI im ganzen Unternehmen sichtbar machen: Das größte Problem der Schatten-KI ist, dass sie im Verborgenen agiert. Sie sichtbar zu machen, ist also eine der Hauptaufgaben für Führungskräfte, die moderne Risiken umgehen möchten. Das bedeutet u. a., dass eine Inventarliste mit allen integrierten Programmen wie Browser Extensions aufgestellt werden sollte. 
3. Sichere und vertrauenswürdige Tools festlegen: Anstatt KI zu verbieten, sollten bestimmte Tools als sicher markiert werden. Durch die Prüfung und Bereitstellung bestimmter Werkzeuge fördern Sie das Vertrauen Ihrer Belegschaft in die Führungsebene und verhindern gleichzeitig die unnötige Ausweitung der Angriffsfläche. 
4. Training für mehr Bewusstsein zu KI-Tools einführen: Über sogenannte Awareness-Trainings mit KI-Fokus lässt sich das Bewusstsein für die Risiken in der Belegschaft schärfen. Das betrifft z. B. Prompt-Hygiene, das Kopieren und Einfügen sensibler Daten sowie Halluzinationen des Modells. 

Durch solche Maßnahmen kann das KI-Modell von einer nicht hinterfragbaren Autorität zu einem wichtigen Assistenten werden. Grundsätze wie „Überlegen Sie kurz, bevor Sie etwas einfügen“ oder „Klassifizieren Sie, bevor Sie einen Prompt schreiben“, können dabei helfen, die Risiken von Schatten-KI deutlich zu verringern.

Zusammenfassung: Risiken mit Menschen im Zentrum erfordern die Kontrolle durch den Menschen

KI-Tools sind aus unserem Alltag inzwischen nicht mehr wegzudenken. Entsprechend werden sie auch von Mitarbeitenden in Unternehmen ständig benutzt – ob erlaubt oder unerlaubt. Sie sind zu einer Realität geworden, mit der Führungskräfte richtig umgehen müssen.

Sich der Existenz der Schatten-KI bewusst zu werden und sie sichtbar zu machen, ist der erste Schritt zu mehr Sicherheit. So können die verwendeten, oft als Extensions operierenden Programme gezielt kontrolliert und geprüft werden. Risiken rund um Compliance, Datenschutz, Ruf und fehlerhafte Produkte lassen sich systematisch umgehen.Im Zentrum der Lösung steht die aktive Schulung der Mitarbeitenden. Studien von McKinsey haben ergeben, dass über 70 % der Angestellten darauf vertrauen, dass Arbeitgeber KI Tools verantwortungsvoll, sicher und ethisch angemessen einsetzen. Somit ist klar, dass die Hauptlast der Verantwortung auf den Führungskräften liegt, die einen sicheren Umgang mit den Tools gewährleisten müssen.