Schulungen zur Sensibilisierung der Mitarbeiter für KI: KI-Sicherheit, KI-Compliance und „Shadow AI“

Kurz gesagt: Schulungen zur KI-Sensibilisierung vermitteln Mitarbeitern die Fähigkeit, Angriffe zu erkennen, bei denen KI zum Einsatz kommt – wie beispielsweise von KI verfasste Phishing-E-Mails und Stimmklonierung (KI-Sicherheitsbewusstsein) – und KI-Tools am Arbeitsplatz so zu nutzen, dass keine Daten verloren gehen oder Vorschriften verletzt werden (KI-Compliance). Seit dem 2. Februar 2025 verpflichtet Artikel 4 des EU-KI-Gesetzes Organisationen, die KI-Systeme einsetzen, Maßnahmen zur Förderung der KI-Kompetenz ihrer Mitarbeiter zu ergreifen. Ein gutes Programm deckt beide Aspekte ab, stützt sich auf eine klare KI-Richtlinie und führt Aufzeichnungen darüber, wer geschult wurde.

KI birgt ebenso viele Chancen wie Risiken. Angreifer nutzen sie, um bessere Phishing-Angriffe zu entwickeln und Stimmen zu fälschen, während Mitarbeiter Kundendaten in öffentliche Chatbots einfügen, um zehn Minuten Zeit zu sparen.

Vergleich von Schulungen zu KI-Grundlagen, KI-Sicherheit und KI-Compliance

Viele Unternehmen legen den Schwerpunkt zunächst auf die Sicherheit, da diese Bedrohung unmittelbar ist. Die Einhaltung von Vorschriften ist jedoch ebenso dringend: Viele KI-Vorfälle gehen nicht auf einen Hacker zurück, sondern auf einen wohlmeinenden Mitarbeiter.

Wie KI die Bedrohungslage verändert

Von KI verfasste Phishing- und Social-Engineering-Angriffe

Früher verriet sich Phishing durch holprige Formulierungen und allgemeine Anreden. Generative KI beseitigt beides: Ein Modell kann das LinkedIn-Profil einer Person auswerten und eine E-Mail im Stil eines Kollegen verfassen – in einwandfreiem Niederländisch oder Deutsch, und zwar in beliebigem Umfang. Microsoft hat die Auswirkungen in seinem „Digital Defense Report 2025“ gemessen: KI-automatisiertes Phishing erreichte eine Klickrate von 54 Prozent – das ist 4,5-mal höher als bei herkömmlichem Phishing. Nach Rechtschreibfehlern zu suchen, funktioniert nicht mehr. Die Anfrage selbst zu beurteilen hingegen schon: Ist sie unerwartet, dringend, geht es um Geld oder Anmeldedaten? Unser Leitfaden „Was ist Phishing? “ behandelt die Grundlagen.

Forschung zu Malware und Sicherheitslücken mithilfe von Chatbots

Früher waren für das Schreiben von Malware oder die Erforschung von Sicherheitslücken erfahrene Hacker erforderlich. Im Oktober 2024 bestätigte OpenAI, dass es mehr als 20 böswillige Operationen vereitelt hatte, bei denen ChatGPT unter anderem zum Debuggen von Malware und zur Vorbereitung von Spear-Phishing missbraucht wurde. Das verschaffte den Angreifern zwar keine neuen Fähigkeiten, machte sie aber schneller. Die Folge für die Mitarbeiter: mehr Angriffe in ihrem Posteingang, auch von weniger erfahrenen Kriminellen.

Deepfakes und Stimmklonen

Ein Deepfake ist eine realistische gefälschte Video- oder Audioaufnahme einer realen Person. Im Jahr 2024 überwies ein Arup-Mitarbeiter in Hongkong rund 25,6 Millionen US-Dollar nach einem Videoanruf, bei dem der Finanzvorstand und andere Kollegen allesamt Deepfakes waren, wie CNN berichtete. Im selben Jahr versuchten Kriminelle, sich in einer Teams-Besprechung mithilfe eines Stimmklons als WPP-Vorstandsvorsitzender Mark Read auszugeben, was jedoch scheiterte, da die Mitarbeiter wachsam blieben. Im Februar 2025 überredete eine geklonte Stimme des italienischen Verteidigungsministers Guido Crosetto den Geschäftsmann Massimo Moratti, fast eine Million Euro zu überweisen. Das Geld konnte bis zu einem niederländischen Bankkonto zurückverfolgt und eingefroren werden. Weitere Fälle finden Sie in unseren Deepfake-Beispielen.

Der gleiche Trick wird auch bei Privatpersonen angewendet: ein Anruf, bei dem man die panische Stimme der eigenen Tochter hört, die um Geld bittet. Würden Sie zögern? Die meisten Menschen würden das nicht. Das Misstrauen gegenüber einer vertrauten Stimme ist genau der Reflex, den das Training aufbauen muss.

Shadow AI: Das Risiko, das von innen kommt

Unter „Shadow AI“ versteht man die Nutzung von KI-Tools, die vom Unternehmen nicht genehmigt wurden oder denen es keinen Einblick hat: ein kostenloser Chatbot auf einem privaten Konto, eine Browser-Erweiterung, die E-Mails zusammenfasst, oder ein KI-Notizprogramm für Besprechungen. Das Risiko liegt darin, was dort eingegeben wird. Kostenlose Versionen speichern möglicherweise Ihre Eingaben und nutzen diese zum Trainieren des Modells, und einmal eingefügte Kundendaten lassen sich nicht mehr rückgängig machen.

Im IBM -Bericht „Cost of a Data Breach Report 2025“ gab jedes fünfte der untersuchten Unternehmen einen Datenverstoß im Zusammenhang mit Schatten-KI an. Für Unternehmen mit einem hohen Anteil an Schatten-KI beliefen sich die Kosten eines Datenverstoßes im Durchschnitt auf 670.000 US-Dollar mehr als für Unternehmen mit geringem oder keinem Anteil an Schatten-KI. Nur 37 Prozent der Unternehmen verfügten über Richtlinien zum Management von KI oder zur Erkennung von Schatten-KI.

Die niederländische Datenschutzbehörde erhielt in den Jahren 2024 und 2025 Dutzende Meldungen über die Weitergabe sensibler Daten über Chatbots. Bei der Stadtverwaltung von Eindhoven ergab eine interne Stichprobe, dass Mitarbeiter über einen Zeitraum von dreißig Tagen vertrauliche Dokumente in öffentliche Chatbots eingegeben hatten, darunter auch Akten aus der Jugendhilfe, wie Accountant.nl im Dezember 2025 berichtete. Die Stadtverwaltung hat seitdem öffentliche KI-Websites gesperrt.

Das bloße Blockieren löst das Problem selten, denn KI spart den Menschen Zeit. Die dauerhafte Lösung besteht in einer klaren Richtlinie, einer genehmigten Alternative und Schulungen, in denen erklärt wird, warum es diese Regeln gibt.

Warum klassische Schulungen zur Sensibilisierung für Sicherheitsfragen nicht ausreichen

In vielen Schulungsprogrammen wird den Teilnehmern nach wie vor beigebracht, Tippfehler in E-Mails zu erkennen, die gar keine Tippfehler mehr enthalten, während nicht darauf eingegangen wird, was möglicherweise in einen Chatbot eingegeben wird. Schulungen zum Thema KI-Sicherheit konzentrieren sich auf KI-Bedrohungen, damit Mitarbeiter diese erkennen und melden können. Das ist wichtig, denn die meisten von uns überschätzen, wie gut wir Bedrohungen erkennen können – bis der IT-Leiter eine Phishing-Simulation durchführt und wir unsere Zugangsdaten eingeben.

Schulungen zur Einhaltung der KI-Vorschriften und das EU-KI-Gesetz

Der wichtigste rechtliche Anstoß in Europa ist das EU-KI-Gesetz, die Verordnung (EU) 2024/1689. Für Schulungen ist Artikel 4 maßgeblich. Seit dem 2. Februar 2025 verpflichtet er Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um die KI-Kompetenz der Mitarbeiter zu fördern, die in ihrem Auftrag mit KI arbeiten. Eine Organisation, deren Mitarbeiter Tools wie ChatGPT oder Copilot für ihre Arbeit nutzen, gilt im Allgemeinen als Betreiber. Der seit Juli 2026 geltende „Digital Omnibus“ zur KI hat diese Verpflichtung beibehalten, jedoch laut Europäischer Kommission die Anforderung, ein „ausreichendes“ Niveau zu erreichen, gestrichen. Die nationalen Behörden setzen die Vorschriften ab dem 2. August 2026 durch. Ein Zertifikat ist nicht erforderlich: Interne Schulungsunterlagen reichen aus. Was KI-Kompetenz in der Praxis bedeutet, wird auf unserer Seite zum Thema KI-Kompetenzschulungen erläutert.

Die Bußgelder nach dem KI-Gesetz betragen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes, doch diese Obergrenze gilt nur für verbotene Praktiken. In Artikel 99 wird Artikel 4 nicht als bußgeldpflichtige Verpflichtung aufgeführt. Das eigentliche Risiko: Nach einem Vorfall muss eine Organisation, die nicht nachweisen kann, dass sie ihre Mitarbeiter geschult hat, einiges erklären.

Schulungen zur Einhaltung von KI-Vorschriften machen Mitarbeiter und Führungskräfte mit Themen wie den folgenden vertraut:

• Risikokategorien: Erkennen, ob ein KI-System verboten ist, ein hohes Risiko darstellt oder beides nicht zutrifft
• Transparenz: Den Menschen mitteilen, wann sie es mit KI oder mit KI-generierten Inhalten zu tun haben
• Datenschutz: Was die DSGVO für personenbezogene Daten in Eingabeaufforderungen, Uploads und KI-Ergebnissen bedeutet
• Menschliche Kontrolle: Überprüfung der KI-Ergebnisse, bevor diese für Entscheidungen herangezogen werden, sowie Führung eines Prüfpfads

Richtlinien zur zulässigen Nutzung von KI: Was sie enthalten sollten

Schulungen ohne Richtlinien lassen die Mitarbeiter im Unklaren, und Richtlinien ohne Schulungen landen in der Schublade. Eine Richtlinie zur zulässigen Nutzung von KI legt die Regeln in verständlicher Sprache fest. Eine praktikable Richtlinie passt auf zwei Seiten und umfasst mindestens folgende Punkte:

• Zugelassene Tools: Welche KI-Tools dürfen verwendet werden, mit welchem Konto und wie kann ein neues Tool beantragt werden?
• Datenregeln: Welche Daten dürfen niemals in zugelassene Tools gelangen (personenbezogene Daten, Kundendateien, Quellcode, Verträge, Passwörter) und welche dürfen dort gespeichert werden?
• Überprüfung der Ausgabe: Die KI-Ausgabe ist ein Entwurf, und die Verantwortung für Fakten, Zahlen und Tonfall liegt weiterhin bei einer Person.
• Verbotene Verwendungszwecke: beispielsweise Entscheidungen über Personen ohne menschliche Überprüfung oder KI-Protokollführer in vertraulichen Besprechungen
• Meldung: Wo kann man einen Fehler melden – beispielsweise Daten, die in das falsche Tool eingefügt wurden –, ohne Angst vor Vorwürfen haben zu müssen?
• Verantwortung und Überprüfung: Wer ist für die Richtlinie verantwortlich und wie oft wird sie aktualisiert?

Durch Schulungen werden Richtlinien verinnerlicht, indem Regeln in konkrete Situationen umgesetzt werden. „Geben Sie keine personenbezogenen Daten ein“ ist abstrakt. Ein Kollege, der eine Kundenbeschwerde einschließlich der Adresse in einen kostenlosen Chatbot einfügt, ist es nicht. Wiederholt man solche Szenarien, wird die Richtlinie zur Gewohnheit. Das ist der Kern einer Kultur des Sicherheitsbewusstseins.

Was ein Schulungsprogramm zum Thema KI-Bewusstsein umfasst

So führen Sie KI-Schulungen für Mitarbeiter ein

1. Erfassen Sie die Nutzung von KI. Finden Sie heraus, welche Tools tatsächlich genutzt werden, von wem und wofür. Eine kurze, anonyme Umfrage gibt oft mehr Aufschluss als Netzwerkprotokolle.
2. Erstellen oder aktualisieren Sie die KI-Richtlinie und schlagen Sie für die gängigsten Anwendungsfälle eine genehmigte Alternative vor.
3. Legen Sie einen Ausgangswert fest. Führen Sie vor Beginn der Schulung eine Phishing-Simulation und einen kurzen Wissenscheck durch.
4. Trainieren Sie kontinuierlich in kurzen Einheiten. Ein jährlicher E-Learning-Kurs gerät schnell in Vergessenheit, während kurzes und regelmäßiges Mikrolernen das Wissen auf dem neuesten Stand hält.
5. Maßgeschneidert nach Rolle: Deepfake-Zahlungsaufforderungen für den Finanzbereich, gefälschte Bewerber für die Personalabteilung, Geheimnisse in KI-Tools für Entwickler, Governance für das Management.
6. Dokumentieren Sie alles: wer wann und in welchem Bereich geschult wurde sowie die Version der Richtlinie. Das sind Ihre Nachweise im Rahmen des KI-Gesetzes sowie bei NIS2- und ISO 27001-Audits.

Achten Sie darauf, dass das von Ihnen gewählte Programm ein KI-Modul enthält. Guardey bietet ein solches Modul: In kurzen, etwa dreiminütigen wöchentlichen Herausforderungen lernen die Mitarbeiter die neuesten KI-Bedrohungen kennen, wie beispielsweise Deepfakes. Phishing-Simulationen sind ebenfalls enthalten, Teams messen sich in Ranglisten und die Berichte werden von Prüfern für NIS2, ISO 27001 und mehr als 40 weitere Rahmenwerke akzeptiert.

Wie lässt sich messen, ob Schulungen zum Thema KI-Bewusstsein Wirkung zeigen?

Die Abschlussraten geben Aufrufe wieder, nicht das Nutzerverhalten. Messen Sie stattdessen das Nutzerverhalten:

• Ergebnisse der Phishing-Simulation: die Klickrate und – was noch wichtiger ist – die Melderate im zeitlichen Verlauf
• Shadow-AI-Signale: Datenverkehr zu nicht genehmigten KI-Tools und Warnmeldungen zur Datenverlustprävention – vor und nach dem Training
• Selbst gemeldete Fehler: Eine höhere Anzahl von Meldungen ist oft ein gutes Zeichen, da sich die Menschen trauen, sich zu äußern
• Teilnahme im Zeitverlauf: Eine gleichbleibende wöchentliche Teilnahme sagt mehr aus als ein einmaliger Anstieg nach einer Pflichtveranstaltung

Überprüfen Sie die Zahlen vierteljährlich und vergleichen Sie sie mit den neuen KI-Tools und den neuen Angriffstechniken. Ein Programm, das nicht mehrmals im Jahr aktualisiert wird, hinkt den Angreifern hinterher, die es eigentlich abwehren soll.

Häufig gestellte Fragen

Was ist eine Schulung zum Thema KI-Bewusstsein?

Schulungen, in denen Mitarbeiter lernen, wie Kriminelle KI bei Angriffen wie Deepfakes einsetzen und wie sie KI-Tools am Arbeitsplatz sicher und vorschriftsmäßig nutzen können. In der Regel handelt es sich dabei um kurze, regelmäßig wiederkehrende Module.

Was ist der Unterschied zwischen einer Schulung zum Sicherheitsbewusstsein im Bereich KI und einer Schulung zur Einhaltung von Vorschriften im Bereich KI?

Bei Schulungen zum Thema KI-Sicherheitsbewusstsein geht es um die Abwehr von Angriffen, bei denen KI zum Einsatz kommt, wie beispielsweise Phishing, Deepfakes und Stimmklonen. Bei Schulungen zum Thema KI-Compliance geht es um Ihre eigene Nutzung von KI: zugelassene Tools, Datenschutz, das EU-KI-Gesetz und die KI-Richtlinie des Unternehmens. Die meisten Organisationen benötigen beides.

Ist eine KI-Schulung für Mitarbeiter gemäß dem EU-KI-Gesetz verpflichtend?

Seit dem 2. Februar 2025 verpflichtet Artikel 4 Organisationen, die KI-Systeme einsetzen, die KI-Kompetenz ihrer Mitarbeiter zu fördern. Das Gesetz schreibt zwar keine bestimmten Kurse oder Zertifikate vor, doch in der Regel wird diese Anforderung durch dokumentierte Schulungen erfüllt.

Was ist „Shadow AI“?

Unter „Shadow AI“ versteht man die Nutzung von KI-Tools, die vom Unternehmen nicht genehmigt wurden – häufig handelt es sich dabei um kostenlose Chatbots auf privaten Konten. Das Hauptrisiko besteht darin, dass vertrauliche oder personenbezogene Daten in Tools gelangen, über die das Unternehmen keine Kontrolle hat.

Ist ein KI-gestütztes Schulungsprogramm zur Sensibilisierung für Sicherheitsfragen dasselbe wie ein KI-Sensibilisierungsprogramm?

Nein. Bei KI-gestützten Schulungen nutzt die Plattform selbst KI, beispielsweise zur Personalisierung von Inhalten. Bei Schulungen zum Thema KI-Bewusstsein geht es um KI als Thema. Eine Plattform kann beides leisten.