13. Oktober 2025 • Cyber security
KI birgt ungefähr genauso viele Chancen wie Risiken. Je mehr sie sich entwickelt, desto häufiger wird sie für Cyberangriffe missbraucht. Deshalb reagieren Regulierungsbehörden bereits mit strengen Regeln, und Unternehmen setzen auf KI-Awareness-Training für ihre Mitarbeiter.
In diesem Artikel erklären wir, wie KI neue Bedrohungen schafft, warum Schulungen notwendig sind und wie Sie effektive Schulungen implementieren können.
KI birgt neue Risiken für Unternehmen
Als ob wir nicht schon genug Bedrohungen zu bewältigen hätten, hat die KI-Technologie die Bedrohungslandschaft, wie wir sie kannten, verändert. Angreifer können KI nutzen, um ihre Angriffe zu skalieren und zu verfeinern, während ungeschulte Mitarbeiter versehentlich sensible Daten preisgeben könnten.
Wie Jeff Crume von IBM im Video unten sagt, scheint es, als könnten wir keine schönen Dinge wie KI haben.
Hier sind drei zentrale KI-gesteuerte Risiken.
KI-gestütztes Social Engineering und Phishing
Traditionelle Phishing-E-Mails waren oft leicht zu erkennen, da sie schlechte Sprache oder mangelnde Personalisierung aufwiesen. KI ermöglicht es Cyberkriminellen nun, überzeugende, personalisierte Nachrichten in großem Umfang zu generieren. Man denke an E-Mails oder Chats, die den Tonfall eines Kollegen oder Kunden perfekt imitieren.
Wie funktioniert das also? Stellen Sie sich vor, ein KI-Modell durchsucht all Ihre Social-Media-Beiträge, um Ihren Schreibstil, Ihre Persönlichkeit, Ihre Hobbys und so weiter herauszufinden. Mit diesen Informationen wird es viel einfacher, eine E-Mail zu verfassen, die aussieht, als käme sie von Ihnen.
Schwachstellen finden mithilfe von ChatGPT
Aufgaben, die früher erfahrene Hacker erforderten, wie das Programmieren von Malware oder das Auffinden von Schwachstellen, können heute (teilweise) von KI-Tools übernommen werden. Im Jahr 2024 bestätigte OpenAI, dass ChatGPT zur Entwicklung von Malware und zur Umgehung von Erkennung missbraucht wurde. Dies bedeutet, dass Angriffe schneller und in größerem Umfang durchgeführt werden können, selbst von weniger erfahrenen Kriminellen. Es ist nicht mehr nötig, Tage oder Wochen für das Schreiben von Malware aufzuwenden, wenn KI dabei helfen kann, dies in wenigen Stunden zu erledigen.
Deepfakes und KI-generierte Desinformation
Eine der gefährlichsten KI-Anwendungen ist der Deepfake: hyperrealistische Audio- oder Videofälschungen des Gesichts oder der Stimme einer Person. Deepfakes können verwendet werden, um einen CEO oder Kunden zu imitieren und Betrug zu begehen. Im Jahr 2024 versuchten Betrüger, den CEO von WPP in einem Teams-Anruf mithilfe eines Deepfakes zu imitieren. Der Vorfall zeigte, wie überzeugend Deepfake-Betrügereien sein können und welchen Schaden sie anrichten können.
Diese Angriffe finden auch im privaten Umfeld statt. Zunehmend nutzen Cyberkriminelle Social-Media-Inhalte, um Deepfakes von Eltern oder Kindern zu erstellen und Opfer dazu zu bringen, ihnen Geld zu senden. Stellen Sie sich vor: Sie erhalten einen Anruf und hören die panische Stimme Ihrer Tochter, die um Hilfe bittet. Würden Sie zögern? Die meisten Menschen würden es nicht tun. Wir sind es einfach nicht gewohnt zu hinterfragen, ob ein vertrautes Gesicht – oder eine Stimme – gefälscht sein könnte.
Die Bedeutung von AI Awareness Training
Mitarbeiter werden oft als das schwächste Glied in einer Cybersecurity-Strategie bezeichnet. Deshalb schulen viele Unternehmen ihre Mitarbeiter in den traditionelleren Security Awareness Themen wie Datenschutz, Passwörter und natürlich Phishing.
In vielen dieser etwas veralteten Schulungsprogramme wird jedoch KI nicht berücksichtigt.
AI Security Awareness Training konzentriert sich insbesondere auf KI-Bedrohungen, um sicherzustellen, dass Ihre Mitarbeiter KI-Bedrohungen erkennen und melden können, sobald sie darauf stoßen. Und das ist entscheidend, denn die meisten von uns überschätzen, wie gut sie Bedrohungen erkennen können. Wir halten uns nicht für anfällig für Phishing, bis der IT-Manager eine Phishing-Kampagne startet und wir unsere Bankdaten eingeben.
Die meisten Security Awareness Training-Lösungen bieten veraltete Trainingsinhalte an, und es ist entscheidend sicherzustellen, dass Sie Ihren Mitarbeitern nicht dieselben veralteten Inhalte anbieten. Denn Cyberkriminelle studieren täglich neue Taktiken.
Warum KI-Compliance-Training benötigt wird
Angesichts all der Risiken, die mit KI einhergehen, haben Regulierungsbehörden begonnen, strenge KI-bezogene Regeln einzuführen. Dies zwingt Organisationen, die KI nutzen möchten, sichere, transparente und verantwortungsvolle Praktiken zu gewährleisten. Deshalb greifen sie auf AI Compliance Training zurück.
Der wichtigste Treiber ist der EU AI Act, Europas neue KI-Verordnung. Das Gesetz verfolgt einen risikobasierten Ansatz und legt verschiedene Verpflichtungen fest. Artikel 4 verpflichtet Anbieter und Nutzer von KI-Systemen, eine ausreichende KI-Kompetenz bei ihren Mitarbeitern sicherzustellen. Mit anderen Worten: Schulen Sie Ihre Mitarbeiter, um KI-Risiken, -Chancen und -Verantwortlichkeiten zu verstehen. Diese Anforderung an die „KI-Kompetenz“ tritt ab Februar 2025 in Kraft, noch vor der vollständigen Einführung des AI Act im Jahr 2026. Die Zeit drängt, um internes KI-Know-how aufzubauen.
KI-Compliance-Training macht Mitarbeiter (und Führungskräfte) mit wesentlichen Themen vertraut, wie zum Beispiel:
- Risikokategorien (z. B. die Identifizierung, ob ein KI-System als „hochriskant“ einzustufen ist)
- Transparenzanforderungen (Benutzer informieren, wenn sie mit KI interagieren)
- Datenschutz (DSGVO)-Konformität (und der Umgang mit personenbezogenen Daten im Kontext von KI)
- Sicherheitsmaßnahmen (z.B. menschliche Aufsicht, Audit-Trails)
Der AI Act sieht bei Nichteinhaltung hohe Sanktionen vor, die bis zu 7 % des weltweiten Umsatzes betragen können. Diese Bußgelder sind höher als die aktuellen DSGVO-Sanktionen, die Organisationen in der Vergangenheit dazu veranlasst haben, stark in ihre Datenschutzinfrastruktur zu investieren.
Praktische Tipps für die Implementierung von AI Awareness und Compliance Training
- KI-Risiken erfassen und klare Richtlinien festlegen: Identifizieren Sie, wo und wie Ihre Organisation KI einsetzt und welche Risiken damit verbunden sind. Definieren Sie interne Regeln (z. B. zugelassene KI-Tools).
- An die Rolle anpassen: Passen Sie Schulungen an verschiedene Zielgruppen an: Deep Dives für Entwickler, praktische Erkennungstipps für das allgemeine Personal und einen Governance-Fokus für die Führungsebene.
- Kontinuierlich und ansprechend gestalten: Nutzen Sie Gamification, Simulationen und regelmäßiges Microlearning, um das Bewusstsein für KI aktuell und fesselnd zu halten.
- Testen und optimieren: Führen Sie Phishing-Tests mit KI-Elementen durch, sammeln Sie Feedback und aktualisieren Sie das Training regelmäßig.
- Alles dokumentieren: Führen Sie Aufzeichnungen über den Abschluss von Schulungen und Richtlinien, um bei Audits die Compliance nachzuweisen.
Nicht zuletzt sollte das von Ihnen eingesetzte Trainingsprogramm ein KI-Modul enthalten. Guardey bietet dies und ermöglicht Ihnen all das Genannte. Mit kurzen, wöchentlichen Challenges lernen Nutzer die neuesten KI-Bedrohungen wie Deepfakes kennen.
Fazit
KI ist keine Zukunftssorge mehr – sie ist die Realität von heute. Ob durch fortgeschrittenes Phishing, Malware oder Deepfakes – KI-gesteuerte Angriffe sind präsent. Auch Regulierungsbehörden legen die Messlatte höher, wobei der EU AI Act neue Compliance-Standards setzt.
Wenn Sie KI-Bedrohungen bekämpfen und dem EU AI Act entsprechen möchten, sollten Sie Guardey ausprobieren. Während einer 14-tägigen kostenlosen Testphase können Sie das gamifizierte Trainingsprogramm zusammen mit Ihren Kollegen testen. Sie können uns auch für eine detaillierte Demo kontaktieren.
Vereinbaren Sie eine Demo mit einem Guardey-Experten
