13 października 2025 r. - Cyber security
Sztuczna inteligencja niesie ze sobą tyle samo możliwości, co zagrożeń. Im bardziej się rozwija, tym częściej jest niewłaściwie wykorzystywana do cyberataków. Dlatego też organy regulacyjne już teraz reagują surowymi przepisami, a organizacje zwracają się ku szkoleniom w zakresie świadomości sztucznej inteligencji dla swoich pracowników.
W tym artykule wyjaśnimy, w jaki sposób sztuczna inteligencja stwarza nowe zagrożenia, dlaczego potrzebne są szkolenia i jak możesz wdrożyć skuteczne szkolenia.
Sztuczna inteligencja wprowadza nowe zagrożenia dla organizacji
Jakbyśmy nie mieli już wystarczająco dużo zagrożeń, z którymi musimy sobie radzić, technologia AI zmieniła krajobraz zagrożeń, jaki znaliśmy. Atakujący mogą wykorzystać sztuczną inteligencję do skalowania i udoskonalania swoich ataków, podczas gdy nieprzeszkoleni pracownicy mogą nieumyślnie ujawnić poufne dane.
Jak mówi Jeff Crume z IBM w poniższym filmie, wydaje się, że nie możemy mieć fajnych rzeczy, takich jak sztuczna inteligencja.
Oto trzy kluczowe zagrożenia związane ze sztuczną inteligencją.
Inżynieria społeczna i phishing oparte na sztucznej inteligencji
Tradycyjne wiadomości phishing były często łatwe do wykrycia z powodu złego języka lub braku personalizacji. Sztuczna inteligencja umożliwia teraz cyberprzestępcom generowanie przekonujących, spersonalizowanych wiadomości na dużą skalę. Pomyśl o e-mailach lub czatach, które doskonale naśladują ton głosu współpracownika lub klienta.
Jak to działa? Pomyśl o modelu sztucznej inteligencji skrobiącym wszystkie Twoje posty w mediach społecznościowych, aby poznać Twój styl pisania, osobowość, hobby i tak dalej. Dzięki tym informacjom napisanie wiadomości e-mail, która wygląda, jakby pochodziła od Ciebie, staje się o wiele łatwiejsze.
Znajdowanie luk w zabezpieczeniach z pomocą ChatGPT
Zadania, które wcześniej wymagały wykwalifikowanych hakerów, takie jak kodowanie złośliwego oprogramowania lub znajdowanie luk w zabezpieczeniach, mogą być teraz (częściowo) obsługiwane przez narzędzia sztucznej inteligencji. W 2024 r. OpenAI potwierdziło, że ChatGPT został niewłaściwie wykorzystany do opracowania złośliwego oprogramowania i uniknięcia wykrycia. Oznacza to, że ataki mogą być przeprowadzane szybciej i na większą skalę, nawet przez mniej wykwalifikowanych przestępców. Nie musisz spędzać dni lub tygodni na pisaniu złośliwego oprogramowania, gdy sztuczna inteligencja może pomóc Ci to zrobić w ciągu kilku godzin.
Deepfakes i dezinformacja generowana przez sztuczną inteligencję
Jednym z najbardziej niebezpiecznych zastosowań sztucznej inteligencji jest deepfake: hiperrealistyczne fabrykacje audio lub wideo czyjejś twarzy lub głosu. Deepfake może być wykorzystywany do podszywania się pod dyrektora generalnego lub klienta i popełniania oszustw. W 2024 r. oszuści próbowali podszyć się pod dyrektora generalnego WPP, używając deepfake'a w rozmowie Teams. Incydent ten pokazał, jak przekonujące mogą być oszustwa typu deepfake i jakie szkody mogą wyrządzić.
Ataki te mają również miejsce w środowisku prywatnym. Coraz częściej cyberprzestępcy wykorzystują treści z mediów społecznościowych do tworzenia fałszywych wizerunków rodziców lub dzieci, nakłaniając ofiary do wysłania im pieniędzy. Wyobraź sobie: otrzymujesz telefon i słyszysz głos swojej córki, która spanikowana prosi o pomoc. Czy zawahałbyś się? Większość ludzi nie. Po prostu nie jesteśmy przyzwyczajeni do zastanawiania się, czy znajoma twarz - lub głos - mogą być fałszywe.
Znaczenie szkolenia w zakresie świadomości sztucznej inteligencji
Pracownicy często nazywani są najsłabszym ogniwem strategii cyberbezpieczeństwa. Dlatego wiele firm szkoli swoich pracowników w bardziej tradycyjnych tematach związanych security awareness . Takich jak prywatność, hasła i oczywiście phishing.
Jednak w wielu z tych nieco przestarzałych programów szkoleniowych sztuczna inteligencja nie jest brana pod uwagę.
security awareness AI skupia się w szczególności na zagrożeniach związanych ze sztuczną inteligencją, aby upewnić się, że pracownicy potrafią rozpoznać i zgłosić zagrożenia związane z AI, gdy tylko się z nimi spotkają. Jest to kluczowe, ponieważ większość z nas przecenia swoją zdolność do rozpoznawania zagrożeń. Nie uważamy się za podatnych na phishing kierownik IT nie zdecyduje się przeprowadzić phishing i nie podamy naszych danych bankowych.
Większość rozwiązań szkoleniowych w security awareness oferuje przestarzałe treści szkoleniowe i ważne jest, aby upewnić się, że nie oferujesz tych samych przestarzałych treści swoim pracownikom. Ponieważ cyberprzestępcy codziennie uczą się nowych taktyk.
Dlaczego potrzebne jest szkolenie w zakresie zgodności ze sztuczną inteligencją
Biorąc pod uwagę wszystkie zagrożenia związane ze sztuczną inteligencją, organy regulacyjne zaczęły wprowadzać rygorystyczne zasady związane z AI. Zmusza to organizacje, które chcą korzystać z AI, do zapewnienia bezpiecznych, przejrzystych i odpowiedzialnych praktyk. Właśnie dlatego zwracają się do szkoleń w zakresie zgodności z AI.
Najważniejszym czynnikiem jest unijna ustawa o sztucznej inteligencji, nowe europejskie rozporządzenie w sprawie sztucznej inteligencji. Ustawa przyjmuje podejście oparte na ryzyku i nakłada różne obowiązki. Artykuł 4 wymaga od dostawców i użytkowników systemów AI zapewnienia wystarczającej znajomości AI wśród ich pracowników. Innymi słowy: przeszkol swoich pracowników, aby rozumieli ryzyko, możliwości i obowiązki związane ze sztuczną inteligencją. Ten wymóg "znajomości sztucznej inteligencji" wchodzi w życie od lutego 2025 r., przed pełnym wdrożeniem ustawy o sztucznej inteligencji w 2026 roku. Zegar tyka, aby zbudować wewnętrzne know-how w zakresie sztucznej inteligencji.
Szkolenie w zakresie zgodności ze sztuczną inteligencją zapoznaje pracowników (i kierownictwo) z podstawowymi tematami, takimi jak:
- Kategorie ryzyka (np. określenie, czy system sztucznej inteligencji jest "wysokiego ryzyka")
- Wymagania dotyczące przejrzystości (informowanie użytkowników o interakcji ze sztuczną inteligencją)
- Zgodność z przepisami dotyczącymi ochrony prywatności (RODO) (oraz sposób postępowania z danymi osobowymi w kontekście sztucznej inteligencji)
- Środki bezpieczeństwa (np. nadzór ludzki, ścieżki audytu)
Ustawa o sztucznej inteligencji wiąże się z poważnymi sankcjami, jeśli organizacje nie zastosują się do niej, do 7% globalnego obrotu. Grzywny te są wyższe niż obecne sankcje RODO, które w przeszłości spowodowały, że organizacje dużo zainwestowały w swoją infrastrukturę prywatności.
Praktyczne wskazówki dotyczące wdrażania szkoleń w zakresie świadomości i zgodności ze sztuczną inteligencją
- Mapuj ryzyko związane ze sztuczną inteligencją i ustal jasne zasady: Zidentyfikuj, gdzie i w jaki sposób Twoja organizacja korzysta ze sztucznej inteligencji oraz jakie ryzyko się z tym wiąże. Zdefiniuj wewnętrzne zasady (np. zatwierdzone narzędzia AI).
- Dostosuj do roli: Dostosuj szkolenia dla różnych grup odbiorców: dogłębne analizy dla programistów, praktyczne wskazówki dotyczące wykrywania dla pracowników ogólnych i skupienie się na zarządzaniu dla kierownictwa.
- Niech będzie to proces ciągły i angażujący: wykorzystuj grywalizację, symulacje i regularne mikrolearning, aby świadomość na temat sztucznej inteligencji była zawsze aktualna i angażująca.
- Testuj i udoskonalaj: Przeprowadzaj testy phishing z elementami sztucznej inteligencji, zbieraj informacje zwrotne i regularnie aktualizuj szkolenia.
- Dokumentuj wszystko: Prowadź dokumentację ukończonych szkoleń i polityk, aby wykazać zgodność w przypadku audytu.
Wreszcie, upewnij się, że program szkoleniowy, który prowadzisz, zawiera moduł AI. Guardey posiada ten moduł i umożliwia Ci wykonanie wszystkich powyższych czynności. Dzięki krótkim, cotygodniowym wyzwaniom użytkownicy poznają najnowsze zagrożenia związane ze sztuczną inteligencją, takie jak deepfake.
Wnioski
Sztuczna inteligencja nie jest już przyszłością - to dzisiejsza rzeczywistość. Niezależnie od tego, czy chodzi o zaawansowany phishing, złośliwe oprogramowanie czy deepfake, ataki oparte na sztucznej inteligencji są już dostępne. Organy regulacyjne również podnoszą poprzeczkę, a unijna ustawa o sztucznej inteligencji ustanawia nowe standardy zgodności.
Jeśli chcesz zwalczać zagrożenia związane ze sztuczną inteligencją i zachować zgodność z unijną ustawą o sztucznej inteligencji, rozważ wypróbowanie Guardey. Podczas 14-dniowego bezpłatnego okresu próbnego możesz wypróbować gamifikowany program szkoleniowy wraz ze swoimi współpracownikami. Możesz również skontaktować się z nami w celu uzyskania szczegółowej wersji demonstracyjnej.
Zaplanuj prezentację z ekspertem Guardey
